Методи та моделі складання розкладів для оркестратора Kubernetes

Abstract

In the conditions of evolution of cloud technologies, data centers use Kubernetes orchestrator more and more often, it enables the efficient management of containerized applications. At the same time, Kubernetes is not perfect, and its usage is related to certain problems, among which the problem of efficient scheduling can be highlighted. Its relevance can be explained by the fact that in-built kube-scheduler module does not always build the most efficient schedules. The relevance is intensified by the known cases when inefficiently formed schedule resulted in impossibility to deploy the application. Maximization of coefficient of average workload of the node was chosen as an optimization criterion. It was done based on the objectives of data centers to decrease the energy costs, and the assumptions about inefficiency of computing resources idling. It was determined that mathematically formalized constraints as parts of mathematical models are usually mentioned in the publications dedicated to heuristic methods and metaheuristic methods. In total, six main types of mathematically formalized constraints were determined; the most common and important among them is the memory size constraint. It is highlighted that the method that is getting chosen for solving a problem can be linked with the chosen optimization criterion. Generally, nine main types of methods that are used in problems of effective scheduling for Kubernetes were determined. Among them, three were chosen as the most promising ones: artificial intelligence methods, heuristic methods and metaheuristic methods. The reasons behind their ion include the examples of their successful usage in the formation of schedules with wide spectrum of optimization criteria (including problems with criteria that are similar to the chosen one) both in the cloud environments that use Kubernetes and the cloud environments that don’t use it.

В умовах розвитку хмарних технологій, центри обробки даних все частіше використовують оркестратор Kubernetes, що сприяє ефективному управлінню контейнеризованими застосунками. Водночас Kubernetes не є досконалим, і його використання пов’язано з певними проблемами, серед яких можна виділити проблему складання ефективних розкладів. Її актуальність пояснюється тим, що не завжди вбудований модуль kube-scheduler будує найефективніші розклади. Актуальність підсилюється окремими випадками, в яких неефективно складений розклад призводив до неможливості розгорнути застосунок. Як критерій оптимізації вибрано максимізацію коефіцієнта середньої завантаженості вузла. Це зроблено з огляду на цілі центрів обробки даних зменшувати витрати на електроенергію та припущень про неефективність простою обчислювальних ресурсів. Визначено, що математично формалізовані обмеження як частини математичних моделей зазвичай згадуються у публікаціях, у яких розглядаються евристичні методи та метаевристичні методи. Всього визначено шість основних типів математично формалізованих обмежень; серед них найрозповсюдженим і найважливішим є обмеження на розмір пам’яті. Зазначено, що метод, який вибирається для розв’язання задачі, може бути пов’язаний з вибраним критерієм оптимізації. Загалом визначено дев’ять основних типів методів, що використовуються у задачах складання розкладів для Kubernetes. Серед них як найперспективніші вибрано три: методи штучного інтелекту, евристичні методи та метаевристичні методи. Цей вибір зроблено завдяки аналізу прикладів їхнього успішного застосування у разі складання розкладів з широким спектром критеріїв оптимізації (зокрема задач з критеріями, подібними до вибраного) як у тих хмарних середовищах, що застосовують Kubernetes, так і у тих, що його не застосовують.