Автоматизоване планування в інтелектуальних розподілених системах мультиагентним підходом на базі LLM

Abstract

The paper presents a novel approach to automating management of intelligent distributed information systems (DIS) using a hybrid multi-agent architecture with AI agents based on large language models (so-called LLM agents). The proposed architecture consists of a two-level planning system, which includes a manager agent for centralized global task decomposition and executor agents for decentralized local task assignment and computation optimization across individual clusters of the intelligent distributed system. To enhance agent interaction efficiency, the study proposes innovative methods for model access to long-term and short-term memory and tool utilization through code generation and execution, using the specialized prompt engineering method CodeAct. The CodeAct's high performance allows to create new agents, interacting with environments, execute interpreted code, and are able to collaborate with users using natural language. The proposed approach potentially provides architectural agnosticism regarding distributed system structure, allowing work with complex heterogeneous DIS and task types through specialized management components, memory access, and programmatic instruction execution generated by agents. The work includes descriptions of necessary skills and properties of the base large language models, the structure of two agent types, and the set of tools required for effective interaction of intelligent system’s agents with each other and the external environment, including the managed DIS. The paper presents architectural diagrams of the manager agent and executor agents, describing the internal structure of all components and the mechanisms by which they interact. The research explains the promising potential of large language models and advanced AI agents for intelligent planning in distributed computing environments, revealing the potential of artificial intelligence in automating complex management processes.

Представлено новітній підхід до автоматизації управління інтелектуальними розподіленими інформаційними системами (РІС) на основі гібридної мультиагентної архітектури з використанням ШІ-агентів на базі великих мовних моделей (так звані LLM-агенти). Запропонована архітектура складається з дворівневої системи планування, яка включає агента-менеджера для централізованої глобальної декомпозиції завдань та агентів-виконавців для децентралізованого локального процесу задання та оптимізації обчислень на окремих кластерах інтелектуальної розподіленої системи. Для ефективності та оптимізації взаємодії агентів з відповідними середовищами запропоновано використовувати інноваційні методи доступу моделей до довгострокової та короткострокової пам’яті та уніфікацію процесів утилізації доступних агенту-моделі інструментів через генерацію, та відповідне виконання програмного коду, застосовуючи спеціалізований новітній метод промпт-інжинірингу CodeAct. Велика продуктивність CodeAct дозволяє створювати нових агентів, які взаємодіють з середовищами, виконують інтерпретований код та здатні співпрацювати з користувачами за допомогою природної мови. Запропонований підхід потенційно забезпечує агностичність архітектури щодо структури розподіленої системи, тобто дозволяє працювати з комплексними гетерогенними РІС, та щодо типів виконуваних завдань через спеціалізовані компоненти управління та доступу до пам’яті, а також програмним виконанням згенерованих агентами інструкцій. Робота включає опис необхідних вмінь та базових властивостей для використовуваних великих мовних моделей, структури двох типів необхідних агентів, та наборів необхідних інструментів для якісної роботи та взаємодії інтелектуальних агентів системи між собою та зовнішнім середовищем, зокрема керованою РІC. Дослідження пояснює перспективність використання великих мовних моделей та новітніх ШІ-агентів для інтелектуального планування в розподілених обчислювальних середовищах, розкриваючи потенціал штучного інтелекту в автоматизації складних процесів керування.