Автономні AI-агенти в СОС: нове поле бою між кібератакою та захистом

Abstract

The paper explores how autonomous AI agents are transforming Security Operations Centers (SOCs) from rule-based automation to AI-driven autonomy. We show that AI SOC agents can dramatically reduce detection and response times by automating triage, correlation, and incident handling, but they also introduce new attack surfaces: prompt and tool injection, poisoned model supply chains, and AI-enabled phishing and ransomware campaigns. The work summarizes recent industry cases of AI-powered SOC deployments, discusses AI red teaming approaches against LLM-based agents, and outlines key directions for building secure, human-overseen autonomous SOCs.

Робота присвячена дослідженню впливу автономних агентів штучного інтелекту на безпеку центрів моніторингу кібербезпеки (SOC). Показано, що перехід від класичної автоматизації до автономних AI-SOCагентів створює як нові можливості для виявлення атак у реальному часі, так і нові вектори зламу через компрометацію агентів, маніпуляцію їхнім контекстом та підміну ланцюгів постачання моделей. Проаналізовано типові сценарії атак на AI-агентів у SOC, AI-підсилені фішингові та ransomware-кампанії, а також підходи до red teaming та побудови «автономної SOC-безпеки».