Позаекранні експлойти: як prompt-ін'єкції перетворюють LLM-агентів на невидимих хакерів

Abstract

Робота присвячена дослідженню нового класу кібератак на основі prompt-інʼєкцій у автономні агенти штучного інтелекту. Показано, що делегування моделям великих мов (LLM) функцій взаємодії з реальними системами створює принципово нові вектори зламу, які виходять за рамки класичних технічних експлойтів.

This paper is devoted to the study of a new class of cyberattacks based on prompt injections targeting autonomous artificial intelligence agents. It is shown that delegating real-world interaction tasks to large language models (LLMs) creates fundamentally new attack vectors that extend beyond traditional technical exploits. The paper analyzes attack mechanisms involving prompt injections, model supply chains, AI-enhanced malware, and approaches to developing defenses at the level of semantic instructions.