До проблеми кіберзахисту LLM-чат-ботів

Abstract

У роботі розглянуто проблему різноманітних атак на LLM ̶орієнтовані чат ̶боти. Проведено аналіз потенційних наслідків таких атак, зокрема ризиків витоку конфіденційної інформації та спотворення відповідей. Запропоновано ефективні методи захисту, що спрямовані на зменшення вразливостей і підвищення безпеки інтелектуальних чат ̶ботів.

The paper considers the problem of various attacks on chatbots built on the basis of LLM. The potential consequences of such attacks are analyzed, in particular, the risks of leakage of confidential information and distortion of model responses. Effective protection methods are proposed, aimed at reducing vulnerabilities and increasing the security of LLM ̶oriented chatbots.