Аналіз атак типу prompt Injection на великі мовні моделі
Вантажиться...
Файли
Дата
Автори
Назва журналу
Номер ISSN
Назва тому
DOI
Анотація
The paper considers the problem of prompt injection attacks on large language models, in particular their
main types: direct and indirect injections. Possible consequences of such attacks are analysed, including the risks of data
leakage and distortion of model output. Effective protection measures aimed at reducing vulnerabilities and increasing
the security of LLM use are proposed.
Опис
Ключові слова
УДК
Тип документа
Мова
ISSN
Бібліографічний опис
Клиш В. М., Куперштейн Л. М. Аналіз атак типу prompt Injection на великі мовні моделі // Матеріали LIV Всеукраїнської науково-технічної конференції підрозділів ВНТУ, Вінниця, 24-27 березня 2025 р. Електрон. текст. дані. 2025. URI: https://conferences.vntu.edu.ua/index.php/all-fitki/all-fitki-2025/paper/view/24458.
Схвалення
Рецензія
Доповнено
Цитується в
Список використаної літератури (5)
- ZHAO, Wayne Xin, et al. A survey of large language models. arXiv preprint arXiv:2303.18223, 2023, 1.2.
- LLM01:2025 prompt injection - OWASP top 10 for LLM & generative AI security. URL: https://genai.owasp.org/llmrisk/llm01prompt-injection/ (date of access: 23.03.2025).
- Franois Aubry. What Is Prompt Injection? Types of Attacks & Defenses - Artificial Intelligence. Datacamp. URL: https://www.datacamp.com/blog/prompt-injection-attack (date of access: 23.03.2025).
- Monga A. LLM01: prompt injection explained with practical example: protecting your LLM from malicious input. Medium. URL: https://medium.com/@ajay.monga73/llm01-prompt-injection-explained-with-practical-example-protecting-your-llmfrom-malicious-input-96acee9a2712 (date of access: 23.03.2025).
- Kosinski M. Protect against prompt injection | IBM. URL: https://www.ibm.com/think/insights/prevent-prompt-injection (date of access: 23.03.2025).