Data privacy risks in the use of generative AI in digital educational settings

Abstract

Інтеграція інструментів генеративного штучного інтелекту (GenAI) в освітнє середовище викликала серйозні занепокоєння щодо конфіденційності та безпеки даних студентів. У цій статті розглянуто основні категорії ризиків для приватності даних, що виникають під час використання GenAI в освіті, проаналізовано чинне регуляторне середовище та запропоновано структуровану типологію ризиків для спрямування інституційної політики. На основі якісного синтезу рецензованих наукових праць (2024–2025) у дослідженні виявлено витік навчальних даних, несанкціоноване передавання даних третім сторонам, неадекватні механізми згоди та недотримання регуляторних вимог як основні категорії ризиків. Результати подано в порівняльній структурі, що зіставляє інструменти GenAI з ключовими вимірами ризику. У дослідженні зроблено висновок, що заклади освіти потребують надійних рамок управління та цілеспрямованих програм цифрової грамотності для пом’якшення ризиків приватності, пов’язаних з GenAI.

The integration of generative artificial intelligence (GenAI) tools into educational environments has raised serious concerns about the confidentiality and security of student data. This article examines the principal categories of data privacy risks arising GenAI use in education, analyses the existing regulatory landscape, and proposes a structured risk typology to guide institutional policy. Drawing on a qualitative synthesis of peer-reviewed literature (2024-2025), the study identifies training data exposure, unauthorised third-party data sharing, inadequate consent mechanisms, and regulatory non-compliance as the primary risk categories. The findings are presented in a comparative framework mapping GenAI tools against key risk dimensions. The study concludes that educational institutions require robust governance frameworks and targeted digital literacy programmes to mitigate GenAI-related privacy risks.