Етичне використання штучного інтелекту в освітньому процесі при підготовці фахівців технічних спеціальностей

Abstract

The article examines the problem of ethical use of artificial intelligence (AI) in the educational process when training specialists in technical specialties in the context of the rapid development of generative technologies and the mass implementation of large language models 2022. Five key ethical principles that should govern the implementation of AI technologies in education are analyzed: human dignity and autonomy (protection of privacy and the right to independent decision-making), fairness and non-discrimination (prevention of algorithmic bias), trust and transparency (understandability of decision-making mechanisms by AI systems), academic integrity (forming a culture of responsible use of technology) and informed choice (making decisions based on evidence of pedagogical effectiveness). The current regulatory framework is examined in detail, in particular the EU Regulation on Artificial Intelligence (AI Act) 2024 with its risk-based approach and classification of systems by category (prohibited practices, high-risk systems, transparency requirements), as well as the GDPR and its significance for the educational environment. Special attention is paid to the specifics of using AI for technical specialties, artificial intelligence tools can support the creation of individualized educational content, personalization of learning trajectories, automated knowledge assessment, design of interactive simulations and virtual laboratories, as well as the development of professional competencies of future engineers and IT specialists. Comprehensive practical recommendations are presented for teachers and administration of higher education institutions on the phased implementation of AI, including the need to ensure transparency of the functioning of systems, organize meaningful human supervision, protect students\" personal data, prevent algorithmic bias, and conduct data protection impact assessments and fundamental rights. Critical risks associated with the use of AI in education are discussed: threats to academic integrity through unauthorized use of generative models, the possibility of discrimination through biased learning data, overreliance on technology and loss of critical skills, issues of student data confidentiality, the problem of \"hallucinations\" in large language models and their impact on the actual accuracy of educational content. A systematic approach to planning the implementation of AI tools is proposed, which involves a preliminary assessment of compliance with pedagogical goals, piloting with specific cohorts of students, ongoing monitoring of effectiveness and safety, establishing cooperation with technology providers, involving students and parents in the decision-making process, as well as continuous professional training of pedagogical staff on AI literacy in accordance with the DigComp 3.0 framework. The dual role of engineering students as users and developers of AI systems is emphasized, which requires an in-depth understanding of the ethical, social and technical aspects of the functioning of artificial intelligence. The results of the study can be used to develop institutional policies on the ethical use of AI in higher technical education, create methodological recommendations for teachers and form curricula with the integration of AI competencies.

У статті досліджується проблема етичного використання штучного інтелекту (ШІ) в освітньому процесі при підготовці фахівців технічних спеціальностей в контексті стрімкого розвитку генеративних технологій та масового впровадження великих мовних моделей з 2022 року. Аналізуються п\"ять ключових етичних принципів, що мають регулювати впровадження ШІ-технологій в освіті: людська гідність та автономія (захист приватності та права на самостійне прийняття рішень), справедливість та недискримінація (запобігання алгоритмічній упередженості), довіра та прозорість (зрозумілість механізмів прийняття рішень ШІ-системами), академічна доброчесність (формування культури відповідального використання технологій) та обґрунтований вибір (прийняття рішень на основі доказів педагогічної ефективності). Детально розглядаються актуальні нормативно-правові рамки, зокрема Регламент ЄС щодо штучного інтелекту (AI Act) 2024 року з його ризик-орієнтованим підходом та класифікацією систем за категоріями (заборонені практики, високоризикові системи, вимоги прозорості), а також GDPR і їх значення для освітнього середовища. Особлива увага приділяється специфіці використання ШІ для технічних спеціальностей, де інструменти штучного інтелекту можуть підтримувати створення індивідуалізованого навчального контенту, персоналізацію траєкторій навчання, автоматизоване оцінювання знань, проектування інтерактивних симуляцій та віртуальних лабораторій, а також розвиток професійних компетентностей майбутніх інженерів та IT-фахівців. Представлено комплексні практичні рекомендації для викладачів та адміністрації закладів вищої освіти щодо поетапного впровадження ШІ, включаючи необхідність забезпечення прозорості функціонування систем, організації значущого людського нагляду, захисту персональних даних студентів, запобігання упередженості алгоритмів та проведення оцінок впливу на захист даних і фундаментальні права. Обговорюються критичні ризики, пов\"язані з використанням ШІ в освіті: загрози академічній доброчесності через несанкціоноване використання генеративних моделей, можливість дискримінації через упереджені дані навчання, надмірна залежність від технологій та втрата критичних навичок, питання конфіденційності даних студентів, проблема \"галюцинацій\" у великих мовних моделях та їх вплив на фактичну точність навчального контенту. Запропоновано системний підхід до планування впровадження ШІ-інструментів, що передбачає попередню оцінку відповідності педагогічним цілям, пілотування з певними когортами студентів, постійний моніторинг ефективності та безпеки, налагодження співпраці з постачальниками технологій, залучення студентів та батьків до процесу прийняття рішень, а також безперервне професійне навчання педагогічних працівників з питань ШІ-грамотності відповідно до рамки DigComp 3.0. Підкреслюється подвійна роль студентів технічних спеціальностей як користувачів та розробників ШІ-систем, що вимагає поглибленого розуміння етичних, соціальних та технічних аспектів функціонування штучного інтелекту. Результати дослідження можуть бути використані для розробки інституційних політик щодо етичного використання ШІ у вищій технічній освіті, створення методичних рекомендацій для викладачів та формування навчальних програм з інтеграцією ШІ-компетентностей.