Explainable AI: BRIDGING THE GAP BETWEEN HUMANS AND machine

Abstract

Оскільки системи штучного інтелекту (ШІ) відіграють дедалі значущішу роль у суспільстві, природа складних моделей як «чорний ящик» створила критичну потребу в прозорості. Поясненний ШІ слугує сполучною ланкою між машинною логікою та людським розумінням. У цій статті досліджуються фундаментальні принципи поясненного штучного інтелекту, а методи класифікуються на вбудовані та модельно-агностичні. Вона висвітлює технічний компроміс між точністю прогнозування та інтерпретованістю, водночас розглядаючи етичну необхідність довіри та справедливости.

As Artificial Intelligence (AI) systems take on more significant roles in society [1], the "black box" nature of complex models has created a critical need for transparency. Explainable AI (XAI) serves as the bridge to close the gap between machine logic and human understanding. This paper explores the fundamental principles of XAI, categorizing methods into intrinsic and model-agnostic approaches. It highlights the technical trade-off between predictive accuracy and interpretability while addressing the ethical necessity of trust and fairness.