Особливості використання Explainable AI у біомедичній обробці зображень: прозорість та інтерпретованість моделей

Abstract

Artificial intelligence (AI) has become deeply integrated into numerous scientific fields, including biomedical image and signal processing. The growing interest in this field has led to a surge in research, as evidenced by the sharp increase in scientific activity. Using large and diverse biomedical datasets, machine learning and deep learning models have transformed a variety of tasks - such as modeling, segmentation, registration, classification, and synthesis - often outperforming traditional methods. However, a major challenge remains: the difficulty of translating AI-derived results into clinically or biologically meaningful solutions, which limits the practical utility of these models. Explainable AI (XAI) seeks to bridge this gap by improving the interpretability of AI systems and offering transparent explanations for their decisions. More and more approaches are being developed to address this problem, and interest in the topic in the scientific community continues to grow.Штучний інтелект (ШІ) глибоко інтегрувався в численні наукові галузі, включаючи біомедичну обробку зображень і сигналів. Зростаючий інтерес до цієї галузі призвів до сплеску досліджень, про що свідчить різке зростання наукової активності. Використовуючи великі і різноманітні набори біомедичних даних, моделі машинного навчання і глибокого навчання трансформували різноманітні завдання - такі як моделювання, сегментація, реєстрація, класифікація і синтез - часто перевершуючи ефективність традиційних методів. Тим не менш, основна проблема залишається: складність перекладу результатів, отриманих за допомогою ШІ, в клінічно або біологічно значущі рішення, що обмежує практичну корисність цих моделей. Пояснюваний ШІ (Explainable AI, XAI) прагне подолати цю прогалину, покращуючи інтерпретованість систем ШІ та пропонуючи прозорі пояснення їхніх рішень. Для вирішення цієї проблеми розробляється все більше підходів, і інтерес до цієї теми в науковому співтоваристві продовжує зростати.