Порівняння ефективності методів напівкерованого навчання на основі автоенкодерів для задач класифікації фотографій ракових захворювань шкіри

Abstract

Розглянуто та порівняно ефективність методів напівкерованого навчання на базі автоенкодерів для задачі класифікації фотографій ракових захворювань шкіри. У статті запропоновано систему оцінки методів напівкерованого навчання і запропоновано модифікації архітектур, описаних в літературних джерелах. Актуальність роботи полягає у дослідженні ефективності застосування різних методів напівкерованого навчання на прикладних задачах класифікації. Ефективне використання методів напівкерованого навчання для роботи з медичними даними може потенційно суттєво підвищити якість використання штучного інтелекту у медицині, оскільки нерозмічені медичні дані легше отримати і вони не потребують залучення дорогих спеціалістів. Як показали експерименти, проведені в рамках цього дослідження, методи напівкерованого навчання на базі автоенкодерів суттєво покращують метричні показники моделі для задачі класифікації фотографій ракових захворювань шкіри. В рамках дослідження розглянуто звичайний згортковий автоенкодер, варіаційний автоенкодер і сходову нейронну мережу, адаптовані для задач напівкерованого навчання. Як дані для експериментів використано датасет HAM10000. Для кожної моделі проведено 3 експерименти з різною кіль-кістю розмічених даних у навчальній вибірці (5, 10, 30 % маркованих даних). Дослідження показали, що варіаційний автоенкодер демонструє виняткові результати на великій кількості розмічених даних, проте погано адаптується до малої кількості. Згортковий автоенкодер є ефективним тільки для великої кількості розмічених даних і дуже поступається складнішим методам НН у всіх експериментах. Дослідження показало, що сходова нейронна мережа є дуже ефективною для малої кількості маркованих даних порівняно з іншими розглянутими архітектурами. Отже, враховуючи специфіку задач класифікації медичних даних, можна зробити висновок, що сходова нейронна мережа є найефективнішою для такого типу задач.

In this paper, we reviewed and compared the effectiveness of semi-supervised learning methods based on autoencoders for the task of classifying photos of skin cancers. The paper proposes a system for evaluating semi-supervised learning methods and suggests modifications to the architectures described in the literature. The relevance of this work is to study the effectiveness of using various semi-supervised learning methods on applied classification tasks, The effective use of semi-supervised learning methods for working with medical data can potentially significantly increase the quality of artificial intelligence in medicine, since unlabeled medical data is easier to obtain and does not require the involvement of expensive specialists. As the experiments conducted in this study have shown, semi-supervised learning methods based on autoencoders significantly improve the performance metrics of the model for the task of classifying photos of skin cancers. In our study, we considered a conventional convolutional autoencoder, a variational autoencoder, and a ladder neural network, all adapted for semi-supervised learning tasks. The HAM10000 dataset was used as the data for the experiments. For each model, 3 experiments were conducted with different amounts of labeled data in the training set (5, 10, 30 % of labeled data). The studies showed that the variational autoencoder demonstrates exceptional results on a large amount of labeled data, but does not adapt well to a small amount. The convolutional autoencoder is effective only for a large amount of labeled data and is significantly inferior to more complex architectures in all experi-ments. The study has shown that the ladder neural network is very effective for a small amount of labeled data compared to the other architectures considered. Thus, taking into account the specifics of medical data classification tasks, we can conclude that the ladder neural network is the most effective for this type of task.