Transformer-based multilabel classification for identifying hidden psychological conditions in online posts

Abstract

У роботі запропоновано метод мультиміткової класифікації для виявлення прихованих психологічних станів в онлайн-дописах. Метод складається з етапів токенізації, нейромережевого аналізу текстів і формування висновків про наявність прихованих психологічних станів. Особливостями етапу токенізації є додавання спеціальних токенів для фіксації меж фрагментів тексту, доповнення або обрізання тексту до довжини заданої розмірності. На етапі аналізу тексту наявність кожного типу прихованих психологічних станів визначається окремою моделлю нейронної мережі. Результатом методу є висновок про наявність кожного типу станів із числовими мірами їх прояву. Створений метод дає змогу отримати в моделях покращену здатність розрізняти специфічні ознаки для кожного типу психологічного стану завдяки навчанню на модифікованих наборах текстових даних, що зменшує ймовірність плутанини між станами, оскільки модель вчиться розрізняти їхні характерні ознаки. Розроблений метод забезпечує середнє значення метрики F1 92,3 % для мультиміткової класифікації прихованих психологічних станів, тоді як наявні аналоги забезпечують середнє значення метрики F1 64,5 % для мультикласової класифікації.The paper proposes the method of multilabel classification for identifying hidden psychological conditions in online posts was proposed. The method consists of the stages of tokenization, neural network analysis of texts and the formation of conclusions about the presence of hidden psychological conditions. The features of the tokenization stage are the addition of special tokens to fix the boundaries of text fragments, supplement or trim the text to the length of a given dimension. At the stage of text analysis, the presence of each type of hidden psychological conditions is determined by a separate neural network model. The output of the method is the conclusion about the presence of each type of conditions with their numerical measures of manifestations. The created method allows to obtain in the models an improved ability to distinguish specific features for each type of psychological condition, due to training on modified sets of text data, which reduces the probability of confusion between conditions, since the model learns to distinguish their characteristic features. The developed method provides an average value 92.3% of the F1 metric for multilabel classification of hidden psychological conditions, while existing analogues provide an average value 64.5% of the F1 metric for multiclass classification.