Автоматизація виявлення прихованого токсичного контенту в текстових повідомленнях

Abstract

Досліджено питання детекції прихованого токсичного контенту в текстових повідомленях. Розроблено дві моделі глибинного навчання на основі архітектури BERT, що здатні визначати загальний рівень токсичності повідомлення та визначати замасковані лайливі слова у повідомленнях.

The task of hidden toxic content detection in text messages has been discovered. Two in-depth learning models based on the BERT architecture have been developed, which are able to determine the overall level of toxicity of the message and identify masked swear words in messages..