Порівняння Naive Bayes та Tree-Augmented Naive Bayes для передбачення ризику цукрового діабету

Abstract

У роботі досліджено можливість удосконалення класичного байєсівського класифікатора Naive Bayes шляхом введення деревоподібних залежностей між ознаками у моделі Tree-Augmented Naive Bayes (TAN). Експеримент проведено на збалансованій вибірці BRFSS 2015 із 70 692 спостережень. Безперервні предиктори дискретизовано на квантильні інтервали, а структуру залежностей TAN побудовано методом максимального кістякового дерева на основі умовної взаємної інформації між ознаками. Обидві моделі навчено зі згладжуванням Лапласа та порівняно за показниками Accuracy, Precision, Recall, F1-score, AUC-ROC і Brier score, що дозволило одночасно оцінити їхню дискримінаційну здатність і якість калібрування ймовірностей. Модель TAN досягла Accuracy 0.7458, F1-score 0.7555 та AUC-ROC 0.8222, що перевищує відповідні показники базового Naive Bayes (Accuracy 0.7325, F1-score 0.7311, AUC-ROC 0.8123), а також забезпечила менший Brier score (0.1775 проти 0.2000). Додатково проаналізовано найсильніші міжознакові залежності, виявлені у структурі TAN. Встановлено, що врахування умовних залежностей між клінічними та соціально-поведінковими предикторами підвищує якість байєсівської класифікації ризику діабету.

This paper investigates the improvement of the classical Naive Bayes classifier through the introduction of tree-structured feature dependencies in Tree-Augmented Naive Bayes (TAN). The experiment was conducted on a balanced BRFSS 2015 sample of 70,692 observations. Continuous predictors were discretized into quantile intervals, and the TAN dependency structure was built using the maximum spanning tree method based on the conditional mutual information between features.