Дослідження здатності малої мовної моделі до міркування

Abstract

Перевірено і оцінено здатність малої мовної моделі розв’язувати міркувальні задачі. Для цього виконано експерименти з zero-shot та few-shot запитами, попередньо провівши тонке налаштування з учителем малої мовної моделі TinyLlama. Представлено і проаналізовано результати експериментів, а також запропоновано можливі шляхи підвищення точності моделі при розв’язуванні міркувальних задач.The capability of the small language model to solve reasoning tasks was tested and evaluated. Experiments were conducted with zero-shot and few-shot prompting, after applying Supervider Fine-Tuning to TinyLlama small language model. The results of the experiments were presented and analyzed, along with proposed potential ways to improve the model's accuracy in solving reasoning tasks.