Дослідження здатності малої мовної моделі до міркування

Abstract

Перевірено і оцінено здатність малої мовної моделі розв’язувати міркувальні задачі. Для цього виконано експерименти з zero-shot та few-shot запитами, попередньо провівши тонке налаштування з учителем малої мовної моделі TinyLlama. Представлено і проаналізовано результати експериментів, а також запропоновано можливі шляхи підвищення точності моделі при розв’язуванні міркувальних задач.

The capability of the small language model to solve reasoning tasks was tested and evaluated. Experiments were conducted with zero-shot and few-shot prompting, after applying Supervider Fine-Tuning to TinyLlama small language model. The results of the experiments were presented and analyzed, along with proposed potential ways to improve the model's accuracy in solving reasoning tasks.