Показати скорочену інформацію

Моделювання часових послідовностей з використанням реверсивних трансформерів

dc.contributor.authorКулик, Л. Р.uk
dc.contributor.authorМокін, О. Б.uk
dc.contributor.authorKulyk, L.en
dc.contributor.authorMokin, O.en
dc.date.accessioned2026-09-17T10:04:19Z
dc.date.available2026-09-17T10:04:19Z
dc.date.issued2026
dc.identifier.citationКулик Л. Р., Мокін О. Б. Моделювання часових послідовностей з використанням реверсивних трансформерів // Матеріали LV Всеукраїнської науково-технічної конференції підрозділів ВНТУ, Вінниця, 24-27 березня 2026 р. Електрон. текст. дані. 2026. Електрон. текст. дані. 2026. URI: https://conferences.vntu.edu.ua/index.php/all-fksa/all-fksa-2026/paper/view/28275.uk
dc.identifier.urihttps://ir.lib.vntu.edu.ua/handle/123456789/54421
dc.description.abstractПоказано актуальність проблеми оптимізації споживання пам'яті під час навчання моделей глибокого навчання для обробки часових послідовностей. Запропоновано архітектуру реверсивного часового трансформера, яка дозволяє відв'язати об'єм споживаної пам'яті від довжини часової послідовності завдяки механізму часово-агностичного зворотного поширення помилки.uk
dc.description.abstractThere has been shown the relevance of the problem of optimizing memory consumption during the training of deep learning models for temporal sequence processing. A reversible temporal transformer architecture is proposed, which decouples memory footprint from temporal depth using a time-agnostic backpropagation strategy.en
dc.language.isouk_UAuk_UA
dc.publisherВНТУuk
dc.relation.ispartofМатеріали LV Всеукраїнської науково-технічної конференції підрозділів ВНТУ, Вінниця, 24-27 березня 2026 р. Електрон. текст. дані. 2026.uk
dc.relation.urihttps://conferences.vntu.edu.ua/index.php/all-fksa/all-fksa-2026/paper/view/28275
dc.subjectштучний інтелектuk
dc.subjectмашинне навчанняuk
dc.subjectглибоке навчанняuk
dc.subjectчасові послідовностіuk
dc.subjectтрансформериuk
dc.subjectреверсивні архітектуриuk
dc.subjectефективність пам'ятіuk
dc.subjectartificial intelligenceen
dc.subjectmachine learningen
dc.subjectdeep learningen
dc.subjecttemporal sequencesen
dc.subjecttransformersen
dc.subjectreversible architecturesen
dc.subjectmemory efficiencyen
dc.titleМоделювання часових послідовностей з використанням реверсивних трансформерівuk
dc.typeThesis
dc.identifier.udc004.89
dc.relation.referencesAidan N. Gomez, Mengye Ren, et al “The Reversible Residual Network: Backpropagation Without Storing Activations” Advances in Neural Information Processing Systems, 30, NIPS 2017.en
dc.relation.referencesRazvan Pascanu, Tomas Mikolov, Yoshua Bengio “On the difficulty of training recurrent neural networks” Proceedings of the 30th International Conference on Machine Learning, 2013.en
dc.relation.referencesAshish Vaswani, Noam Shazeer, et al “Attention is all you need” Advances in Neural Information Processing Systems, 30, NIPS 2017.en
dc.relation.referencesDavid J. Foster, Matthew A. Wilson “Reverse replay of behavioural sequences in hippocampal place cells during the awake state” Nature, 440(7084), 2006.en
dc.relation.referencesDiederik P. Kingma, Max Welling “Auto-Encoding Variational Bayes” International Conference on Learning Representations (ICLR), 2014.en
dc.relation.referencesLeonid Kulyk “Temporal modeling with reversible transformers” Neural Computing and Applications, 2026.en


Файли в цьому документі

Thumbnail
Ім'я:
28275.pdf
Розмір:
400.3Kb
Формат:
PDF
Відкрити

Даний документ включений в наступну(і) колекцію(ї)

Показати скорочену інформацію