Методи створення метамоделей: стан питання

Abstract

Проведено узагальнення результатів сучасних досліджень в галузі математичного моделювання з використанням відомих методів побудови метамоделей, тобто сурогатних моделей, для ресурсоємних в сенсі обчислювальних затрат та часу задач, визначення їх переваг та недоліків, особливостей застосування на практиці. Проведено класифікацію за ознакою застосованого методу створення метамоделей, оцінювалися трудомісткість та доцільність використання різних технік. Особлива увага приділялася побудові метамоделей для багатовимірних складних за топологією гіперповерхонь відгуку. Критично розглядалися геометричні, стохастичні, та евристичні класи застосовуваних метамоделей. Як представникам класу геометричних метамоделей сконцентрована увага приділялася поліноміальним та сплайн-метамоделям. Наведено короткий опис головних ідей їх побудови, необхідний математичний апарат реалізації, перелічено недоліки та переваги коректного практичного використання в числових експериментах. Аналогічним чином розглядалися стохастичні сурогатні моделі, до яких доцільно віднести регресійні моделі на основі гаусівських процесів або крігінг-моделі та моделі на радіально-базисних функціях. Також розглянуто клас евристичних метамоделей, до складу якого входять моделі на штучних нейронних мережах, моделі з використанням методу групового урахування аргументів та машин опорних векторів. Аналізу підлягали регресійні моделі на основі радіально-базисних нейронних мереж та багатошарових персептронів. Узагальнено і систематизовано результати теоретичних досліджень щодо сурогатних моделей з використанням множинних нейронних мереж, тобто асоціативних машин. Наведено особливості побудови цих машин статичної структури з різноманітними методами отримання колективного узгодженого для композиту мереж рішення, зокрема з усередненням по ансамблю та підсиленням. Зазначено ефективність підвищення точності апроксимаційних можливостей метамоделей за допомогою гібридних технік одночасного використання технологій нейронних мереж та адитивної регресії, декомпозиції області пошуку. Показано, що для гіперповерхонь відгуку складної топології з метою підвищення точності апроксимації має сенс використання гібридного підходу, що полягає в одночасному застосуванні технологій декомпозиції області пошуку та нейронних мереж, побудованих на техніках асоціативних машин з різними методами отримання рішення.

There has been performed the generalization of materials of modern research in the field of mathematical modeling using well-known methods for constructing metamodels, that is, surrogate models for resource-intensive tasks in terms of computational costs and time, determination of their advantages and disadvantages, and practical application features was perfomed. The classification was carried out on the basis of the method used to create metamodels. The complexity and feasibility of using various techniques in specific cases were evaluated. Particular attention was paid to the construction of metamodels for multidimensional response hypersurfaces complex in topology. The geometric, stochastic, and heuristic classes of used metamodels were critically considered. The concentrated attention was paid to polynomial and splinemetamodels as to representatives of the class of geometric metamodels. A brief description of the main ideas of their construction, the necessary mathematical apparatus of implementation, lists the disadvantages and advantages of correct practical use in numerical experiments. Similarly, stochastic surrogate models, to which it is advisable to attribute regression models based on Gaussian processes or kriging models and models based on radial basis functions, were considered. In addition, a class of heuristic metamodels, which includes models on artificial neural networks, models using the method of group accounting of arguments and support-vector machines, was considered. Regression models based on radial basis neural networks and multilayer perceptrons were analyzed. The results of theoretical studies on surrogate models using multiple neural networks, that is, associative machines, were generalized and systematized. The features of constructing such machines of a static structure with various methods for obtaining collective coordinated composite of solution networks, in particular, with ensemble averaging and boosting, were given. The effectiveness of increasing the accuracy of approximation capabilities of metamodels using hybrid techniques for the simultaneous use of neural network technologies and additive regression, decomposition of the search area, was noted. According to the results of studies, it was found that for response hypersurfaces of complex topology in order to increase the accuracy of approximation, it makes sense to use a hybrid approach, which consists of the simultaneous application of decomposition technologies of the search area and neural networks built on the techniques of associative machines with various methods for obtaining solutions.

Проведено обобщение материалов современных исследований в области математического моделирования с использованием известных методов построения метамоделей, т. е. суррогатных моделей, для ресурсоемких в смысле вычислительных затрат и времени задач, определение их преимуществ и недостатков, особенностей применения на практике. Проведена классификация по признаку применяемого метода создания метамоделей, оценивались трудоемкость и целесообразность использования различных техник. Особое внимание уделялось построению метамоделей для многомерных сложных по топологии гиперповерхностей отклика. Критически рассматривались геометрические, стохастические, и эвристические классы применяемых метамоделей. Как представителям класса геометрических метамоделей сконцентрированное внимание уделялось полиномиаль-ным и сплайн — метамоделям. Приведено краткое описание основных идей их построения, необходимый мате-матический аппарат реализации, перечислены недостатки и преимущества корректного практического ис-пользования в численных экспериментах. Аналогичным образом рассматривались стохастические суррогатные модели, к которым целесообразно отнести регрессионные модели на основе гауссовских процессов или кригинг-модели и модели на радиально-базисных функциях. Также рассмотрен класс эвристических метамоделей, в со-став которого входят модели на искусственных нейронных сетях, модели с использованием метода группового учета аргументов и машин опорных векторов. Проанализированы регрессионные модели на основе радиально-базисных нейронных сетей и многослойных персептронов. Обобщены и систематизированы результаты тео-ретических исследований по суррогатным моделям с использованием множественных нейронных сетей, т.е. ассоциативных машин. Приведены особенности построения этих машин статической структуры с различными методами получения коллективного согласованного для композита сетей решения, в частности, с усреднением по ансамблю и усилением. Отмечена эффективность повышения точности аппроксимационных возможностей метамоделей с помощью гибридных техник одновременного использования технологий нейронных сетей и ад-дитивной регрессии, декомпозиции области поиска. Показано, что для гиперповерхностей отклика сложной топологии с целью повышения точности аппроксимации имеет смысл использование гибридного подхода, за-ключающегося в одновременном применении технологий декомпозиции области поиска и нейронных сетей, по-строенных на техниках ассоциативных машин с различными методами получения решения.