Теоретичні основи мір ентропії та їх застосування в інформаційних технологіях формування та опрацювання сигналів

Abstract

Проведено систематизацію теоретичних основ та аналітичних виразів оцінки мір ентропії. Описано інформаційну міру ентропії на основі кореляційних характеристик функцій. Узагальнено і систематизовано кореляційні функції, які використовуються для оцінки ентропії. Наведено характеристику шумоподібних сигналів на основі різних оцінок ентропії. Встановлено, що кореляційний підхід формування аналітичних виразів мір ентропії є найбільш ефективним та перспективним для формування і опрацювання сигналів в комп’ютерних системах.

Проведена систематизация теоретических основ и аналитических выражений оценки мер энтропии. Описана информационная мера энтропии на основе корреляционных характеристик функций. Обобщенно и систематизированы корреляционные функции, которые используются для оценки энтропии. Приведена характеристика шумоподобных сигналов на основе разных оценок энтропии. Установлено, что корреляционный подход формирования аналитических выражений мер энтропии является наиболее эффективным и перспективным для формирования и обработки сигналов в компьютерных системах.

Systematization of theoretical bases and analytical expressions of estimation of entropy measures is conducted. The informative entropy measure is described on the basis of cross-correlation descriptions of functions. Generalized and cross-correlation functions which are used for the estimation of entropy are systematized. Description of noise signals is resulted on the basis of different estimations of entropy. It is set that cross-correlation approach of forming of analytical expressions of measures of entropy is most effective and perspective for forming and working of signals in the computer systems.