Главная > Математика > Теория информации
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

5.10. Энтропия диффузионных марковских процессов

Пусть соответствующий мере Р диффузионный марковский процесс, характеризуемый сносом а и локальной дисперсией Он описывается уравнением Фоккера — Планка

где

Чтобы определить для йего энтропию нужно подобрать меру относительно которой мера Р является абсолютно непрерывной. При этом желательно, чтобы она была максимально простой.

Известно (например, Стратонович [4]), что такой мерой является мера, соответствующая диффузионному процессу с той же локальной дисперсией и нулевым сносом, т. е. мера, для которой (5.10.1) заменяется уравнением

При этом производная Радона — Никодима имеет вид

где стохастический интеграл понимается в смысле Постараемся теперь удовлетворить условию мультипликативности (5.6.4), чтобы была применима теория § 5.6. Для этого представим процесс как процесс где и потребуем, чтобы не зависела от х. Тогда мера будет соответствовать гауссовому дельта-коррелированному процессу:

так что условие мультипликативности (5.6.4) будет выполнено. Используя (5.10.2), нетрудно вычислить энтропию (5.6.1), а также в предположении стационарности удельную энтропию

При этом энтропию удобно вычислять приближенно, пользуясь малостью а затем совершить предельный переход

При малых из (5.10.2) имеем

Для вычисления проводим усреднение

Учитывая, что в соответствии с определением сноса а справедливо соотношение

будем иметь

Подставляя это выражение в (5.10.3), находим плотность энтропии

которая не зависит от в стационарном случае.

Выше предполагалось, что а и не зависят от времени в соответствии с условием стационарности. Если бы это условие не было выполнено, мы получили бы описанным способом зависящую от времени энтропийную плотность

(условие независимости от х здесь также может быть не выполнено). Через нее получаемая из (5.10.2) полная энтропия

выражается интегрированием

В стационарном же случае при плотность энтропии может быть вычислена по формуле (5.10.4) при помощи стационарной

плотности распределения удовлетворяющей стационарному уравнению Фоккера — Планка

Если ввести потенциальную функцию

то стационарное распределение можно записать

и из (5.10.4) будем иметь

Интегрированием по частям (при учете исчезновения плотности на границах, например, при эту формулу можно привести к виду

Пример. Пусть функция линейна: Чтобы процесс был стационарным, необходима положительность Функция (5.10.7) имеет вид

и распределение (5.10.8) является гауссовым:

Применение формулы (5.10.9) дает

Данный процесс является, как известно, гауссовым процессом, имеющим спектральную плотность Поэтому он совпадает с процессом, рассмотренным в § 5.7 (пример 2). Результат (5.10.10), естественно, совпадает с соответствующим результатом (5.7.23), полученным на основе теории гауссовых процессов.

Приведенные в этом параграфе результаты допускают обобщение на многомерный случай, когда имеется многокомпонентный марковский процесс Пусть он

характеризуется сносами и матрицей локальных дисперсий Тогда выбирая меру описанную в формулировке теоремы 4.1 монографии Стратоновича [4], имеем производную Радона — Никодима

что служит обобщением формулы (5.10.2). Здесь матрица, обратная невырожденной подматрице матрице локальных дисперсий

Тем же приемом, что и в одномерном случае, получаем из (5.10.11) плотность энтропии

В частности, если -матрица невырожденна, то суммирование в (5.10.12) по и а нужно проводить от 1 до а мера соответствует той же матрице локальных дисперсий но нулевому вектору сносов.

В стационарном случае усреднение в (5.10.12) означает интегрирование со стационарной плотностью распределения удовлетворяющей стационарному уравнению Фоккера — Планка

В важном частном случае стационарное распределение таково, что потоки вероятности обращаются в нуль:

В этом случае из (5.10.12) имеем

Применяя формулу Грина и учитывая исчезновение интеграла по границе, получаем

Если матрица невырожденна и не зависит от х, то имеет место следующая простая формула:

которая является многомерным обобщением формулы (5.10.9).

<< Предыдущий параграф Следующий параграф >>
Оглавление