Главная > Математика > Восстановление зависимостей по эмпирическим данным
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

§ 7. Байесовы приближения плотности нормального закона

Найдем байесовы приближения плотности нормального закона для некоторых специальных случаев априорного распределения параметров. Сначала мы найдем байесово приближение для одномерного нормального закона, построенное в предположении, что параметры нормального закона распределены равномерно в прямоугольнике

Окажется, что если величины достаточно большие, то байесово приближение равно

где

Затем мы найдем байесово приближение -мерного нормального закона для специального априорного закона распределения параметров -мерный вектор средних и —матрица ковариации

Окажется, что в этом случае байесово приближение равно

где

вектор оценка вектора средних:

— эмпирическая матрица ковариаций:

Заметим, что оба приближения нормальных законов (3.26) и (3.27) не принадлежат классу нормальных. Однако легко можно убедиться, что в обоих случаях при

И еще одно замечание. Для того чтобы вычислить байесово приближение многомерного нормального закона (см. ниже пришлось рассмотреть специальный закон априорного распределения параметров, отличный от равновероятного, принятого при выводе одномерного случая (см. Однако байесово приближение для одномерного закона, полученное из (3.27) при оказалось близким к байесову приближению, полученному в предположении равномерного распределения параметров (3.26).

1. Байесово приближение одномерного нормального закона. Пусть величина х распределена по нормальному закону

Кроме того, пусть априорное распределение параметров и а подчи няется равномерному закону в прямоугольнике а Так как выборка случайная и независимая, то

Байесова оценка плотности распределения вероятностей, согласно (3.18), равна

Будем считать, что интервалы столь велики, что пределы интегрирования в (3.28) могут быть расширены до Во всяком случае, это можно сделать, если В этом случае интегралы в (3.28) сходятся. Вычислим числитель выражения (3.28):

Для этого обозначим

Тогда интеграл (3.29) перепишется в виде

Обозначим

где не зависит ни от ни от а. Интеграл (3.29) может быть переписан в виде

Преобразуем теперь выражение Т Для этого заметим, что 1

где обозначено

Соответственно преобразуется и выражение

Положим теперь

и перепишем

Запишем теперь интеграл в виде

Заметим, что подынтегральное выражение не зависит от параметров. Таким образом, оказывается, что

Для получения байесовой оценки нам остается нормировать к единице выражение (3.30):

Известно [52], что интеграл в знаменателе равен следующему выражению:

Обозначим

Таким образом,

2. Байесово приближение -мерного нормального закона. При получении байесова приближения -мерного нормального закона используются следующие два факта теории многомерных нормальных законов.

1. Свертка двух многомерных нормальных законов и где у — положительное число, есть нормальный закон Иначе говоря, справедливо равенство [4]

2. Распределение эмпирических оценок 5 ковариационной матрицы А, вычисляемых по формуле

задается законом Уишарта [5]:

где предполагается, что Величина есть константа, равная

При получении байесова приближения будет использован факт нормированности к единице распределения Уишарта:

Обозначим матрицу Очевидно, Пусть априорное распределение параметров и -мерного нормального закона задано в виде

где вектор параметров распределен по нормальному закону:

здесь — константа, -число, а—вектор, —матрица, распределенная по закону Уишарта:

Здесь константа, —матрица. Заметим, что

где симметричная матрица, вектор-столбец. Выпишем совместную плотность для случайной независимой выборки

Здесь и далее — константы, которые определяются условиями нормировки. Согласно формуле Байеса апостериорная плотность равна

Вычислим правую часть выражения (3.34)

Преобразуя выражение в показателе экспоненты (3.35), получим

где обозначено

В этих обозначениях перепишем (3.35):

Теперь из условия нормировки можно восстановить константу

При вычислении внешнего интеграла было использовано равенство (3.32). Наконец, найдем байесову оценку

Заметим, что внутренний интеграл по есть свертка двух нормальных законов, поэтому получим

Согласно (3.32) получаем

Преобразуем выражение (3.39):

В знаменателе выражения единичная матрица. Заметим, что матрица а следовательно, и матрица имеют ранг, равный единице. Поэтому только одно ее собственное число отлично от нуля, откуда следует, что знаменатель выражения (3.40) равен

Таким образом, окончательно получим

Зададим теперь конкретные величины и со для того, чтобы в условиях рассматриваемой схемы получить наиболее неопределенные априорные условия:

1) - условие, необходимое для интегрирования распределения Уишарта;

2) - условие, обеспечивающее стремление каждого элемента матрицы А к нулю.

Тогда, согласно (3.36), получим откуда заключаем, что

Наконец, для одномерного случая (полагая получаем

<< Предыдущий параграф Следующий параграф >>
Оглавление