Главная > Математика > Восстановление зависимостей по эмпирическим данным
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

§ 7. Теорема о равномерном относительном уклонении

Докажем третью основную теорему.

Теорема 7.6. Пусть выполнено условие (7.15), а множество функций имеет конечную емкость тогда, если то с вероятностью одновременно

для всех функций окажутся выполненными неравенства

есуш же то с вероятностью одновременно для всех функций выполнятся неравенства

где

Доказывать теорему мы будем сначала для случая, когда ограничение (7.15) задано с помощью константы и затем для случая, когда константа

Для доказательства выразим функционал через интеграл Лебега

Заметим, что для всякого фиксированного а и любого вероятность события выражается через функцию распределения вероятностей положительной случайной величины , а именно, функция распределения вероятностей случайной величины

связана с вероятностью появления события соотношением

Поэтому запишем функционал (7.27) в виде

Введем в рассмотрение новый функционал

Легко видеть, что он больше, чем так как

Справедлива следующая

Лемма. Если для каждой функции множества существует функционал а множество функций имеет конечную емкость то справедливо неравенство

Доказательство. Обозначим через событие Рассмотрим выражение

Покажем, что если выполняется неравенство

то выполнится и неравенство

Действительно, из (7.29) и (7.30) следует

Таким образом, вероятность выполнения неравенства

не превышает вероятность выполнения неравенства

В свою очередь, согласно теореме приложения к главе VI, справедлива оценка

откуда следует, что

Учитывая, что получим оценку (7.28). Лемма доказана.

Доказательство теоремы. В формулировке леммы содержалось требование: для любой функции существует функционал Покажем теперь, что функционал существует, если существует момент порядка выше второго (хотя бы и не целого) для случайной величины

Более того, для справедливо соотношение

В самом деле, справедливо преобразование

С другой стороны, согласно определению,

Пусть теперь момент равен величине

Найдем такое распределение котором максимизируется

Для этого составим функцию Лагранжа

Определим такую функцию распределения вероятностей на которой достигается максимум выражения Обозначим и перепишем (7.32) в этих обозначениях:

Функция на которой достигается максимум функционала (7.33), задается условием

откуда вытекает, что

где обозначено

Учитывая, что при изменении в пределах от нуля до бесконечности функция должна меняться от единицы до нуля, оптимальной будет функция

Вычислим теперь величину учитывая, что

С другой стороны, выразим через константу

Подставляя значение найденное из (7.35), в (7.34), получим

откуда следует, что если то

Используя лемму и оценку (7.36), докажем первую часть теоремы. Для этого заметим, что в условиях теоремы справедливо неравенство

Воспользуемся оценкой (7.37) для того, чтобы усилить неравенство (7.28)

Первое утверждение теоремы и есть эквивалентная запись этого неравенства.

Докажем теперь вторую часть теоремы. Для этого опять рассмотрим разность

Допустим, что для всех событий выполняется условие

Кроме того, всегда справедливо

При вычислении суммы (7.39) воспользуемся оценкой (7.40) для тех слагаемых, для которых события имеют вероятность, большую Для слагаемых, соответствующих событиям с вероятностью будем пользоваться тривиальной оценкой (7.41). В результате получим

Найдем теперь максимальное значение (по правей части неравенства при условии, что второй момент принимает некоторое фиксированное значение т. е.

Для этого воспользуемся методом множителей Лагранжа, обозначив

Таким образом, будем искать максимум выражения

Представим в виде

в котором первое слагаемое определяет функцию в области, где а второе слагаемое — в области, где

Первое слагаемое достигает абсолютного максимума, когда

Однако, учитывая, что — монотонно убывающая от 1 до х функция, получаем

Второе слагаемое достигает максимума в области на функции

Таким образом, окончательно получаем

Выразим теперь величину второго момента через множитель Лагранжа X, Для этого вычислим величину второго момента

Аналогично вычислим величину

Из (7.43) и (7.43а) заключаем, что

Таким образом, мы показали, что условие (7.40) влечет за собой неравенство (7.44). Поэтому вероятность события

не превосходит вероятности события

Согласно утверждению теоремы П.3 приложения к главе VI вероятность этого события при оценивается неравенством (6.45), откуда следует

С другой стороны, по условию теоремы

Учитывая это, получаем

Таким образом, окончательно получаем, что при справедливо

Эквивалентная запись неравенства (7.45) и является утверждением второй части теоремы.

Замечание. При доказательстве теорем 7.4 и 7.5 мы пользовались оценками относительных уклонений (7.17) и (7.19). Эти оценки легко могут быть получены из неравенств (7.38), (7.45), если учесть, что емкость класса решающих правил образованного фиксированной функцией , равна единице.

<< Предыдущий параграф Следующий параграф >>
Оглавление