Главная > Распознавание образов > Метод потенциальных функций в теории обучения машин
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

§ 4. Минимизируемые функционалы и сходимость второго и третьего алгоритмов

В связи с тем, что второй и третий алгоритмы, как показано в предыдущем параграфе, имеют вид процедуры (10), (11) главы II с одной и той же функцией (см. формулу(25)), минимизируемый ими функционал одинаков, так как вид функционала не зависит от помехи.

Определим вид этого функционала и условия, при которых алгоритмы его минимизируют.

Для того чтобы получить выражение для минимизируемого функционала, нужно подставить выражение (25) для в формулу (162) главы IV. Имеем

если положить

Производя интегрирование и учитывая при этом, что

получим

где

Заметим, что в силу при любых и поэтому

Для установления сходимости второго и третьего алгоритмов используем теорему XV главы IV. С той же целью проверим сначала выполнение условий теоремы XIV той же главы.

Условие 1° этой теоремы выполнено, так как функция

монотонна в силу монотонности функции и ограничена по модулю:

Выполнение условия 2° теоремы также обеспечивается ограниченностью модуля функции

Ограниченность функционала снизу (условие 3° теоремы) очевидна в силу соотношения (33).

Условие (155) главы IV выполнено в обоих алгоритмах, так как в обоих случаях математическое ожидание помехи равно нулю по определению. Выполнение условия (156) главы IV обеспечено тем, что в обоих алгоритмах помеха ограничена и, следовательно, ограничена и ее дисперсия.

Таким образом, все условия теоремы XIV главы IV выполнены. Остается проверить выполнение условий 1° и 2° теоремы XV. Условие 1° этой теоремы следует из того, что в силу (31), (32) и (22)

Условие 2° теоремы XV также выполнено, так как

Поскольку все условия теоремы XV выполнены, то в силу утверждения этой теоремы функционал (31) при сходится почти наверное к своей точной нижней грани:

Если теперь

то в силу теоремы XV значения функционала (31) сходятся почти наверное к нулю. В силу неравенства (33) это означает, что

Поэтому при оба рассматриваемых алгоритма решают задачу восстановления функции не только в смысле функционала (31), но и в смысле

функционала

Покажем теперь, что класс функций для которых рассматриваемые в этом параграфе алгоритмы решают задачу восстановления, более широк, чем подкласс функций из выделяемый условиями (34). Именно, рассмотрим класс функций которые могут быть представлены в виде

Непосредственно видно, что класс 9? функций удовлетворяющих условию (36), шире класса функций, удовлетворяющих условию (34), т. е. каждая функция удовлетворяющая условию (34), удовлетворяет также условию (36). Действительно, при выполнении условия (34) в качестве функции можно взять функцию поскольку при таком выборе

и поэтому

Обратное утверждение, разумеется, неверно, т. е. функция удовлетворяющая условию (36), не обязана удовлетворять условию (34).

Для того, чтобы показать, что при условии (36) рассматриваемые алгоритмы восстанавливают функцию достаточно установить, что

Для этого в свою очередь достаточно показать, что

так как при

Соотношение же (38) сразу следует из формул (31), (32), если заметить, что при

и, кроме того,

так как при этом

Таким образом, выполнение условия (36) в силу неравенства (33) действительно гарантирует восстановление функции в смысле функционала

Отметим, что восстановление функции в смысле (35) имеет место не только для функций удовлетворяющих условию (36), но и для более широкого класса, являющегося замыканием класса 9? функций (36). Под замыканием класса будем понимать такой класс что для каждой функции найдется последовательность функций такая, что

Как будет показано в следующем параграфе, необходимость рассмотрения класса 9? возникает естественным образом при использовании рассматриваемых алгоритмов для решения задачи распознавания образов в детерминистской постановке.

Тот факт, что рассматриваемые алгоритмы восстанавливают функции принадлежащие классу сразу следует из того, что при

а в силу (39) правая часть этого неравенства стремится к нулю при и поэтому при

<< Предыдущий параграф Следующий параграф >>
Оглавление