Главная > Распознавание образов > Метод потенциальных функций в теории обучения машин
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

2. Алгоритмы аппроксимации функции при отсутствии помех.

Рассмотрим алгоритмы метода потенциальных функций вида (11) (см. § 2 гл. II) при отсутствии помехи

где — монотонная функция по переменной обращающаяся в нуль при

В задачах аппроксимации функции естественно считать, что есть функция разности так как в данном случае значение функции на каждом шаге непосредственно сообщается учителем, и «невязка» непосредственно измеряется. Поэтому мы положим далее

где - монотонно неубывающая функция, удовлетворяющая условию

Таким образом, ниже рассматриваются алгоритмы вида

Алгоритмы вида (4) отличаются друг от друга как выбором типа последовательности так и

конкретизацией функции Далее более подробно будут рассмотрены два алгоритма, в первом из которых удовлетворяет условиям (13), (14 в) (см. § 2 гл. И), а во втором (условие (14а) из § 2 гл. 11).

В обоих алгоритмах на каждом шаге производится «исправление» выстраиваемой функции так, чтобы уменьшить ошибку в показанной на этом шаге точке. Разумеется, такое «исправление» функции может «портить» ее в ранее показанных точках (см. § 2 гл. II), однако это обстоятельство не препятствует сходимости алгоритмов, как это устанавливается теоремами, приведенными ниже.

Как будет видно из результатов § 3 этой главы, первый алгоритм решает как задачу восстановления, так и задачу приближения функции второй же алгоритм решает лишь задачу восстановления.

Первый алгоритм. Исходим из «нулевого приближения» Пусть в результате применения алгоритма после шагов построена функция и на шаге предъявлены точка и значение Функция строится по следующему правилу:

где любая последовательность положительных чисел, удовлетворяющая условиям (13) и (14, в) главы II: ряд расходится, а ряд сходится.

Второй алгоритм. Второй алгоритм отличается от первого тем, что переход от осуществляется не формулой (5), а формулой

где произвольная положительная константа, удовлетворяющая условию

В отличие от процедуры (5) процедура (6) не содержит «стягивающего множителя»

Описанные алгоритмы, как и все алгоритмы метода потенциальных функций, допускают как машинную, так и персептронную реализацию. В частности, при персептронной реализации последовательно вычисляются приближения неизвестных коэффициентов с в представлении искомой функции рядом по формулам:

для первого алгоритма и

для второго алгоритма. Эти формулы сразу следуют из (5) и (6) соответственно.

В качестве примера применения этих процедур покажем, как эти алгоритмы могут быть использованы и для решения некоторых задач вычислительной математики путем сведёния задачи к виду, описанному в пункте 1. Рассмотрим, например, задачу о решении систем линейных алгебраических уравнений

Для того, чтобы свести задачу (10) к описанной в пункте 1 задаче о восстановлении функции, рассмотрим функций заданных на отрезке [0,1]. Выбор этих функций мы стесним условием

Рассмотрим также функцию заданную на этом же отрезке [0,1] и определяемую формулой

Тогда в точках принадлежащих отрезку [0,1], значения функции известны, так как в силу

уравнения Формула (12) может быть рассмотрена как представление неизвестной функции конечным рядом по системе ограниченных функций а искомое решение системы (10) выступает теперь в роли коэффициентов этого разложения.

Пусть плотность вероятности появления точек х равна нулю всюду, кроме точек т. е.

где дельта-функция.

Теперь вся процедура решения системы (10) может быть описана так. Допустим, что к шагу алгоритма построено приближение Далее с вероятностью выбирается значение т. е. номер строки системы (10) для шага алгоритма. Следующее приближение вычисляется в соответствии с процедурой (8) по формуле

где выражение в квадратных скобках означает невязку в строке.

В силу теоремы I, доказанной в § 3 этой главы, и в соответствии с (10) и (13) гарантируется, что если система (10) имеет решение то при

Вспоминая, что получим при

Поскольку все то и порознь

т. е. с ростом приближается почти наверное к искомому решению

<< Предыдущий параграф Следующий параграф >>
Оглавление