Главная > Распознавание образов > Метод потенциальных функций в теории обучения машин
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

§ 2. О выборе вида потенциальной функции К(х,у)

1. Общие соображения о выборе функции К(х,у).

В предыдущем параграфе при выборе системы функций было существенно, чтобы коэффициенты с в разложении убывали столь быстро, чтобы можно было ограничиться конечной и по возможности содержащей небольшое число функций системой Это было связано с тем, что при персептронной реализации метода потенциальных функций приходится включать в схему столько функциональных преобразователей, сколько функций содержат выбранные системы. Этими же практическими соображениями определялось и стремление упростить вид этих функций, например, использовать систему (10), (11).

При машинной реализации метода приходится иметь дело лишь с потенциальной функцией Связь между этой функцией и некоторой выбранной системой функций как об этом говорилось в главе II,

определяется формулой

где действительны и, следовательно,

Для машинной реализации наиболее удобны такие ряды (15), которые можно аналитически просуммировать и записать в свернутом виде. В этом случае становится безразличным, сколь сложны функции с точки зрения их технической реализации, а также число таких функций. Более того, если имеется в виду машинная реализация и «свертываемые» ряды вида (15), то целесообразно иметь в виду полную систему функций с тем, чтобы расширить класс функций которые могут быть аппроксимированы с помощью метода потенциальных функций. Именно это имелось в виду в формуле (15), которая допускает разложение не обязательно в конечный, но и в бесконечный ряд.

Практически при использовании метода надо знать лишь свернутое выражение и быть уверенным, что функция представима разложением по системе функций Фактически знать эту систему и коэффициенты не требуется.

Приведем несколько примеров, когда формулы вида (15) могут быть удобно свернуты.

Первый пример. В качестве пространства X рассмотрим отрезок прямой В качестве системы функций рассмотрим

приняв

Тогда

Последнее равенство получается суммированием геометрической прогрессии, если представить с помощью формулы Муавра.

Второй пример. Пространство X — множество вершин -мерного куба (см. § 1). Система функций представляет собой гармоники заданные формулой (14).

Выберем числа -некоторое число. В этом случае

где расстояние по Хеммингу. Последнее равенство сразу получается из формулы (100) § 3 этой главы.

Третий пример. Пространство X — вся действительная ось Функции составляют ортонормированную систему функций Эрмита:

где - полиномы Эрмита

Выберем где

Тогда

Из выражения (18) видно, что чем ближе величина а к 1, т. е. чем медленнее убывают коэффициенты тем ближе функция к -функции Дирака. Это замечание носит общий характер для представления (15), когда система функций ортонормирована. Именно, чем медленнее убывают коэффициенты тем ближе к -функции. Наоборот, чем быстрее убывают коэффициенты тем «положе» функция Эти утверждения вытекают из следующих простых соображений.

Если представить произвольную функцию ее разложением по полной ортонормированной системе

и рассмотреть затем интегральное преобразование К с ядром

то из (15) следует, что

и поэтому, если почти одинаковы, то и функция почти совпадает с функцией умноженной на константу, а это и означает, что ядро близко к -функции, умноженной на эту константу.

Если же коэффициенты быстро убывают, то высшие гармоники практически не содержатся в разложении функции и так как гармоники упорядочены по их «вычурности» (ранее об этом шла речь), функция -мало вычурная, сравнительно гладкая.

Эти соображения приходится учитывать, если непосредственно задаваться свернутым выражением для функции Именно, если близка к функции т. е. велико при и мало при всех остальных у, то из основной процедуры видно, что при каждом показе функция исправляется по сравнению с лишь в показанной точке и мало отличается от в остальных точках (см. § 2 гл. II). Поэтому восстановление неизвестной функции в большой области требует показа большого числа то: чек. С другой стороны, задаваясь чересчур пологой функцией мы, по существу, задаемся рядом (15) с быстро убывающими коэффициентами и поэтому создается угроза невыполнения условия (30) (§ 4 гл. II) основной гипотезы и затрудняются условия сходимости алгоритма. Следовательно, при выборе функции в свернутом виде приходится балансировать между выбором чересчур пологой или, наоборот, чересчур резко изменяющейся функции При практическом использовании метода компромисс находится с учетом особенностей каждой конкретной задачи, с привлечением интуиции и опыта, накопленных в ходе решения близких по характеру задач.

В связи с этим удобно, имея в виду работать со свернутым выражением для функции задаваться не конкретной функцией, а однопараметрическим семейством функций Далее в каждой конкретной задаче параметр а подбирается экспериментально с тем, чтобы получить хорошее разделение и быстроту сходимости алгоритма.

<< Предыдущий параграф Следующий параграф >>
Оглавление