Главная > Распознавание образов > Метод потенциальных функций в теории обучения машин
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

4. Разложение функций расстояния в ряд.

Выше было показано, что ядро функционала качества (39) должно быть выбрано в форме функции от расстояния Далее и потенциальная функция в методе потенциальных функций будет задаваться как функция расстояния. В этом пункте рассматриваются свойства функций расстояния в симметрических пространствах, связанные с их разложением в ряды по некоторой системе функций, зависящих также от расстояния. Выбор этой системы тесно связан с «расслоением» линейного пространства на подпространства , изученным в предыдущем пункте.

Выберем в каждом из слоев <в произвольный ортонормированный базис с элементами где размерность подпространства Разумеется, и совокупность функций образует ортонормированный (в силу ортогональности слоев) базис в пространстве Введем в рассмотрение систему функций определенную равенствами

и докажем следующую теорему.

Теорема Функции не зависят от выбора ортонормированного базиса в слое

и являются функциями только расстояния

система функций является полной системой функций в пространстве функций

Доказательство теоремы Докажем, что функция не зависит от выбора ортонормированного базиса. В самом деле, если задан ортонормированный базис отличный от и, соответственно, функция

то, как известно, существует ортогональная матрица переводящая базис

Подставляя (64) в (63) и используя соотношения ортогональности

получаем, что что и доказывает независимость от выбора базиса.

Докажем, что зависит лишь от . С этой целью покажем, что

Действительно,

а поскольку матрица ортогональна, то

и

что и доказывает (65). Но из (65) в силу леммы I и следует зависимость лишь от расстояния

Докажем, наконец, полноту функций в пространстве функций Рассмотрим произвольную функцию соответствующую ей функцию и оператор (определенный формулой Аналогично рассмотрим набор функций и соответствующих операторов Оператор является оператором проектирования на подпространство так как

откуда следует, что

Рассмотрим произвольную функцию и представим ее разложением

В силу леммы III

Введем в рассмотрение оператор

и применим его к функции В силу (66) получим

т. е.

Поскольку в (68) функция произвольная функция из имеет место операторное тождество

и тождество функций

Оно означает, что произвольная функция может быть представлена суммой (69), а это эквивалентно полноте системы функций Теорема V доказана полностью.

В силу полноты системы функций утверждаемой теоремой V, любая функция расстояния может быть представлена разложением в ряд

В частности, если есть ядро функционала (39), то коэффициенты совпадают как раз с числами оценивающими качество функций из слоя (см. пункт 3). Поэтому формула

может служить для определения ядра функционала (39) по заданным весам

Отметим теперь некоторые полезные свойства и соотношения, связанные с функциями

Первое свойство. При любых

причем

Из формулы (73) с учетом того, что следует, в частности, что

Доказательство свойства 1. В связи с тем, что имеем

Просуммируем это выражение по х

но в силу ортонормированности систем Поэтому

что и доказывает формулу (73). Формула (72) сразу следует из неравенства Коши — Буняковского:

Второе свойство. Функции ортогональны с весом и

где символ Кронекера, как и ранее, число точек на сфере радиуса

Используя это свойство, можно определить коэффициенты в разложении (70) заданной функции в ряд по системе Именно, из (75) следует сразу, что

Доказательство свойства 2. Чтобы доказать формулу (75), подсчитаем сумму

Обратимся сначала к правой части этого равенства. В силу ортогональности функций из разных слоев замечаем, что при правая часть этого равенства обращается в нуль.

Если же то в силу ортонормированности функций одного и того же слоя

и поэтому правая часть равенства обращается в

Поэтому правые части равенств (77) и (75) совпадают.

Покажем, что совпадают и их левые части. Для того, чтобы выполнить суммирование по у в левой части формулы (77), разобьем все пространство X на сферы где — все различные состояния в пространстве X, и будем производить суммирование последовательно, сначала по точкам в пределах каждой сферы, а потом по сферам. Так

как на каждой сфере не зависит от у, а число точек на каждой сфере равно получим

Последнее выражение совпадает с левой частью равенства (75), что и завершает доказательство второго свойства функций установленной формулой (75) ортогональности с весом функций

Третье свойство. Функции удовлетворяют «второму соотношению ортогональности»:

где

Доказательство свойства 3. Для доказательства этой формулы рассмотрим функцию и) как функцию от параметр) и разложим ее в ряд по (что всегда возможно в силу установленной полноты системы

Здесь коэффициенты разложения зависят, разумеется, от параметра х. Для вычисления умножим равенство (79) на и просуммируем по В результате, слева получим выражение

а справа в силу формулы -величину, равную

Отсюда имеем

Подставляя это выражение в (79), получаем формулу (78).

Из доказанной выше теоремы V и второго свойства функции вытекает следующее важное утверждение, касающееся свойств симметрических пространств: число слоев равно числу различных расстояний между точками пространства.

В самом деле, перенумеруем все возможные расстояния в порядке возрастания: так, что число расстояний равно Размерность пространства функций, заданных на дискретных точках, равна Но выше было показано, что система полная (в силу теоремы V) и линейно независимая (в силу второго свойства), т. е. что она составляет базис в пространстве функций, зависящих от Следовательно, функций также но каждая функция построена для слоя; отсюда вытекает справедливость утверждения, что от

Обратим теперь внимание на то, что «сложность» функций также может быть в некотором смысле оценена функционалами качества (39) или (40). С этой целью зафиксируем некоторую точку и рассмотрим функцию

Функционалы (39) и (40) принимают на функциях значения соответственно, независимо от выбора

х. Действительно, из (62) следует, что

т. е. принадлежит слою и в силу теоремы III оценивается значениями и функционалов соответственно. Таким образом, «сложность» функции соответствует в указанном смысле сложности функций, принадлежащих слою .

Эти соображения позволяют оценить сложность произвольной функции если известно ее разложение (69) по системе Именно, используя формулу (57), легко получить

и это выражение может быть принято за оценку слож ности функции

<< Предыдущий параграф Следующий параграф >>
Оглавление