§ 3. Решающие правила в задаче распознавания образов

Алгоритмы обучения распознаванию образов, основанные на восстановлении плотности распределения вероятностей (состава объединения и его пропорции традиционно связаны с двумя классами распределений.

Первый класс распределений. Распределение вероятностей таково, что координаты вектора статистически независимы, т. е.

и, кроме того, каждая координата вектора х может принимать лишь фиксированное число значений. Будем считать, что каждая координата х принимает значений

Таким образом, рассматривается случай, когда законы распределения случайных величин и заданы выражением (3.12), где функция может быть записана так:

Здесь вероятность того, что для вектора из класса значение координаты будет равно Восстановить распределение вероятностей для такого объединения — значит найти значения

параметров параметров для восстановления каждого закона и один параметр — пропорцию объединения).

Согласно (3.7) оптимальным решающим правилом для объединений, образованных двумя законами (3.12), будет следующая линейная дискриминантная функция:

где пропорция объединения.

Второй класс распределений. Здесь в каждом классе векторы распределены согласно многомерному нормальному закону

где - вектор средних, А — ковариационная матрица.

Из (3.7) следует, что оптимальным решающим правилом в этом случае оказывается квадратичная дискриминантная функция

где — параметры нормальных законов, образующих объединение (3.5); пропорция объединения.

В частном случае, когда квадратичная дискриминантная функция (3.14) вырождается в линейную