§ 3. Решающие правила в задаче распознавания образов
Алгоритмы обучения распознаванию образов, основанные на восстановлении плотности распределения вероятностей (состава объединения
и его пропорции
традиционно связаны с двумя классами распределений.
Первый класс распределений. Распределение вероятностей
таково, что координаты вектора
статистически независимы, т. е.
и, кроме того, каждая координата
вектора х может принимать лишь фиксированное число значений. Будем считать, что каждая координата х принимает
значений
Таким образом, рассматривается случай, когда законы распределения случайных величин и
заданы выражением (3.12), где функция
может быть записана так:
Здесь
вероятность того, что для вектора из класса
значение координаты
будет равно
Восстановить распределение вероятностей для такого объединения — значит найти значения
параметров
параметров для восстановления каждого закона
и один параметр — пропорцию объединения).
Согласно (3.7) оптимальным решающим правилом для объединений, образованных двумя законами (3.12), будет следующая линейная дискриминантная функция:
где
пропорция объединения.
Второй класс распределений. Здесь в каждом классе
векторы
распределены согласно многомерному нормальному закону
где - вектор средних, А — ковариационная матрица.
Из (3.7) следует, что оптимальным решающим правилом в этом случае оказывается квадратичная дискриминантная функция
где
— параметры нормальных законов, образующих объединение (3.5);
пропорция объединения.
В частном случае, когда
квадратичная дискриминантная функция (3.14) вырождается в линейную