4.12. Непараметрические алгоритмы классификации множеств случайных величин

Пусть имеется обучающая выборка , составленная из множеств независимых наблюдений признаков классифицируемых объектов и «указаний учителя» об их принадлежности к одному, например, из двух классов .

Законы распределения неизвестны и характеризуются наблюдениями .

Подобные условия встречаются при исследовании объектов, параметры которых многократно измеряются в течении короткого интервала времени; при оценивании качества партии изделий по случайно выбранному их ограниченному набору; при обработке больших массивов статистических данных.

Идея предлагаемого подхода заключается в замене операций над множествами на менее трудоемкие и хорошо разработанные операции над функциями либо над их параметрами, используя методы локальной аппроксимации.

С этих позиций непараметрическое решающее правило классификации в двуальтернативной задаче распознавания образов представляется в виде

где уравнение разделяющей поверхности

(4.45)

восстанавливается по обучающей выборке объёма , где - оценки функций распределения ;

- «указания учителя».

В качестве критерия близости между оценками функций распределения и используется, например, ядерная мера

Предложенная мера близости основана на использовании критерия Смирнова для проверки гипотезы с уровнем доверия

, ,

где , - соответственно количество элементов множества и .

Превышение порогового значения критерия Смирнова означает нарушение гипотезы .

Выбор оптимальных осуществляется в режиме «скользящего экзамена» из условия минимума эмпирической ошибки распознавания образов

,

где индикаторная функция

Литература

1. Лапко, А.В., Ченцов С.В., Крохов С.И., Фельдман Л.А. Обучающиеся системы обработки информации и принятия решений. - Новосибирск: Наука, 1996 - 296с.

2. Лапко А.В., Ченцов С.В. Многоуровневые системы принятия решений. - Новосибирск: Наука, 1997. – 190 с.

3. Лапко А.В., Ченцов С.В. Непараметрические системы обработки информации: Учебное пособие. – М.: Наука, 2000. – 350 с.

4. Лапко А.В., Лапко В.А., Соколов М.И., Ченцов С.В. Непараметрические системы классификации. - Новосибирск: Наука, 2000. – 240 с.

5. Лапко В.А., Соколов М.И. Непараметрические методы обработки данных: Учеб. пособие. – Красноярск: ИПЦ КГТУ, 2001. – 116 с.

6. Лапко В.А. Непараметрические коллективы решающих правил. - Новосибирск: Наука, 2002 – 168 с.

7. Лапко В.А. Компьютерное моделирование систем и статистический анализ данных: Методические указания для выполнения лабораторных работ. – Красноярск: ИПУ КГТУ, 2006. – 48 с.

8. Лапко В.А. Теория принятия решений. Непараметрические модели восстановления стохастических зависимостей и распознавания образов: Методические указания для выполнения лабораторных работ. – Красноярск: ИПУ КГТУ, 2006. – 27 с.

9. Лапко А.В., Лапко В.А. Непараметрические системы обработки неоднородной информации. – Новосибирск: Наука, 2007. – 174 с.