4.1.6. Последовательный критерий отношения вероятностей (Последовательный анализ Вальда)

Рассмотрим последовательную процедуру проверки гипотез. Все предыдущие правила проверки двух гипотез были основаны на фиксированном числе испытаний, то есть сначала проводится измерений, строится отношение правдоподобия и затем оно сравнивается с порогом. С точки зрения минимального значения среднего числа испытаний (для ускорения процесса записи выборки), А. Вальд предложил и обосновал последовательный анализ измеряемых значений, т.е. обработка данных проводится по мере поступления новых измерений.

После каждого испытания строится отношение правдоподобия, которое сравнивается с двумя порогамии, то есть проверяется условие

(4.23)

При выполнении условия

и (4.24)

принимается решение о верности гипотезы(гипотезаотклоняется). А при выполнении условия

и (4.25)

принимается решение о верности гипотезы(гипотезаотклоняется).

Как видно множество разбивается на три части: подмножествопринятия гипотезы, подмножествопринятия гипотезыи область неопределённости, где нельзя отдать предпочтение той или иной гипотезе (в этом случае измерения должны быть продолжены). Из правил проверки гипотез (4.24) и (4.25) в данном случае следует, что объём выборкине фиксирован и зависит от конкретного значения выборки, то есть объём выборки естьслучайная величина.

В качестве критерия разумно выбрать минимальную среднюю стоимость эксперимента. Если “цена” одного эксперимента не меняется с увеличением , то этот критерий переходит в критерий минимума среднего числа испытаний, необходимых для принятия решенияили.

А.Вальд доказал, что среди всех правил принятия решений (последовательных и непоследовательных), для которых условные вероятности ошибок не превосходят ипоследовательное правило принятия решения, состоящее в сравнении отношения правдоподобияс двумя порогамии, приводит к наименьшему значению среднего числа испытаний при верностиили. При независимости выборок имеем

.

В случае последовательного критерия отношения правдоподобия процедура проверки строится следующим образом:

Выбираются пороги и, как функции значенийи, и проверяется неравенство (4.23) на каждом шаге испытаний.

Если , то в качестве пороговиможно принять величины

, . (4.26)

Вместо сравнения с порогамииобычно логарифмируют обе части неравенства (4.23) и при независимых испытаниях проводят проверку по правилу

. (4.27)

На рисунке 4.1 показан пример изменения значений суммы случайного числа случайных величин до принятия решения при увеличении числа испытаний. Нужно иметь в виду, что в процедуре проверки гипотез по Вальду размер выборки - величина случайная. Из теории вероятностей известно, если независимы, распределены одинаково и их дисперсия ограничена, то

.

Откуда получим математическое ожидание числа испытаний

В применении к последовательному анализу получим математическое ожидание числа испытаний при различных состояниях источника:

, (4.28)

Математические ожидания изависят от проверяемой гипотезы и границ принятия решений. Пренебрегая перескоком границизначениями сумм в момент принятия решения об остановке процедуры проверки гипотез (4.27), запишем соответствующие математические ожидания сумм

, (4.29)

. (4.30)

Математические ожидания логарифма отношения правдоподобия при состоянии источников и определяются как

, ,

(4.31)

где - плотность распределения вероятности выборкиy при состоянии источника , – область, на которой определена плотность распределения вероятности.

В случае дискретного распределения выборочных значений имеем

, ,

(4.32)

где m – количество значений y, которое может принимать случайная величина при однократном измерении, .

Преимуществом последовательного анализа перед всеми остальными процедурами проверки гипотез заключается в том, что последовательный анализ Вальда даёт приблизительно 48% выигрыша в числе испытаний при проведении серии процедур проверки гипотез.

Во всех правилах принятия решения, кроме минимаксного правила, используется отношение правдоподобия и решение принимается при нарушении неравенств , гдеС – порог, зависящий от выбранного критерия. Но само отношение правдоподобия – случайная величина, имеющая плотность распределения вероятности , зависящей от состояния источника. Запишем вероятности ошибок и вероятности правильного принятия решений, используя плотность распределения вероятности отношения правдоподобия

, (4.33)

, (4.34)

, (4.35)

. (4.36)

Приведённые равенства показывают, что вероятности ошибок и, а также вероятности правильных решенийи, можно вычислять как по многомерным областями, так и по одномерной области, определяемой плотностями вероятностейи, что облегчает вычисления. Сведём в одну таблицу рассмотренные критерии.

Таблица правил принятия решений

Априорные сведения	Критерий	Правило	Примечание
, Объём выборки	Байеса	= =	. Объём выборки фиксирован, вероятности ,  вычисляются по и
Объём выборки	Минимаксный	= =	Объём выборки фиксирован, вероятности ,  вычисляются по выбранным правилам
Объём выборки	Максимума апостериорной вероятности	=	, Объём выборки фиксирован, вероятности ,  вычисляются по и
Объём выборки	Максимального правдоподобия	1=	Объём выборки фиксирован, вероятности ,  вычисляются по и
Объём выборки	Неймана-Пирсона		Объём выборки фиксирован, выбирается из условия. Тогда
	Последовательный анализ Вальда		Минимизирует среднее число испытаний