2. Методы построения точечных оценок

Метод моментов для нахождения точечных оценок неизвестных параметров распределения f_X (x,___r) наблюдаемой в выборке случайной величины Х, состоит в приравнивании теоретических моментов к выборочным моментам. Для нахождения r параметров __к начальные А_к или центральные В_к моменты до порядка r включительно приравниваются к соответствующим эмпирическим выборочным моментам а_к,, в_к, тем самым получим систему r нелинейных уравнений метода моментов.

или .

Например, построим оценку параметра а случайной величины Х, имеющей треугольное распределение (рис.12.1), по заданной выборке х_В = {x_i; i=1,n}, где n – объем выборки:

f(x)

+1

-1 0 a +1

Рис. 12.1. Треугольное расапределение

Поскольку неизвестный параметр один то, вычисляя и приравнивая только первые начальные теоретические и эмпирические моменты.

, ,

получим оценку .

Метод моментов достаточно прост в применении и дает состоятельные оценки, однако их эффективность и несмещенность требуют дополнительных исследований.

Метод максимального правдоподобия основан на принципе правдоподобия, состоящем в том, что наблюдаемые в опыте события имеют большую вероятность, а маловероятные события практически не наблюдаемы. Вероятность наблюдения в опыте выборки х_В = {x_i; i=1,n} оценивается функцией правдоподобия

…,

а поскольку данная нам выборка уже получена в опыте, то она должна обладать максимальным правдоподобием. За оценку ^*_n неизвестного параметра распределения  принимается его значение, при котором функция правдоподобия максимальна, поэтому уравнение метода для нахождения оценки ^*_n:

, при условии .

Для решения этих уравнений чаще используется логарифм функции правдоподобия l(х₁, х₂, …х_n,, ) =ln L(х₁, х₂, …х_n,, ) , поскольку максимум этих функций достигается при одном и том же значении неизвестного параметра 

Например, рассмотрим случайную величину Пуассона Х>0 с плотностью распределения , где  неизвестный параметр распределения. Тогда функция правдоподобия и уравнение метода имеет вид:

….

Доказано, что метод максимального правдоподобия позволяет строить состоятельные и эффективные оценки.

Метод наименьших квадратов основан на идее минимизации суммы квадратов отклонения выборочных данных (или их функции) от определяемой оценки, он не требует знания закона распределения наблюдаемой случайной величины и кратко называется методом МНК.

Например, рассмотрим оценку дисперсии ² случайной величины по выборке х_В = {x_i; i=1,n}, где n – объем выборки. Построим функцию квадратов отклонения ,

из условия минимума и находим