49. В чем отличие модели логистической регрессии от модели линейной регрессии

Логистическая регрессия представляет собой расширение множественной регрессии, рассмотренной ранее, и отличается тем, что в качестве зависимой переменной используется не количественная, а дихотомическая переменная, имеющая лишь два возможных значения. Как правило, эти два значения символизируют принадлежность или непринадлежность объекта какой-либо группе, ответ типа «да» или «нет» и т. п. Кратко смысл регрессионного анализа можно свести к нахождению аналитического выражения, наиболее адекватно отражающего связь между зависимой переменной и множеством независимых переменных. Главным отличием логистической регрессии от множественной является толкование уравнения регрессии. Если множественная регрессия позволяет прогнозировать количественное значение зависимой переменной (критерия) на основе известных значений независимых переменных (предикторов), то логистическая регрессия прогнозирует вероятность некоторого события, находящуюся в пределах от 0 до 1. Кроме того, при помощи индикаторной схемы кодирования допускается использование в качестве предикторов категориальных (номинативных) переменных. Математически суть логистической регрессии излагается на примере переменных из файла RTS.sav. В нашем случае мы будем прогнозировать не величину Индекса РТС, а Класс индекса РТС – при данном сочетании предикторов в следующем периоде будет расти или снижаться индекс РТС. Как нетрудно понять, речь идет о дихотомической зависимой переменной, поскольку предполагается лишь два варианта ответа: «да» или «нет». Помимо того, что зависимая переменная польза в файле исходных данных представлена в дихотомическом виде, в него добавлена еще одна категориальная переменная условия. Эта переменная обозначает одно из трех условий, в которых моделировалась переменная «Средняя реальная зарплата»: 1 — низкий уровень, 2 — средний уровень, 3 — высокий.

В отличие от линейной регрессионной модели коэффициенты в

модели выбора(логит) мультипликативно влияют на отклик. Интерпретация

параметров зависит от вопросов, которые ставит перед собой

исследователь .Если исследователя интересует линейная

взаимозависимость, лежащая в основе всей генеральной совокупности, то

параметр b(бета) интерпретируется просто как предельный эффект,

Однако, если вопрос стоит о влиянии на наблюдаемую выборку, то

предельный эффект интерпретируется более сложно.Параметры

модели выражают изменение вероятности получения значения Y=1,

определенное изменением X на одну единицу, если все остальные

параметры принимаются константами.

В общем случае по знаку коэффициента можно судить о

направлении зависимости.

50.Формы записи коэффициентов логистической регрессии и их содержательная интерпретация Подбор параметров

Для подбора параметров необходимо составитьобучающую выборку,состоящую из наборов значений независимых переменных и соответствующих им значений зависимой переменной. Формально, это множество пар, где— вектор значений независимых переменных, а— соответствующее им значение. Каждая такая пара называется обучающим примером.

Обычно используется метод максимального правдоподобия, согласно которому выбираются параметры, максимизирующие значение функции правдоподобия на обучающей выборке:

Максимизация функции правдоподобия эквивалентна максимизации её логарифма:

Для максимизации этой функции может быть применён, например, метод градиентного спуска. Он заключается в выполнении следующих итераций, начиная с некоторого начального значения параметров :

На практике также применяют метод Ньютона и стохастический градиентный спуск.