МНК-оценки коэффициентов множественной линейной регрессии

В соответствии с МНК оценки коэффициентов регрессии определяются из условия минимума остаточной суммы квадратов Q_e.

Обозначим через оценку отклика для i -го наблюдения:

. (27)

Запишем соотношение (27) в матричной форме:

,

где – вектор-столбец оценок отклика.

Далее обозначим: – отклонение наблюдения отклика от оценки (остаток), e =(e ₁, …, e_n)′ – вектор-столбец остатков. Тогда остаточная сумма определяется формулой:

.

Из необходимого условия экстремума ()можно получить (см., например, [5]) формулы для оценок коэффициентов линейной регрессии:

b =(X ′ X)^-1 X ′ Y (28)

Конечно, формула (28) справедлива только в том случае, если матрица X ′ X неособенная, т. е. если ранг матрицы X равен p +1 (предполагается, что p +1< n).

1.3. Стандартизированные коэффициенты регрессии и коэффициенты
эластичности

Значения оценок коэффициентов регрессии b_j (j =1, …, p)зависят от единиц измерения факторов и отклика. Поэтому рассматривают стандартизированные коэффициенты регрессии b′ _j и коэффициенты эластичности E_j, получаемые нормированием b_j:

В этих формулах, как и в практических работах №1 и 2, приняты обозначения: – выборочное среднее j -го фактора (отклика), – выборочное среднее квадратичное отклонение j -го фактора (отклика).

Коэффициент b′ _j показывает, на сколько величин s_y изменится в среднемоткликприувеличениитолько j -го факторана . Коэффициент E_j показывает, на сколько процентов (от среднего) изменится отклик при изменении только j -го фактора на1%.