Классическая нормальная линейная регрессионная модель

Рассмотрим вопрос о качестве МНК-оценок (4) и (5). Эти оценки обла­дают многими хорошими свойствами, если величины в уравнении (1) удовлетворяют следующим условиям.

• X – детерминированная величина;
• e₁, …, e _n – независимые нормальные одинаково распределенные случайные величины: e _i ~ N(0, s² ), M(e _i e _j)=0 при i ¹ j.

При выполнении этих условий соотношение (1) называется классической нор­мальной линейной регрессионной моделью.

Справедлива теорема Гаусса-Маркова: В условиях классической нормальной линейной регрессионной модели* оценки (4) и (5) имеют наименьшую дисперсию в классе всех линейных несмещенных оценок.

Оценки, имеющие наименьшую дисперсию, называются эффективными. Таким образом, по теореме Гаусса-Маркова в условиях классической нормальной регрессионной модели МНК-оценки параметров парной линейной регрессии являются эффективными в классе всех линейных несмещенных оценок.

Упрощенная интерпретация теоремы Гаусса-Маркова: в среднем оценки (4) и (5) меньше, чем любые другие линейные несмещенные оценки, полученные по данным наблюдениям, отклоняются от истинных (но неизвестных) значений параметров m и b.

Кроме того, можно доказать (см., например, [5]), что в условиях классической нормальной регрессионной модели оценки (4) и (5) обладают следующими свойствами#:

1. – состоятельные оценки параметров m и b.

2. – несмещенные оценки параметров m и b ().

3. Для дисперсии оценки справедлива формула:

(8)

4. являются нормальными случайными величинами.

5. Остаточная сумма квадратов Q_e независима от , а статистика

(8а)

имеет распределение хи-квадрат с числом степеней свободы n -2 (c² _{n -2}).

6. Cтатистика s ^2:

(8б)

является несмещенной оценкой дисперсии возмущений (Ms ²=s²).