Классическая нормальная линейная модель множественной регрессии

Соотношение (24) называется классической нормальной линейной моделью множественной регрессии, если выполняются следующие условия:

• X – детерминированная матрица;
• e₁, …, e _n – независимые нормальные одинаково распределенные случайные величины: e _i ~ N(0, s² ) M(e _i e _j)=0 при i ¹ j;
• ранг матрицы X равен p +1, и p +1< n.

Справедлива теорема Гаусса-Маркова: В условиях классической нормальной линейной модели множественной регрессии* оценки (28)являются эффективными (т. е. имеют наименьшую дисперсию) в классе всех линейных несмещенных оценок.

Кроме того, можно доказать (см., например, [5]), что в условиях классической нормальной модели множественной регрессии оценки (28) обладают следующими свойствами#:

1. b – несмещенная оценка вектора b (Mb =b).

2. Ковариационная матрица оценок b может быть вычислена по формуле:

Db =s²(X ¢ X)^-1. (31)

3. b_j (j =0, 1, …, p) являются нормальными случайными величинами.

4. Остаточная сумма квадратов Q_e независима от b, а статистика

(32)

имеет распределение хи-квадрат с числом степеней свободы n - p -1 (c² _{n - p -1}).

5. Статистика s ^2:

(32а)

является несмещенной оценкой дисперсии возмущений (Ms ²=s²).

Значение числа степеней свободы n - p -1 можно объяснить следующим образом: из n наблюдений необходимо потратить p +1 наблюдений на оценку параметров регрессии.