Классическая линейная модель регрессионного анализа. Линейная модель связывает значения зависимой переменной Y со значениями независимых показателей Xk (факторов) формулой:

Линейная модель связывает значения зависимой переменной Y со значениями независимых показателей X^k (факторов) формулой:

Y=B₀+B₁X¹+…+B_pX^p + e

где e - случайная ошибка. Здесь X^k означает не "икс в степени k ", а переменная X с индексом k.

Традиционные названия "зависимая" для Y и "независимые" для X^k отражают не столько статистический смысл зависимости, сколько их содержательную интерпретацию.

Величина e называется ошибкой регрессии. Первые математические результаты, связанные с регрессионным анализом, сделаны в предположении, что регрессионная ошибка распределена нормально с параметрами N(0,σ²), ошибка для различных объектов считаются независимыми. Кроме того, в данной модели мы рассматриваем переменные X как неслучайные значения, Такое, на практике, получается, когда идет активный эксперимент, в котором задают значения X (например, назначили зарплату работнику), а затем измеряют Y (оценили, какой стала производительность труда). За это иногда зависимую переменную называют откликом. Теория регрессионных уравнений со случайными независимыми переменными сложнее, но известно, что, при большом числе наблюдений, использование метода разработанного для неслучайных X корректно.

Для получения оценок коэффициентов регрессии минимизируется сумма квадратов ошибок регрессии:

Решение задачи сводится к решению системы линейных уравнений относительно .

На основании оценок регрессионных коэффициентов рассчитываются значения Y:

О качестве полученного уравнения регрессии можно судить, исследовав - оценки случайных ошибок уравнения. Оценка дисперсии случайной ошибки получается по формуле

.

Величина S называется стандартной ошибкой регрессии. Чем меньше величина S, тем лучше уравнение регрессии описывает независимую переменную Y.

Так как мы ищем оценки , используя случайные данные, то они, в свою очередь, будут представлять случайные величины. В связи с этим возникают вопросы:

1. Существует ли регрессионная зависимость? Может быть, все коэффициенты регрессии в генеральной совокупности равны нулю, оцененные их значения ненулевые только благодаря случайным отклонениям данных?

2. Существенно ли влияние на зависимую отдельных независимых переменных?

В пакете вычисляются статистики, позволяющие решить эти задачи.

Существует ли линейная регрессионная зависимость?

Для проверки одновременного отличия всех коэффициентов регрессии от нуля проведем анализ квадратичного разброса значений зависимой переменной относительно среднего. Его можно разложить на две суммы следующим образом:

В этом разложении обычно обозначают

- общую сумму квадратов отклонений;

- сумму квадратов регрессионных отклонений;

- разброс по линии регрессии.

Статистика в условиях гипотезы равенства нулю регрессионных коэффициентов имеет распределение Фишера и, естественно, по этой статистике проверяют, являются ли коэффициенты B₁,…,B_p одновременно нулевыми. Если наблюдаемая значимость статистики Фишера мала (например, sig F=0.003), то это означает, что данные распределены вдоль линии регрессии; если велика (например, Sign F=0.5), то, следовательно, данные не связаны такой линейной связью.