Уравнение множественной линейной регрессии

Пусть зависимая переменная Y связана с p (p> 1) независимыми переменными X ₁, X ₂, …, X_p соотношением:

Y =b₀+b₁ X ₁+b₂ X ₂+…+b _pX_p +e, (24)

где b₀, b₁, b₂, …, b _p – детерминированные величины, e – случайное возмущение.

Если математическое ожидание возмущения равно нулю (M ε =0), то соотношение (24) называется уравнением линейной множественной регрессии.

Пусть проведено n наблюдений величин X ₁, X ₂, …, X_p и Y. Значение отклика в i -ом наблюдении (i =1, 2, …, n) обозначим y_i, значения факторов – x_{i 1}, x_{i 2}, …, x_ip, значение возмущения – e _i. Тогда соотношение (24) примет вид:

y_i =b₀+b₁ x_{i 1}+b₂ x_{i 2}+…+b_p x_ip +e _i, (24а)

Далее через Y будем обозначать вектор-столбец наблюдений отклика: Y=(y ₁, …, y_n) ′.Также обозначим: b=(b₀, b₁,, b _p)′ – вектор-столбец неизвестных коэффициентов регрессии, e=(e₁, …, e _n)′ – вектор-столбец возму­щений,

– матрица наблюдений независимых переменных размера n ´ (p +1). Тогда соотношение (24а) можно записать в матричном виде:

Y= X b+ε. (25)

Обратите внимание, что введение в матрицу X первого столбца из единиц равносильно умножению коэффициента b₀ на фиктивную переменную x ₀, которая во всех наблюдениях принимает значение 1 (x_{i 0}=1, i =1, 2, …, n).

Требуется по наблюдениям найти в некотором смысле наилучшие оцен­ки b =(b ₁ ,, b_p)′ коэффициентов b. Если оценки b получены, то оценку отклика по известному значению факторов x ₁, x ₂ ,..., x_p можно определить по формуле:

. (26)