Линейная регрессия. Рассмотрим двумерную случайную величину , где и – зависимые случайные величины

Рассмотрим двумерную случайную величину , где и – зависимые случайные величины. Представим одну из величин, как функцию другой. Ограничимся приближенным представлением величины в виде линейной функции величины [5]:

,

где и – параметры, подлежащие определению. Это можно сделать различными способами: наиболее распространенный из них – метод наименьших квадратов.

Функцию называют «наилучшим приближением» , в смысле метода наименьших квадратов, если математическое ожидание принимает наименьшее возможное значение; функцию называют среднеквадратической регрессией на .

Теорема. Линейная средняя квадратическая регрессия на имеет вид

,

где ; – коэффициент корреляции величин и .

Коэффициент называют коэффициентом регрессии на , а прямую: , (8)

называют прямой среднеквадратической регрессии на .

Минимальное значение функции равно . Величину называют остаточной дисперсией случайной величины относительно случайной величины ; она характеризует величину ошибки, которую допускают при замене линейной функцией . При остаточная дисперсия равна нулю; другими словами, при этих крайних значениях коэффициента корреляции не возникает ошибки при представлении , в виде линейной функции от .

Итак, если коэффициент корреляции , то и связаны линейной функциональной зависимостью.

Аналогично можно получить прямую среднеквадратической регрессии на : (9)

( – коэффициент регрессии на ) и остаточную дисперсию величины относительно .

Если , то обе прямые регрессии, как видно из (7) и (8), совпадают. Из уравнений (7) и (8) следует, что обе прямые регрессии проходят через точку , которую называют центром совместного распределения величин и .

Вопросы для самопроверки по разделу 1

 

1. Как выглядит график плотности равномерного распределения?

2. Как выглядит график функции равномерного распределения?

3. Что такое нормальный закон распределения?

4. Как называется и как выглядит график плотности нормального распределения?

5. Как выглядит график -распределения?

6. Какое распределение называется распределением Стьюдента?

7. Какое распределение называется распределением Фишера-Снедекора?

8. Какое распределение называется показательным распределением?

9. Какое распределение называется распределением Эрланга?

10. Что определяет функцию надежности?

11. Что называют законом распределения дискретной двумерной случайной величины?

12. Как определяется функция распределения двумерной случайной величины?

13. Какова геометрическая интерпретация функции распределения двумерной случайной величины?

14. Какими свойствами обладают функции двумерной случайной величины?

15. Чему равна вероятность попадания случайной точки в полуполосу?

16. Чему равна вероятность попадания случайной точки в прямоугольник?

17. Что называется плотностью совместного распределения вероятностей двумерной непрерывной случайной величины?

18. Какую поверхность называют поверхностью распределения?

19. Какими свойствами обладает двумерная плотность вероятности?

20. Как связана плотность совместного распределения и функция распределения двумерной случайной величины?

21. Что называется условным распределением?

22. Что называется условной плотностью?

23. Что называют условным математическим ожиданием?

24. Что такое функция регрессии?

25. Что называется корреляционным моментом двух случайных величин?

26. Чему равен корреляционный момент двух независимых случайных величин?

27. Когда две случайные величины называются некоррелированными?

28. Как вычисляется коэффициент регрессии?

29. Каким уравнением определяется прямая среднеквадратической регрессии?