Регрессия главных компонент

Для построения модели с помощью регрессии главных компонент необходимо вычислить главные компоненты ковариационной матрицы независимых переменных. Результаты вычисления представлены в табл. 5. В последней строке таблицы указана дисперсия соответствующая главным факторам.

Таблица 5 — Главные компоненты

Исходные факторы	1-я главная компонента	2-ая главная компонента	3-ая главная компонента	4-ая главная компонента
РТС	0,99958	-0,0279	0,00689	0,00053
US	-0,00493	-0,03338	0,51357	0,8574
EURO	-0,00451	0,04041	0,8578	-0,5123
OIL	0,02796	0,9982	-0,0174	0,0494
Дисперсия факторов	360225,4	315,59	11,91	0,40

На рис. 4 представлено графическое отображение главных компонент независимых переменных.

Рисунок 4 — Главные компоненты

Модель, поостренная с помощью регрессии главных компонент, имеет вид

(3)

где — главные факторы. Главные факторы представляют комбинацию исходных факторов

(4)

Отличие главных факторов от исходных факторов заключается в том, что главнее факторы являются статистически независимыми, т.е. корреляция между ними равна нулю.

В табл. 6 показаны коэффициенты линейной регрессионной 4-х факторной модели. Если в формулу (3) подставить выражения (4), то получаем формулу, описывающую регрессионную модель в форме (1). Коэффициенты регрессионной модели в форме (1) полностью совпадают с коэффициентами классической регрессионной модели (см. табл. 1)

Таблица 6 — Характеристики регрессионной 4-х факторной модели (главные факторы)

Главные факторы	Коэффициенты регрессии	Коэффициент значимости
	2,69	246,22
1-ый фактор	0,0017	93,7
2-ый фактор	0,0022	3,58
3-ый фактор	0,018	5,74
4-ый фактор	-0,13	-7,46

Как видно из таблицы все коэффициенты модели являются существенно значимыми. Отбросим 2-ой главный фактор, так как он имеет наименьший коэффициент значимости. Поэтому с целью улучшения качества модели построим модель на 1, 3 и 4 главном факторе. В табл. 7 представлены коэффициенты 3-х факторной регрессионной модели. Отметим, что все коэффициенты регрессионной модели являются существенно значимыми.

 

Таблица 7— Характеристики регрессионной 3-х факторной модели (главные факторы)

Главные факторы	Коэффициенты регрессии	Коэффициент значимости
	2,699	249,8
1-ый фактор	0,0017	95,039
3-ий фактор	0,018	5,872
4-ый фактор	-0,158	-9,426

При переходе от главных факторов к исходным факторам регрессионная модель описывается формулой (1). Коэффициенты регрессионной модели и характеристики их значимости представлены в табл. 8.

Таблица 8 — Линейная 3-х факторная регрессионная модель (исходные факторы)

Исходные факторы	Коэффициенты регрессии	Коэффициент значимости
	0,350	32,441
PTC	0.0017	54,765
EURO	0,095	-8,712
OIL	-0.008	-9,733

Сравнивая коэффициенты 3-х факторной модели, представленной в таблице 8, с коэффициентами моделей, представленных выше (см. табл.1, табл. 2) можно отметить следующее:

1) коэффициент при переменной EURO возрос не значительно;

2) коэффициент переменной OIL возрос примерно на 2%.

3) коэффициент PTC не изменился

В таблице 9 представлены ошибки прогнозирования, полученные на тестовой выборке, для 3-х и 2-х факторных моделях. Как видно из таблицы ошибки прогнозирования не отличаються и это говорит, что качество моделей одного уровня

Таблица 9 — Ошибки прогнозирования моделей

Число главных факторов	MAD	MSE	SSE	MAPE %	MPE %	MSEN %
1-4	0,247	0,074	0,03	0,650	9,327	10,259
1,3,4	0,247	0,074	0,03	0,650	9,327	10,259
1,4	0,239	0,0789	0,031	3,51	8,852	10,593

 

С целью повышения качества модели построим модель на 1и 4 факторах. Характеристики регрессионной модели показаны в табл. 10. Как видно из таблицы коэффициенты значимости коэффициентов модели достаточно высоки.

Таблица 10 – Регрессионная модель (1, 4 фактор)

Оценка значимости коэффициентов регрессии
			1-ый фактор	4-ый фактор
Средневзв. цена, руб.	GMKN	2,69	0,002	-0,157
Средневзв. цена, руб.	GMKN	245,5585	92,85622	-9,17739

 

При переходе от главных факторов к исходным факторам регрессионная модель описывается формулой (1). Коэффициенты регрессионной модели и характеристики их значимости представлены в табл. 11.

Таблица 11 — Линейная 2-х факторная регрессионная модель (исходные факторы)

Исходные факторы	Коэффициенты регрессии	Коэффициент значимости
	1,3787	125,846
PTC	0.00156	+68,431
OIL	-0,0077	-9,121

 

Сравнивая коэффициенты 2-х факторной модели, представленной в таблице 11, с коэффициентами моделей, представленных выше (см. табл.1, табл. 2) можно отметить следующее:

1) коэффициент при перменной PTC почти не отличается,

2) коэффициент при перменной OIL уменьшился примерно в 2 раза.

На рис. 5 показано изменение курса доллара на тестовой выборке (пунктирная линия) и изменение курса доллара, вычисленные с помощью 2-х факторной модели

Рисунок 5 — Изменение цены на ценные бумаги на тестовой выборке (2-х факторная модель)

Выводы

В результате выполненных исследований получены следующие результаты:

1. Вычислены главные компоненты независимых переменных.

2.Построена классическая регрессионная модель: , которая показала хорошее качество на тестовой выборке.

3. Исходя из классической регрессионной модели, можно увидеть, что при увеличении курса EURO и индекса РТС цена на ценные бумаги растет, а при увеличенн курса доллара и цены на нефть уменьщается.

3. Построены три модели на основе регрессии главных компонент и сравнили их с классической регрессионной моделью. Показано, что использование главных компонент позволяет построить 2-х факторную модель, которая демонстрирует более высокую точность нежели классическая регрессионная модель.

4. 3х факторная модель имеет более высокие коэффициенты значимости и наименьшие ошибки прогнозирования.