Множественный коэффициент детерминации и его оценивание

Коэффициент детерминации R2 представляет собой квадрат коэффициента множественной корреляции между зависимой переменной у и набором объясняющих переменных x1, x2,K, xn.

Как и в парном регрессионном анализе, коэффициент детерминации R2 определяет долю дисперсии у, объясненную регрессией, и эквивалентно определяется как величина ESS/TSS или как квадрат коэффициента корреляции между yˆ и у. Этот коэффициент никогда не уменьшается (а обычно он увеличивается) при добавлении еще одной переменной в уравнение регрессии, если все ранее включенные объясняющие переменные сохраняются. Для иллюстрации этого предположим, что вы оцениваете регрессионную зависимость у от x1 и x2 и получаете уравнение вида:

yˆ = a + b1x1 + b2 x2. (1)

Далее, предположим, что вы оцениваете регрессионную зависимость у только от x1 в результате получив следующее:

yˆ = a + b1* x 1.

Это уравнение можно переписать в виде:

yˆ = a + b1* x1+ 0 × x2. (2)

Если сравнить уравнения (1) и (2), то коэффициенты в первом из них свободно определялись с помощью метода наименьших квадратов на основе данных для зависимость у, x1 и x2 при обеспечении наилучшего качества оценки. Однако в уравнении (2) коэффициент при x2 был произвольно установлен равным нулю, и оценивание не будет оптимальным, если только по случайному совпадению величина b2 не окажется равной нулю, когда оценки будут такими же. Следовательно, обычно коэффициент R2 будет выше в уравнении (1), чем в уравнении (1), и он никогда не станет ниже. Конечно, если новая переменная на самом деле не относится к этому уравнению, то увеличение коэффициента R2 будет, вероятно, незначительным.

Вы можете решить, что поскольку коэффициент R2 измеряет долю дисперсии, совместно объясненной независимыми переменными, то можно определить отдельный вклад каждой независимой переменной и таким образом получить меру ее относительной важности. Было бы очень удобно, если бы это стало возможным. К сожалению, такое разложение невозможно, если независимые переменные коррелированы, поскольку их объясняющая способность будет перекрываться.

Скорректированный коэффициент R2

Наряду с коэффициентом R2 применяется показатель, который называют скорректированным коэффициентом R2 (adjusted R2). Иногда его также называют «исправленным» коэффициентом R2, хотя это определение не означает, по мнению многих, что такой коэффициент улучшен по сравнению с обычным.

Как отмечалось выше, при добавлении объясняющей переменной к уравнению регрессии коэффициент R2 никогда не уменьшается, а обычно увеличивается, что следует из уравнения (2) предыдущего параграфа. Знаменатель — величина TSS не изменяется, а числитель (ESS) — растет с увеличением числа регрессоров. Скорректированный коэффициент R2, который обычно обозначают R 2, обеспечивает компенсацию для такого автоматического сдвига вверх путем наложения «штрафа» за увеличение числа независимых переменных. Этот коэффициент определяется следующим образом:

где k — число независимых переменных. По мере роста k увеличивается отношение k /(n - k -1) и, следовательно, возрастает размер корректировки коэффициента R2 в сторону уменьшения.

Можно показать, что добавление новой переменной к регрессии приведет к увеличению R 2, если и только если соответствующая t-статистика по модулю больше единицы. Следовательно, увеличение R 2 при добавлении новой переменной необязательно означает, что ее коэффициент значимо отличается от нуля. Поэтому отнюдь не следует, как можно было бы предположить, что увеличение R 2 означает улучшение спецификации уравнения.

Это является одной из причин того, почему R 2 не стал широко использоваться в качестве диагностической величины. Другая причина состоит в уменьшении внимания к самому коэффициенту R 2. Ранее среди экономистов наблюдалась тенденция рассматривать коэффициент R 2 в качестве основного индикатора успеха в спецификации модели. Однако на практике, как будет проиллюстрировано ниже, даже плохо определенная модель регрессии может дать высокий коэффициент R 2, и признание этого факта привело к снижению значимости R 2. Теперь он рассматривается в качестве одного из целого ряда диагностических показателей, которые должны быть проверены при построении модели регрессии, и, вероятно, как один из менее важных. Следовательно, и корректировка этого коэффициента мало что дает.

 

Литература:

1. Доугерти, К. Введение в эконометрику / К. Доугерти: пер. с англ. – М.: ИНФРА – М., 2001. – 402 с.

2. Кремер, Н.Ш. Эконометрика / Н.Ш. Кремер, Б.А. Путко, под ред. проф. Н.Ш.Кремера. – М.: ЮНИТИ-ДАНА, 2003. – 311 с.

3. Орлова И.В.Экономико-математическое моделирование. Практическое пособие по решению задач / И. В. Орлова; ВЗФЭИ. - М.: Вузовский учебник, 2004. - 144с.