Множественная регрессия и корреляция

 В эконометрике частные коэффициенты корреляции обычно не имеют самостоятельного значения. Их используют на стадии формирования модели. Так, строя многофакторную модель, на первом шаге определяется уравнение регрессии с полным набором факторов и рассчитывается матрица частных коэффициентов корреляции. На втором шаге отбирается фактор с наименьшей и несущественной по -критерию Стьюдента величиной показателя частной корреляции. Исключив его из модели, строится новое уравнение регрессии. Процедура продолжается до тех пор, пока не окажется, что все частные коэффициенты корреляции существенно отличаются от нуля. Если исключен несущественный фактор, то множественные коэффициенты детерминации на двух смежных шагах построения регрессионной модели почти не отличаются друг от друга, , где – число факторов.

 Из  приведенных выше формул частных  коэффициентов корреляции видна связь этих показателей с совокупным коэффициентом корреляции. Зная частные коэффициенты корреляции (последовательно первого, второго и более высокого порядка), можно определить совокупный коэффициент корреляции по формуле:

  . (2.21)

 В частности, для двухфакторного уравнения формула (2.21) принимает вид:

  .     (2.21)

 При полной зависимости результативного  признака от исследуемых факторов коэффициент  совокупного их влияния равен  единице. Из единицы вычитается доля остаточной вариации результативного признака , обусловленная последовательно включенными в анализ факторами. В результате подкоренное выражение характеризует совокупное действие всех исследуемых факторов.

 Значимость  уравнения множественной регрессии  в целом, так же как и в парной регрессии, оценивается с помощью  -критерия Фишера:

  ,      (2.22)

 где – факторная сумма квадратов на одну степень свободы;

   – остаточная сумма квадратов  на одну степень свободы; 

   – коэффициент (индекс) множественной  детерминации;

   – число параметров при  переменных  (в линейной регрессии совпадает с числом включенных в модель факторов);

   – число наблюдений.

 Оценивается значимость не только уравнения в  целом, но и фактора, дополнительно  включенного в регрессионную  модель. Необходимость такой оценки связана с тем, что не каждый фактор, вошедший в модель, может существенно увеличивать долю объясненной вариации результативного признака. Кроме того, при наличии в модели нескольких факторов они могут вводиться в модель в разной последовательности. Ввиду корреляции между факторами значимость одного и того же фактора может быть разной в зависимости от последовательности его введения в модель. Мерой для оценки включения фактора в модель служит частный -критерий, т.е. .

 Частный -критерий построен на сравнении прироста факторной дисперсии, обусловленного влиянием дополнительно включенного фактора, с остаточной дисперсией на одну степень свободы по регрессионной модели в целом. В общем виде для фактора частный -критерий определится как

  ,    (2.23)

 где – коэффициент множественной детерминации для модели с полным набором факторов,

   – тот же показатель, но  без включения в модель фактора  ,

   – число наблюдений,

   – число параметров в  модели (без свободного члена).

 Фактическое значение частного -критерия сравнивается с табличным при уровне значимости и числе степеней свободы: 1 и . Если фактическое значение превышает , то дополнительное включение фактора в модель статистически оправданно и коэффициент чистой регрессии при факторе статистически значим. Если же фактическое значение меньше табличного, то дополнительное включение в модель фактора не увеличивает существенно долю объясненной вариации признака , следовательно, нецелесообразно его включение в модель; коэффициент регрессии при данном факторе в этом случае статистически незначим.

 Для двухфакторного уравнения частные  -критерии имеют вид:

  ,   . (2.23а)

 С помощью  частного -критерия можно проверить значимость всех коэффициентов регрессии в предположении, что каждый соответствующий фактор вводился в уравнение множественной регрессии последним.

 Частный -критерий оценивает значимость коэффициентов чистой регрессии. Зная величину , можно определить и -критерий для коэффициента регрессии при -м факторе, , а именно:

  .          (2.24)

 Оценка  значимости коэффициентов чистой регрессии  по -критерию Стьюдента может быть проведена и без расчета частных -критериев. В этом случае, как и в парной регрессии, для каждого фактора используется формула:

  ,          (2.25)

 где – коэффициент чистой регрессии при факторе ,

   – средняя квадратическая (стандартная) ошибка коэффициента  регрессии  .

 Для уравнения множественной регрессии  средняя квадратическая ошибка коэффициента регрессии может быть определена по следующей формуле:

  ,     (2.26)

 где – среднее квадратическое отклонение для признака ,

   – среднее квадратическое отклонение для признака ,

   – коэффициент детерминации для уравнения множественной регрессии,

   – коэффициент детерминации  для зависимости фактора  со всеми другими факторами уравнения множественной регрессии;

   – число степеней свободы  для остаточной суммы квадратов  отклонений.

 Как видим, чтобы воспользоваться данной формулой, необходимы матрица межфакторной корреляции и расчет по ней соответствующих  коэффициентов детерминации . Так, для уравнения оценка значимости коэффициентов регрессии , , предполагает расчет трех межфакторных коэффициентов детерминации: , , .

 Взаимосвязь показателей частного коэффициента корреляции, частного -критерия и -критерия Стьюдента для коэффициентов чистой регрессии может использоваться в процедуре отбора факторов. Отсев факторов при построении уравнения регрессии методом исключения практически можно осуществлять не только по частным коэффициентам корреляции, исключая на каждом шаге фактор с наименьшим незначимым значением частного коэффициента корреляции, но и по величинам и . Частный -критерий широко используется и при построении модели методом включения переменных и шаговым регрессионным методом.

 СПИСОК  ИСПОЛЬЗУЕМОЙ ЛИТЕРАТУРЫ: 

 Магнус Я.Р.,Катышев  П.К.,Пересецкий А.А. Эконометрика. Начальный курс. Учебное пособие. Изд. 3-е, испр. и доп. - М.: Дело, 2000. - 248 с. ISBN 5-7749-0055-Х 

 Катышев П. К., Пересецкий А. А. Сборник задач к  начальному курсу эконометрики 72 стр. 

 Кремер Н.Ш., Путко Б.А. Эконометрика, ЮНИТИ, 2002, 311с. ISBN:

 Бородич С.А. Эконометрика, Серия: Экономическое  образование, 2001, 408с 

 Суслов В.И., Ибрагимов Н.М., Талышева Л.П., Цыплаков А.А. Эконометрия 

 Экономическая статистика. Эконометрика : Методические материалы по экономическим дисциплинам для преподавателей средних школ и вузов. Под ред. Л. С. Гребнева