Метод наименьших квадратов

     Введение

      Существует множество математических моделей, посредством которых решаются те, или иные задачи. Во всех сферах деятельности человека важным моментом является прогнозирование последующих событий. Сейчас существует более 100 методов и методик прогнозирования, Условно их можно разделить на фактографические и экспертные. Фактографические методы основаны на анализе информации об объекте, а экспертные - на суждениях экспертов, которые получены при проведении коллективных или индивидуальных опросов.

1.Временный ряд

1.1. Понятие временного ряда

Модели, которые  построенны по данным, характеризующим один объект за ряд определенных последовательных периодов, называется моделями временных рядов

Временным рядом называют серию  числовых величин, полученных через регулярные промежутки времени. Например, временными рядами будут:

• серия ежедневных наблюдений в течение некоторого периода за ценами товара при закрытии торгов на бирже;
• дневные объемы выпуска товара;
• месячные показатели инфляции или индекса потребительских цен;
• ежеквартальные оценки валового национального продукта (принятые в США) или средних зарплат (принятые в России для ежеквартального индексирования пенсий);
• ежегодные данные об объеме, выручке и прибыли компании.

Временные ряды, естественно, не ограничиваются исключительно экономическими величинами; известно их применение при анализе процессов в энергосистемах, атомной промышленности, химических и нефтехимических производствах, причем в этом случае часто используются более мелкие дискретности времени, чем в экономике, — минуты и даже секунды при обработке данных о быстропротекающих процессах в атомной энергетике или при исследовании переходных процессов в химической кинетике.

Известно даже успешное применение анализа временных рядов при  слежении за подводными лодками «вероятного противника» в 1970—1980-х годах, и при обработке данных наблюдений в системах ПВО, и при прогнозах проходимости радиосигналов в атмосфере и ионосфере, и при моделировании транспортных потоков на автотрассах.

Основным положением, на котором базируется использование временных рядов для прогнозирования, является то, что факторы, влияющие на отклик изучаемой системы, действовали некоторым образом в прошлом и настоящем, и ожидается, что они будут действовать сходным образом и в не слишком далеком будущем. Поэтому основной целью анализа временных рядов будет оценка и вычленение этих влияющих факторов с целью прогноза дальнейшего поведения системы и выработки рациональных управленческих решений.

 

1.2. Факторы, под воздействием которых формируются уровни временного ряда

В настоящее время уровень  динамического  ряда традиционно рассматривается  как сумма по крайней мере 4-х  составляющих, которые непосредственно  не могут быть изменены, соответственно этому целесообразно выделить 4 типа факторов под воздействием которых и формируется уровень y_n.

I тип. Долговременные факторы. Формирующие общую с длительной перспективой) тенденцию в изменении анализируемого показателя Y_t. Обычно эта тенденция описывается с помощью той или иной случайной функции Tr(t),  как правило, монотонной. Эту функцию называют функцией тренда (тренд).

II тип. Сезонные. Формирующие периодические повторяющиеся в определенное время года колебания анализируемого показателя. Условимся обозначать не случайной функции S(t). Поскольку эта функция должна быть периодической, в ее аналитическом выражении участвуют тригонометрические функции. Их периодичность обусловлена сущностью задач.

III тип. Циклические. Формирующий такие изменения, как обусловленные действием долговременных циклов экономической, демографической или даже космической периоды. (Волны Кондратьева, демографическое ямы, циклы солнечной активности и т.д.) Они приводят к тому, что значение изучаемого показателя в течение какого-либо времени возрастает, достигает определенного максимума, затем понижается и достигает определенного минимума и вновь возрастает до прежнего значения и т.д. Результат будет обозначен неслучайной функцией C(t).

IV тип. Случайные (нерегулярные). Не поддающиеся учету и регистрации факторы. Их воздействие на формирование значений ряда как раз и обуславливает стахостическую природу элемента y(t), а следовательно и необходимость интерпретации (y(t₁), y(t₂),…, y(t_n)) как наблюдений, произведенных над величинами не являющимися строго детерминированными (определенными). Будем обозначать с помощью случайных величин e(t).

 

Если динамический ряд разбить  на различные компоненты, то он может  быть представлен в виде:

Y(t) = Y(Tr(t), S(t), C(t), e(t))        

 

Выбирая ту или иную структурную  схему влияния факторов на формирование значений Y(t) мы принимаем некоторую конкретную структурную модель временного ряда. В зависимости от взаимосвязи факторов (I – IV) может быть построена аддитивная или мультипликативная модель ряда динамики. Подчеркнем, что случайная составляющая IV является обязательной для любого ряда, так как случайные отклонения неизбежно сопутствуют любому экономическому процессу.

Если принять аддитивную структурную  модель ряда динамики, то в общем  случае мы представим соотношение (1)  в виде разложения:

Y(t) = d(1)Tr(t) + d(2)S(t) + d(3)C(t) + e(t),

где   d(i) =

 

 i = 1, 2, 3

Практически экстраполированное прогнозирование экономических процессов, представленных одномерными временными рядами наблюдений, сводится к выполнению следующих этапов:

1. Предварительный анализ данных. Проверить являются ли данные сопоставимыми, однородными, устойчивыми;
2. Формирование набора аппроксимирующих функций (кривых роста). Выбрать какие модели могли бы описывать наши данные (линейная, параболическая, степенная и др.);
3. Численное оценивание параметров моделей кандидатов. Вычислить коэффициенты моделей по одному из методов оценивания;
4. Проверка адекватности моделей;
5. Оценка точности адекватных моделей;
6. Выбор лучшей модели;
7. Расчет точечного и интервального прогнозов;
8. Верификация прогноза. Посмотреть, реальны ли полученные по прогнозу результаты.

 

1.3. Выявление тренда

Метод проверки разностей средних  уровней. Реализация этого метода состоит из четырех этапов.

На первом этапе исходный временной ряд  y₁, y₂, y₃, …, y_n разбивается на две примерно равные по числу уровней части: в первой части n₁ первых уровней исходного ряда, во второй — n₂ остальных уровней (n₁ + n₂ = n).

На втором этапе для каждой из этих частей вычисляются средние значения и  дисперсии:

; ; ; .

Третий  этап заключается в проверке равенства (однородности) дисперсий  обеих частей ряда с помощью F-критерия Фишера, которая основана на сравнении расчетного значения этого критерия:

с табличным (критическим) значением  критерия Фишера F_a с заданным уровнем значимости (уровнем ошибки) a. В качестве a, чаще всего берут значения 0,1 (10%-ная ошибка), 0,05 (5%-ная ошибка), 0,01 (1%-ная ошибка). Величина (1–a) называется доверительной вероятностью.

Если расчетное значение F_расч меньше критического F_a, то гипотеза о равенстве дисперсий принимается и переходят к четвертому этапу. Если F_расч больше или равно F_a, гипотеза о равенстве дисперсий отклоняется и делается вывод, что данный метод для определения наличия тренда ответа не дает. Для получения критического значения воспользуйтесь функцией FРАСПОБР(a; n₁; n₂).

На четвертом этапе проверяется  гипотеза об отсутствии тренда с использованием t-критерия Стыодента. Для этого определяется расчетное значение критерия Стыодента по формуле:

. 

где s — среднеквадратическое отклонение разности средних:

.

Если расчетное значение t меньше критического значения статистики Стьюдента t_a с заданным уровнем значимости a, гипотеза принимается, т.е. тренда нет, в противном случае тренд есть. Для получения критического значения воспользуйтесь функцией CTЬЮДРАСПРОБР(a; n₁ + n₂ -2). Заметим, что данный метод применим только для рядов с монотонной тенденцией.

 

1.4. Построение трендовой модели

Формирование набора моделей, одна из которых будет использована для  получения прогноза, происходит на основе интуитивных приемов (таких, например, как анализ графика ряда динамики), формализованных статистических процедур (исследование приростов уровней), а также содержательного анализа процесса. Предпочтение, как правило, отдается простым моделям, допускающим содержательную интерпретацию. К числу наиболее простых относятся линейные модели роста:  

где a₀ и a₁ параметры модели, а t = 1, 2, …, n.

Рассмотрим оценку параметров модели по методу, сводящемуся к поиску таких значений a₀ и a₁, при которых сумма квадратов отклонений эмпирических (опытных) данных от рассчитанных по модели (2.4) является наименьшей – метод наименьших квадратов (МНК). Математически критерий такой оценки параметров записывается в виде

Для нахождения минимума функции двух переменных следует взять частные производные по a₀ и a₁, а затем приравнять их к нулю.

 

 

Упрощая, получаем

В результате получаем систему нормальных уравнений

Решая эту систему двух линейных уравнений с двумя неизвестными, получим:

где , , ,

Из второго уравнения получаем: ,

,

Найдя а₁, подставим в первое уравнение и получим .

Таким образом, формулы для нахождения параметров а₀ и а₁:

  

 

1.5. Проверка адекватности моделей

Важным этапом прогнозирования социально-экономических процессов является проверка адекватности (соответствия) модели реальному явлению. Для ее осуществления исследуют ряд остатков , то есть отклонений расчетных значений от фактических. Если модель выбрана правильно, то для остатков характерны:

1. случайный характер значений. Проверяется с помощью критерия поворотных точек;
2. отсутствие автокорреляции (самозависимости). Остатки должны быть независимыми друг от друга. Проверяется с помощью критерия Дарбина – Уотсона;
3. нормальный закон распределения. Проверяется с помощью R/S – критерия;
4. математическое ожидание остатков должно быть равно нулю и дисперсия остатков должна быть неизменна во времени. Проверяется с помощью t– критерия Стьюдента

 

Рассмотрим перечисленные требования подробнее.

1. Для проверки условия случайности возникновения отдельных отклонений от модели часто используется критерий, основанный на поворотных точках. Уровень последовательности E_i считается максимумом, если он больше двух рядом стоящих уровней, т.е. E_{i -1} < E_i > E_{i +1} и минимумом, если он меньше обоих соседних уровней, т.е. E_{i -1} > E_i < E_{i +1}. В обоих случаях E_i считается поворотной точкой; общее число поворотных точек для остаточной последовательности E_i обозначим через p.

В случайной выборке  математическое ожидание числа точек  поворота p и дисперсия s²_p выражаются формулами:

Критерием случайности  с 5%-ным уровнем значимости, т.е. с  доверительной вероятностью 95%, является выполнение неравенства , где квадратные скобки означают целую часть числа. Если неравенство выполняется, то с вероятностью 95% делаем вывод о случайном характере ряда остатков. Если это неравенство не выполняется, модель считается неадекватной.

2. Проверка независимости значений уровней случайной компоненты, т.е. проверка отсутствия существенной автокорреляции в остаточной последовательности может осуществляться по ряду критериев, наиболее распространенным из которых является d-критерий Дарбина—Уотсона. Необходимо вычислить расчетное значение , где Е_i – i- тый уровень остаточной последовательности (i=1..9). Теоретическое обоснование применения этого критерия обусловлено тем, что в динамических рядах как сами наблюдения, так и отклонения от них расположены в хронологическом порядке.

Значение d может располагаться в пределах от 0 до 4. При отсутствии автокорреляции значение d примерно равно 2. При полной автокорреляции – 0 или 4. Следовательно, оценки, получаемые по этому критерию, являются не точечными, а интервальными. Верхние (d₂) и нижние (d₁) критические значения, позволяющие принять или опровергнуть гипотезу об отсутствия автокорреляции, зависят от количества уровней динамического ряда и числа независимых переменных модели. Значения для этих границ при 5% уровне значимости приведены в Приложении 2. При сравнении расчетного значения d  с табличным могут возникнуть следующие ситуации:

• d₂<d<2 – ряд остатков не коррелирован;
• d<d₁ – остатки содержат автокорреляцию;
• d₁<d<d₂ – область неопределенности, когда нет оснований ни принять, ни отвергнуть гипотезу о существовании автокорреляции. Необходимо применять другой критерий;
• d>2, то это свидетельствует об отрицательной связи, и его надо преобразовать по формуле d' = 4-d и посмотреть, в какой из трех первых интервалов попадает значение d'.