Энциклопедичный YouTube

1 / 5

Процесс скользящего среднего, MA(q)

008. Прогнозирование временных рядов - К.В. Воронцов

Субтитры

Модель авторегрессии и скользящего среднего обобщает собой, соответственно, модель авторегрессии и модель процесса скользящего среднего. То есть это - стационарный процесс вида yt = константа + b1yt − 1 + b2y2 − 2 +... +, p прошлых значений игрека используется, + εt + a1εt − 1 + a2 на εt − 2 ,..., всего q предыдущих значений ε. И мы предполагаем, что сумма p + q минимально возможна, то есть эта запись самая короткая. Процессы авторегрессии скользящего среднего, сокращенно обозначается: ARMA (p, q). Первое, параметр p - это количество лагов по AR-части, по y, и MA - это количество лагов по... q - это количество лагов по части скользящего среднего. Что означает фраза: сумма p + q минимальна возможна? Оказывается, один и тот же процесс я могу записать несколькими уравнениями. Ну, например, если yt - это просто белый шум, то есть yt = εt, то я возьму из сегодняшнего y вычту вчерашний, и у меня получится, что yt − yt −1 = εt − εt − 1. И, соответственно, получается, что у меня две формы записи по сути одного и того же процесса. И, естественно, мы выбираем самую кратчайшую, в самой кратчайшей форме записи yt = εt. Это процесс ARMA (0, 0), у него нет предыдущих значений y уравнений и нет предыдущих значений ε уравнений. Процессы ARMA - это в каком-то смысле все, что нам нужно знать про стационарные процессы. Есть теорема, которая говорит о том, что любой стационарный процесс можно представить в виде AR-бесконечность. То есть AR-процесс с бесконечным количеством предыдущих лагов. А ARMA- процесс, можно выбрать количество лагов p,q достаточно большим и выбрать коэффициенты перед игреками прошлыми и перед эпсилонами прошлыми так, чтоб приблизить с высокой степенью точности любой AR (∞) процесс. Соответственно, получается на практике, что ARMA (p, q) процессов достаточна, чтобы моделировать любой стационарный процесс. Итого, про ARMA-процессы мы получаем следующие выводы: что коэффициенты у них не интерпретируются, интерпретация коэффициентов отдельных невозможна, однако они достаточно хорошо прогнозируют, и именно для этого мы их и будем использовать. Чтобы прогнозировать, надо сначала оценить модель. Соответственно, у нас на входе будет T наблюдений: y1, y2,..., yT. И для оценки неизвестных коэффициентов мы будем использовать метод максимального правдоподобия. В методе максимального правдоподобия необходимы более конкретные предпосылки на закон распределения случайной величины ε. Стандартно предполагается, что ε независимы и имеют нормальное распределение с нулевым математическим ожиданием и постоянной дисперсией ς-квадрат. Также мы предполагаем стационарность процесса yt и выполнение уравнения ARMA-процесса на yt. В результате применения метода максимального правдоподобия, мы получаем вектор оценок неизвестных коэффициентов. Неизвестными у нас являются показателями: а1, а2, а3,..., аq, соответственно, мы получаем а1 с крышечкой, а2 с крышечкой,..., аq с крышечкой. И также неизвестными показателями являются коэффициенты b1, b2,..., bp, мы получаем их оценки, то есть bi с крышечками, и также неизвестными являются показатели дисперсии белого шума ε, ς-квадрат, мы получаем его оценку. Помимо оценок сами коэффициентов, метод максимального правдоподобия дает нам также оценку ковариационной матрицы. VAR с крышкой, θ с скрышкой. И, соответственно, имея оценки коэффициентов и оценку их ковариационной матрицы, мы можем строить доверительные интервалы и проверять гипотезы. К сожалению, только асимптотически, то есть только при больших N. Здесь результатов для малых выборок нет даже в предположении нормальности отдельных εt, но тем не менее при больших выборках мы можем утверждать, что оценка коэффициента aj с крышкой минус настоящая aj, делить на стандартную ошибку aj с крышкой, стремится к нормальному стандартному распределению с математическим ожиданием 0 и дисперсией, равной 1. Это нам позволяет проверять гипотезы и строить доверительные интервалы.

Определение

Моделью ARMA(p , q ), где p и q - целые числа, задающие порядок модели, называется следующий процесс генерации временного ряда { X t } {\displaystyle \{X_{t}\}} :

X t = c + ε t + ∑ i = 1 p α i X t − i + ∑ i = 1 q β i ε t − i . {\displaystyle X_{t}=c+\varepsilon _{t}+\sum _{i=1}^{p}\alpha _{i}X_{t-i}+\sum _{i=1}^{q}\beta _{i}\varepsilon _{t-i}.}

где c {\displaystyle c} - константа, { ε t } {\displaystyle \{\varepsilon _{t}\}} - белый шум , то есть последовательность независимых и одинаково распределённых случайных величин (как правило, нормальных), с нулевым средним, а α 1 , … , α p {\displaystyle \alpha _{1},\ldots ,\alpha _{p}} и β 1 , … , β q {\displaystyle \beta _{1},\ldots ,\beta _{q}} - действительные числа, авторегрессионные коэффициенты и коэффициенты скользящего среднего, соответственно.

Такая модель может интерпретироваться как линейная модель множественной регрессии, в которой в качестве объясняющих переменных выступают прошлые значения самой зависимой переменной, а в качестве регрессионного остатка - скользящие средние из элементов белого шума . ARMA-процессы имеют более сложную структуру по сравнению со схожими по поведению AR- или MA-процессами в чистом виде, но при этом ARMA-процессы характеризуются меньшим количеством параметров, что является одним из их преимуществ .

Операторное представление. Стационарность и единичные корни

Если ввести в рассмотрение лаговый оператор L: L x t = x t − 1 {\displaystyle L:~Lx_{t}=x_{t-1}} , тогда ARMA-модель можно записать следующим образом

X t = c + (∑ i = 1 p α i L i) X t + (1 + ∑ i = 1 q β i L i) ε t {\displaystyle X_{t}=c+(\sum _{i=1}^{p}\alpha _{i}L^{i})X_{t}+(1+\sum _{i=1}^{q}\beta _{i}L^{i})\varepsilon _{t}} (1 − ∑ i = 1 p α i L i) X t = c + (1 + ∑ i = 1 q β i L i) ε t {\displaystyle (1-\sum _{i=1}^{p}\alpha _{i}L^{i})X_{t}=c+(1+\sum _{i=1}^{q}\beta _{i}L^{i})\varepsilon _{t}}

Введя сокращенные обозначения для полиномов левой и правой частей окончательно можно записать

α (L) X t = c + β (L) ε t {\displaystyle \alpha (L)X_{t}=c+\beta (L)\varepsilon _{t}}

Для того, чтобы процесс был стационарным, необходимо, чтобы корни характеристического многочлена авторегрессионной части α (z) {\displaystyle \alpha (z)} лежали вне единичного круга в комплексной плоскости (были по модулю строго больше единицы). Стационарный ARMA-процесс можно представить как бесконечный MA-процесс

X t = α − 1 (L) c + α − 1 (L) β (L) ε t = c / a (1) + ∑ i = 0 ∞ c i ε t − i {\displaystyle X_{t}=\alpha ^{-1}(L)c+\alpha ^{-1}(L)\beta (L)\varepsilon _{t}=c/a(1)+\sum _{i=0}^{\infty }c_{i}\varepsilon _{t-i}}

Например, процесс ARMA(1,0)=AR(1) можно представить как MA-процесс бесконечного порядка с коэффициентами убывающей геометрической прогрессии:

X t = c / (1 − a) + ∑ i = 0 ∞ a i ε t − i {\displaystyle X_{t}=c/(1-a)+\sum _{i=0}^{\infty }a^{i}\varepsilon _{t-i}}

Таким образом, ARMA-процессы можно считать MA-процессами бесконечного порядка с определенными ограничениями на структуру коэффициентов. Малым количеством параметров они позволяют описать процессы достаточно сложной структуры. Все стационарные процессы можно сколь угодно приблизить ARMA-моделью некоторого порядка с помощью существенно меньшего числа параметров, нежели только при использовании MA-моделей.

Нестационарные (интегрированные) ARMA

При наличии единичных корней авторегрессионного полинома процесс является нестационарным. Корни меньше единицы на практике не рассматриваются, поскольку это процессы взрывного характера. Соответственно, для проверки стационарности временных рядов один из базовых тестов - тесты на единичные корни . Если тесты подтверждают наличие единичного корня, то анализируются разности исходного временного ряда и для стационарного процесса разностей некоторого порядка (обычно достаточно первого порядка, иногда второго) строится ARMA-модель. Такие модели называются ARIMA-моделями (интегрированный ARMA) или моделями Бокса-Дженкинса. Модель ARIMA(p, d,q), где d-порядок интегрирования (порядок разностей исходного временного ряда), p и q - порядок AR и MA - частей ARMA-процесса разностей d-го порядка, можно записать в следующей операторной форме

α (L) △ d X t = c + β (L) ε t , △ = 1 − L {\displaystyle \alpha (L)\vartriangle ^{d}X_{t}=c+\beta (L)\varepsilon _{t}~,~~~\vartriangle =1-L}

Процесс ARIMA(p, d,q) эквивалентен процессу ARMA(p+d, q) с d единичными корнями.

Построение модели

Для построения модели ARMA по серии наблюдений необходимо определить порядок модели (числа p и q ), а затем и сами коэффициенты. Для определения порядка модели может применяться исследование таких характеристик временного ряда, как его автокорреляционная функция и частная автокорреляционная функция. Для определения коэффициентов применяются такие методы, как метод наименьших квадратов и метод максимального правдоподобия .

ARMAX-модели

В классические ARMA-модели можно добавить некоторые экзогенные факторы x. Причем в общем случае в модели участвуют не только текущие значения этих факторов, но и лаговые значения. Такие модели принято обозначать ARMAX(p, q,k), где k-количество лагов экзогенных факторов. В операторной форме такие модели можно записать следующим образом (один экзогенный фактор)

A (L) y t = c + b (L) ε t + d (L) x t {\displaystyle a(L)y_{t}=c+b(L)\varepsilon _{t}+d(L)x_{t}}

где a(L), b(L), d(L) - полиномы порядка соответственно p, q,k от лагового оператора.

Следует отметить, что такие модели можно интерпретировать иначе - как модели ADL(p, k) со случайными ошибками MA(q).

Общая модель, предложенная Боксом и Дженкинсом, включает как параметры авторегрессии, так и параметры скользящего среднего. Итак, имеется три типа параметров модели: параметры авторегрессии (p ), порядок разности (d), параметры скользящего среднего (q ). В обозначениях Бокса и Дженкинса модель записывается как АРИСС(p,d,q ). Например, модель (0 ,1 ,2 ) содержит 0 (нуль) параметров авторегрессии (p ) и 2 параметра скользящего среднего (q ), которые вычисляются для ряда после взятия разности с лагом 1.

Нестационарные ряды преобразовываются в стационарные путем перехода от исходного ряда к его разностям порядка :

На практике обычно разности берутся с лагом 0, 1 или 2. Разность может браться повторно, несколько раз.

Для преобразования нестационарного ряда в стационарный могут быть использованы и другие преобразования. Например, из временного ряда может быть удалена тенденция, или, если временной ряд характеризуется экспоненциальным ростом, то полезно предварительно использовать операцию логарифмирования.

В общем случае построение модели осуществляется с использованием трехстадийной итерационной процедуры (рис. 5.3) . Только после этого модель может быть использована для прогнозирования.

Под идентификацией имеется в виду определения подкласса экономных (с точки зрения числа параметров) моделей, среди которых следует искать адекватную. Целью этого этапа является получение некоторого представления о величинах p, d, q.

Идентификация включает две стадии: определение порядка разности исходного ряда, который обеспечивает стационарность, идентификация модели АРСС для ряда . Главными инструментами анализа на обоих стадиях являются АКФ и ЧАКФ. Они используются не только для определения вида модели, но и для приближенной оценки параметров.

После определения вида модели необходимо оценить параметры модели и проверить ее адекватность исследуемому временному ряду. Для оценки параметров модели как правило используется метод максимального правдоподобия, а для проверки адекватности используются методы, основанные на анализе остатков.

Далее рассмотрим каждый из этапов алгоритма построения модели, особый акцент сделав на этапе идентификации, так как от правильного выбора вида модели во многом зависит успешность процесса прогнозирования.

Итак, нам необходимо определить порядок разности, который обеспечивал бы преобразование нестационарного ряда в стационарный.

Для этого сначала определяем, является ли исходный ряд стационарным.

Часто нестационарность ряда можно определить визуально, например наличие монотонного тренда, различные амплитуды колебаний для разных частей траектории и т.д.

Если не наблюдается перечисленных признаков, указывающих на нестационарность, то следует рассмотреть оценку АКФ. Если она не имеет тенденции к затуханию, то можно говорить о нестационарности временного ряда. Если ряд стационарен, то . Если же нет, то следует рассмотреть разность первого порядка ряда. К полученному ряду первых разностей вновь применяют критерий стационарности. В случае нестационарности вновь берут его разности первого порядка, либо от исходного ряда берут разности второго порядка (т.е. имеем разность второго порядка) и вновь используют критерий нестационарности.Итак, при определении порядка разности предполагается, что порядок разности, обеспечивающий стационарность, достигнут тогда, когда АКФ (а соответственно, и ЧАКФ) процесса падает достаточно быстро (затухает).

Для процесса с использованием АКФ определяем и . Для определения параметров , рассматривают выборочные АКФ и ЧАКФ ряда.

Имеются следующие закономерности, связывающие эти параметры в смешанной модели:

Пусть наблюдается процесс скользящего среднего порядка . Тогда его АКФ обрывается на лаге . ЧАКФ плавно спадает.

АКФ в модели, у которой оба параметра не равны нулю, представляется в виде экспонент и затухающих синусоид.

Как видно, критерии определения параметров модели носят достаточно расплывчатый характер, возможно, с их помощью будет идентифицирована не одна модель.

Модель АРСС(1,1).

АКФ затухает либо монотонно, либо колебательно.

В ЧАКФ преобладает затухающий экспоненциальный член, либо монотонный, либо осциллирующий.

Вся совокупность типичных автокорреляционных функций описывается шестью комбинациями различных значений параметров модели и . Знак АКФ на лаге 1 совпадает со знаком разности - . При каждом знаке возможны три варианта поведения АКФ и ЧАКФ: обе монотонны, обе осциллируют, одна осциллирует, другая монотонна. Рассмотрим эти случаи:

На этапе идентификации целесообразно определить несколько подходящих моделей и затем, оценив их параметры и исследовав остатки, оценить адекватность моделей, выбрав далее наилучшую.

Под оценкой коэффициентов модели понимается получение численных значений параметров модели при предположении ее адекватности процессу, т.е. определение коэффициентов авторегрессии и скользящего среднего. Оценка производится, как правило, методом максимального правдоподобия.

Прогноз осуществляется непосредственно по уравнению модели. Для расчета доверительного интервала может быть использовано выражение:

где - квантиль стандартного нормального распределения c уровнем значимости .

Полная сезонная модель может быть представлена в виде АРИСС(p,d,q)(Ps,Ds,Qs), где параметрами (Ps,Ds,Qs) описывается сезонная компонента модели. Причем разности порядка Ds обычно берутся с сезонным лагом. Порядок сезонной модели определяется, также как и обычной, на этапе идентификации. Причем, все сказанное выше о построении несезонной модели естественным образом распространяется и на сезонные лишь с учетом сезонного фактора.

Использование моделей авторегрессии – проинтегрированного скользящего среднего (моделей ARIMA)

Модели стационарных временных рядов

Важное место в аналитических исследованиях отводится моделям стационарных временных рядов. Это объясняется тем, что с помощью определенных преобразований (взятия разности, выделения тренда и др.) многие временные ряды могут быть приведены к стационарному виду, кроме того, получаемые после моделирования остатки зачастую содержат статистические зависимости, которые можно описать с помощью этих моделей.

Существуют понятия стационарности в узком и широком смысле .

Ряд называется строго стационарным (strictly stationary ) или стационарным в узком смысле , если совместное распределение т наблюдений такое же, как и для гп наблюдений , при любых

Из этого определения следует, что свойства строго стационарного временного ряда не зависят от начала отсчета времени.

В практических исследованиях чаще опираются на понятие слабой стационарности (weak stationary ), или стационарности в широком смысле, которое связано с требованиями того, чтобы временной ряд имел среднее, дисперсию и ковариацию, не зависящие от момента времени t

Таким образом, автоковариация у(т) зависит лишь от величины лага т, но не зависит от t.

С понятием автоковариации тесно связано понятие автокорреляционной функции, АКФ (autocorrelation function, ACF). Значения коэффициентов АКФ характеризуют степень статистической взаимосвязи между уровнями временного ряда, разделенными т тактами времени, и определяются следующим образом:

Очевидно, что . При анализе поведения автокорреляционной функции рассматривают лишь положительные значения лагов, так как из условия стационарности вытекает, что .

В практических исследованиях выборочные значения коэффициентов автокорреляции оцениваются на основе имеющихся уровней временного ряда :

где п – длина временного ряда – временной сдвиг; .

График, отражающий изменение коэффициентов автокорреляции при различных значениях лага, называют коррелограммой (correlograni).

Для стационарного временного ряда с увеличением лагазначения коэффициентов автокорреляции должны демонстрировать быстрое монотонное убывание по абсолютной величине.

На рис. 8.19 показан пример автокорреляционной функции, рассчитанной для временного ряда ежемесячной динамики добычи нефти.

Рис. 8.19.

Предварительный графический анализ исходного ряда указывал на наличие тренда и периодичности, что согласуется с рис. 8.19. Значения коэффициентов автокорреляции не демонстрируют быстрого затухания, что свидетельствует о нестационарном характере временного ряда, при этом виден всплеск на 12-м сезонном лаге.

Наряду с АКФ при анализе временных рядов широко используется частная автокорреляционная функция. ЧАКФ (partial autocorrelation function, PACF), коэффициенты которой измеряют корреляцию между уровнями ряда, разделенными т временными тактами, при исключении влияния на эту взаимосвязь всех промежуточных уровней. В аналитических пакетах есть возможность построения наряду с графиком ЛКФ графика ЧЛКФ, на котором показано изменение выборочных оценок коэффициентов частной автокорреляции в зависимости от значений лагов. Очевидно, что для лагакоэффициенты автокорреляции и частной автокорреляции совпадут, но при последующих лагах появятся различия в их значениях.

Примером стационарности служит белый шум (white noise ), свойства которого могут быть представлены в виде

где

Следовательно, при , при этом постоянная дисперсия не зависит от

Примером белого шума могут служить остатки в классической линейной регрессионной модели, которые в случае их нормального распределения образуют гауссовский белый шум.

На рис. 8.20 показан пример временного ряда, соответствующего реализации гауссовского процесса белого шума. Следует обратить внимание на нерегулярный характер колебаний уровней этого временного ряда около нуля, а также на близость коэффициентов автокорреляции к нулю, что обусловлено свойствами (8.25).

Анализ характера поведения АКФ и ЧАКФ – важный этап при выборе моделей.

На практике получили распространение модели авторегрессии и модели скользящего среднего , применяемые для стационарных временных рядов.

Авторегрессионные модели сокращенно обозначаются как АР(р) или в англоязычном варианте AR(p) (autoregressive models of order p), где параметр p указывает порядок авторегрессии. В общем случае авторегрессионный процесс порядка р имеет вид

где В – оператор сдвига, т.е. преобразование временного ряда, смещающее его на один временной такт; Ф(В) – оператор авторегрессии.

Условие стационарности выполняется в случае, если все корни многочлена Ф(В) лежат вне единичного круга, иными словами, все корни характеристического уравненияпо модулю превышают единицу и различны.

характеристическое уравнение принимает вид , или , при этом его корни и по абсолютной величине больше единицы, следовательно, имеем стационарный процесс.

Рис. 8.20. Динамика смоделированного временного ряда, соответствующего реализации гауссовского процесса белого шума (a ), и его автокорреляционная функция (б)

где – числовой коэффициент, удовлетворяющий условию последовательность случайных величин, образующих белый шум.

Для марковского процесса (8.26) математическое ожидание и дисперсия соответственно равны

Можно показать, что для AR(1) справедливо равенство , следовательно,i, таким образом, теснота корреляционной связи между членами последовательности убывает экспоненциально по мере увеличения значения лага.

При этом – коэффициент автокорреляции первого порядка, так как

При подборе модели полезным оказывается анализ поведения частной автокорреляционной функции. Значения ЧАКФ для процесса А/?(1) равны нулю для всех лагов . Однако это свойство справедливо для теоретической частной автокорреляционной функции. При анализе коэффициентов выборочной частной автокорреляционной функции следует исходить из того, что использование модели ЛД(1) не противоречит исходным данным, если значения коэффициентов незначимо отличаются от нуля при .

Ограничение значений коэффициента а (|а| < 1) определяет условие стационарности для AR( 1).

Примеры выборочных автокорреляционных функций, с характерным для AR( 1) поведением коэффициентов представлены на рис. 8.21, 8.22. На этих рисунках отчетливо видны выбросы на нервом лаге в ЧАКФ, при этом наблюдается экспоненциальное затухание значений коэффициентов ЛКФ (при положительном значении– монотонное затухание (см. рис. 8.21), при отрицательном – знакопеременное (см. рис. 8.22)).

Модель, соответствующая значению, описывает процесс случайного блуждания (random walk). В этом случае каждое текущее значение определяется случайным отклонением от предыдущего:

Однако, как показано на рис. 8.23, свойства процесса случайного блуждания существенно отличаются от AR( 1) при. Процесс случайного блуждания нестационарен, что согласуется с медленным затуханием коэффициентов автокорреляции на рис. 8.23.

В экономических исследованиях также часто встречаются так называемые процессы Юла, или авторегрессионные процессы второго порядка – AR(2):

где – белый шум.

Для процесса Юла можно получить выражение, позволяющее вычислить значения автокорреляций при различных лагах ():

После подстановки значенийв выражение (8.27) с учетом того, что , можно получить так называемую систему Юла – Уокера (Yule -Walkerequations ) для AR (2):

Рис. 8.21. Пример автокорреляционных функций для временного ряда, сгенерированного с помощью модели AR ( 1) при а = 0,8 (корень равен 1,25):

а – АКФ: б – ЧАКФ

Рис. 8.22.

а – АКФ; б – ЧАКФ

Рис. 8.23. Временной ряд, сгенерированный с помощью модели случайного блуждания (а), и его автокорреляционная функция (б)

Эта система позволяет выразить коэффициенты моделичерез значения коэффициентов автокорреляции.

При этом условия стационарности процесса AR(2) могут быть представлены в следующем виде:

В общем случае для процессавыражение, позволяющее вычислить значения автокорреляций при различных лагах (), примет вид

Последовательная подстановка в формулу (8.28) значений лагов k = 1, 2. .... р приводит к р уравнениям системы Юла – Уокера. Эта система позволяет получить оценки коэффициентов модели после подстановки в нее значений выборочных коэффициентов автокорреляции.

Итак, изучение поведения коэффициентов автокорреляционных и частных автокорреляционных функций существенно помогает при идентификации авторегрессионных моделей.

На целесообразность применения модели AR(p) могут указывать значения коэффициентов ЛКФ, демонстрирующие экспоненциальное затухание (либо монотонное, либо с попеременной сменой знака), при этом в значениях коэффициентов ЧАКФ должны наблюдаться выбросы (пики) на первыхр лагах, а остальные значения коэффициентов статистически незначимы.

Также широкое распространение при моделировании стационарных временных рядов получили модели скользящего среднего, обозначаемые СС(q) или в англоязычном варианте MA(q) (moving average models). Модель MA(q) имеет вид

где – белый шум.

На практике чаще всего используются модели скользящего среднего невысоких порядков:

Можно преобразовать соотношение (8.29) для MA(1) к следующему виду, последовательно выражая и т.д.:

Проведенное преобразование показывает, что ряд, представленный в виде модели МA( 1) (8.29), также может быть представлен в виде модели авторегрессии бесконечного порядка (8.30).

Если в модели МA( 1) параметр θ по абсолютной величине будет больше единицы, то согласно выражению (8.30) текущее значение у, будет зависеть от прошлых уровней, берущихся с весами, бесконечно растущими по мере удаления в прошлое. Не будет учитываться старение информации и при значении параметра, равном единице. Таким образом, требуется выполнение условия, чтобы веса в выражении (8.30) образовывали бы сходящийся ряд.

Отметим, что также возможно представление AR(1) в виде МЛ(<=°). На коэффициенты процесса AR(p ) не накладываются никакие условия для обратимости, но для выполнения условия стационарности процесса корни его характеристического уравнения должны лежать вне единичного круга. В то же время для обратимости процесса MA(q) корни его характеристического уравнения

должны лежать вне единичного круга, в то же время не накладываются ограничения на коэффициенты модели для выполнения условия стационарности.

Можно представить выражение для коэффициентов автокорреляции процесса MA(q) в виде

Из данного представления следует характерная особенность поведения АКФ для процесса MA(q): для всех значений лагов τ, превышающих порядок модели q, коэффициенты автокорреляции равны нулю.

Значения АКФ для частного случая – модели МЛ(1) – определяются следующим образом:

Поведение ЧАКФ напоминает затухающую экспоненту, при этом задается выражением

Примеры выборочных автокорреляционных функций с характерным для МА(1) поведением коэффициентов представлены па рис. 8.24, 8.25. На рис. 8.24, соответствующем временному ряду, сгенерированному с помощью модели МА( 1) при значении параметра, наблюдается положительный выброс в АКФ, при этом коэффициенты в ЧАКФ демонстрируют затухание с переменным знаком. В свою очередь на рис. 8.25, иллюстрирующем характер поведения АКФ и ЧАКФ для реализации процесса МА( 1 ) при значении параметра, наблюдается выброс в АКФ в отрицательной области, так же как и затухание соответствующих коэффициентов в ЧЛКФ.

Свойства моделей скользящих средних позволяют сформулировать следующие практические рекомендации. На целесообразность применения модели MA(q) могут указывать имеющиеся выбросы (пики) на первых q лагах автокорреляционной функции, при этом частная автокорреляционная функция должна демонстрировать экспоненциальное затухание (монотонное либо знакопеременное).

Для описания стационарных процессов также может использоваться модель авторегрессии – скользящего среднего – АРСС(р, q), или, как принято в англоязычном варианте, ARMA(p , q) (autoregressive-moving average model ), включающая как авторегрессионные составляющие, так и члены, моделирующие остаток в виде процесса скользящих средних.

Рис. 8.24.

a – ЛКФ:й- ЧАКФ

Рис. 8.25.

а – АКФ; б – ЧАКФ

Модель ARMA(p, q), в которой параметр р определяет порядок авторегрессионной составляющей, a q – порядок скользящих средних, имеет вид

В этой модели в качестве объясняющих переменных рассматриваются прошлые значения самой зависимой переменной, а в качестве регрессионного остатка – скользящие средние из элементов белого шума.

Для стационарности процесса (8.31) требуется, чтобы вне единичного круга лежали все корни характеристического уравнения AR(p ) процесса. Аналогично для обратимости процесса (8.31) требуется, чтобы вне единичного круга находились все корни характеристического уравнения процесса MA(q).

Например, наиболее простой вариант смешанной модели ARMA(1, 1) можно представить в виде

При этом стационарность процесса обеспечивается условием, а обратимость – выполнением ограничения

Для процесса ARMA( 1, 1) значения коэффициентов автокорреляции определяются следующим образом:

Из данных выражений следует, что значения коэффициентов автокорреляции будут экспоненциально убывать от значения!. В случае положительного значения коэффициента а убывание будет носить монотонный характер, при отрицательном значении а убывание коэффициентов автокорреляции будет знакопеременным.

Поведение ЧАКФ также характеризуется экспоненциальным убыванием, при положительном значении Θ – монотонным, при отрицательном – знакопеременным.

Рассмотренные особенности поведения АКФ и ЧАКФ играют важную роль при выборе моделей.

Для данного временного ряда далеко не всегда удается подобрать адекватную модель, для которой ряд возмущений е, будет удовлетворять основным предпосылкам регрессионного анализа. До сих пор мы рассматривали модели вида (6.7), в которых в качестве регрессора выступала переменная t - «время». В эконометрике достаточно широкое распространение получили и другие регрессионные модели, в которых регрессорами выступают лаго- вые переменные , т. е. переменные, влияние которых в эконометрической модели характеризуется некоторым запаздыванием. Еще одним отличием рассматриваемых в этом параграфе регрессионных моделей является то, что представленные в них объясняющие переменные являются величинами случайными. (Подробнее об этих моделях см. гл. 8.)

где р 0 ,р,...,р я - некоторые константы.

Она описывает изучаемый процесс в момент t в зависимости от его значений в предыдущие моменты /- 1, t- 2,..., t - р.

Если исследуемый процесс y t в момент t определяется его значениями только в предшествующий период t - 1, то рассматривают авторегрессионную модель 1 -го порядка (или модель AR (1) - марковский случайный процесс):

Пример 6.5. В таблице представлены данные, отражающие динамику курса акций некоторой компании (ден. ед.):

Таблица 6.2

Решение. Попытка подобрать к данному временному ряду адекватную модель вида (6.7) с линейным или полиномиальным трендом оказывается бесполезной.

Найденное уравнение регрессии значимо на 5%-ном уровне по /’-критерию, так как фактически наблюдаемое значение статистики F= 24,32 > /о,05;1;19 = 4,35. Можно показать (например, с помощью критерия Дарбина-Уотсона) (см. далее, § 7.7)), что возмущения (ошибки) z f в данной модели удовлетворяют условиям классической модели и для проведения прогноза могут быть использованы уже изученные нами методы.

Вычисления, аналогичные примеру 6.3, дают точечный прогноз по уравнению (6.13):

и интервальный на уровне значимости 0,05 для среднего и индивидуального значений -

Итак, с надежностью 0,95 среднее значение курса акций данной компании на момент t= 23 будет заключено в пределах от 1046,6 до 1341,6 (ден. ед.), а его индивидуальное значение - от 879,1 до 1509,1 (ден. ед.). ?

Наряду с авторегрессионными моделями временных рядов в эконометрике рассматриваются также модели скользящей средней *, в которой моделируемая величина задается линейной функцией от возмущений (ошибок) в предыдущие моменты времени.

Модель скользящей средней q-vo порядка (или модель МА ()), имеет вид:

В эконометрике используются также комбинированные модели временных рядов AR и МА.

В заключение этой главы отметим, что использование соответствующих авторегрессионных моделей для прогнозирования экономических показателей, т. е. автопрогноз на базе рассмотренных моделей, может оказаться весьма эффективным (как правило, в краткосрочной перспективе).

Упражнения

В примерах 6.6-6.8 имеются следующие данные об урожайности озимой пшеницы у, (ц/га) за 10 лет:

• 6.6. Найти среднее значение, среднее квадратическое отклонение и коэффициенты автокорреляции (для лагов т = 1;2) временного ряда.
• 6.7. Найти уравнение тренда временного ряда y h полагая, что он линейный, и проверить его значимость на уровне 0,05.
• 6.8. Провести сглаживание временного ряда у, методом скользящих средних, используя простую среднюю арифметическую с интервалом сглаживания: а) т= 3; б) т= 5.
• 6.9. В таблице представлены данные, отражающие динамику роста доходов на душу населения y t (ден. ед.) за восьмилетний период:

Во многих случаях в прогнозировании в бизнесе и экономике используются эконометрические модели, построенные на основе временных рядов. Поскольку в данных, собранных на протяжении некоторого промежутка времени, обычно проявляется влияние тренда, сезонных изменений и другие подобные эффекты, наблюдения для разных периодов времени оказываются связанными между собой или, говоря иначе, автокоррелируют. Таким образом, для данных временных рядов выборка, составленная из серии имеющихся наблюдений, не может рассматриваться как обычная случайная выборка. Поэтому если стандартные методы регрессии применить к наблюдениям, следующим друг за другом на протяжении некоторого времени, при интерпретации результатов могут возникнуть определенные проблемы. Построение регрессионных моделей для данных временных рядов должно проводиться с особой тщательностью.

где β 1 , β 2 ,…,β p - некоторые константы; ε t - случайные ошибки, образующие «белый шум»:

. (3)

Она (AR(p)-модель) описывает изучаемый процесс в момент t в зависимости от его значений в предыдущие моменты t -1, t -2,…, t - p .

Построение модели AR(p) вида (1), адекватной реальному временному ряду y t , предполагает решение двух взаимосвязанных задач: определения рационального порядка модели (величины p) и оценки значений ее коэффициентов.

Рассмотрим сначала общие подходы к оценке параметров модели AR(p).

Без ограничения общности будем предполагать, что математическое ожидание ряда y t , равно нулю, т.е. M (y t )=0 . В противном случае вместо переменной y t , в выражении (1) можно рассмотреть центрированную переменную , где , но тогда , что доказывает наше предположение.

Из уравнения (1) следует, что параметры модели β 1 , β 2 ,…, β p могут быть выражены через коэффициенты автокорреляции ρ(τ) . Для этого умножим уравнение (1) на y t -τ почленно и найдём математическое ожидание каждого получившегося слагаемого:

Однако, зная, что , в предположении, что , так как ε t - случайная величина со свойствами «белого шума», не имеющая корреляционной связи с предшествующими моменту t значениями рассматриваемого процесса y t , разделим левую и правую части выражения на дисперсию процесса . Тогда всё выражение можно переписать представить следующим образом:

Подставив в получившееся уравнение вместо истинных значений коэффициентов автокорреляции ρ τ их выборочные оценки r τ , получим следующую систему линейных уравнений:

(6)

в которой известными являются оценки коэффициентов автокорреляции r 1 , r 2 ,…, r p , а неизвестными - оценки коэффициентов β 1 , β 2 ,…, β p модели AR(p): b 1 , b 2 ,…, b p .

Систему линейных уравнений (6) называют уравнениями Юла-Уокера, а полученные на ее основе значения b 1 , b 2 ,…, b p - оценками коэффициентов модели авторегрессии AR(p) Юла-Уокера. Эти оценки могут быть получены с использованием определителей, либо на основе векторно-матричной формы записи системы (6).

На основе определителей оценки Юла-Уокера получают в следующем виде:

, (7)

где Δ - определитель системы (6).

(8)

Δ τ - определитель, получаемый из определителя Δ путем замены его τ-го столбца на столбец, состоящий из коэффициентов автокорреляции, образующих левую часть системы (1.6) - r 1 , r 2 ,…, r p .

В векторно-матричной форме записи систему (6) можно переписать в следующем виде:

(9)

где r - вектор-столбец известных оценок коэффициентов автокорреляции с первого по p - й включительно, r =(r 1 , r 2 ,…, r p )" ; a - вектор-столбец неизвестных оценок параметров модели, а=(а 1 , а 2 ,..., а p )" ; R - матрица, составленная из оценок коэффициентов автокорреляции, определитель которой выражен формулой (8).

Непосредственно из выражения (9) вытекает, что неизвестные оценки коэффициентов модели авторегрессии определяются как

. (10)

Теоретически оценки Юла-Уокера должны обладать свойствами несмещённости и эффективности. Однако, на практике, в моделях авторегрессии большого порядка, эти свойства могут не подтверждаться. Особенно это относится к свойству несмещённости. Как и в моделях с лаговыми зависимыми переменными, смещённость в оценках коэффициентов моделей авторегрессии может быть обусловлена существующей зависимостью между сдвинутыми рядами рассматриваемой переменной y t -1 , y t -2 и ошибкой ε t . Этой возможной зависимостью при построении системы уравнений Юла-Уокера обычно пренебрегают, полагая, что ошибки ε t образуют «белым шум».

Неэффективность оценок может быть вызвана плохой обусловленностью матрицы R , что, как правило, является свидетельством зависимости уже между рядами y t -1 , y t -2 ,…, y t -τ .

Вместе с тем при небольших порядках модели (p =1,2,3) оценки Юла-Уокера обычно являются достаточно «хорошими». В крайнем случае, их можно рассматривать как первое приближение к «оптимальным» оценкам, которые могут быть получены путем уточнения оценок Юла-Уокера на основе использования более мощных методов оценивания, например, нелинейных.

Качество оценок Юла-Уокера может быть проверено путем исследования свойств ряда ошибки ε t . Если ее свойства близки к характеристикам «белого шума», то оценки Юла-Уокера можно считать «достаточно хорошими». Об этом, в частности, может свидетельствовать критерий Дарбина-Уотсона, значение которого должно лежать примерно в интервале от 1 до 3.

Легко видеть, что система Юла-Уокера в этом случае сводится к одному уравнению, непосредственно определяющему оценку b 1 коэффициента β 1 :

1 = r 1. (12)

Учитывая, что ε t и y t независимы

Так как процесс y t - стационарный, то . Таким образом, полагая, что , имеем

(14)

, (15)

откуда вытекает, что

. (16)

Из полученного равенства, учитывая, что дисперсия - величина положительная, получаем условие стационарности - | r 1 |<1 .

Следовательно, при | r 1 |>1 ряд оказывается нестационарным.

Найдем автокорреляционную функцию процесса y t . Умножая (11) на y t -1 и вновь учитывая независимость ε t и y t , найдем

откуда коэффициент корреляции

(18)

т. е. коэффициент авторегрессии r 1 представляет собой коэффициент корреляции между соседними возмущениями y t и y t -1 , или коэффициент автокорреляции ρ 1 .

Система уравнений Юла-Уокера в этом случае состоит из двух уравнений:

(20)

Выразив a 1 и а 2 через коэффициенты автокорреляции r 1 и r 2 , получим

(21)

Однако, система уравнений (20) может быть решена относительно r 1 и r 2

(22)

Если умножить обе части уравнения (19) на y t , взять математическое ожидание от каждого слагаемого, с учётом того, что в слагаемом M (y t , ε t ) мы y t заменяем на саму модель, и, зная, что M (y t , y t -τ )= Cov (y t , y t -τ )= r τ D (y t -τ )= r τ σ y 2 , получаем:

Из этого выражения легко можно получить соотношение между дисперсиями исходного процесса y t и ошибкой модели ε t :

. (24)

Из полученного равенства, учитывая, что дисперсия - величина положительная, получаем необходимые и достаточные условие стационарности:

(25)

или это можно переписать как

(26)

Компания X специализируется на обслуживании портфеля ценных бумаг. Рассмотрим задачу разработки более четкой методики прогнозирования индекса Доу-Джонса (индекса перевозок), с использованием методологии Бокса-Дженкинса. В таблице 1 представлены последние 65 ежедневных средних заключительных значений индекса перевозок для летних месяцев.

Таблица 1 Ежедневные заключительные средние значения индекса перевозок

Начнем анализ с рассмотрения графика исходных данных, представленного на рис. 1. В ряду явно присутствует возрастающий тренд. Следующим шагом в определении пробной модели будет рассмотрение выборочной функции автокорреляции данных, показанной рис. 2. Следует отметить, что первые несколько коэффициентов автокорреляции постоянно имеют большое значение и стремятся к нулю весьма медленно. Следовательно, первоначальные выводы о наличии тренда были верными, и что исходный временной ряд является нестационарным, т.е. его значения нельзя считать изменяющимися относительно некоторого фиксированного уровня.

Рисунок 1 - График значений ежедневного заключительного среднего индекса Доу-Джонса для перевозок

Рисунок 2 - Выборочная автокорреляционная функция для индекса перевозок

Вычислим разности данных, с целью проверить, позволит ли это устранить тренд и получить стационарный ряд. Все изменения разностных данных происходят в окрестности определенного фиксированного уровня. Оказалось, что выборочным средним для разностей является значение 1,035. Выборочные автокорреляции для разностей показаны на рис. 3, а выборочные частные автокорреляции - на рис. 4.

Рисунок 3 - Выборочная автокорреляционная функция для первых разностей индекса перевозок

Рисунок 4 - Выборочная частная автокорреляционная функция для первых разностей индекса перевозок

Получаем весьма противоречивые результаты. Сравнение коэффициентов автокорреляции с их предельной ошибкой показало, что существенной была только автокорреляция на первом временном интервале. Аналогично для коэффициентов частной автокорреляции существенным был только интервал 1. Коэффициенты автокорреляции отсекались после первого интервала, указывая на поведение, характерное для модели МА(1). И в то же время коэффициенты частной автокорреляции также отсекались после этого же интервала, указывая на поведение, характерное уже для модели AR(1).

Обе выборки не проявляют плавного убывания значений коэффициентов. Применим к индексу перевозок обе модели - ARIMA(1,1,0) и ARIMA(0,1,1). Кроме того, включим в каждую модель постоянное слагаемое, чтобы учесть тот факт, что изменения в ряду разностей проявляются в окрестности уровня, находящегося выше нуля. Если индекс перевозок обозначить, как y t , то разностный ряд будет Δy t = y t - y t -1 и построенная модель, будет иметь следующий вид:

ARIMA(1,1,0): Δy t = φ 0 + φ 1 Δy t -1 + ε t

ARIMA(0,1,1): Δy t = ϻ + ε t - ω 1 ε t -1.

Обе модели одинаково хорошо описывают данные. Среднеквадратический остаток (MS ) будет таким.

АRМА (1,1,0):s 2 = 3,536,

ARIMA (0,1,1):s 2 = 3,538.

Следует также отметить, что константа, оцененная в модели ARIMA(0,1,1), равна ϻ =1,038 , т.е. фактически равна выборочному среднему разностей.

На рис. 6 можно видеть, что для модели ARIMA(1,1,0) нет существенных остаточных коэффициентов автокорреляции. Хотя остаточная автокорреляционная функция для модели ARIMA(0,1,1) здесь не показана, результат для нее такой же.

Q m - статистика Льюинга-Бокса, рассчитанная для групп интервалов т = 12, 24, 36 и 48, не существенна, на что указывает большая величина р для обеих моделей. Поэтому можно сделать вывод о том, что обе модели адекватны. Кроме того, прогнозы на один период вперед, сделанные с помощью этих двух моделей, почти совпадают.

Рисунок 6 - Остаточные автокорреляции; модель ARIMA(1,1,0), описывающая индекс перевозок

Разрешая возникшую дилемму, отдаем предпочтение модели ARIMA(1,1,0), основываясь на ее незначительном преимуществе в точности. Результаты проверки этой модели для периода 66 будут таковы:

y t - y t -1 = φ 0 + φ 1 (y t -1 - y t -2) + ε t

y t = y t -1 + φ 0 + φ 1 (y t -1 - y t -2) + ε t

так что при φ 0 = 0,741 и φ 1 = 0,284 уравнение прогноза примет следующий вид:

ŷ 66 = y 65 + 0741 + 0,284(y 65 - y 64) = 288, 57 + 0,741 + 0,284(288,57-286,33)=289,947

Рассчитанный интервал предсказания реального значения на период 66, составляет (286,3; 293,6).

4. Модель скользящего среднего (МА)

В моделях скользящего среднего текущее значение стационарного случайного процесса второго порядка y t , представляется в виде линейной комбинации текущего и прошедших значений ошибки ε t , ε t -1 ,.., ε t - q , по своим свойствам соответствующей «белому шуму». Такое представление может быть выражено следующим уравнением (модель скользящего среднего порядка q - MA(q)):

где γ 1 , γ 2 ,…, γ q - параметры модели.

В соответствии с определением «белого шума» ошибка ε t , характеризуется следующими свойствами:

M (ε t )=0 (28)

. (29)

Вследствие этого и автокорреляционная функция «белого шума» имеет очень простую форму:

. (30)

С учетом свойств ошибки ε t , несложно построить автокорреляционную функцию модели MA(q). Ее коэффициент ковариации q - ого порядка определяется следующим образом:

При τ=0 выражение (31) представляет собой дисперсию процесса y t , которая в силу свойств (28) и (29) выражается через коэффициенты модели MA(q): γ 1 , γ 2 ,…, γ q ; и дисперсию ошибки следующим образом:

Для произвольного τ из (32) получим, что коэффициент ковариации определяется выражением

(33)

Автокорреляционная функция модели MA(q) получается непосредственно из (7):

(34)

Система из q уравнений (8), может служить основой для получения оценок g 1 , g 2 ,…, g q неизвестных параметров модели MA(q) - γ 1 , γ 2 ,…, γ q . Для этого необходимо подставить в каждое ее уравнение вместо значений коэффициентов автокорреляции ρ τ рассматриваемого процесса y t их рассчитанные оценки r τ .

Однако в отличие от уравнений Юла-Уокера эта система нелинейная и её решение требует использования специальных итеративных процедур расчетов за исключением наиболее простой модели MA(1).

Модель скользящего среднего первого порядка (МА)

Она представляется следующим выражением:

t = ε t - γ 1 ε t -1 . (35)

Из (34) следует, что дисперсии процесса и ошибки этой модели связаны следующим соотношением:

. (36)

Её единственный отличный от нуля первый коэффициент автокорреляции выражается через коэффициент модели как

. (37)

Из соотношения (37) несложно получить квадратическое уравнение относительно оценки g 1 неизвестного параметра γ 1

, (38)

где r 1 - оценка коэффициента автокорреляции первого порядка, т.е. ρ 1 .

В свою очередь, из (38) следует, что существуют два решения этого уравнения, связанные между собой следующим соотношением:

. (39)

Условию стационарности процесса удовлетворяет только решение g 1 , по абсолютной величине меньшее единицы:

(40)

при условии, что

. (41)

Из (41) следует, что модели скользящего среднего первого порядка могут применяться только для описания процессов с автокорреляционной функцией, обрывающейся после первой задержки и коэффициентом автокорреляции, по абсолютной величине не превышающем 0,5.

В заключение приведем основные результаты для модели скользящего среднего второго порядка - MA(2).

Модель скользящего среднего второго порядка MA(2)

Модель скользящего среднего второго порядка MA(2) в общем виде записывается следующим образом:

t = ε t - γ 1 ε t -1 - γ 2 ε t -2. (42)

Из (39) непосредственно вытекает, что дисперсии процесса и ошибки связаны следующим соотношением:

Её автокорреляционная функция определяют значения коэффициентов автокорреляции, связанные с параметрами модели следующими соотношениями

(44)

Из этих соотношений могут быть найдены оценки коэффициентов модели g 1 и g 2 при известных оценках коэффициентов автокорреляции r 1 и r 2 .

где β 1 , β 2 ,…, β p ,γ 1 , γ 2 ,…, γ q - коэффициенты модели; р - порядок авторегрессии; q - порядок скользящего среднего.

Заметим, что модель (45) может быть преобразована либо в модель авторегрессии AR(p)

где ошибка ξ t , удовлетворяет свойствам процесса скользящего среднего порядка q , либо в модель скользящего среднего - MA(q): путем выражения переменных y t -τ , через линейные комбинации ошибок

и дальнейшего приведения подобных членов после раскрытия скобок.

Для этих модификаций модели (45) рассмотрим свойства ее автокорреляционной функции и возможные подходы к оценке ее параметров. Заметим, что при сдвигах, превышающих по своей величине порядок скользящего среднего q , т.е. при τ> q , коэффициенты автоковариации модели ARMA(p,q), определяемой выражением (45), не зависят от ошибок модели. В самом деле,

Если τ> q , то в силу свойств «белого шума» все математические ожидания произведений ошибок ε t и ε t -τ- j , j< q оказываются равными нулю, т.е.

M (ε t - j , ε t - τ - j )=0, τ= q +1, q +2,…; j =1,…, q .

В этом случае, т.е. при τ> q , значения коэффициентов автоковариации модели ARMA(p,q) удовлетворяют свойствам этих коэффициентов, характерным для модели авторегрессии р- ого порядка AR(p):

Из выражения (49) непосредственно вытекает, что неизвестные значения коэффициентов β 1 , β 2 ,…, β p в этом случае могут быть оценены из модификации системы уравнений Юла-Уокера, имеющей в данном случае следующий вид:

(50)

С использованием найденных из системы (50) значений оценок коэффициентов β 1 , β 2 ,…, β p на основании выражения (46) сформируем процесс скользящего среднего q - ого порядка - MA(q):

где u t - фактическая ошибка, являющаяся оценкой ошибки ξ t . Значения ошибки u t , получают путем подстановки в выражение (46) вместо неизвестных параметров β 1 , β 2 ,…, β p их оценок b 1 , b 2 ,…, b p определенных из системы (50). e t - фактическая ошибка, значение которой используется вместо истинной ошибки ε t , при оценке коэффициентов скользящего среднего. Для определения оценок g 1 , g 2 ,…, g q коэффициентов скользящего среднего применяются нелинейные методы оценивания, предполагающие решение системы нелинейных уравнений типа (48).

Рассмотрим наиболее «популярную» модификацию моделей авторегрессии-скользящего среднего ARMA(1,1). Эта широко используемая в практике эконометрических исследований модель может быть выражена следующей формулой:

y t = β 1 y t -1 + ε t - γ 1 ε t -1 . (52)

Для определения дисперсии этой модели умножим под знаком математического ожидания левую и правую части выражения (52) на y t . В результате получим

При выводе выражения (53) учтено, что M (y t , ε t )= M (β 1 y t -1 + ε t - γ 1 ε t -1 )=σ 0 2 в силу свойств процесса «белого шума» ε t .

поскольку .

Аналогично, получим первый коэффициент автоковариации процесса y t , умножив под знаком математического ожидания левую и правую части уравнения (52) на y t -1 . С учетом того, что y t -1 = β 1 y t -2 + ε t -1 - γ 1 ε t -2 и в силу свойств «белого шума» ε t получим, что

Из выражений (53)-(55) непосредственно вытекает, что дисперсия процесса y t , описываемого моделью ARMA(1,1), его первый коэффициент автоковариаций и дисперсия ошибки ε t , оказываются связанными следующими соотношениями:

(56)

а коэффициенты автоковариаций более высоких порядков (как следует из выражений (45) и (46)) - соотношениями вида:

Из соотношения (54) несложно получить выражение, определяющее значение первого коэффициента автокорреляции процесса ARMA(1,1):

. (58)

Значения коэффициентов автокорреляции более высоких порядков связаны соотношением аналогичным (13) ρ τ = β 1 ρ τ-1 , τ ≥2.

Таким образом, значения коэффициентов автокорреляции модели ARMA(1,1) подчиняется экспоненциальному закону

, (59)

где .

В реальности исследуемые процессы свойством стационарности могут и не обладать, тогда с помощью достаточно несложных преобразований можно привести наблюдаемый ряд к стационарному процессу.

Одним из таких способов преобразования является взятие конечных разностей

где - первая разность. Это преобразование целесообразно использовать, когда закон изменения у, близок к линейному.

где - вторая разность. Преобразование применяется, когда закон изменения y t , близок к квадратической зависимости.

К приведённому ряду можно применить модель авторегрессии и скользящего среднего, но на этом процесс построения модели нельзя считать завершенным. Для его окончания необходимо продолжить процесс построения модели изначального процесса, выполнив обратные преобразования, перейдя от преобразованных значений x t , к исходным значениям y t .

Пусть процесс x t , соответствует модели авторегрессии-скользящего среднего. Запишем преобразование с помощью оператора сдвига В для ряда x t .

Получим соответственно

, (62)

где многочлены степеней p и q соответственно от оператора сдвига, используемые для получения эквивалентной записи модели ARMA(p,q).

Отметим, что преобразование (62) не затрагивает ошибку ε t . Рассмотрим описанную процедуру на примере модели ARMA(1,1).

, (67)

что эквивалентно записи

. (68)

Объединяя эти два уравнения в одно, получим модель относительно исходного временного ряда y t в следующем виде:

(69)

Заметим, что преобразование (61) с помощью оператора В записывается в следующем виде:

. (70)

В этом случае для произвольной модели ARMA(p, q) получим

В частности, для модели ARMA(1,1), построенной для ряда z t , выражение (71) для исходного процесса y t приобретает следующий вид:

. (72)

В случае приведения исходного ряда y t , t=1,2,…,T к стационарному с использованием d-ой разности его результирующая модель определяется выражением:

В практических исследованиях при проведении обратных преобразователей вместо параметров β и γ , в соответствующие выражения для моделей исходного временного ряда y t , необходимо подставить значения их оценок a и b , полученные для моделей преобразованного стационарного процесса y t .

Таким образом, из выражений (67) и (70) вытекает, что использование для преобразования исходного временного ряда y t в стационарный процесс x t , t=1,2,…,T , оператора разности не ведет к изменению вида модели, описывающей процесс y t . Она, как и модель ARMA(p,q), описывающая стационарный процесс x t , является линейной по форме.

Обратим также внимание на необходимость анализа свойств и оценки основных характеристик ошибки исходной, т.е. восстановленной модели. Это должно быть сделано, в том числе и для обоснования оценки качества самой модели. Для некоторых преобразований их значения дисперсии фактической ошибки можно определить, исходя из соответствующих значений дисперсии среднеквадратической ошибки преобразованной модели, используя свойства дисперсий линейных, логарифмических и других зависимостей, соответствующих сделанному преобразованию. В этой связи заметим, что ряд значений фактической ошибки модели определяется в этом случае после формирования основного уравнения модели и расчета на его основе значений. Далее свойства фактической ошибки могут быть определены с использованием специальных тестов.

9. Идентификация модели ARMA

Из рассмотренного материала вытекает, что произвольный реальный стационарный процесс второго порядка может быть выражен разными вариантами моделей временных рядов. Чтобы показать это, запишем, например, модель AR(1) в более компактном виде с использованием оператора сдвига назад В. Его воздействие на любую переменную, зависящую от времени, определяется следующими соотношениями:

С учетом (1) модель AR(1) можно представить в следующей форме записи:

. (75)

Поскольку |β 1 |<1 , то является суммой бесконечно убывающей геометрической прогрессии

(76)

С учетом (2) модель (3) запишем в следующем виде:

где в данном случае .

Из выражения (74) следует, что модель авторегрессии первого порядка оказывается эквивалентной модели скользящего среднего бесконечного порядка. Аналогичным образом можно показать и обратное соотношение между порядками этих моделей. Так, для модели MA(1) имеем

. (78)

Поскольку |γ 1 |<1 (из условия стационарности процесса y t ), то из выражения (75) получим

(79)

В данном случае - коэффициенты модели авторегрессии бесконечного порядка.

, (80)

где многочлен q-ой степени - результат деления единицы на многочлен q-ой степени.

Из рассмотренных соотношений вытекает важный вывод: на практике можно подобрать модель с минимальным числом параметров, которая описывает временной ряд y t , являющийся стационарным процессом, не «хуже», чем другие варианты моделей с большим числом параметров. Обычно понятие «не хуже» связывается с минимальной дисперсией модели и отсутствием автокорреляции в ряду ее ошибки.

Практическая ценность этого вывода состоит в следующем. При построении моделей временных рядов нужно стремиться к минимизации числа их параметров, а, следовательно, и порядка самой модели. Дело в том, что параметры таких моделей оцениваются на основе коэффициентов автокорреляции исходного процесса y t . С увеличением порядка модели для определения значений ее параметров необходимо использовать в качестве исходных данных и большее число выборочных коэффициентов автокорреляции (с большими номерами). Точность их оценки с ростом сдвига падает, да и их абсолютные значения либо стремятся к нулю, либо попадают в область повышенной неопределенности. Из-за этого снижается надежность оценок коэффициентов моделей временных рядов высоких порядков, как и качество самих моделей. Все это и заставляет искать для описания реальных процессов модели временных рядов с минимальным числом параметров.

Процесс выбора модели, в наилучшей степени соответствующей рассматриваемому реальному процессу, называется идентификацией модели. В нашем случае идентификация состоит в определении общего вида модели из класса моделей ARMA(p,q), характеризующейся наименьшим числом параметров по сравнению с другими возможными вариантами, без потерь в точности описания исходного процесса.

Вообще говоря, идентификация - это достаточно грубая процедура (последовательность процедур), целью которой является определение некоторой области приемлемых значений характеристик порядка p и q модели ARMA(p,q), которая в ходе дальнейших исследований должна быть сведена к конкретным их величинам.

Обычно в этой части идентификация сопровождается процедурами оценки параметров альтернативных вариантов моделей и выбора наилучшего из них на основе использования критериев качества.

Таким образом, в общем случае формирование модели, в наилучшей степени подходящей для описания реального процесса, как бы состоит трех пересекающихся и дополняющих друг друга этапов - идентификации, оценивания и диагностики (согласования модели с исходными данными с целью выявления ее недостатков и последующего улучшения)

Общая идея идентификации модели ARMA(p,q) состоит в том, что свойства реального процесса и свойства наилучшей модели должны быть близки друг к другу.

Эта близость, как это было показано ранее, практически целиком определяется на основе сопоставления поведения их автокорреляционных функций: теоретической - для модели и эмпирической - для реального процесса, выборочные коэффициенты автокорреляции которого оценены на основе наблюдаемых данных. Поскольку выборочные коэффициенты автокорреляции могут характеризоваться достаточно большими ошибками и, кроме того, сильными корреляционными взаимосвязями между собой, то на практике точного сходства между «теоретической» и «эмпирической» автокорреляционными функциями ожидать не следует, особенно при больших сдвигах. Например, вследствие статистической взаимосвязи между коэффициентами автокорреляции процесса относительно значимые уровни выборочных коэффициентов автокорреляции (всплески) могут иметь место и в областях сдвигов, где их теоретические аналоги близки к нулю. Поэтому при сопоставлении теоретических и выборочных автокорреляционных функций обычно учитывают лишь их главные свойства. Именно их совпадение позволяет значительно сузить круг приемлемых для описания реального процесса вариантов модели. Окончательный выбор в пользу одной из них обычно делается по результатам этапов оценивания и диагностики моделей.

Отметим наиболее характерные свойства автокорреляционных функций типовых моделей ARMA(p,q).

Автокорреляционная функция модели авторегрессии первого порядка - AR(1) спадает строго по экспоненте (точнее, этот вывод справедлив для абсолютных значений коэффициентов автокорреляции). Плавный характер уменьшения коэффициентов автокорреляции характерен и для моделей авторегрессии более высоких порядков. В одном случае спад происходит либо чуть быстрее, чем строго по экспоненте, либо чуть медленнее, а в другом - по закономерности, соответствующей затухающей синусоиде.

Чрезвычайно важная информация о порядке модели авторегрессии содержится в так называемой частной автокорреляционной функции.

Для процесса, описываемого моделью AP(p), ее значениями являются последние значения коэффициентов моделей авторегрессии порядков, не превосходящих p, т.е. моделей с порядками τ=1,2,…, p . Обозначим значения частной автокорреляционной функции модели AR(p) через π p1 , π p2 ,…, π pp . Тогда для модели AP(p) значение π p1 равно ρ 1 и на практике определяется как оценка коэффициента β 1 модели AR(1) по формуле:

(81)

где значение (см. выражение (21)) - как коэффициент модели AR(2). На практике значение π p2 , таким образом, определяется по формуле:

. (82)

и оценка любого коэффициента определяется как оценка коэффициента β τ , модели AR(τ) по формуле:

(83)

Можно показать, что для модели AP(p) значения частной автокорреляционной функции являются значимыми (отличными от нуля) до задержки к включительно, т.е. π p1 >0, i≤p и равными нулю при сдвигах, превышающих порядок модели, т.е. π p1 =0, i>p . На практике этот результат следует понимать в «статистическом смысле», поскольку оценки значений коэффициентов частной автокорреляционной функции определяются на основании выборочных значений коэффициентов автокорреляции и поэтому сами являются случайными величинами, характеризующимися определенной ошибкой. Для оценок коэффициентов частной автокорреляционной функции, порядок которых превышает порядок модели, дисперсия ошибки приблизительно может быть оценена по следующей формуле:

, (84)

где i>p; T - объем динамического ряда показателя y t .

Таким образом, поведение частной автокорреляционной функции моделей авторегрессии аналогично поведению автокорреляционных функций моделей скользящего среднего. Для модели AR(p) ее частная автокорреляционная функция «обрывается» после задержки p, как это имело бы место у автокорреляционной функции модели MA(q). Это свойство частной автокорреляционной функции удобно использовать при идентификации моделей авторегрессии. Если значения такой функции, рассчитанной для реального процесса, обрываются (становятся нулевыми), начиная со сдвига p+1, это указывает на то, что модель авторегрессии p-ого порядка соответствует свойствам рассматриваемого процесса.

Как вытекает из выражения (34) теоретическая автокорреляционная функция модели MA(q) обрывается после задержки q. Поэтому, если автокорреляционная функция реального процесса обладает аналогичными свойствами, это указывает на то, что для его описания целесообразно использовать модель скользящего среднего соответствующего порядка. Иными словами, если у процесса y t , оказался значимым только первый коэффициент автокорреляции r 1 и при этом, в соответствии с выражением (41) r 1 <0,5, то данный факт указывает на целесообразность выбора для его описания модели MA(1). Если «обрыв» имеет место после второго сдвига - то модель MA(2) и т.д.

Точно так же как и для моделей авторегрессии частные автокорреляционные функции могут быть построены и для моделей скользящего среднего любых порядков. Для оценки их коэффициентов используются выражения (81)-(83). При этом с учетом того, что для модели MA(1) первый коэффициент автокорреляции ρ 1 и параметр модели γ 1 связаны соотношением , то для τ=2, 3,... с учетом того, что ρ 2 = ρ 3 =…=0, можно показать, что значения частных коэффициентов автокорреляции этой модели определяются по следующей формуле:

Из (11) непосредственно вытекает, что

откуда следует, что частная автокорреляционная функция модели MA(1) (т.е. абсолютные значения ее частных коэффициентов автокорреляции) затухает по закону, близкому к экспоненциальному. Иными словами, её поведение похоже на автокорреляционную функцию модели AR(1).

Можно показать, что аналогичное соответствие свойств характер для частной автокорреляционной функции модели MA(2) и автокорреляционной функции модели AR(2). Они представляют собой либо плавно спадающие с ростом сдвига зависимости экспоненциального типа, либо затухающие синусоиды. Такое соответствие автокорреляционных и частных автокорреляционных функций характерно и для моделей авторегрессии, и скользящего среднего более высоких порядков.

Для моделей ARMA(p,q) поведение автокорреляционной функции после задержки q похоже на поведение автокорреляционной функции модели AR(p). Однако на практике обычно используется модель ARMA(1,1), т.е. только первого порядка. Как было показано выше (см. выражения (75)-(80)), это связано с тем, что составляющая модели, относящаяся к авторегрессии первого порядка поглощает все процессы скользящего среднего более высоких порядков, и, наоборот, составляющая скользящего среднего первого порядка поглощает процессы авторегрессии высоких порядков. Вследствие этого и поведение автокорреляционной и частной автокорреляционной функций модели ARMA(1,1) характеризуется как бы комбинацией свойств этих функций, имевших место для моделей AR(1) и MA(1).

Иными словами, составляющая AR(1) способствует тому, что автокорреляционная функция модели ARMA(1,1) (абсолютные значения коэффициентов автокорреляции) затухает экспоненциально, но после первой задержки (первого сдвига). Это непосредственно вытекает из выражений (36) и (38). В свою очередь, составляющая MA(1) определяет закономерности поведения частной автокорреляционной функции модели ARMA(1,1), которая также затухает примерно экспоненциально в соответствии с выражением (85) и (86).

Рассмотренные подходы к идентификации основаны на сопоставлении свойств выборочных автокорреляционных и частных автокорреляционных функций реального стационарного процесса и предполагаемой для его описания модели. На практике идеальное совпадение свойств этих функций встречается не часто, поскольку и реальные процессы обычно не слишком точно соответствуют своим теоретическим аналогам-моделям, и оценки их коэффициентов автокорреляции характеризуются наличием ошибок. Вследствие этого процедура идентификации служит для обоснования выбора некоторой пробной модели из общей группы моделей типа ARMA(p,q), которая является. Как бы начальной точкой на пути построения «оптимального» теоретического аналога (модели) рассматриваемого процесса на основе пользования более точных процедур диагностики и методов оценки параметров модели.

Обычно с помощью процедур диагностики исследуют свойства фактической ошибки модели e t , которую часто называют остаточной ошибкой. При этом целесообразно руководствоваться следующей логикой анализа временного ряда e t , значения которого определяется как разность между фактическими и расчетными значениями процесса в момент t, т.е. , где - значения процесса, рассчитываемые по соответствующей модели.

Для «удачной» модели можно ожидать, что ряд ошибки e t , t=1,2,…,T по своим свойствам будет достаточно близок к «белому шуму» - случайному процессу, характеризующемуся полным отсутствием каких-либо закономерностей в своих значениях, за исключением известного закона их распределения, обычно предполагаемого нормальным. Для нашего случая это означает, что математическое ожидание фактической ошибки должно быть равно нулю (M(e t)=0 ), а дисперсия постоянна на любом участке ее измерения () и между рядами e t , e t-1 , e t-2 ,.. . отсутствует автокорреляционная зависимость, т.е. первый и последующие выборочные коэффициенты автокорреляции ряда e t , t=1,2,…,T близки к нулю.

Иными словами, фактическая ошибка модели e t , должна быть «настолько случайна», что ее невозможно было бы уточнить никакой другой моделью.

Кроме того, как это было показано выше, желательно, чтобы дисперсия ошибки была существенно меньше дисперсии процесса . В этом случае модель, описывающая процесс y t как бы снимает значительную часть неопределенности в его изменчивости, что позволяет с большей обоснованностью предсказывать его значения.

Наличие каких-либо закономерностей в ряду ошибки e t , указывает, что построенная модель неадекватна рассматриваемому процессу y t . Причинами неадекватности могут быть ошибки в оценках параметров либо так называемая, неопределенность модели. Примерами такой неопределенности является использование модели AR(1) вместо адекватной процессу модели ARMA(1,1). В этом случае ошибка модели AR(1) характеризуется свойствами модели MA(1). На это укажет отличный от нуля её первый коэффициент автокорреляции.

Отметим, что и неверно определенные значения параметров приводят к появлению «неслучайности» в ряду фактической ошибки.

Вследствие этого на практике однозначно указать какой-либо путь уточнения модели на основе анализа свойств ошибки e t , отличных от свойств «белого шума», обычно не представляется возможным. В такой ситуации можно сначала рекомендовать уточнить значения параметров модели путем использования более эффективных процедур их оценки, а затем, если это окажется необходимым - доопределить модель.

Для этой цели могут быть использованы и другие более точные методы оценивания (например, нелинейные), в которых найденные оценки используются как начальные приближения к «оптимальным» значениям параметров модели ARMA(p,q).

Из приведенных выше рассуждений вытекает, что диагностика модели сводится к исследованию свойств ее ошибки с целью выявления степени соответствия её свойств свойствам «белого шума». Такие исследования в случае модели стационарных процессов обычно сводятся к проверке значимости коэффициентов автокорреляции фактической ошибки e t .

Для проверки гипотезы о соответствии свойств ошибки модели свойствам белого шума могут использоваться процедуры проверки гипотез о постоянстве и равенстве нулю ее математического ожидания, постоянстве дисперсии, равенстве нулю ее коэффициентов автокорреляции.

Подход Бокса-Дженкинса к анализу временных рядов является весьма мощным инструментом для построения точных прогнозов с малой дальностью прогнозирования. Модели ARIMA достаточно гибкие и могут описывать широкий спектр характеристик временных рядов, встречающихся на практике. Формальная процедура проверки модели на адекватность проста и доступна. Кроме того, прогнозы и интервалы предсказания следуют непосредственно из подобранной модели.

Однако использование моделей ARIMA имеет и несколько недостатков.

1. Необходимо относительно большое количество исходных данных. Следует понимать, что если данные периодичны со, скажем, сезонным периодом 5=12, то наблюдения за один полный год будут составлять фактически одно сезонное значение данных (один взгляд на сезонную структуру), а не двенадцать значений. Вообще говоря, при использовании модели ARIMA для несезонных данных необходимо около 40 или более наблюдений. При построении модели ARIMA для сезонных данных нужны наблюдения приблизительно за 6-10 лет, в зависимости от величины периода сезонности.

2. Не существует простого способа корректировки параметров моделей ARIMA, такого как в некоторых сглаживающих методах, когда задействуются новые данные. Модель приходится периодически полностью перестраивать, а иногда требуется выбрать совершенно новую модель.

3. Построение удовлетворительной модели ARIMA зачастую требует больших затрат времени и ресурсов. Для моделей ARIMA расходы на построение модели, время выполнения вычислений и объемы необходимых баз данных могут оказаться существенно выше, чем для более традиционных методов прогнозирования, таких как сглаживание.

Согласно Бернштейну (Bernstein, 1996), прогнозирование является одной из важнейших составляющих менеджмента, которая оказывает значительную помощь в процессе принятия решений. Фактически любое важное управленческое решение в определенной степени зависит от прогнозов. Накопление запасов связано с прогнозами ожидаемого спроса; производственный отдел должен планировать потребности в рабочей силе и сырье на следующий месяц или два; финансовый отдел должен производить краткосрочное финансирование на следующий квартал; отдел кадров должен предвидеть необходимость приема или увольнения служащих. Список разнообразных применений прогнозирования может быть очень длинным.

Управленцы прекрасно осведомлены о необходимости прогнозирования. Несомненно, много времени уделяется изучению существующих тенденций в экономике и политике, а также тому, как грядущие события могут повлиять на востребованность предлагаемой продукции и/или обслуживания. Старшие должностные лица заинтересованы в количественном прогнозе для сравнения его со своим собственным мнением. Интерес к прогнозированию особо обостряется в тех случаях, когда происходят события, способные оказать серьезное влияние на уровень спроса. Недостатком методов количественного прогноза является их зависимость от данных прошлых наблюдений. По этой причине они, естественно, менее эффективны в предсказании неожиданных перемен, приводящих к резкому повышению или падению спроса.

Зачастую менеджерам необходимо сделать краткосрочный прогноз для большого числа наименований продукции. Типичным примером является ситуация, когда перед менеджером стоит задача наладить производство на основе прогнозирования спроса на несколько сотен наименований продуктов, образующих одну линию. В данном случае наиболее оправданно использование методов сглаживания.

Главным преимуществом методов экспоненциального сглаживания является их низкая стоимость и простота. Они не дают такой точности, как сложные методы, например ARIMA. Но при построении прогнозов для тысяч наименований продуктов, методы сглаживания зачастую являются единственным разумным подходом.

Прогнозы перспектив, основанные на временных рядах, опираются на предположение о том, что развитие будущих событий будет подобно прошлому, а структура прошлых событий поддается адекватному описанию. Методика временных рядов является одной из наиболее часто применяемых для прогнозирования переменных, с постоянной и стабильной структурой изменений.

Методология Бокса-Дженкинса является очень мощным инструментом точного краткосрочного прогнозирования. Менеджеры должны учитывать, что создание удовлетворительной модели ARIMA по методике Бокса-Дженкинса требует довольно большого количества исторических данных и значительных затрат времени аналитика.

Практических применений методики Бокса-Дженкинса очень много. Модели ARIMA реально применялись для следующих целей:

1 оценка изменений в структуре цен в телефонной индустрии США;

2 изучение взаимосвязи между концентрацией аммония, скоростью течения и температурой воды в реках;

3 прогнозирование годовых объемов запасов;

4 прогнозирование количества действующих нефтяных скважин;

5 анализ количества построенных частных жилищных единиц;

6 анализ ежедневных наблюдений процентного роста количества единиц продаваемого товара;

7 анализ конкуренции между авиа- и железнодорожными перевозками;

8 прогнозирование уровня занятости;

9 анализ большого числа временных рядов энергопотребления для коммунальных предприятий;

10анализ эффектов стимулирования продаж потребительских продуктов;

11прогнозирование различных категорий гарантий качества продукции.

Пример 2. Аналитиком компании Y, был подготовлен временной ряд данных для производственного процесса, который необходимо спрогнозировать. Собранные им данные представлены в таблице 2, а соответствующий график показан на рис.7. Представляется, что метод Бокса-Дженкинса будет наиболее подходящим для обработки собранных данных.

Таблица 2 Значения выпусков продукции компании Atron

Рисунок 7- График данных по производственному процессу, интересующему компанию Atron

Начнем поиск пробной модели с анализа графика данных и графика функции выборочной автокорреляции, показанного на рис. 8. Исходный временной ряд данных характеризуется вариацией значений в окрестности фиксированного уровня, приблизительно равного 80, а значения коэффициентов автокорреляции быстро убывают до нуля. Исходя из этого, можно сделать вывод, что данный временной ряд является стационарным.

Рисунок 8 - Выборочная автокорреляционная функция для данных компании Atron

Первый выборочный коэффициент автокорреляции (-0,53) существенно отличается нуля для уровня 5%, поскольку находится вне диапазона

Автокорреляция для запаздывания в 2 периода ближе к пороговому значению для уровня 5% и противоположна по знаку автокорреляции r 1 на интервале 1. Остальные автокорреляции малы и находятся в рамках установленных предельных ошибок. Можно предположить, что подобная структура коэффициентов автокорреляции соответствует либо модели AR(1), либо, что также допустимо, модели МА(2), если считать, что автокорреляции отсекаются (неотличимы от нуля) уже после второго интервала. В результате принимаем решение проанализировать график функции выборочной частной автокорреляции, показанный на рис. 9.

Рисунок 9 - Выборочная частная автокорреляционная функция для данных компании

Заметим, что первый коэффициент частной автокорреляции (-0,53) значительно отличается от нуля, но ни один из остальных коэффициентов частной автокорреляции не приближается к уровню значащего значения. . В результате приходим к заключению, что поведение функций выборочной автокорреляции и выборочной частной автокорреляции соответствует модели AR(1) (или, что то же самое, ARIMA(1,0,0)), однако чтобы полностью исключить риск, смоделируем данные также с помощью модели МА(2) (или АRIМА(0,0,2)). Если обе модели окажутся адекватными, возможно выбрать лучшую модель, исходя из принципа экономии (Принцип экономии состоит в предпочтении простой модели более сложной).

Постоянное слагаемое включено в обе модели, чтобы учесть тот факт, что данные изменяются в окрестности уровня, отличного от нуля (если бы данные выражались как отклонение от выборочного среднего, то в обеих моделях постоянное слагаемое было бы ненужным).

Обе модели показали хорошее соответствие данным. Оцененные коэффициенты значительно отличаются от нуля. Среднеквадратические ошибки сходны.

МА(2):s 2 =135,1

AR(1):s 2 =137,9.

Прогнозы на один и два периода вперед для двух этих моделей отличаются в некоторых деталях, однако прогнозы на три периода вперед (период 78) весьма близки. При фиксированном источнике для предсказаний, прогнозы для стационарных процессов становятся, в конечном счете, равны предполагаемому среднему уровню. В рассматриваемом случае предполагаемый средний уровень приблизительно равен ϻ = 75 для обеих моделей. m -статистика Льюинга-Бокса (модифицированная статистика Бокса-Пирса) незначительна для коэффициентов корреляции на интервалах т = 12, 24, 36 и 48 для обеих моделей. Отдельные остаточные коэффициенты автокорреляции малы и находятся в рамках их предельных ошибок. Остаточная автокорреляционная функция для модели МА(2) аналогична. Не вызывает сомнений тот факт, что ошибки случайны в обеих этих моделях.

Поскольку модель AR(1) имеет два параметра (включая постоянное слагаемое), а модель МА(2) - три (включая постоянное слагаемое), то, в соответствии с принципом экономии, для прогноза будущих значений данных решил воспользоваться более простой моделью AR(1).

Уравнение прогноза AR(1) будет иметь вид

ŷ t = 115,842 + (-0,538) y t -1 = 115,842 - 0,538 y t -1 ,так что для периода 76

ŷ t = 115,842 - 0,538 y 75 = 115,842 - 0,538(72) = 77,11.

Помимо этого, прогноз на два периода вперед будет следующим.

ŷ 77 = 115,842-0,538 y 76 = 115,842-0,538(77,11) = 74,3.

Пример 3. Аналитик компании Atron, решил воспользоваться методом Бокса-Дженкинса для прогнозирования ошибок (отклонения от намеченных объемов производства компании), обнаруживаемых при контроле качества производственного процесса, находящегося под его управлением. Соответствующие данные приведены в таблице 3, а график этого временного ряда ошибок показан на рис. 10.

Таблица 3 Ошибки, обнаруженные при контроле качества в компании Atron (произв. 1)

Период (П)

Рисунок 10 - Ошибки (отклонения от намеченных значений объемов), обнаруженные при контроле качества в компании Atron

Начнем процесс определения модели с изучения графика временного ряда ошибок, а также проверки функций автокорреляции и частной автокорреляции, показанных на рис. 11 и 12.

Рисунок 11 - Функция выборочной автокорреляции для данных контроля качества компании Atron

Рисунок 12 - Функция выборочной автокорреляции для данных контроля качества

Графики временного ряда и автокорреляционных функций указывают на стационарность данного ряда. Поскольку имеется только один значимый коэффициент автокорреляции (для интервала 1, значение-0,50), а все остальные коэффициенты малы и находятся в рамках принятого диапазона незначимости, можно считать, что выборочные коэффициенты автокорреляции отсекаются уже после первого интервала.

График частной автокорреляции начинается со значимого значения для интервала 1, причем первые три коэффициента выборочной частной автокорреляции отрицательны и плавно затухают возле нуля. Можно сделать вывод, что поведение выборочных коэффициентов автокорреляции и частной автокорреляции весьма сходно с теоретическими показателями для процесса МА(1) (или ARIMA(0,0,1)). Приходим к заключению, что исследуемый временной ряд можно описать с помощью модели МА(1).

Параметры в модели МА(1) оцениваются как ϻ = 0,1513 и ω 1 =0,5875. Каждый из них существенно отличается от нуля. Функция остаточной автокорреляции показана на рис. 13, а ᵡ 2 -статистика Льюинга-Бокса (модифицированная статистика Бокса-Пирса) указывает на случайность ошибок.

Рисунок 13 - Автокорреляционная функция для остатков модели МА(1)

Уравнение прогноза по модели МА(1) будет следующим:

ŷ t = ϻ - ω 1 ε t -1 ,

где ε t-1 оценивается с помощью соответствующего остатка e t-1 . Для прогноза ошибки (отклонения от намеченных цифр) на период 91 нужен остаток для периода 90, e 90 = -0,4804. Вычисляем следующее:

ŷ 91 = 0,1513 - 0,5875(-0,4804) = 0,4335.

Прогноз относительно ошибки контроля качества в период 92 является просто предполагаемым средним ряда, так как, в начале прогноза t = 90, наилучшей оценкой порядка ошибки в период 91, ε 91 , является нуль. Таким образом,

ŷ 92 = 0,1513 -0,5875(0) = 0,1513.

Пример 4. Интерес представляет прогнозирование ошибок при контроле качества объема выпусков другого производства компании Atron. Попробуем применить метод Бокса-Дженкинса, с этим данным (таблица 4), а график этого временного ряда представлен на рис. 14.

Таблица 4. Ошибки, обнаруженные при контроле качества в компании Y (произв. 2)

Рисунок 14 - Ошибки (отклонения от намеченных цифр) контроля качества

Общий вид графиков исходного временного ряда и функции выборочной автокорреляции (рис. 15) наводит на мысль о том, что исходный ряд ошибок контроля качества является стационарным. Значения ошибок колеблются около фиксированного уровня - нуля, а автокорреляции быстро и плавно затухают.

Рисунок 15 - Выборочные автокорреляции для данных контроля качества

Отметим, что два первых коэффициента автокорреляции существенно отличны от нуля и, что, при прочих равных условиях, более важно, коэффициенты автокорреляции для первых нескольких интервалов затухают подобно тому, как это определено в теоретическом описании процессов типа AR(1). Проанализируем также график функции выборочной частной автокорреляции, представленный на рис. 16. Все коэффициенты частной автокорреляции, кроме первого, практически незначимы. В совокупности структура функций выборочной автокорреляции и выборочной частотной автокорреляции точно соответствовала процессам типа AR(p). Поэтому представляется, что данные ряда ошибок (отклонений от намеченных значений выпусков) можно адекватно смоделировать как процесс AR(1) или же ARIMA(1,0,0).

Рисунок 16 - Выборочные частные автокорреляции для данных контроля качества

Поскольку выборочное среднее ряд ошибок чрезвычайно мало (порядка нуля) по сравнению со стандартным отклонением, в модель не будет включен постоянный член.

Параметр модели AR(1) оценивается как φ 1 =0,501 и значительно отличается от нуля (t = 5,11). Остаточная среднеквадратическая ошибка s 2 = 1,0998. ᵡ 2 -статистика Льюинга-Бокса и график функции остаточной автокорреляции (рис. 17) позволяют предположить, что найденная модель адекватна. Нет никаких причин сомневаться в соблюдении основного требования к значениям ошибок.

Рисунок 17 - Автокорреляционная функция для модели AR(1)

Уравнение прогноза имеет следующий вид:

ŷ t = 0,501y t-1 .

Таким образом, прогнозы на периоды 81 и 82 будут следующими:

ŷ 81 = 0,501y 80 = 0,501(1,06) = 0,531

ŷ 82 = 0,501y 81 = 0,501(0,531) = 0,266.

Опробуем чуть более сложную модель, чтобы получить результаты, которые подтверждали бы выбор в пользу модели AR(1). Используем для анализа ошибок контроля качества дополнительный параметр и опробуем модель ARMA(1,1) (или ARIMA(1,0,1)). Последнее можно обосновать тем, что если выбранная прежде модель верна, то дополнительный параметр скользящего среднего в новой модели будет давать очень незначительный вклад.

Результаты моделирования исходного ряда данных на основе модели ARIMA(1,0,1) показали, что параметр МА(1) не слишком отличается от нуля (t = 1,04), а это означает, что в модели он не нужен. Конечно, поскольку это более общая модель, нежели модель AR(1), ее адекватность представления данных, по меньшей мере, такая же, что подтверждается значением s 2 = 1,0958 и случайным поведением остатков.

Пример 4. Рассмотрим прогнозирование объемов продаж компании Keytron. Имеются данные об объемах продаж за 115 месяцев. Эти данные, охватывающие период с января 1987 г. по август 1996 г., представлены в таблице 5

Таблица 5 Ежемесячные объемы продаж компании Keytron

Внимательно изучив временной ряд, график которого показан на рис. 18, можно обнаружить в нем, наряду с возрастающим трендом, отчетливо проявляющуюся сезонную структуру. Приходим к заключению, что данный ряд является нестационарным, и поэтому следует применить к нему сезонную модель ARIMA

Рисунок 18 - График объемов продаж компании

Определение модели данных начнем с изучения функции выборочной автокорреляции, график которой приведен на рис. 19. Коэффициенты автокорреляции при малых интервалах практически отсекаются уже после интервала 1, хотя присутствует и незначительный всплеск на интервале 3. Следует также отметить, что коэффициенты автокорреляции на интервалах сезонности, т.е. 12, 24 и 36 (последний не показан), значительны, но быстро затухают. Это указывает на нестационарность ряда и подтверждает результаты исследования графика исходного временного ряда.

Рисунок 19 - Функция выборочной автокорреляции для данных об объемах компании

Прежде чем продолжить поиск адекватной модели, вычислим разностный ряд в соответствии с сезонной структурой, чтобы проверить, не удастся ли преобразовать исходный ряд данных в стационарный.

Сезонная разность для периода S = 12 определяется следующим образом:

Δ 12 y t = y t - y t -12.

Первой сезонной разностью, вычисляемой для данных продаж компании Keytron, будет следующая:

y 13 - y 1 = 1757,6 - 1736,8 = 20,8.

На рис. 20 представлен график вычисленного ряда сезонных разностей.

Рисунок 20 - Сезонные разности для данных об объемах продаж компании

На рис. 21 и 22 приведены соответственно функции выборочной автокорреляции и выборочной частной автокорреляции для разностного ряда. Из рис. 19 следует, что сезонные разностные данные вполне можно считать стационарными, причем они колеблются около значения порядка 100. Коэффициенты автокорреляции имеют один значительный пик при интервале 12 (отсеченный), а коэффициенты выборочной частичной автокорреляции имеют значительные пики при интервалах 12 и 24, которые постепенно уменьшают» (затухают). Подобное поведение указывает на элемент МА(1) при интервале 12.

Рисунок 21 - График выборочной автокорреляции сезонных разностей данных об объемах продаж компании

Рисунок 22 - График выборочной частной корреляции сезонных разностей данных об объемах продаж компании

Выберем для данных модель вида ARIMA(0,0,0)(0,1,1). Подобная запись подразумевает следующее.

d =0- обычные разности

q =0- обычные слагаемые скользящего среднего

D = 1- сезонные разности на интервале 5-12

Q = 1- слагаемые сезонного скользящего среднего.

Поскольку сезонный разностный ряд изменяется около ненулевого уровня, в уравнение пришлось добавить постоянное слагаемое. Окончательная модель имеет следующий вид

y t - y t -12 =ϻ + ε t + ψ 1 ε t -12, (87)

где ϻ - средний уровень сезонного разностного процесса, а величина ψ - это сезонный параметр скользящего среднего.

График функции автокорреляции остатков представлен на рис. 23, а прогноз на следующие 12 месяцев продолжает график объемов продаж компании (рис. 24).

Рисунок 24 - Объемы продаж компании и прогнозы объемов продаж

Получаем, что первоначальная модель хорошо описывает структуру данных. ᵡ 2 - статистика Льюинга-Бокса для групп интервалов т = 12, 24, 36 и 48 не существенна, что показывает большое значение р. Автокорреляции остатков все одинаково малы без какой-либо видимой структуры.

Оцененными значениями параметров были ϻ = 85,457 и ψ = 0,818. Исходя из значений этих величин, уравнение (87), разрешаемое относительно y t , будет иметь следующий вид:

y t = y t -12 + 85,457 + 0,818ε t -12.

Прогнозируя продажи на период 116, приравниваем t = 116 и видим, что для периодов, на которые делается прогноз, лучшим предполагаемым значением ε 116 (ошибка на следующий период) будет нуль. Таким образом, уравнением прогноза будет

ŷ 116 = y 114 + 85,147 - 0,818e 104 ,

где e 104 - это остаток (оценка ошибки) для периода 104.

ŷ 116 = 2275 + 85,457 - 0,818(-72,418) = 2419,7. Аналогичным образом

ŷ 117 = y 105 + 85,457-0,8186,05e 105

ŷ 117 = 2581,8 + 85,457 - 0,818(119,214) = 2504,3.

Прогнозы полностью соответствуют поведению ряда. Можно предположить правильность описания сезонной структуры и в скором времени в компании будет отмечен рост объемов продаж.

Литература

1. Кендэл М. Временные ряды. - М.: "Финансы и статистика", 1981.

2. Рунова Л.П., Рунов И.Л. Анализ временных рядов и прогнозирование. Учебно-методические материалы по дисциплине “Методы социально-экономического прогнозирования” для студентов

са специальности “Математические методы в экономике”. Ростов-на-Дону, РГУ, 2006.

2. Скучалина Л. Н., Крутова Т. А. Организация и ведение базы данных временных рядов. Система показателей, методы определения, оценки прогнозирования информационных процессов. ГКС РФ. М., 1995.

Статистическое моделирование и прогнозирование. Учебное пособие / Под ред. А. Г. Гранберга. - М.:"Финансы и статистика", 1990.

Четыркин Е.Н. Статистические методы прогнозирования. -М.: ”Статистика”, 1975.