时间序列分析与预测模型

1-1 时间序列分析与预测心得报告 所谓时间序列分析(Time Series Analysis)，乃探讨一串按时序列间的关系，并籍由此 关系前瞻至未来。时间序列分析模式是计量经济模式的一般化，可分为狭义及广义。狭 义的时间序列分析是 Box and Jankins在 1961年所提出的 ARIMA模式和后人延伸的 ARIMA相关系统；广义的时间序列除了 ARIMA及其相关体系外，还包括趋势预测、时间 序列分解、谱系分析及状况空间分析等模式。其中，ARIMA转移函数为高度一般化的模 式，其特例简化为自我回归模式及多项式递延落差模式；而向量 ARIMA模式更可简化为 联立方程式模式。ARIMA、ARIMA转移函数及向量 ARIMA构成了 ARIMA系统。 事实上，除了 ARIMA模式外，尚有其他可用以预测外生变数之统计模式，但每种模式皆 适用于不同的研究特性，如表 4.1-1所示。表中，依模式误差、变数性质、资料特性， 可产生六种不同情况的组合，每一组合的预测，均有适当的统计模式可用。 预测模式之适用场合 模式依特性可分为非随机模式和随机模式。非随机模式(Non-stochastic Model)的误差 项背后无随机过程的假定，亦即时间序列不是由随机过程产生。典型的非随机模式为趋 势预测模式。这种模式非常单纯，仅用一个数学函数，配适在所观察到的时间序列上， 再用函数的特性，产生未来的预测。趋势预测模式有误差项，假定遵循 NID(0, 2)。 非随机模式的特例为确定性模式(Deterministic Model)，模式中无误差项，纯为数学 结构，不是统计推理的应用，没有假说检定，也没有常态分配的观念存在。典型的确定 性模式，就是时间序列分解模式。这种模式用数学的方式，将时间序列分解成长期趋势、 循环变动、季节变动、不规则变动。预测时，舍弃不规则变动，将其他三个因子分别预 测至未来，再组合起来即得。 另一类模式是随机模式(Stochastic Model)，假定所观察到的时间序列是一个随机样 本，共有 T个观察值，抽取自我一个随机过程（Stochastic Process）。随机模式中， 时间序列是样本，而随机过程是母体。ARIMA体系内的所有模式，包括 ARIMA、ARIMAT、 SARIMA、SARIMAT，均属随机模式。 变数依特性可分为外生变数与内生变数。外生变数（Exogenous Variable）不受其他变 数影响，内生变数（Endogenous Variable）是会受其他变数的影响。奱数之外生性或 内生性，不是与生具来的本质，而要视在研究架构中所扮演的角色。例如，行销研究中， 单位需求受国民所得的影响，国民所得为外生变数；而在经济研究中，国民所得受消费、 投资、政府支出的影响，故国民所得为内生变数。同样是国民所得，在两个研究领域中 所扮演的角色，郄截然不同。不过，这两个研究郄彼此相关，行销研究预测市场需求时， 资料特性 模式特性 变数特性 连续性 季节性 非随机性 外生变数 趋势预测 时间序列分解 随机性 外生变数 ARIMA SARIMA 内生变数 ARIMAT SARIMAT 1-2 要先预测经济环境，而经济环境的预测，是由经济研究完成的。 资料依特性可分为连续性资料（Consecutive Data）与季节性资料（Seasonal Data）， 连续性资料不会定期循环，季节性资料则会定期循环。年资料因不会产生定期循环，大 多为连续性资料。而季资料、月资料，是否为季节性资料，就要视是否会产生定期循环 而异了。例如，可乐销售量月资料，会产生夏天高、冬天低的定期循环，属季节性资料； 而利率月资料，不会有定期循环的情况产生，属连续性资料。 ARIMA有狭义与广义之分。狭义指 ARIMA模式。而广义则指 ARIMA体系，包括四个模式， 分别为 ARIMA模式、ARIMAT模式、SARIMA模式、SARIMAT模式。仅提 ARIMA，未特别指 明是哪一个模式的话，基本上，视为广义的 ARIMA，泛指四个模式中的一个。 兹以每人牛奶用量预测为例，说明 ARIMA体系的应用。长期预测适合以年资料为基础， 如以过 30年资料预测未来 5年，解释变数为国民所得，早期所得低时，消费者喝不起 牛奶，量会较少。短期预测适合以月资料为基础，如以过去 36个月资料预测未来 3个 月，解释变数则为月均温，天气热时，每人用量会较多。 ARIMA与 AIRMAT适用于以年资料产生长期预测。ARIMA模式适用于外生变数、连续性资 料之预测，可用以预测国民所得。ARIMAT为 ARIMA转移函数（Transfer Function），适 用于内生变数、连续性资料之预测，可用以估计每人用量与国民所得之转移函数，并将 国民所得预测代入转移函数，产生每人用量预测。 SARIMA与 SAIRMAT适用于以月资料产生短期预测。SARIMA模式为季节性 ARIMA（Seasonal ARIMA）模式，适用于外生变数、季节性资料之预测，可用以预测月均温。SARIMAT为季 节性 ARIMA转移函数（Seasonal ARIMA Transfer Function）模式，适用于内生变数、 季节性资料之预测，可用以估计每人用量与月均温之转移函数，并将月均温预测代入转 移函数，产生每人用量预测。 模型设定与估计: ARIMA (p,d,q)模式，如下所示：      tqq221tdpp221 eBBB1YBBB1   ARIMA(p,d,q)模式可改写为： d之辨认 d是序列之差分阶数，通常可藉由序列之趋势图加以判定，若趋势为水平，则设定 d=0； 若趋势为直线，则不论是直线上升或直线下降，皆设定 d=1；若趋势为二次式，皆设定 d=2。 在辨认 d值之后，应对原始序列进行差分 d阶之工作。将差分后之序列(dYt)减去差分 后之均值()，即产生一差分后之新序列 yt，亦即 yt=dYt-μ。差分之目的，就是在使 新序列 yt满足定态之要求。 (p,q)之辨认 模式设定之第二个步骤是(p,q)之辨认，依据准则是 ACF、PACF等二图之型式，在辨认 (p,q)时，应先检验模式是否为单纯 AR(p)或单纯 MA(q)模式，若二者皆不是，便可判定     tqq221tpp221 eBBB1yBBB1      tt eBy)B(  1-3 模式为 ARMA(p,q)。 (p,q)辨认准则 下图，由于 ACF为尾部收敛， PACF皆在一阶后切断，故可辨认出模式为 AR(1)。 图 1 单纯 AR之相关函数 另一方面，根据辨认准则，单纯 MA之相关函数如图 9.8-3所示。若 ACF在 q阶后切断， PACF皆为尾部收敛，则可辨认出模式为 MA(q)。图中，由于 ACF 在一阶后切断， PACF 皆为尾部收敛，故可辨认出模式为 MA(1)型式。 图 2 单纯 MA之相关函数 然而，若 ACF、PACF等二图都没有明显的切断点时，序列很可能属于 ARMA(p,q)模式。 遇到 ARMA(p,q)模式时，实务上可用试误法(Try and Error)。将所有可能的模式分别进 行分析，最后由模式诊断来判定何者较为合适。 或者，从差分后之序列的自我相关系数估计值可以观察出。以自我相关系数估计值落在 信赖区间外之最大落差项为 q。 为要考验落差项高于 q之自我相关系数是否为零，可用 Bartlett计算第 k项落差(k>q) 之自我相关系数(rk)之变异数，并假设 rk为为一平均值为零之常态分配变数，从而建 立一个信赖区间。Bartlett公式如下： 相关函数 模式 ACF IACF PACF AR(p) 尾部收敛 p阶后切断 p阶后切 断 MA(q) q阶后切断 尾部收敛 尾部收敛 ARMA(p,q) 尾部收敛 尾部收敛 尾部收敛 +1 -1 0 i 0 1 2  AC +1 -1 0 i1 2  PAC 3 (a) ACF (b) PACF +1 -1 0 i 0 1 2  AC +1 -1 0 i1 2  PAC 3 (a) ACF (b) PACF 1-4 自我相关系数在此信赖区间内则模型建立正确。 (二)模型诊断 有关模型设定是否正确可用 Q检验值来诊断如果模型之设定正确时，检验值 将是卡方分配自由度为 K-p-q，即 (K-p-q)。其中 为误差项 之 )ˆ( 1 2   K K arnQ 2 x k r )ˆ(a a ˆ 自我关系数估计值 p和 q为 AR及 MA之级次，K为检验配适度时所使用之落差个数。  )21( 1 )r( 1 2 k    q j j r n Var 1-5 时间数列分析与预测讲习会 许可达 一、前言 本讲习会于二十余年前由刁锦寰院士创办，目的在训练政府部门与统计相关业务人员及 大学中教授统计或计量经济学的教师。 二、研讨会主要主 题 快递公司问题件快递公司问题件货款处理关于圆的周长面积重点题型关于解方程组的题及答案关于南海问题 与内容 本次讲习会的师资有刁锦寰及蔡瑞胸院士两位院士，陈江、林金龙与韦端三位教授，课 程之内容则包括 1. Multivariate Normal and notations 2. Vector MA Models 3. Vector AR Models 4. Vector ARMA and nonstationary models 5. Over-differencing issues 6. Specification of Mixed models 7. Estimation of VARMA models 8. Forecasting of VARMA models 9. Seasonal VARMA models 10. Volitility Models 11. Principal Component and Canonical Analysis 12. Canonical Correlations Analysis 13. Scalar Component Model 14. Causality Testing 15. Taiwan Macro Models 三、研究理念或发表动机 本人研究之主要领域牵涉及汇率与利率资料的处理，在研究方法上必然牵涉到时间数列 的问题。加以本人所开设的课程包含研究所的数量方法，因本人并非学习计量经济学出 身，有必要再行进修研习以带给同学更加充实的课程内容。 四、研习过程与心得 统计分析可大别为 model-based 与 non-model-based。时间数列分析属于后者。所谓时间 数列为储存为相同时间间距的资料。某些资料，如销售资料，虽然本身并非时间数列， 但可储存为时间数列的形式。时间数列分析的目的如下： 1. Forecasting 2. Understanding Relationship 3. Impact Analysis 4. Control 但单变量时间数列忽略第 2、3、4项，故需从事多变量时间数列分析。 早在 1920年代，Udny Yule发展了一套对平稳时间数列非常有效的模型，即移动平均模 型（Moving Average Model）及自我回归模型（Autoregressive Model）。 一个多变量MA（q）可表为   t q q t aBBBIz ~ 2 2 1 1 ~   如果所有的 都是上三角或是下三角，表示可能有单向关系。在MA时，一个 Shock j  的效果消失很快。 1-6 一个多变量 AR（p）可表为   t t p P azBBBI ~~ 2 2 1 1   如果所有的 都是上三角或是下三角，表示可以有单向的表示方式。在 AR时，一个 j  Shock的效果消失缓慢。 1970年Box与 Jenkins提出进阶的建模技术并且以递回的方式对时间数列资料建构模型， 称为 ARIMA模型，一个多变量 ARMA（p,q）可表为     t q q t p P aBBBIzBBBI ~ 2 2 1 1 ~ 2 2 1 1   递回的方法主要分为三个步骤：一、暂定模型（Model Identification）二、对未知参数作 有效的估计（Efficient Estimation）三、诊断性检查（Model Checking）－若有必要回到 一重做。 在模型鉴定阶段的首要工作即判定 ARIMA（p,d,q）的阶数。一个资料数列如果并非平 稳型（nonstationary），则需整合（ intergrated）利用差分方法使数列成为平稳型（stationary）。 我们可利用数列的自我相关函数（ACF）来判定数列是否为平稳型。如数列为非平稳型， 其 ACF会维持许多期的正相关，且 ACF的值通常是很缓慢的递减到 0。若模型仅为 AR或是MA过程，则可利用样本的 ACF 及样本的偏自我相关 PACF（partial autocorrelation function）来作为判定 p与 q阶数的工 具。判别的标准如下： 其中截断的意义为样本的 ACF与 PACF仅仅只有少数几阶显着，而通常是以两倍的标准 差做为判断显着的依据。 以上方法只适用于单纯的MA或 AR，如果 p与 q的阶数均不为 0，即混合模型时，则 无法适用。另外，ACF与 PACF仅适用于平稳型的时间数列。1984年蔡瑞胸与刁锦寰提 出一种可同时鉴定平稳型与非平稳型的混合ARIMA模型的方法。他们发明了一种EACF 表，称为「延伸自我相关函数」（extended autocorrelation function, EACF）。经由 EACF 可判定 ARMA（p,q）适合的最大阶数，但有时并非唯一。可利用 EACF来判断一些（p,q） 可能的集合，然后由其中选择一最适合的模型。因为，EACF仅能建议我们一些合理的 模型。 作了以上的判定之后，指定模型的型态，接着进行参数估计的工作。参数估计的方法有 CONDITIONAL与 EXACT。CONDITIONAL法是 1970年 Box与 Jenkins所提出的，利 用最大概似估计法所求出的，其概似函数为条件概似函数（conditional likelihood function）。另一种 EXACT法则是 1979年由 Hilmer与刁提出的，此法也是同样用概似 函数所求出，但不同的是此概似函数为确实概似函数（exact likelihood function），此法 是先假设 ，所以此法是”EXACT”在MA的参数上。建构模型的最后01  qpp aa 一步就是要检定估计出的模型是否符合两项前提：一、模型是否符合我们的假设前提？ 二、模型是否能解释资料的趋势？ 第二个问题需植根于对理论的了解。而第一项的答案就是要检定当初在建立 ARIMA模 ACF PACF MA（q） q期后截断 呈指数递减或正负相间 递减的形式 AR（p） 呈指数递减或正负相间 递减的形式 p期后截断 1-7 型时所建立的最基本假设，也就是误差项 数列必须符合常态且互相独立的假设，也就 t a 是假设为”白噪音”（white noise）数列。若检定的结果为否，则表示此模型不适合且必须 加以修正；若检定的结果为是，则表示此模型的残差数列应为互相独立的常态分布。检 定的方法有许多种，最简单的一种即是画出残差的时间数列图。另一个方法就是侦测残 差数列的 ACF，倘若残差为白噪音数列，则表示数列并没有任何显着的自我相关。检定 完成后，要注意参数的精简原则，即用到的参数越少越好。当初在估计参数时，如果有 不显着的参数应从模型中剔除以达到模型精简原则的要求。最后一旦决定了适合的模型 后，就可以利用此一模型进行预测。