The R User Conference 2009 July 8-10, Agrocampus-Ouest, Rennes, France
Estimating Markovian Switching Regression Models in An application to model energy price in Spain
S. Fontdecaba, M. P. Mu?oz , J. A. Sànchez*
Department of Statistics and Operations Research Universitat Politècnica de Catalunya - UPC
* josep.a.sanchez@https://www.doczj.com/doc/f06358678.html,
Markovian Switching Models. An application to model energy price in Spain
1 Introduction & Objectives 2 Methodology 3 Data 4 Results 5 Conclusions
Outline
1. Introduction & Objectives 2. Methodology 3. Application to energy price 4. Results 5. Conclusions
2
Markovian Switching Models. An application to model energy price in Spain
1 Introduction & Objectives 2 Methodology 3 Data 4 Results 5 Conclusions
1. Introduction
The model we consider is of the MARKOVIAN SWITCHING (MS) type, originally defined by Hamilton (1989).
?MSVAR library - Krolszing (1998) (not available free acces: OX) ?MSVARlib - Bellone (2005) (Less user friendly) ?MSRegression - Perlin (2007) (Libraries in Matlab)
3
马尔可夫模型介绍（从零开始） （一）：定义及简介： 介绍（introduction） 通常我们总是对寻找某一段时间上的模式感兴趣，这些模式可能出现在很多领域：一个人在使用电脑的时候使用的命令的序列模式；一句话中的单词的序列；口语中的音素序列。总之能产生一系列事件的地方都能产生有用的模式。 考虑一个最简单的情况：有人(柯南？)试图从一块海藻来推断天气的情况。一些民间的传说认为“soggy”的海藻意味着潮湿（wet）的天气，“dry”的海藻预示着晴朗（sun）。如果海藻处于中间状态“damp”，那就无法确定了。但是，天气的情况不可能严格的按照海藻的状态来变化，所以我们可以说在一定程度上可能是雨天或是晴天。另一个有价值的信息是之前某些天的天气情况，结合昨天的天气和可以观察到的海藻的状态，我们就可以为今天的天气做一个较好的预报。 这是在我们这个系列的介绍中一个非常典型的系统。 ?首先我们介绍一个可以随时间产生概率性模型的系统，例如天气在晴天或者雨天之间变动。?接下来我们试图去预言我们所不能观察到的"隐形"的系统状态，在上面的例子中，能被观察到的序列就是海藻的状态吗，隐形的系统就是天气情况 ?然后我们看一下关于我们这个模型的一些问题，在上面那个例子中，也许我们想知道 1. 如果我们观察一个星期每一天的海藻的状态，我们是否能知相应的其天气情况 2. 如果给出一个海藻状态的序列，我们是否能判断是冬天还是夏天？我们假设，如果海藻干（d ry）了一段时间，那就意味着是夏天如果海藻潮湿（soggy）了一段时间，那可能就是冬天。 （二）：生成模式（Generating Patterns） ?确定的模式（Deterministic Patterns） 考虑交通灯的例子，一个序列可能是红-红/橙-绿-橙-红。这个序列可以画成一个状态机，不同的状态按照这个状态机互相交替
马尔柯夫转移矩阵法 马尔柯夫转移矩阵法-马尔柯夫过程和风险估计 由于风险过程常常伴随一定的随机过程，而在随机过程理论中的一种重要模型就是马尔柯夫过程模型。 马尔柯夫转移矩阵法-马尔柯夫预测法 马尔柯夫预测以俄国数学家A.A.Markov名字命名，是利用状态之间转移概率矩阵预测事件发生的状态及其发展变化趋势，也是一种随时间序列分析法。它基于马尔柯夫链，根据事件的目前状况预测其将来各个时刻（或时期）的变动状况。 1.马尔柯夫链。状态是指某一事件在某个时刻（或时期）出现的某种结果。事件的发展，从一种状态转变为另一种状态，称为状态转移。在事件的发展过程中，若每次状态的转移都仅与前一时刻的状态有关，而与过去的状态无关，或者说状态转移过程是无后效性的，则这样的状态转移过程就称为马尔柯夫过程。马尔柯夫链是参数t只取离散值的马尔柯夫过程。 2.状态转移概率矩阵。在事件发展变化的过程中，从某一种状态出发，下以时刻转移到其他状态的可能性，称为状态转移概率，只用统计特性描述随机过程的状态转移概率。 若事物有n中状态，则从一种状态开始相应就有n个状态转移概率，即。 将事物n个状态的转移概率一次排列，可以得到一个n行n列的矩阵： 3.马尔柯夫预测模型。一次转移概率的预测方程为： 式中：K——第K个时刻； S（K）——第K个时刻的状态预测； S（0）——对象的初始状态； P——一步转移概率矩阵。 应用马尔柯夫预测法的基本要求是状态转移概率矩阵必须具有一定的稳定性
马尔柯夫转移矩阵法-4.1马尔柯夫过程 在一个随机过程中，对于每一t0时刻，系统的下一时刻状态概率仅与t0时刻的状态有关，而与系统是怎样和何时进入这种状态以及t0时刻以前的状态无关（即所谓无后效性），这种随机过程称为马尔柯夫随机过程。 对随机过程X（t）取确定的n＋1个时刻t0＜t1＜t2＜…＜tn，对应实数x0，x1，x2，…，xn，如果条件分布函数满足： 则随机过程X（t）即为马尔柯夫过程的数学描述。 依过程参数集和状态集的离散与连续性，马尔柯夫过程可分为马尔柯夫链－时间和状态均离散的过程、连续马尔柯夫链－时间连续和状态离散、连续马尔柯夫过程－时间连续和状态连续。 马尔柯夫转移矩阵法-4.2马尔柯夫过程与风险估计 从定义中可知，确定某一时刻的风险状态后，该风险转移的下一个状态所服从的概率规律，可以用马尔柯夫过程的数学描述估计出来。马尔柯夫风险过程的重要假定是在一定时间和客观条件下，风险状态的转移概率固定不变。转移概率是在给定时刻风险状态相关之下的下一时刻条件概率；转移概率构成的矩阵称为转移矩阵，矩阵中各元素具有非负性，而且行的和值为1。 例如某雷达每次开机状态记录如表4所示。由于雷达下一次开机状态只与现在的开机状态有关，而与以前的状态无关，所以它就形成了一个典型的马尔柯夫链。 取P11—开机连续正常状态的概率，P12—由正常状态转不正常的概率，P21—由不正常状态转正常的概率，P22—开机连续不正常状态的概率。由表4可知，在23次开机状态统计中，11次开机正常，3次连续正常，7次由正常转不正常；12次开机不正常，4次连续不正常，8次由不正常转正常；由于最后一次统计状态是开机正常状态，没有后继状态，所以P11＝3／（11－1）＝0.3，P12＝7／（11－1）＝0.7，P21＝8／12＝0.67，P22＝4／12＝0.33因为最后一次统计是正常状态，所以不正常状态的总数不减一。 表4某雷达每次开机状态记录表 类别开机次序 1234567891011121314151617181920212223
马尔科夫转移矩阵法 1.工具名称 马尔科夫转移矩阵法是运用转移概率矩阵对市场占有率进行市场趋势分析的方法。比如：研究一个商店的累计销售额，如果现在时刻的累计销售额已知，则未来某一时刻的累计销售额与现在时刻以前的任一时刻的累计：销售额都无关。 2.工具使用场合/范围 单个生产厂家的产品在同类商品总额中所占的比率，称为该厂产品的市场占有率。在激烈的竞争中，市场占有率随产品的质量、消费者的偏好以及企业的促销作用等因素而发生变化。企业在对产品种类与经营方向做出决策时，需要预测各种商品之间不断转移的市场占有率。 市场占有率的预测可采用马尔科夫转移矩阵法 3.工具运用说明： 在马尔科夫分析中，引入状态转移这个概念。所谓状态是指客观事物可能出现或存在的状态；状态转移是指客观事物由一种状态转穆到另一种状态的概率。 马尔科夫分析法的一般步骤为： ①调查目前的市场占有率情况； ②调查消费者购买产品时的变动情况； ③建立数学模型； ④预测未来市场的占有率。 二、马尔科夫分析模型 实际分析中，往往需要知道经过一段时间后，市场趋势分析对象可能处于的状态，这就要求建立一个能反映变化规律的数学模型。马尔科夫市场趋势分析模型是利用概率建立一种随机型的时序模型，并用于进行市场趋势分析的方法。 马尔科夫分析法的基本模型为： X(k+1)=X(k)×P 式中：X(k)表示趋势分析与预测对象在t=k时刻的状态向量，P表示一步转移概率矩阵，X(k+1)表示趋势分析与预测对象在t=k+1时刻的状态向量。 必须指出的是，上述模型只适用于具有马尔科夫性的时间序列，并且各时刻的状态转移概率保持稳定。若时间序列的状态转移概率随不同的时刻在变化，不宜用此方法。由于实际的客观事物很难长期保持同一状态的转移概率，故此法一
马尔科夫转移矩阵法(一) 专业培训解决方案与企业管理咨询服务商地址:廣州市花城大道5號南天廣場龍庭閣2006室电话：862022223190；2222319122223192；22223193传真：862022223196網址：xxxxxx邮件:xxxxxx一、马尔科夫转移矩阵法的涵义单个生产厂家的产品在同类商品总额中所占的比率，称为该厂产品的市场占有率。在激烈的竞争中，市场占有率随产品的质量、消费者的偏好以及企业的促销作用等因素而发生变化。企业在对产品种类与经营方向做出决策时，需要预测各种商品之间不断转移的市场占有率。市场占有率的预测可采用马尔科夫转移矩阵法，也就是运用转移概率矩阵对市场占有率进行市场趋势分析的方法。马尔科夫是俄国数学家，他在20世纪初发现：一个系统的某些因素在转移中，第n次结果只受第n-1的结果影响，只与当前所处状态有关，与其他无关。比如：研究一个商店的累计销售额，如果现在时刻的累计销售额已知，则未来某一时刻的累计销售额与现在时刻以前的任一时刻的累计：销售额都无关。，在马尔科夫分析中，引入状态转移这个概念。所谓状态是指客观事物可能出现或存在的状态；状态转移是指客观事物由一种状态转穆到另一种状态的概率。马尔科夫分析法的一般步骤为：①调查目前的市场占有率情况；②调查消费者购买产品时的变动情况； ③建立数学模型；④预测未来市场的占有率。二、马尔科夫分析模型实际分析中，往往需要知道经过一段时间后，市场趋势分析对象可能处于的状态，这就要求建立一个能反映变化规律的数学模型。马尔科
夫市场趋势分析模型是利用概率建立一种随机型的时序模型，并用于进行市场趋势分析的方法。
马尔科夫过程 马尔科夫过程可以看做是一个自动机，以一定的概率在各个状态之间跳转。 考虑一个系统，在每个时刻都可能处于N个状态中的一个，N个状态集合是{S1,S2,S3,...S N}。我们现在用q1,q2,q3,…q n来表示系统在t=1,2,3,…n时刻下的状态。在t=1时，系统所在的状态q取决于一个初始概率分布PI，PI(S N)表示t=1时系统状态为S N的概率。 马尔科夫模型有两个假设： 1. 系统在时刻t的状态只与时刻t-1处的状态相关；（也称为无后效性） 2. 状态转移概率与时间无关；（也称为齐次性或时齐性） 第一条具体可以用如下公式表示： P(q t=S j|q t-1=S i,q t-2=S k,…)= P(q t=S j|q t-1=S i) 其中，t为大于1的任意数值，S k为任意状态 第二个假设则可以用如下公式表示： P(q t=S j|q t-1=S i)= P(q k=S j|q k-1=S i) 其中，k为任意时刻。 下图是一个马尔科夫过程的样例图： 可以把状态转移概率用矩阵A表示，矩阵的行列长度均为状态数目，a ij表示P(S i|S i-1)。
隐马尔科夫过程 与马尔科夫相比，隐马尔科夫模型则是双重随机过程，不仅状态转移之间是个随机事件，状态和输出之间也是一个随机过程，如下图所示： 此图是从别处找来的，可能符号与我之前描述马尔科夫时不同，相信大家也能理解。 该图分为上下两行，上面那行就是一个马尔科夫转移过程，下面这一行则是输出，即我们可以观察到的值，现在，我们将上面那行的马尔科夫转移过程中的状态称为隐藏状态，下面的观察到的值称为观察状态，观察状态的集合表示为 O={O1,O2,O3,…O M}。 相应的，隐马尔科夫也比马尔科夫多了一个假设，即输出仅与当前状态有关，可以用如下公式表示： P(O1,O2,…,O t|S1,S2,…,S t)=P(O1|S1)*P(O2|S2)*...*P(O t|S t) 其中，O1,O2,…,O t为从时刻1到时刻t的观测状态序列，S1,S2,…,S t则为隐藏状态序列。 另外，该假设又称为输出独立性假设。 举个例子 举个常见的例子来引出下文，同时方便大家理解！比如我在不同天气状态下去做一些事情的概率不同，天气状态集合为{下雨，阴天，晴天}，事情集合为{宅着，自习，游玩}。假如我们已经有了转移概率和输出概率，即P(天气A|天气B)和P(事情a|天气A)的概率都已知道，那么则有几个问题要问（注意，假设一天我那几件事情中的一件）， 1. 假如一周内的天气变化是下雨->晴天->阴天->下雨->阴天->晴天->阴天，那么我这一周自习->宅着->游玩->自习->游玩->宅着->自习的概率是多大？ 2. 假如我这一周做事序列是自习->宅着->游玩->自习->游玩->宅着->自习，
马尔可夫状态转移组别动态因子模型的估计与应用 林建浩 中山大学岭南学院 （详细摘要） 结合马尔可夫状态转移（Hamilton，1989）、动态因子（Stock and Watson，1989，1991，1993）以及组别因子（Goyal et al., 2008；Hallin and Liska，2011）三种建模思想，本文提出一种马尔可夫组别动态因子（MS-GS-DF）模型。该模型以动态共同因子刻画经济变量的协动性，同时区分了不同类型经济体共同因子的组别覆盖性，并通过马尔可夫状态转移刻画经济变量在不同状态下的非对称转换。不同于Goyal et al.（2008）与Hallin and Liska（2011）假定组别因子之间相互独立，本文模型设定两种途径以刻画组别因子之间的相关关系：一是在组别因子的V AR形式中允许一种类似于Granger因果关系的存在；二是通过假定组别因子的均值和（或）方差由相同的状态变量驱动而存在相关。该模型具有较高的灵活性，可以刻画原有模型不能刻画的许多经济现象，在宏观经济分析以及证券市场研究中有重要的应用价值。例如，可用于研究经济变量在跨地区、分组别的非线性协动关系；也可用于分析一致指数、滞后指数以及领先指数等三大宏观景气指标的协同运动。 MS-GS-DF模型可以写成包含马尔可夫区制转移参数的状态空间模型形式。此时，参数的非线性性质使得标准的Kalman滤波不再适用；Lam算法通过将部分状态向量的初始成分视为待估参数，可以精确地得到极大似然估计，但这一方法需要很高的计算成本与较大的数据量。针对这些局限性，本文尝试结合Kim算法的基本框架进行不可观测成分与模型参数的估计，具体过程为：首先，假定参数已知，利用Kalman滤波获得不可观测成分（包括分组因子与特定误差项）的滤波推断；其次，利用Hamilton滤波获得马尔可夫状态转移概率的滤波推断；再次，根据Kim（1994，1999）的近似方法，对各种可能状态的条件信息近似化简为M种状态的非条件信息，同时得到近似似然函数；最后，通过非线性数值优化方法获得参数的近似极大似然估计。 最后，基于上述MS-GS-DF模型，本文研究了通货膨胀的国际协动性现象。在对1995M1至2011M2通货膨胀数据的实证研究中，以美国、欧元区、日本以及加拿大等发达经济体构造第一组别通胀因子，以金砖四国作为新兴经济体构造第二组别通胀因子，得到以下发现：第一，金砖四国通货膨胀共同因子的均值和方差都大于发达经济体；第二，平滑概率显示全球经济在样本期大部分时间处于通胀状态，只是在2001年网络泡沫破灭以及2008年金融危机等个别月份出现通缩状态；第三，通过计算国别通货膨胀序列与通胀共同因子的相关系数以及方差贡献比例，发现发达经济体通货膨胀具有较高的国际协动性，而金砖四国则明显以国别特殊性为主。上述发现为不同类型经济合作组织的货币政策国际协作提供了依据。