1. 表5.1中给出了中国1980—2001年以城乡储蓄存款新增额代表的居民当年储蓄及以GNP 代表的居民当年收入的数据。以1991年为界，判断1991年前和1991年后的两个时期中国居民的储蓄—收入关系是否已发生变化。 表5.1 1980—2001年中国居民储蓄与收入数据 单位：亿元 年份 储蓄S GNP 年份 储蓄S GNP 1980 118.5 4517.8 1991 2072.8 21662.5 1981 124.2 4860.3 1992 2438.4 26651.9 1982 151.7 5301.8 1993 3217 34560.5 1983 217.1 5957.4 1994 6756.4 46670 1984 322.2 7206.7 1995 8143.5 57494.9 1985 407.9 8989.1 1996 8858.5 66850.5 1986 615 10201.4 1997 7759 73142.7 1987 835.7 11954.5 1998 7127.7 76967.2 1988 728.2 14922.3 1999 6214.3 80579.4 1989 1345.4 16917.8 2000 4710.6 88228.1 1990 1887.3 18598.4 2001 9430 94346.4 估计以下回归模型： 0123()i i i i i i Y X D D X u ββββ=++++ 其中i D 为引入的虚拟变量：1,19910,1991i D ?=?? 年前年后 对上面的模型进行估计，结果如下： 所以表达式为： 15350.0751981.90.032()i i i i i Y X D D X =+-+ (1.40) (4.45) (-1.38) (0.37)
[转载]logistic回归模型总结 logistic回归模型是最成熟也是应用最广泛的分类模型，通过学习和实践拟通过从入门、进阶到高级的过程对其进行总结，以便加深自己的理解也为对此有兴趣者提供学习的便利。 一、有关logistic的基本概念 logistic回归主要用来预测离散因变量与一组解释变量之间的关系 最常用的是二值型logistic。即因变量的取值只包含两个类别例如：好、坏；发生、不发生；常用Y=1或Y=0表示X 表示解释变量则 P（Y=1|X）表示在X的条件下Y=1的概率，logistic回归的数学表达式为： log（p/1-p）=A+BX ＝Ｌ其中p/1-p称为优势比（ＯＤＤＳ）即发生与不发生的概率之比 可以根据上式反求出P（Y=1|X）＝１/（１＋ｅ＾-L） 根据样本资料可以通过最大似然估计计算出模型的参数 然后根据求出的模型进行预测 下面介绍logistic回归在ＳＡＳ中的实现以及输出结果的解释 二、logistic回归模型初步
ＳＡＳ中ｌｏｇｉｓｔｉｃ回归输出结果主要包括预测模 型的评价以及模型的参数 预测模型的评价与多元线性回归模型的评价类似主要从以 下几个层次进行 （１）模型的整体拟合优度 主要评价预测值与观测值之间的总体一致性。可以通过以下两个指标来进行检验 １、Ｈosmer-Lemeshowz指标 HL统计量的原假设Ho是预测值和观测值之间无显著差异，因此HL指标的P-Value的值越大，越不能拒绝原假设，即说明模型很好的拟合了数据。 在ＳＡＳ中这个指标可以用LACKFIT选项进行调用 ２、AIC和SC指标即池雷准则和施瓦茨准则 与线性回归类似AIC和SC越小说明模型拟合的越好 （2）从整体上看解释变量对因变量有无解释作用 相当于多元回归中的F检验在logistic回归中可以通过似然比（likelihood ratio
第七章 非参数回归模型与半参数回归模型 第一节 非参数回归与权函数法 一、非参数回归概念 前面介绍的回归模型，无论是线性回归还是非线性回归，其回归函数形式都是已知的，只是其中参数待定，所以可称为参数回归。参数回归的最大优点是回归结果可以外延，但其缺点也不可忽视，就是回归形式一旦固定，就比较呆板，往往拟合效果较差。另一类回归，非参数回归，则与参数回归正好相反。它的回归函数形式是不确定的，其结果外延困难，但拟合效果却比较好。 设Y 是一维观测随机向量，X 是m 维随机自变量。在第四章我们曾引进过条件期望作回归函数，即称 g (X ) = E (Y |X ) （7.1.1） 为Y 对X 的回归函数。我们证明了这样的回归函数可使误差平方和最小，即 22)]([min )]|([X L Y E X Y E Y E L -=- （7.1.2） 这里L 是关于X 的一切函数类。当然，如果限定L 是线性函数类，那么g (X )就是线性回归函数了。 细心的读者会在这里立即提出一个问题。既然对拟合函数类L (X )没有任何限制，那么可以使误差平方和等于0。实际上，你只要作一条折线(曲面)通过所有观测点(Y i ，X i )就可以了是的，对拟合函数类不作任何限制是完全没有意义的。正象世界上没有绝对的自由一样，我们实际上从来就没有说放弃对L(X)的一切限制。在下面要研究的具体非参数回归方法，不管是核函数法，最近邻法，样条法，小波法，实际都有参数选择问题(比如窗宽选择，平滑参数选择)。 所以我们知道，参数回归与非参数回归的区分是相对的。用一个多项式去拟合(Y i ，X i )，属于参数回归；用多个低次多项式去分段拟合(Y i ，X i )，叫样条回归，属于非参数回归。 二、权函数方法 非参数回归的基本方法有核函数法，最近邻函数法，样条函数法，小波函数法。这些方法尽管起源不一样，数学形式相距甚远，但都可以视为关于Y i 的线性组合的某种权函数。也就是说，回归函数g (X )的估计g n (X )总可以表为下述形式： ∑==n i i i n Y X W X g 1 )()( （7.1.3）
多元线性回归模型 一、单项选择题 1.在由30n =的一组样本估计的、包含3个解释变量的线性回归模型中，计算得多重决定 系数为，则调整后的多重决定系数为（ D ） A. B. C. 下列样本模型中，哪一个模型通常是无效 的（B ） A. i C （消费）=500+i I （收入） B. d i Q （商品需求）=10+i I （收入）+i P （价格） C. s i Q （商品供给）=20+i P （价格） D. i Y （产出量）=0.6i L （劳动）0.4i K （资本） 3.用一组有30个观测值的样本估计模型01122t t t t y b b x b x u =+++后，在的显著性水平上对 1b 的显著性作t 检验，则1b 显著地不等于零的条件是其统计量t 大于等于（ C ） A. )30(05.0t B. )28(025.0t C. )27(025.0t D. )28,1(025.0F 4.模型 t t t u x b b y ++=ln ln ln 10中，1b 的实际含义是（ B ） A.x 关于y 的弹性 B. y 关于x 的弹性 C. x 关于y 的边际倾向 D. y 关于x 的边际倾向 5、在多元线性回归模型中，若某个解释变量对其余解释变量的判定系数接近于１，则表明 模型中存在（ C ） A.异方差性 B.序列相关 C.多重共线性 D.高拟合优度 6.线性回归模型01122......t t t k kt t y b b x b x b x u =+++++ 中，检验0:0(0,1,2,...) t H b i k ==时，所用的统计量 服从( C ) (n-k+1) (n-k-2) (n-k-1) (n-k+2) 7. 调整的判定系数 与多重判定系数 之间有如下关系( D ) A.2 211n R R n k -=-- B. 22111 n R R n k -=--- C. 2211(1)1n R R n k -=-+-- D. 2211(1)1n R R n k -=---- 8．关于经济计量模型进行预测出现误差的原因，正确的说法是（ C ）。 A.只有随机因素 B.只有系统因素 C.既有随机因素，又有系统因素 、B 、C 都不对 9．在多元线性回归模型中对样本容量的基本要求是(k 为解释变量个数)：（ C ） A n ≥k+1 B n 第七章 非参数回归模型与半参数回归模型 第一节 非参数回归与权函数法 一、非参数回归概念 前面介绍的回归模型，无论是线性回归还是非线性回归，其回归函数形式都是已知的，只是其中参数待定，所以可称为参数回归。参数回归的最大优点是回归结果可以外延，但其缺点也不可忽视，就是回归形式一旦固定，就比较呆板，往往拟合效果较差。另一类回归，非参数回归，则与参数回归正好相反。它的回归函数形式是不确定的，其结果外延困难，但拟合效果却比较好。 设Y 是一维观测随机向量，X 是m 维随机自变量。在第四章我们曾引进过条件期望作回归函数，即称 g (X ) = E (Y |X ) （7.1.1） 为Y 对X 的回归函数。我们证明了这样的回归函数可使误差平方和最小，即 22)]([min )]|([X L Y E X Y E Y E L -=- （7.1.2） 这里L 是关于X 的一切函数类。当然，如果限定L 是线性函数类，那么g (X )就是线性回归函数了。 细心的读者会在这里立即提出一个问题。既然对拟合函数类L (X )没有任何限制，那么可以使误差平方和等于0。实际上，你只要作一条折线(曲面)通过所有观测点(Y i ，X i )就可以了是的，对拟合函数类不作任何限制是完全没有意义的。正象世界上没有绝对的自由一样，我们实际上从来就没有说放弃对L(X)的一切限制。在下面要研究的具体非参数回归方法，不管是核函数法，最近邻法，样条法，小波法，实际都有参数选择问题(比如窗宽选择，平滑参数选择)。 所以我们知道，参数回归与非参数回归的区分是相对的。用一个多项式去拟合(Y i ，X i )，属于参数回归；用多个低次多项式去分段拟合(Y i ，X i )，叫样条回归，属于非参数回归。 二、权函数方法 非参数回归的基本方法有核函数法，最近邻函数法，样条函数法，小波函数法。这些方法尽管起源不一样，数学形式相距甚远，但都可以视为关于Y i 的线性组合的某种权函数。也就是说，回归函数g (X )的估计g n (X )总可以表为下述形式： ∑==n i i i n Y X W X g 1 )()( （7.1.3） 门限分位数自回归模型及在股市收益自相关分析中的应用 摘要：门限分位数自然回归模型是一种非限行分位数回归模型，其可以应用讨论系统之中的门限效应。并且在该模型之中，自然回归阶数以及门限值的确定等都将会为模型的分析效果带来直接的影响。本文主要对门限分位数自然回归模型以及其在股市收益中的相关应用做出分析，希望能够给予同行业的工作人员提供一定参考价值。 关键词：门限分位数；回归模型；股市收益；分析 股市收益的自相关性是金融市场研究中的一个重要问题，研究人员针对于理性预定理论提出了有效的市场假说，奠定了传统的金融学基础。有效的市场假说理论认为在一个有效的市场之中，股市的价格或者收益直接地反映了所有可能会获得的信息，过去的收益以及未来的收益并不相关，股市的收益则是不可以预测的，反而言之如果股市的收益在时间上是自相关的，那么历史收益是可以影响当前的收益的，这也直接表明了有效市场假说是难以成立的，可以采取序列自相关分析的方法，对其有效市场假说做出相应验证。 一、门限分位数自然回归模型的分析 1. 模型的表示分析 主要是记{ yt }作为其1 维响应的变量，然而x =(1,yt -1,yy -2,…,yt -p)T 主要是为p+1为向量组成的解释变量，然而{ yt }则是为1维门限的白能量，其自然回归模型之中的门限变量通常情况下是需要相应变量{ yt }的滞后项，而γ则表示为门限，其模型如下所示： 和均值自激励门限自然回归的模型进行对比，门限分位数自回归模型存在着下述的优点：一是信息刻画更加全面，回归系数估计在不同的分位点可能存在着不同的表型，同时不同阶段的变量之间关系更加细致。二是具有比较强的稳健性，和均值自激励门限自回归模型要求误差项服从特定分布的不同，其允许误差项服从一般的非对称的分布。 2. 模型的定阶 在门限分位数自然回归之中，最优滞后阶数p的选择是十分重要的，可以通过AIC的准确去进行实现，然而定义AIC的准则则是如下所示： 可以看出，AIC主要由两个部分所组成，一是可以反映出模型的拟合程度，主要是为前半段进行表示。二是反映出模型的复杂城市，则是经过后半段进行表示。 3. 门限效应的诊断检验分析 针对于门限效应而言，其诊断检验主要是包括了以下方面的内容：第一，门限效应存在性检验，主要检验两个阶段的门限效应 二、多元线性回归模型 在多要素的地理环境系统中,多个(多于两个)要素之间也存在着相互影响、相互关联的情况。因此,多元地理回归模型更带有普遍性的意义。 （一）多元线性回归模型的建立 假设某一因变量y 受k 个自变量k x x x ,...,,21的影响,其n 组观测值为(ka a a a x x x y ,...,,,21),n a ,...,2,1=。那么,多元线性回归模型的结构形式为: a ka k a a a x x x y εββββ+++++=...22110(3、2、11) 式中: k βββ,...,1,0为待定参数; a ε为随机变量。 如果k b b b ,...,,10分别为k ββββ...,,,210的拟合值,则回归方程为 ?=k k x b x b x b b ++++...22110(3、2、12) 式中: 0b 为常数; k b b b ,...,,21称为偏回归系数。 偏回归系数i b (k i ,...,2,1=)的意义就是,当其她自变量j x (i j ≠)都固定时,自变量i x 每变化一个单位而使因变量y 平均改变的数值。 根据最小二乘法原理,i β(k i ,...,2,1,0=)的估计值i b (k i ,...,2,1,0=)应该使 ()[]min (2) 1 2211012 →++++-=??? ??-=∑∑==∧ n a ka k a a a n a a a x b x b x b b y y y Q (3、2、13) 有求极值的必要条件得 ???????==??? ??--=??=??? ??--=??∑∑=∧=∧n a ja a a j n a a a k j x y y b Q y y b Q 110) ,...,2,1(0202(3、2、14) 将方程组(3、2、14)式展开整理后得: Logistic 回归模型 1 Logistic 回归模型的基本知识 1.1 Logistic 模型简介 主要应用在研究某些现象发生的概率p ，比如股票涨还是跌，公司成功或失败的概率，以及讨论概率 p 与那些因素有关。显然作为概率值，一定有10≤≤p ，因此很难用线性模型描述概率p 与自变量的关 系，另外如果p 接近两个极端值，此时一般方法难以较好地反映p 的微小变化。为此在构建p 与自变量关系的模型时，变换一下思路，不直接研究p ，而是研究p 的一个严格单调函数)(p G ，并要求)(p G 在p 接近两端值时对其微小变化很敏感。于是Logit 变换被提出来： p p p Logit -=1ln )( （1） 其中当p 从10→时，)(p Logit 从+∞→∞-，这个变化范围在模型数据处理上带来很大的方便， 解决了上述面临的难题。另外从函数的变形可得如下等价的公式： X T X T T e e p X p p p Logit ββ β+= ?=-=11ln )( （2） 模型(2)的基本要求是，因变量（y ）是个二元变量，仅取0或1两个值，而因变量取1的概率) |1(X y P =就是模型要研究的对象。而T k x x x X ),,,,1(21 =，其中i x 表示影响y 的第i 个因素，它可以是定性变量也可以是定量变量，T k ),,,(10ββββ =。为此模型(2)可以表述成： k x k x k x k x k k e e p x x p p βββββββββ+++++++= ?+++=- 11011011011ln （3） 显然p y E =)(，故上述模型表明) (1) (ln y E y E -是k x x x ,,,21 的线性函数。此时我们称满足上面条件 的回归方程为Logistic 线性回归。 Logistic 线性回归的主要问题是不能用普通的回归方式来分析模型，一方面离散变量的误差形式服从伯努利分布而非正态分布，即没有正态性假设前提；二是二值变量方差不是常数，有异方差性。不同于多元线性回归的最小二乘估计法则(残差平方和最小)，Logistic 变换的非线性特征采用极大似然估计的方法寻求最佳的回归系数。因此评价模型的拟合度的标准变为似然值而非离差平方和。 定义1 称事件发生与不发生的概率比为 优势比(比数比 odds ratio 简称OR)，形式上表示为 OR= k x k x e p p βββ+++=- 1101 （4） 定义2 Logistic 回归模型是通过极大似然估计法得到的，故模型好坏的评价准则有似然值来表征，称 多元线性回归模型公式 HUA system office room 【HUA16H-TTMS2A-HUAS8Q8-HUAH1688】 二、多元线性回归模型 在多要素的地理环境系统中，多个（多于两个）要素之间也存在着相互影响、相互关联的情况。因此，多元地理回归模型更带有普遍性的意义。 （一）多元线性回归模型的建立 假设某一因变量y 受k 个自变量k x x x ,...,,21的影响，其n 组观测值为 （ka a a a x x x y ,...,,,21），n a ,...,2,1=。那么，多元线性回归模型的结构形式为： a ka k a a a x x x y εββββ+++++=...22110（） 式中： k βββ,...,1,0为待定参数； a ε为随机变量。 如果k b b b ,...,,10分别为k ββββ...,,,210的拟合值，则回归方程为 ?=k k x b x b x b b ++++...22110（） 式中： 0b 为常数； k b b b ,...,,21称为偏回归系数。 偏回归系数i b （k i ,...,2,1=）的意义是，当其他自变量j x （i j ≠）都固定时，自变量i x 每变化一个单位而使因变量y 平均改变的数值。 根据最小二乘法原理，i β（k i ,...,2,1,0=）的估计值i b （k i ,...,2,1,0=）应该使 ()[]min ...212211012→++++-=??? ??-=∑∑==∧n a ka k a a a n a a a x b x b x b b y y y Q （） 有求极值的必要条件得 ???????==??? ??--=??=??? ??--=??∑∑=∧=∧n a ja a a j n a a a k j x y y b Q y y b Q 110),...,2,1(0202（） 将方程组（）式展开整理后得： ?????????????=++++=++++=++++=++++∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑===================n a a ka k n a ka n a ka a n a ka a n a ka n a a a k n a ka a n a a n a a a n a a n a a a k n a ka a n a a a n a a n a a n a a k n a ka n a a n a a y x b x b x x b x x b x y x b x x b x b x x b x y x b x x b x x b x b x y b x b x b x nb 11221211101 121221221121012111121211121011112121110)(...)()()(...)(...)()()()(...)()()()(...)()( （） 方程组（）式，被称为正规方程组。 如果引入一下向量和矩阵： 则正规方程组（）式可以进一步写成矩阵形式 B Ab =（3.2.15’） 数学建模第二次作业 例一：（线性模型） 针叶松数据该数据包含70棵针叶松的测量数据，其中y 表示体积（单位立方英尺），x 1为树的直径（单位：英寸），x 2为树的高度（单位：英尺）。 x 1 4.6 4.4 5.0 5.1 5.1 … 19.4 23.4 x 2 33 38 40 49 37 … 94 104 解答： （1）问题分析： 首先根据这组数据做自变量与因变量之间的关系图，如图1.1 。由图可知y 随x 1、x 2的增加而增加，从而可大致判断y 与x 1，x 2呈线性关系。判断是线性回归模型后进行细节的量纲分析，得出具体模型，从而利用已知的线性模型，借助R 软件求解出估计量0β，1β，β2的值得出最终结果。 图1.1 （2）模型基础 设变量Y 与变量X 1,X 2,…,XP 间有线性关系 Y=εββββ+++++P P X X X (22110) 其中N ~ε(0,2σ),P βββ,...,,10和2σ是未知参数，p ≥2，称上述模型为多元线性回归模型，则模型可以表示为： n i x x y i ip p i i ,...,2,1,...110=++++=εβββ 其中() 2,0σεN i ∈，且独立分布 即令 ? ???????????=n y y y y 21，??????????????=p ββββ 10，??? ? ? ? ? ???? ???=np n n p p x x x x x x x x x X ...1...1 (12) 1 222 21 11211 ，? ???????????=n εεεε 21 则多元线性回归模型可表示为 εβ+=X Y , 其中Y 是由响应变量构成的n 维向量，X 是n ?（p+1）阶设计矩阵，β是p+1维 向量，并且满足 E （ε）=0，Var （ε）=2σI n 与一元线性回归类似，求参数β的估计值β ?，就是求最小二乘函数 Q （β）= ()()ββX y X y T -- 达到最小的β的值。 β的最小二乘估计 () y X X X T T 1 ?-=β 从而得到经验回归方程 P P X X Y βββ????11+++= （3）问题求解： 由于体积与长度的量纲不一致，为了使等式两边量纲统一，首先利用excel 软件对数据进行预处理，即对y 进行三次开方的处理。 其中，选择线的性模型为：i i i i x x y εβββ+++=221103，i=1,…,70 3 y 计算结果如下表1.1 0β=0.0329 1β=0.1745 2β=0.0142 二分类Logistic 回归模型 在对资料进行统计分析时常遇到反应变量为分类变量的资料，那么，能否用类似于线性回归的模型来对这种资料进行分析呢？答案是肯定的。本章将向大家介绍对二分类因变量进行回归建模的Logistic 回归模型。 第一节 模型简介 一、模型入门 在很多场合下都能碰到反应变量为二分类的资料，如考察公司中总裁级的领导层中是否有女性职员、某一天是否下雨、某病患者结局是否痊愈、调查对象是否为某商品的潜在消费者等。对于分类资料的分析，相信大家并不陌生，当要考察的影响因素较少，且也为分类变量时，分析者常用列联表(contingency Table)的形式对这种资料进行整理，并使用2 χ检验来进行分析，汉存在分类的混杂因素时，还可应用Mantel-Haenszel 2 χ检验进行统计学检验，这种方法可以很好地控制混杂因素的影响。但是这种经典分析方法也存在局限性，首先，它虽然可以控制若干个因素的作用，但无法描述其作用大小及方向，更不能考察各因素间是否存在交互任用；其次，该方法对样本含量的要求较大，当控制的分层因素较多时，单元格被划分的越来越细，列联表的格子中频数可能很小甚至为0，将导致检验结果的不可靠。最后，2 χ检验无法对连续性自变量的影响进行分析，而这将大大限制其应用范围，无疑是其致使的缺陷。 那么，能否建立类似于线性回归的模型，对这种数据加以分析？以最简单的二分类因变量为例来加以探讨，为了讨论方便，常定义出现阳性结果时反应变量取值为1，反之则取值为0 。例如当领导层有女性职员、下雨、痊愈时反应变量1y =，而没有女性职员、未下雨、未痊愈时反应变量0y =。记出现阳性结果的频率为反应变量(1)P y =。 首先，回顾一下标准的线性回归模型： μ11m m Y x x αββ=+++L 如果对分类变量直接拟合，则实质上拟合的是发生概率，参照前面线性回归方程 ，很 自然地会想到是否可以建立下面形式的回归模型： μ11m m P x x αββ=+++L 显然，该模型可以描述当各自变量变化时，因变量的发生概率会怎样变化，可以满足 分析的基本要求。实际上，统计学家们最早也在朝这一方向努力，并考虑到最小二乘法拟合时遇到的各种问题，对计算方法进行了改进，最终提出了加权最小二乘法来对该模型进行拟合，至今这种分析思路还偶有应用。 既然可以使用加权最小二乘法对模型加以估计，为什么现在又放弃了这种做法呢？原因在于有以下两个问题是这种分析思路所无法解决的： （1）取值区间：上述模型右侧的取值范围，或者说应用上述模型进行预报的范围为整 个实数集(,)-∞+∞，而模型的左边的取值范围为01P ≤≤，二者并不相符。模型本身不能 二、多元线性回归模型 在多要素的地理环境系统中，多个（多于两个）要素之间也存在着相互影响、相互关联的情况。因此，多元地理回归模型更带有普遍性的意义。 （一）多元线性回归模型的建立 假设某一因变量 y 受 k 个自变量 x 1, x 2 ,..., x k 的影响，其 n 组观测值为（ y a , x 1 a , x 2 a ,..., x ka ）， a 1,2,..., n 。那么，多元线性回归模型的结构形式为： y a 0 1 x 1a 2 x 2 a ... k x ka a （） 式中： 0 , 1 ,..., k 为待定参数； a 为随机变量。 如果 b 0 , b 1 ,..., b k 分别为 0 , 1 , 2 ..., k 的拟合值，则回归方程为 ?= b 0 b 1x 1 b 2 x 2 ... b k x k （） 式中： b 0 为常数； b 1, b 2 ,..., b k 称为偏回归系数。 偏回归系数 b i （ i 1,2,..., k ）的意义是，当其他自变量 x j （ j i ）都固定时，自变量 x i 每变 化一个单位而使因变量 y 平均改变的数值。 根据最小二乘法原理， i （ i 0,1,2,..., k ）的估计值 b i （ i 0,1,2,..., k ）应该使 n 2 n 2 Q y a y a y a b 0 b 1 x 1a b 2 x 2a ... b k x ka min （） a 1 a 1 有求极值的必要条件得 Q n 2 y a y a b 0 a 1 （） Q n 2 y a y a x ja 0( j 1,2,..., k) b j a 1 将方程组（）式展开整理后得： 门限自回归模型及其在水文随机模拟中的应用* 王文圣, 袁 鹏, 丁 晶, 邓育仁 (四川大学水电学院,四川成都 610065) 摘 要:为了客观描述日流量变化的非线性特性,将一种非线性时序模型——门限自回归模型引入日流量随机模拟。根据我国金沙江流域屏山站观测资料建立了日流量随机模拟的门限自回归模型。实用性检验结果表明,该模型用于模拟日流量过程是可行的,成果实用。这种尝试为日流量随机模拟提供了一种考虑日流量非线性变化特性的新模型。 关键词:门限自回归模型;日流量随机模拟;实用性检验 中图分类号:P33;P333.6文献标识码: B文章编号:1001-2184(2001)增-0047-04 1 引 言 日流量随机模拟利用日流量涨落的统计特性,具体说是利用日流量在时序上的统计关系。这种统计关系非常复杂,为简化处理常常以线性来表征前后日流量的关系。在一般情况下,这种简化尚能反映日流量时序变化的主要特性。所以在日流量随机模拟时,当前广泛使用线性时序模型。但是日流量在时序上的前后流量关系是非线性的。例如,对大流域一次洪水的日流量过程涨水段的下部、中部和上部有着明显不同的涨率,前后流量关系显然不是线性的;同样在落水段的下部、中部和上部有着明显不同的退水率,前后流量关系也不是线性的。因此,为更全面地反映日流量时序变化的特性,最好考虑日流量在时序变化上的非线性特性。 近来,非线性时序的分析获得了迅速的发展,并且相继出现了一系列非线性时序模型,比如门限自回归模型,双线性模型,指数自回归模型,状态依赖模型等。对双线性模型曾初步研究了在洪水模拟中应用的可能性[1]。门限自回归模型最近尝试应用于水文预报并获得较好的效果[2]。鉴于门限自回归模型在表征非线性特性上具有其独到之处,笔者将之引入日流量随机模拟并以某站日流量资料为基础,全面探讨了这种模型在日流量模拟中的可行性,模拟效果和优缺点等。 2 门限自回归模型的形式和基本特性 2.1 模型形式 门限自回归模型由汤家豪1978年提出[3],用来解决一类非线性问题。其思路是:对研究对象按照不同区间建立若干个线性时序模型;然后将这些线性时序模型组合起来描述该对象非线性时序变化特性。 对于时间序列{Z t},门限自回归模型的一般形 收稿日期:2000-08-14 * 基金项目:国家自然科学基金(49871018);高速水力学国家重点实验室开放基金资助项目(编号2008)式为: Z t U(1)0+∑ p 1 i=1 U(1)i Z t-i+E(1)t Z t-d F r1 U(2)0+∑ p 2 i=1 U(2)i Z t-i+E(2)t r1 第五章虚拟变量模型 1.表5.1中给出了中国1980—2001年以城乡储蓄存款新增额代表的居民当年储蓄及以GNP 代表的居民当年收入的数据。以1991年为界，判断1991年前和1991年后的两个时期中国居民的储蓄—收入关系是否已发生变化。 年份储蓄S GNP 年份储蓄S GNP 1980 118.5 4517.8 1991 2072.8 21662.5 1981 124.2 4860.3 1992 2438.4 26651.9 1982 151.7 5301.8 1993 3217 34560.5 1983 217.1 5957.4 1994 6756.4 46670 1984 322.2 7206.7 1995 8143.5 57494.9 1985 407.9 8989.1 1996 8858.5 66850.5 1986 615 10201.4 1997 7759 73142.7 1987 835.7 11954.5 1998 7127.7 76967.2 1988 728.2 14922.3 1999 6214.3 80579.4 1989 1345.4 16917.8 2000 4710.6 88228.1 1990 1887.3 18598.4 2001 9430 94346.4 估计以下回归模型： 0123 () i i i i i i Y X D D X u ββββ =++++ 其中 i D为引入的虚拟变量： 1,1991 0,1991 i D ? =? ? 年前 年后 对上面的模型进行估计，结果如下： 所以表达式为： 15350.0751981.90.032()i i i i i Y X D D X =+-+ (1.40) (4.45) (-1.38) (0.37) 从2β和3β的t 检验值可以知道，这两个参数显著的为0，所以1991年前和1991年后两个时期的回归结果是相同的。 下面用邹式检验来验证上面对于两个时期的回归结果相同的结论是否正确。 过程如下： 输入要验证的突变点，本例为1991年。 输出结果如下： 二、多元线性回归模型 在多要素得地理环境系统中,多个(多于两个）要素之间也存在着相互影响、相互关联得情况。因此,多元地理回归模型更带有普遍性得意义。 （一）多元线性回归模型得建立 假设某一因变量y 受k 个自变量得影响,其n 组观测值为(),。那么,多元线性回归模型得结构形式为： （３.2．11) 式中： 为待定参数; 为随机变量。 如果分别为得拟合值,则回归方程为 ?＝(3.２.1２) 式中: 为常数; 称为偏回归系数。 偏回归系数()得意义就就是,当其她自变量()都固定时，自变量每变化一个单位而使因变量y 平均改变得数值。 根据最小二乘法原理,()得估计值（）应该使 ()[]min (2) 1 2211012 →++++-=??? ??-=∑∑==∧ n a ka k a a a n a a a x b x b x b b y y y Q (3.２.1３) 有求极值得必要条件得 (3.2.14) 将方程组(3．2.14)式展开整理后得： ??????????? ?? =++++=++++=++++=++++∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑===================n a a ka k n a ka n a ka a n a ka a n a ka n a a a k n a ka a n a a n a a a n a a n a a a k n a ka a n a a a n a a n a a n a a k n a ka n a a n a a y x b x b x x b x x b x y x b x x b x b x x b x y x b x x b x x b x b x y b x b x b x nb 11221211101 1 212212 2112101 21111212111210111 12121110)(...)()()(...)(...)()()()(...)()()()(...)()( (３.2.15） 方程组(３.2.15)式,被称为正规方程组。 如果引入一下向量与矩阵: ??? ??? ? ? ? ????????? ??==kn n n k k k kn k k k n n T x x x x x x x x x x x x x x x x x x x x x x x x X X A ...1..................1...1...1... ...... ... ............1 (1112132313222121211132) 1 2232221 1131211 Econometrics 第五章虚拟变量回归模型（教材第六章） 第五章虚拟变量回归模型 第一节虚拟变量的性质和引入的意义 第二节虚拟变量的引入 第三节交互作用效应 第四节含虚拟变量的回归模型 学习要点 虚拟变量的性质，虚拟变量的设定 5.1 虚拟变量的性质和引入的意义 虚拟变量的性质 f定性变量 性别（男，女） 婚姻状况（已婚，未婚） 受教育程度（高等教育，其他） 收入水平（高收入，中低收入） 肤色（白人，有色人种） 政治状况（和平时期，战争时期） f引入虚拟变量（Dummy Variables） 1、分离异常因素的影响，例如分析我国GDP的时间序列，必须考虑“文革”因素对国民经济的破坏性影响，剔除不可比的“文革”因素。 2、检验不同属性类型对因变量的作用，例如工资模型中的文化程度、季节对销售额的影响。 3、提高模型的精度，相当与将不同属性的样本合并，扩大了样本量，从而提高了估计精度）。 5.1 虚拟变量的性质和引入的意义 5.2 虚拟变量的引入 虚变量引入的方式主要有两种 f加法方式 虚拟变量与其它解释变量在模型中是相加关系，称为虚拟 变量的加法引入方式。 加法引入方式引起截距变动 5.2 虚拟变量的引入 f 虚拟变量的作用在于把定性变量“定量化”：通过赋值0和1，0表示变量不具备某种性质，1表示具备。 f 例，0代表男性，1代表女性；0代表未婚，1代表已婚；等等。 f 这类取值为0和1的变量称为虚拟变量（dummy variables ），通常用符号D 表示。 f 事实上，模型可以只包括虚拟变量（ANOVA 模型）： 其中，0,1,i i D D ==男性；女性。 12i i i Y B B D u =++ 线性回归分析的SPSS操作 本节容主要介绍如何确定并建立线性回归方程。包括只有一个自变量的一元线性回归和和含 有多个自变量的多元线性回归。为了确保所建立的回归方程符合线性标准，在进行回归分析之前, 我们往往需要对因变量与自变量进行线性检验。也就是类似于相关分析一章中讲过的借助于散点 图对变量间的关系进行粗略的线性检验，这里不再重复。另外，通过散点图还可以发现数据中的奇异值，对散点图中表示的可能的奇异值需要认真检查这一数据的合理性。 一、一元线性回归分析 1数据 以本章第三节例3的数据为例，简单介绍利用SPSS如何进行一元线性回归分析。数据编辑 窗口显示数据输入格式如下图7-8 (文件7-6-1.sav)： 图7-8 :回归分析数据输入 2?用SPSS进行回归分析，实例操作如下： 2.1.回归方程的建立与检验 (1) 操作 ①单击主菜单An alyze / Regression / Li near ，?进入设置对话框如图7-9所示。从左边变量表 列中把因变量y选入到因变量(Depe ndent)框中，把自变量x选入到自变量 (I ndepe ndent)框中。在方法即Method —项上请注意保持系统默认的选项Enter,选择该项表示要求系统在建立回归方 程时把所选中的全部自变量都保留在方程中。所以该方法可命名为强制进入法(在多元回归分析中再具体介绍这一选项的应用)。具体如下图所示： ② 请单击Statistics 按钮，可以选择需要输出的一些统计量。 女口 Regression Coefficients （回 归 系数）中的Estimates ，可以输出回归系数及相关统计量，包括回归系数 B 、标准误、标准化回归 系数BETA 、T 值及显著性水平等。 Model fit 项可输出相关系数 R ，测定系数R 2，调整系数、 成后点击Continue 返回主对话框。 回归方程建立后，除了需要对方程的显著性进行检验外，还需要检验所建立的方程是否违反 回归分析的假定，为此需进行多项残差分析。由于此部分容较复杂而且理论性较强，所以不在此 详细介绍，读者如有兴趣，可参阅有关资料。 ③ 用户在进行回归分析时，还可以选 择是否输出方程常数。单击 Options ??按钮，打开它的 对话框，可以看到中间有一项 Include constant in equation 可选项。选中该项可输出对常数的检验。 在Options 对话框中，还可以定义处理缺失值的方法和设置多元逐步回归中变量进入和排除方程 的准则，这里我们采用系统的默认设置，如图 7-11所示。设置完成后点击 Continue 返回主对话 框。 估计标准误及方差分析表。 上述两项为默认选项, 请注意保持选中。 设置如图7-10所示。设置完 图7-9线性回归分析主对话框 图7-10： 线性回归分析的 Statistics 选项 图7-11 :线性回归分析的 Options 选项 多元自适应样条回归模型 多元自适应回归样条法是一种专门针对高维数据拟合的回归方法口。因其建模速度快，可解释性强得到广泛的应用。该方法以样条函数的张量积作为基函数，自动选择插入基函数的节点，构成基函数集合来逼近样本数据。MARS算法自提出后，很多学者做了研究和改进。由Friedman提出的Fast MARS算法能在略微降低模型精度的同时加快建模速度。Sergey Bakin等提出的BMARS使用了并行算法，加快建模速度，同时使模型变得光滑。但是当样本数据存在一定干扰时，MARS 可能在干扰点处插入基函数，建立的模型会贴近干扰点，后向剪枝过程不能删除这样的基函数，导致模型在干扰点附近的预测能力下降。多元自适应回归样条(MARS)是由Fried--man引入的一种回归分析形式，它是一种非参数回归技术，可以看作模拟变量之间的非线性和相互作用的线性模型的扩展，MARS模型的一般插入点。为了能够增加模型的鲁棒性，准确反映系统特征，对样本数据采用10折交叉验证的建模方法，确保所有数据都有机会参与模型的训练和预测。MARS 是一种基于分段策略的非线性、非参数回归方法。该方法无需假设输入变量与输出变量之间潜在的特定函数关系，而是将数据的训练集划分为独立的不同梯度的分段线段，每个分段线段称为基函数;各段的端点称为结点，一个结点标记数据的一个区域的结束和下一个区域的开始。由此得到的基函数将给予模型更大的灵活性，允许产生弯曲、阂值他偏离线性的情况。MARS通过逐步搜索以生成基函数，利用自适应回归算法以选择结点位置。MARS算法分为前向选择、后向剪枝 2个步骤:前向选择过程是对输入的样本数据进行划分处理，用样条函数代替划分的小区间拟和得到新的基函数，继而得到一个拟合模型;后向剪枝过程是对所产生的基函数进行筛选处理，剔除对模型拟合贡献较小的基函数，以避免出现过拟合情况，进而产生最优模型。MARS 是一个数据建模的过程，为使模型符合式，应先对数据的训练集进行前向选择程序。通过采用常数项和基函数对生成模型，尽量减小训练误差;对含有N个基函数的模型，下一对加入模型的基函数形式中月利用最小二乘法求得。模型加入新的基函数时，也会考虑其与模型中已有基函数之间的相互作用。若基函数数目达到模型预定的最大数量，将产生一个过拟合的模型。分子是MARS模型数据训练集的均方误差，分母为惩罚函数。模型复杂度越高，方差就会越大。二不仅决定模型的基函数数目，而且影响结点数。一般默认d值取3〔‘3〕。后向过程中，在已预设最大基函数个数的前提下，该算法通过不断地剔除基函数使式(5)取得最小值，直至找到一个合适的模型。由于基函数的选择和可变结点的位置是依据数据和具体研究问题决定的，因此MARS是一种自适应的模型。得出最优MARS模型后，通过将涉及同一个变量的所有基函数组合在一起，并采用方差分析比较变量的统计学显著性，以此来评价输入变量和基函数的贡献。 另外，由于最大基函数个数是事先预设的，若预设值不合理，可能导致最终的模型并不是最优模型。因此可以试验多组预设值，并选取合适的评价指标，观察评价指标随预设值的变化情况，以此确定最终模型的预设最大基函数个数。本文最终模型的选取主要参考3个评非参数回归模型与半参数回归模型
门限分位数自回归模型及在股市收益自相关分析中的应用
多元线性回归模型公式
Logistic回归模型基本知识
多元线性回归模型公式定稿版
多种类型的回归模型
二分类Logistic回归模型
多元线性回归模型公式().docx
门限自回归模型及其在水文随机模拟中的应用.王文圣
(精品)第五章-虚拟变量模型和滞后变量模型
多元线性回归模型公式
第五章-含虚拟变量的回归模型
SPSS多元线性回归分析教程
多元自适应样条回归模型
相关主题
文本预览