下载文档原格式
第七章 非参数回归模型与半参数回归模型第一节 非参数回归与权函数法一、非参数回归概念前面介绍的回归模型，无论是线性回归还是非线性回归，其回归函数形式都是已知的，只是其中参数待定，所以可称为参数回归。
参数回归的最大优点是回归结果可以外延，但其缺点也不可忽视，就是回归形式一旦固定，就比较呆板，往往拟合效果较差。
另一类回归，非参数回归，则与参数回归正好相反。
它的回归函数形式是不确定的，其结果外延困难，但拟合效果却比较好。
设Y 是一维观测随机向量，X 是m 维随机自变量。
在第四章我们曾引进过条件期望作回归函数，即称g (X ) = E (Y |X ) （7.1.1）为Y 对X 的回归函数。
我们证明了这样的回归函数可使误差平方和最小，即22)]([min )]|([X L Y E X Y E Y E L-=-（7.1.2）这里L 是关于X 的一切函数类。
当然，如果限定L 是线性函数类，那么g (X )就是线性回归函数了。
细心的读者会在这里立即提出一个问题。
既然对拟合函数类L (X )没有任何限制，那么可以使误差平方和等于0。
实际上，你只要作一条折线(曲面)通过所有观测点(Y i ，X i )就可以了是的，对拟合函数类不作任何限制是完全没有意义的。
正象世界上没有绝对的自由一样，我们实际上从来就没有说放弃对L(X)的一切限制。
在下面要研究的具体非参数回归方法，不管是核函数法，最近邻法，样条法，小波法，实际都有参数选择问题(比如窗宽选择，平滑参数选择)。
所以我们知道，参数回归与非参数回归的区分是相对的。
用一个多项式去拟合(Y i ，X i )，属于参数回归；用多个低次多项式去分段拟合(Y i ，X i )，叫样条回归，属于非参数回归。
二、权函数方法非参数回归的基本方法有核函数法，最近邻函数法，样条函数法，小波函数法。
这些方法尽管起源不一样，数学形式相距甚远，但都可以视为关于Y i 的线性组合的某种权函数。
也就是说，回归函数g (X )的估计g n (X )总可以表为下述形式：∑==ni i i n Y X W X g 1)()(（7.1.3）其中｛W i (X )｝称为权函数。
第七章 非参数回归模型与半参数回归模型第一节 非参数回归与权函数法一、非参数回归概念前面介绍的回归模型，无论是线性回归还是非线性回归，其回归函数形式都是已知的，只是其中参数待定，所以可称为参数回归。
参数回归的最大优点是回归结果可以外延，但其缺点也不可忽视，就是回归形式一旦固定，就比较呆板，往往拟合效果较差。
另一类回归，非参数回归，则与参数回归正好相反。
它的回归函数形式是不确定的，其结果外延困难，但拟合效果却比较好。
设Y 是一维观测随机向量，X 是m 维随机自变量。
在第四章我们曾引进过条件期望作回归函数，即称g (X ) = E (Y |X ) （7.1.1）为Y 对X 的回归函数。
我们证明了这样的回归函数可使误差平方和最小，即22)]([min )]|([X L Y E X Y E Y E L-=-（7.1.2）这里L 是关于X 的一切函数类。
当然，如果限定L 是线性函数类，那么g (X )就是线性回归函数了。
细心的读者会在这里立即提出一个问题。
既然对拟合函数类L (X )没有任何限制，那么可以使误差平方和等于0。
实际上，你只要作一条折线(曲面)通过所有观测点(Y i ，X i )就可以了是的，对拟合函数类不作任何限制是完全没有意义的。
正象世界上没有绝对的自由一样，我们实际上从来就没有说放弃对L(X)的一切限制。
在下面要研究的具体非参数回归方法，不管是核函数法，最近邻法，样条法，小波法，实际都有参数选择问题(比如窗宽选择，平滑参数选择)。
所以我们知道，参数回归与非参数回归的区分是相对的。
用一个多项式去拟合(Y i ，X i )，属于参数回归；用多个低次多项式去分段拟合(Y i ，X i )，叫样条回归，属于非参数回归。
二、权函数方法非参数回归的基本方法有核函数法，最近邻函数法，样条函数法，小波函数法。
这些方法尽管起源不一样，数学形式相距甚远，但都可以视为关于Y i 的线性组合的某种权函数。
也就是说，回归函数g (X )的估计g n (X )总可以表为下述形式：∑==ni i i n Y X W X g 1)()(（7.1.3）其中｛W i (X )｝称为权函数。
有结构变化的半参数回归模型
王成勇;艾春荣;王少平
【期刊名称】《应用概率统计》
【年(卷),期】2010(26)5
【摘要】结合半参数回归模型和含未知变点的结构变化模型提出一个新的模型--
有结构变化的半参数回归模型,给出了新模型的有关参数β,β*,γ,k的加权最小二乘
估计和f(t)的核估计,证明了参数β,β*,γ的估计的√n-相合性,强相合性,讨论了模型
的检验等问题,并进一步通过随机模拟验证了新模型的优越性.
【总页数】14页(P501-514)
【作者】王成勇;艾春荣;王少平
【作者单位】襄樊学院数学与计算机科学学院,襄樊,441053;上海财经大学统计与
管理学院,上海,200433;华中科技大学经济学院,武汉,430074
【正文语种】中文
【中图分类】O212.7
【相关文献】
1.纳米填料/橡胶体系在贮存中的结构形态变化Ⅱ.结构变化的影响因素及其对性能
的影响 [J], 林桂;吴友平;张秀娟;钱燕超;贾清秀;张立群
2.焦化过程半焦孔隙结构时空变化规律的实验研究——孔结构的分形特征及其变化[J], 付志新;郭占成
3.看利通区人口年龄结构的十年变化——年龄结构十年变化透视利通区“人口红利” [J], 马桂芳;
4.弱误差结构下非参数,半参数回归模型 [J], 胡舒合; 梅门昌
5.有结构变化的半参数回归模型及其级数估计 [J], 王成勇;艾春荣
因版权原因，仅展示原文概要，查看原文内容请购买。
半参数回归断点回归半参数回归是一种常用的统计方法，用于研究自变量对因变量的影响。
而断点回归则是半参数回归的一种特殊形式，用于揭示自变量对因变量的影响在某一阈值点处发生了显著变化的情况。
本文将介绍半参数回归和断点回归的基本原理、应用场景以及相关的统计分析方法。
一、半参数回归的基本原理半参数回归是一种非参数统计方法，不对自变量和因变量之间的函数关系做出任何假设。
它通过拟合局部的回归线来估计自变量对因变量的影响。
半参数回归可以应用于自变量和因变量之间的线性和非线性关系，具有较强的灵活性和适应性。
二、断点回归的基本原理断点回归是半参数回归的一种特殊形式，用于研究自变量对因变量的影响在某一阈值点处发生显著变化的情况。
断点回归将自变量分为两个区间，分别估计这两个区间内的回归系数，并通过比较两个区间的回归系数来判断是否存在断点。
如果存在断点，则说明自变量对因变量的影响在断点处发生了显著变化。
三、半参数回归和断点回归的应用场景半参数回归和断点回归可以应用于各种研究领域和实际问题。
例如，在经济学中，可以使用半参数回归和断点回归来研究收入对消费的影响是否存在阈值效应；在医学研究中，可以使用半参数回归和断点回归来研究药物剂量对疗效的影响是否存在阈值效应。
四、半参数回归和断点回归的统计分析方法在进行半参数回归和断点回归分析时，需要选择合适的估计方法和假设检验方法。
常用的估计方法包括局部加权回归、核密度估计和B样条回归等；常用的假设检验方法包括断点是否存在的检验和断点位置的检验等。
这些方法可以通过统计软件来实现，如R语言中的segmented包和np包。
总结：半参数回归和断点回归是一种常用的统计方法，可以用于研究自变量对因变量的影响以及是否存在阈值效应。
它们具有较强的灵活性和适应性，可以应用于各种研究领域和实际问题。
在进行半参数回归和断点回归分析时，需要选择合适的估计方法和假设检验方法。
通过合理地运用半参数回归和断点回归，我们可以更好地理解数据背后的规律和关系，为实际问题的解决提供科学的依据。
非参数回归模型及半参数回归模型非参数回归模型是一种可以适应任意数据分布的回归方法。
在非参数回归中，不对模型的具体形式进行假设，而是利用样本数据去估计未知的函数形式。
这个函数形式可以用其中一种核函数进行近似，通过核函数的变换，使得样本点在空间中有一定的波动，从而将研究对象与有关因素的关系表达出来。
常见的非参数回归模型有局部加权回归（LOESS）和核回归模型。
局部加权回归是一种常见的非参数回归方法。
它通过给样本中的每个点分配不同的权重来拟合回归曲线。
每个点的权重根据其距离目标点的远近来确定，越近的点权重越大，越远的点权重越小。
这种方法在回归分析中可以较好地处理非线性关系和异方差性问题。
核回归模型是另一种常见的非参数回归方法。
它基于核函数的变换，通过将样本点的权重表示为核函数在目标点的取值，来拟合回归曲线。
核函数通常具有对称性和非负性的特点，常用的核函数有高斯核、Epanechikov核和三角核等。
核回归模型在处理非线性关系和异方差性问题时也具有较好的性能。
相比之下，半参数回归模型是在非参数回归的基础上引入一些参数的回归模型。
它假设一些参数具有一定的形式，并利用样本数据进行估计。
半参数模型可以更好地描述数据之间的关系，同时也可以提供关于参数的统计推断。
半参数回归模型有很多不同的形式，其中一个常见的半参数回归模型是广义加性模型（GAM）。
广义加性模型是通过将各个变量的函数关系进行加总，构建整体的回归模型。
这些函数关系可以是线性的也可以是非线性的，可以是参数化的也可以是非参数化的。
广义加性模型在回归分析中可以同时考虑到线性和非线性关系，广泛应用于各个领域。
在实际应用中，选择使用非参数回归模型还是半参数回归模型需要根据具体情况来决定。
非参数回归模型适用于对数据分布没有先验假设，并且希望对数据进行较为灵活的建模的情况。
半参数回归模型适用于对一些参数有一定假设的情况，可以更好地描述数据之间的关系，并提供统计推断的信息。
半参数截尾回归模型一个回归模型是截尾的，当在一定范围内的多次观察位于该范围的端点以外，切断对因变量所记录的数据。
当数据是截尾的时候，所观测的因变量的变化将低估“真实”因变量的回归元的效应。
因此，标准最小二乘法回归使用截尾数据产生的最典型地系数估计结果就是有偏与零。
传统的统计方法使用极大似然或相关程序去处理截尾数据的问题。
然而，这种方法的有效性需要正确的设定误差的分布，实践中这是有问题的。
在过去的二十年，提出了解决截尾问题的许多半参数方法。
在一个半参数方法中，通常是回归函数部分地设定为函数形式，通过研究者基于貌似可性的假定参数化的设定，模型剩余的部分是非参数化的。
理论文献已经提出了若干半参数的估计量对于截尾数据模型，发表的这些估计量应用于经济学的实证问题已经远远地滞后。
本文回顾了一小部分关于截尾回归模型建议的半参数估计量的计算，各种估计量被用来检验十九世纪60年代黑人与白人收入不等的变化，围绕1964年民权法的颁布，基于纵向的社会保障总署的收入记录。
这些收入记录在最高应纳税额处截尾，也就是说，任何人收入超过最大纳税值在社会保障规定下是要纳税的。
因此，上述的最大值，收入的数据不能精确的反映真实的收入。
普通最小二乘法分析这些数据意味着在十九世纪六十年代期间黑人和白人工作者的收入出现了小的收敛。
另一方面，半参数模型的估计量解释了截尾表明在1964年后黑人和白人收入显著的收敛。
比较参数和半参数的结果有助于准确描述参数方法在误设的情形。
截尾回归模型和估计量社会保障总署数据集我们分析时受困于数据截尾的简单形式，区间截尾，“真实”因变量*y 是可观测的，只要他们落在已知的单边的区间[a,b]。
否则，观测的区间的闭断点就会代替*y 。
Tobin (1958)应用这个模型去分析消费者汽车支出，端点0a =和b =∞，经济学家一般提到的回归模型有非负约束作为Tobit 模型。
其他的典型的这些截尾回归模型的应用就是右截尾数据，这里0a =和b =∞表示因变量的一个最大记录值。
