第三章 受约束回归问题

YXβ ˆe
受约束样本回归模型为:
于是:
YXβ ˆ*e*
e * Y X β ˆ * X β ˆ e X β ˆ * e X β ˆ * β ˆ ) (
团结 信赖 创造 挑战
受约束样本回归模型的残差平方和：RSSR
e * e * e e ( β ˆ * β ˆ ) X X β ˆ * β ˆ ( )
例3.1 建立中国城镇居民食品消费需求函数模型。
根据需求理论，城镇居民对食品的消费需 求函数大致为:
Qf(X,P 1,P 0) (4) Q:城镇居民的食品支出总额，X：城镇居民的消费 支出总额,P1：食品价格指数，P0：居民消费价格 指数。
团结 信赖 创造 挑战
零阶齐次性，当所有商品和消费者货币支出 总额按同一比例变动时，需求量保持不变。
1 32 .1
1982
4 71 .0 4 32 .1
1 02 .0
1 02 .1
6 59 .1
3 25 .0
71.5
1 32 .9
1983
5 05 .9 4 64 .0
1 02 .0
1 03 .7
6 72 .2
3 37 .0
75.3
1 37 .7
1984
5 59 .4 5 14 .3
1 02 .7
1 04 .0
110 .7
1459.7
8 09 .5
114 .5
1 09 .3
1993 2110.8 1058.2
116 .1
116 .5
1694.7
9 43 .1
1 24 .6
112 .2
1994 2851.3 1422.5
1 25 .0
1 34 .2

例3.2 需求方程 我们可以将需求模型建立成双对数的形式，从而 估计需求弹性。 模型设为： lnQ = b0 + b1 ln P+ b2 lnI＋b3 ln Pr＋u 其中， Q 是每天的咖啡销售 I是收入 P 是咖啡每磅的价格 Pr 是相关产品——茶叶每磅的价格
估计结果为： lnQ=0.78 -0.25lnP +0.6I＋ 0.38lnPr t (51.1) (-5.12) (15.12) (3.25) 解释： （1）自价格弹性 是 -.25，表明保持其他不变， 如果价格增加1%，需求量将减少0.25%。这是缺乏 弹性的——弹性的绝对值小于1 （2）收入弹性是0.6 （3）交叉价格弹性是.38，表明保持其他不变， 如果茶叶的价格增加1%，咖啡的需求量增加0.38%。 注： 如果交叉弹性是正的，表明它们是替代品； 如果交叉弹性是负的，表明它们是互补的。
这种“量化”通常是通过引入“虚拟变量”来完 成的。根据这些因素的属性类型，构造只取“0” 或“1”的人工变量，通常称为虚拟变量 dummy 虚拟变量（dummy 虚拟变量 variables），记为D。 variables 例如，反映文化程度的虚拟变量可取为： 例如，反映文化程度的虚拟变量可取为 1， D= 0， 非本科学历 本科学历
参数的含义： 参数的含义：
β
j
∂Y = ∂ ln X
j
∂Y = ＝或 ∂X j X j
∆Y ∆X j X j
度量了在给定解释变量(X)的相对变化时， 度量了在给定解释变量(X)的相对变化时，Y的 (X)的相对变化时 绝对变化。 绝对变化。
例3.4货币供给的增长率对GNP的影响模型为： GNP = b 0 + b 1 lnM + u 斜率b1度量对M的相对变化，GNP的绝对变化— —M变化1%，GNP的绝对变化量为b1/100。 例如：b1=2000，说明货币供给增加1% ，将使 GNP 增加2000/100 = $20 billion.

但是，如果约束条件 受约束回归 但是 如果约束条件为真，则受约束回归 如果约束条件为 无约束回归模型具有相同的解释能力 模型与无约束回归模型具有相同的解释能力， 模型与无约束回归模型具有相同的解释能力 RSSR 与 RSSU的差异变小。 可用RSSR - RSSU的大小来检验约束的真实性 可用 根据数理统计学的知识：
Y1 X 1 = Y X 2 2 0 β μ + 1 I n 2 γ μ 2
(**)
可见，用前n1个样本估计可得前k个参数β的估计， β 而γ不外是用后n2个样本测算的预测误差X2(α - β) γ α
合并两个时间序列为( 1,2,…，n1 ，n1+1,…，n1+n2 )， 无约束回归模型 则可写出如下无约束回 无约束回
Y1 X 1 = Y 0 2 0 β μ + 1 X 2 α μ 2
(*)
如果α=β，表示没有发生结构变化，因此可针对 α β 如下假设进行检验： H0: α=β β
这里，运用了ESSR ＝0。
二、对回归模型增加或减少解释变量
考虑如下两个回归模型
Y = β 0 + β1 X 1 + L + β k X k + µ
Y = β 0 + β 1 X 1 + L + β k X k + β k +1 X k +1 + L β k + q X k + q + µ
(*) (**)
RSSU / σ 2 ~ χ 2 (n − kU − 1)
RSS R / σ 2 ~ χ 2 (n − k R − 1)

多项式回归案例
总结词
多项式回归是一种扩展的线性回归模型 ，适用于非线性关系的数据。
VS
详细描述
多项式回归通过引入多项式项来扩展线性 回归模型，以适应非线性数据。它通过增 加自变量的幂次来构建更高阶的多项式， 从而更好地拟合数据的复杂模式。例如， 二次多项式回归模型可以表示为 (y = beta_0 + beta_1 x_1 + beta_2 x_1^2 + beta_3 x_2 + beta_4 x_2^2 + ...)。
自适应学习率调整
根据模型训练过程中的表现，动态调 整学习率。
避免学习率过高导致模型发散或学习 率过低导致模型训练缓慢的问题。
深度学习与受约束回归的结合
利用深度学习技术，提取高层次特征，提高受约束回归模型的性能。
结合深度学习中的优化算法，解决受约束回归中的复杂约束条件问题。
谢谢聆听自定义约束条件01约束条件形式
根据用户需求设定
02 03
约束条件描述
自定义约束条件是指用户可以根据自己的需求和假设，自 定义一些约束条件。这些约束条件可以是任何形式和逻辑 ，只要能够满足用户的需求和问题的要求。
实例
在预测产品销售量时，用户可以根据自己的经验和市场情 况，自定义一些约束条件，如“产品销售量与广告投入成 正比”、“产品销售量不会超过某一阈值”等。这些约束 条件可以作为自定义约束条件加入回归模型中。
约束条件的形式
线性约束
线性约束条件是指对回归系数施 加线性限制，如限制回归系数的 总和、平均值或范围等。
非线性约束
非线性约束条件是指对回归系数 施加非线性限制，如限制回归系 数的平方和、立方和等。
稀疏性约束