多元线性回归及显著性检验Matlab程序（完美版）
一、说明：
1、本程序是研究生教材《数理统计》（杨虎、刘琼、钟波编著）例4.4.1（P133）的Matlab
编程解答程序。教材上的例题只做了回归方程显著性分析和一次回归系数显著性分析（剔除x1后没有再检验x2和x3）。
2、本程序在以上的基础之上，还分别检验了x2和x3，并且计算精度更高。
3、本程序可根据用户的需要，在输入不同的显著性水平α之下得到相应的解答。
4、本程序移植性强，对于其他数据，只需要改变excel中的数据即可。
5、本程序输出的可读性强，整洁美观。
二、数据入下（将数据存入excel表格，文件名为jc_p133_example.xls。注意数据是按x1，
）：
三、完整程序如下：
%----------------------------by ggihhimm---------------------------- %《数理统计》杨虎、刘琼、钟波编著例4.4.1 多元线性回归及显著性检验完整解答
% 输入需要的显著水平α（默认α=0.02），计算出不同结果（见运行结果）
% 该程序也适合其他维数的数据分析（只需改变excel表格中的数据即可）
%----------------------------by ggihhimm---------------------------- clear;clc;
data=xlsread('jc_p133_example.xls','sheet1');
xi=data(:,1:end-1);
[n,k]=size(data);
k=k-1;
index_of_xi_array=ones(1,k);
X=[ones(n,1) xi];
Y=data(:,end);
fprintf('第1次计算结果：\r')
beta_mao=((X'*X)\X'*Y)';
fmt_str0='';
for i0=1:k+1
fmt_str0=[fmt_str0 'β' num2str(i0-1) ' = %0.4f\r'];
end
fprintf(fmt_str0,beta_mao)
fprintf('\r')
%%检验回归方程的显著性
x_ba=mean(xi);
y_ba=mean(Y);
St_square=sum(Y.^2)-n*y_ba^2;
lxy=sum((xi-ones(n,1)*x_ba).*((Y-y_ba)*ones(1,k)));
Sr_square=sum(beta_mao(2:end).*lxy);
Se_square=St_square-Sr_square;
c_flag=Sr_square/Se_square;
F_alpha=input('>>>>>>请输入您要求的显著性水平(0<α<1)α= ');
while ~(isscalar(F_alpha) && F_alpha<1 && F_alpha>0)
F_alpha=input('您的输入有误，请重新输入一个大于0，小于1的数，α= '); end
F_fenweidian=finv(1-F_alpha,k,n-k-1);
c=k/(n-k-1)*F_fenweidian;
if c_flag>c
fprintf(['\r--------------------回归方程显著性检验（H0：β1=β2=...=βk=0）' ...
'--------------------\r经过计算：拒绝H0，原假设不成立。'])
else
fprintf(['\r--------------------回归方程显著性检验（H0：β1=β2=...=βk=0）' ...
'--------------------\r经过计算：接受H0，原假设成立。'])
end
%%检验回归系数的显著性（循环检验，直到OK，得出最后结果）
fprintf(['\r\r-----------------回归系数显著性检验（分别对β1、β2、...、βk进行）' ...
'------------------'])
flag_go_on=1;
num_of_loop=0;
while flag_go_on
cij=inv(X'*X);
cii=diag(cij);
F_fenweidian_1=finv(1-F_alpha,1,n-k-1);
ci=sqrt(cii(2:end)*Se_square*F_fenweidian_1/(n-k-1));
format_str='%15.4f';
for ii=1:k-1
format_str=[format_str '%13.4f'];
end
fprintf(['\r第%d次检验：\rcii: ' format_str '%13.4f\r ci: ' ...
format_str '\rβi：' format_str '%13.4f'],num_of_loop+1,cii,ci,beta_mao)
if ~all(abs(beta_mao(2:end))>ci')
flag_go_on=1;
beta_1tok=beta_mao;
beta_1tok(1)=[];
fi_xin=beta_1tok.^2./cii(1:end-1)';
min_fi=min(fi_xin);
beta_index=find(fi_xin==min_fi)+1;
fprintf('\rx%d对y的线性影响最不显著（|β%d|=%0.4f ）。删除x%d，进行第%d次计算：',...
beta_index-1+num_of_loop,beta_index-1+num_of_loop,...
abs(beta_mao(beta_index)),beta_index-1+num_of_loop,...
beta_index-1+num_of_loop+1)
else
fmt_str2='x%d';
index_of_xi=find(index_of_xi_array);
for i2=1:length(find(index_of_xi))-1
fmt_str2=[fmt_str2 '、x%d'];
end
fprintf(['\r\r经过检验，剩余所有变量:' ...
fmt_str2 '对y的线性影响均显著。检验结束。\r'],index_of_xi)
flag_go_on=0;
end
if flag_go_on
num_of_loop=num_of_loop+1;
k=k-1;
if ~k
fprintf('\r\r警告：通过一一对所有变量做显著性检验，已剔除所有变量！');
break;
end
beta_mao=beta_mao-beta_mao(beta_index)/cii(beta_index)*cij(beta_index,:);
beta_mao(beta_index)=[];
fmt_str1='';
for i1=2:k+1
fmt_str1=[fmt_str1 'β' num2str(i1-1+num_of_loop) ' = %0.4f\r'];
end
fprintf(['\rβ0 = %0.4f\r' fmt_str1],beta_mao)
X(:,beta_index)=[];
index_of_xi_array(beta_index-1+num_of_loop-1)=0;
xi=X(:,2:end);
x_ba=mean(xi);
lxy=sum((xi-ones(n,1)*x_ba).*((Y-y_ba)*ones(1,k)));
Sr_square=sum(beta_mao(2:end).*lxy);
Se_square=St_square-Sr_square;
end
end
四、运行结果如下（分别为α=0.01和α=0.02的运行结果）：
第1次计算结果：
β0 = 0.7344
β1 = 0.1585
β2 = 0.1063
β3 = 0.0357
>>>>>>请输入您要求的显著性水平(0<α<1)α= 0.01
-----------------------------------α = 0.0100-----------------------------------
--------------------回归方程显著性检验（H0：β1=β2=...=βk=0）--------------------
经过计算：拒绝H0，原假设不成立。
-----------------回归系数显著性检验（分别对β1、β2、...、βk进行）------------------ 第1次检验：
cii: 1.1355 0.0055 0.0021 0.0002
ci: 0.1622 0.1006 0.0284
βi：0.7344 0.1585 0.1063 0.0357
x1对y的线性影响最不显著（|β1|=0.1585 ）。删除x1，进行第2次计算：
β0 = 2.5302
β2 = 0.0231
β3 = 0.0362
第2次检验：
cii: 0.4274 0.0006 0.0002
ci: 0.0569 0.0302
βi： 2.5302 0.0231 0.0362
x2对y的线性影响最不显著（|β2|=0.0231 ）。删除x2，进行第3次计算：
β0 = 2.6615
β3 = 0.0391
第3次检验：
cii: 0.4079 0.0002
ci: 0.0294
βi： 2.6615 0.0391
经过检验，剩余所有变量:x3对y的线性影响均显著。检验结束。
第1次计算结果：
β0 = 0.7344
β1 = 0.1585
β2 = 0.1063
β3 = 0.0357
>>>>>>请输入您要求的显著性水平(0<α<1)α= 0.02
-----------------------------------α = 0.0200-----------------------------------
--------------------回归方程显著性检验（H0：β1=β2=...=βk=0）--------------------
经过计算：拒绝H0，原假设不成立。
-----------------回归系数显著性检验（分别对β1、β2、...、βk进行）------------------ 第1次检验：
cii: 1.1355 0.0055 0.0021 0.0002
ci: 0.1455 0.0902 0.0255
βi：0.7344 0.1585 0.1063 0.0357
经过检验，剩余所有变量:x1、x2、x3对y的线性影响均显著。检验结束。
Matlab多元线性回归 [ b , bint , r , rint , stats ]=regress ( y , x ) ， 其中b 是回归方程中的参数估计值，bint 是b 的置信区间，r 和rint 分别表示残差及残差对应的置信区间。StatS 数组包含三个数字，分别是相关系数，F 统计量及对应的概率p 值。拟合结果： Y=b(1)x(1)+b(2)x(2)+b(3)x(3)+…+b(n)x(n) b(1)是系数,x(1)为全1的一个列向量。 注意：不是插值。 x=[1097 1284 1502 1394 1303 1555 1917 2051 2111 2286 2311 2003 2435 2625 2948 3155 3372];%因变量时间序列数据 y=[698 872 988 807 738 1025 1316 1539 1561 1765 1762 1960 1902 2013 2446 2736 2825];%自变量时间序列数据 X=[ones(size(x')),x']; [b,bint,r,rint,stats]=regress(y',X,0.05);%调用一元回归分析函数 rcoplot(r,rint)%画出在置信度区间下误差分布. 举例： x = 1 2 4 9 1 4 3 7 1 5 9 0 1 9 1 8 >> y=[10 3 90 48]'; >> [ b , bint , r , rint , stats ]=regress ( y , x ) 得到的结果 b = -186.8333 16.0238 21.8571 8.5952 bint = NaN NaN NaN NaN NaN NaN
线性回归的显着性检验 1.回归方程的显着性 在实际问题的研究中，我们事先并不能断定随机变量y与变量人,乂2，…，x p之间确有线 性关系，在进行回归参数的估计之前，我们用多元线性回归方程去拟合随机变量y与变量 X「X2，…，X p之间的关系，只是根据一些定性分析所作的一种假设。因此，和一元线性回归方程的显着性检验类似，在求出线性回归方程后，还需对回归方程进行显着性检验。 设随机变量丫与多个普通变量x1, x2^ ,x p的线性回归模型为 其中；服从正态分布N（0,；「2） 对多元线性回归方程的显着性检验就是看自变量若接受X i,X2，…,X p从整体上对随机变 量y是否有明显的影响。为此提出原假设如果H。被接受，则表明随机变量y与x「X2，…，X p的 线性回归模型就没有意义。通过总离差平方和分解方法，可以构造对H o进行检验的统计量。正 态随机变量y i,y2/ , y n的偏差平方和可以分解为： n n n S r f （y—y）2为总的偏差平方和，S R=為（懈-y）2为回归平方和，S E f （% - ？）2为残 i 1i# im 差平方和。因此，平方和分解式可以简写为： 回归平方和与残差平方和分别反映了b = 0所引起的差异和随机误差的影响。构造F检验统计量则利用分解定理得到： 在正态假设下，当原假设H o ：b i =0, b2 =0，…，b p =0成立时，F服从自由度为（p,n -p-1）的F分布。对于给定的显着水平［，当F大于临界值（p, n-p-1）时，拒绝H。，说明回归方程显着，x与y有显着的线性关系。 实际应用中，我们还可以用复相关系数来检验回归方程的显着性。复相关系数R定义为： 平方和分解式可以知道，复相关系数的取值范围为0空R乞1。R越接近1表明S E越小，回归方程拟合越好。 2.回归系数的显着性
云南大学数学与统计学实验教学中心 实验报告 一、实验目的 1.熟悉MATLAB的运行环境. 2.学会初步建立数学模型的方法 3.运用回归分析方法来解决问题 二、实验内容 实验一：某公司出口换回成本分析 对经营同一类产品出口业务的公司进行抽样调查,被调查的13家公司,其出口换汇成本与商品流转费用率资料如下表。试分析两个变量之间的关系,并估计某家公司商品流转费用率是6.5%的出口换汇成本. 实验二：某建筑材料公司的销售量因素分析 下表数据是某建筑材料公司去年20个地区的销售量（Y，千方），推销开支、实际帐目数、同类商品
竞争数和地区销售潜力分别是影响建筑材料销售量的因素。1）试建立回归模型，且分析哪些是主要的影响因素。2）建立最优回归模型。 提示：建立一个多元线性回归模型。
三、实验环境 Windows 操作系统; MATLAB 7.0. 四、实验过程 实验一：运用回归分析在MATLAB 里实现 输入：x=[4.20 5.30 7.10 3.70 6.20 3.50 4.80 5.50 4.10 5.00 4.00 3.40 6.90]'; X=[ones(13,1) x]; Y=[1.40 1.20 1.00 1.90 1.30 2.40 1.40 1.60 2.00 1.00 1.60 1.80 1.40]'; plot(x,Y,'*'); [b,bint,r,rint,stats]=regress(Y,X,0.05); 输出： b = 2.6597 -0.2288 bint = 1.8873 3.4322 -0.3820 -0.0757 stats = 0.4958 10.8168 0.0072 0.0903 即==1,0?6597.2?ββ，-0.2288,0?β的置信区间为[1.8873 3.4322],1,?β的置信区间为[-0.3820 -0.0757]； 2r =0.4958, F=10.8168, p=0.0072 因P<0.05, 可知回归模型 y=2.6597-0.2288x 成立. 1 1.5 2 2.5 散点图 估计某家公司商品流转费用率是6.5%的出口换汇成本。将x=6.5代入回归模型中，得到 >> x=6.5; >> y=2.6597-0.2288*x y = 1.1725
matlab建立多元线性回归模型并进行显着性检验及预测问题 例子; x=[143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164]'; X=[ones(16,1) x]; 增加一个常数项Y=[88 85 88 91 92 93 93 95 96 98 97 96 98 99 100 102]'; [b,bint,r,rint,stats]=regress(Y,X) 得结果：b = bint = stats = 即对应于b的置信区间分别为[，]、[,]; r2=, F=, p= p<, 可知回归模型y=+ 成立. 这个是一元的，如果是多元就增加X的行数！ function [beta_hat,Y_hat,stats]=regress(X,Y,alpha) % 多元线性回归(Y=Xβ+ε)MATLAB代码 %？ % 参数说明 % X：自变量矩阵，列为自变量，行为观测值 % Y：应变量矩阵，同X % alpha：置信度，[0 1]之间的任意数据 % beta_hat：回归系数 % Y_beata：回归目标值，使用Y-Y_hat来观测回归效果 % stats：结构体，具有如下字段 % =[fV,fH]，F检验相关参数，检验线性回归方程是否显着 % fV：F分布值，越大越好，线性回归方程越显着 % fH：0或1，0不显着；1显着(好) % =[tH,tV,tW]，T检验相关参数和区间估计，检验回归系数β是否与Y有显着线性关系 % tV：T分布值，beta_hat(i)绝对值越大,表示Xi对Y显着的线性作用% tH：0或1，0不显着；1显着 % tW：区间估计拒绝域，如果beta(i)在对应拒绝区间内，那么否认Xi对Y显着的线性作用 % =[T,U,Q,R]，回归中使用的重要参数 % T：总离差平方和，且满足T=Q+U % U：回归离差平方和 % Q：残差平方和 % R∈[0 1]：复相关系数，表征回归离差占总离差的百分比，越大越好% 举例说明 % 比如要拟合y=a+b*log(x1)+c*exp(x2)+d*x1*x2，注意一定要将原来方程线化% x1=rand(10,1)*10; % x2=rand(10,1)*10; % Y=5+8*log(x1)+*exp(x2)+*x1.*x2+rand(10,1); % 以上随即生成一组测试数据 % X=[ones(10,1) log(x1) exp(x2) x1.*x2]; % 将原来的方表达式化成Y=Xβ，注意最前面的1不要丢了
利用Matlab进行线性回归分析 欧阳歌谷（2021.02.01） 回归分析是处理两个及两个以上变量间线性依存关系的统计方法。可以通过软件Matlab实现。 1.利用Matlab软件实现 在Matlab中，可以直接调用命令实现回归分析， （1）[b,bint,r,rint,stats]=regress(y,x)，其中b是回归方程中的参数估计值，bint是b的置信区间，r和rint分别表示残差及残差对应的置信区间。stats包含三个数字，分别是相关系数，F统计量及对应的概率p值。 （2）recplot(r,rint)作残差分析图。 （3）rstool(x,y)一种交互式方式的句柄命令。 以下通过具体的例子来说明。 例现有多个样本的因变量和自变量的数据，下面我们利用Matlab，通过回归分析建立两者之间的回归方程。 % 一元回归分析 x=[1097 1284 1502 1394 1303 1555 1917 2051 2111 2286 2311
2003 2435 2625 2948 3, 55 3372];%自变量序列数据 y=[698 872 988 807 738 1025 1316 1539 1561 1765 1762 1960 1902 2013 2446 2736 2825];%因变量序列数据 X=[ones(size(x')),x'],pause [b,bint,r,rint,stats]=regress(y',X,0.05),pause%调用一元回归分析函数rcoplot(r,rint)%画出在置信度区间下误差分布。 % 多元回归分析 % 输入各种自变量数据 x1=[5.5 2.5 8 3 3 2.9 8 9 4 6.5 5.5 5 6 5 3.5 8 6 4 7.5 7]'; x2=[31 55 67 50 38 71 30 56 42 73 60 44 50 39 55 7040 50 62 59]'; x3=[10 8 12 7 8 12 12 5 8 5 11 12 6 10 10 6 11 11 9 9]'; x4=[8 6 9 16 15 17 8 10 4 16 7 12 6 4 4 14 6 8 13 11]'; %输入因变量数据 y=[79.3 200.1 163.1 200.1 146.0 177.7 30.9 291.9 160 339.4 159.6 86.3 237.5 107.2 155 201.4 100.2 135.8 223.3 195]'; X=[ones(size(x1)),x1,x2,x3,x4]; [b,bint,r,rint,stats]=regress(y,X)%回归分析 Q=r'*r sigma=Q/18 rcoplot(r,rint); %逐步回归 X1=[x1,x2,x3,x4];
matlab建立多元线性回归模型并进行显著性检 验及预测问题 例子; x=[143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164]'; X=[ones(16,1) x]; 增加一个常数项 Y=[88 85 88 91 92 93 93 95 96 98 97 96 98 99 100 102]'; [b,bint,r,rint,stats]=regress(Y,X) 得结果：b = bint = stats = 即对应于b的置信区间分别为[，]、[,]; r2=, F=, p= p<, 可知回 归模型 y=+ 成立. 这个是一元的，如果是多元就增加X的行数！ function [beta_hat,Y_hat,stats]=regress(X,Y,alpha) % 多元线性回归(Y=Xβ+ε)MATLAB代码 % % 参数说明 % X：自变量矩阵，列为自变量，行为观测值 % Y：应变量矩阵，同X % alpha：置信度，[0 1]之间的任意数据 % beta_hat：回归系数 % Y_beata：回归目标值，使用Y-Y_hat来观测回归效果 % stats：结构体，具有如下字段 % =[fV,fH]，F检验相关参数，检验线性回归方程是否显著 % fV：F分布值，越大越好，线性回归方程 越显著 % fH：0或1，0不显著；1显著(好) % =[tH,tV,tW]，T检验相关参数和区间估计，检验回归系数β是 否与Y有显著线性关系 % tV：T分布值，beta_hat(i)绝对值越大, 表示Xi对Y显著的线性作用 % tH：0或1，0不显著；1显著 % tW：区间估计拒绝域，如果beta(i)在对 应拒绝区间内，那么否认Xi对Y显著的线性作用 % =[T,U,Q,R]，回归中使用的重要参数 % T：总离差平方和，且满足T=Q+U % U：回归离差平方和 % Q：残差平方和 % R∈[0 1]：复相关系数，表征回归离差占总 离差的百分比，越大越好 % 举例说明 % 比如要拟合 y=a+b*log(x1)+c*exp(x2)+d*x1*x2，注意一定要将原来方程 线化 % x1=rand(10,1)*10;
多元性回归模型与一元线性回归模型一样，在得到参数的最小二乘法的估计值之后，也需要进行必要的检验与评价，以决定模型是否可以应用。 1、拟合程度的测定。 与一元线性回归中可决系数r2相对应，多元线性回归中也有多重可决系数r2，它是在因变量的总变化中，由回归方程解释的变动(回归平方和)所占的比重，R2越大，回归方各对样本数据点拟合的程度越强，所有自变量与因变量的关系越密切。计算公式为： 其中， 2.估计标准误差 估计标准误差，即因变量y的实际值与回归方程求出的估计值之间的标准误差，估计标准误差越小，回归方程拟合程度越程。 其中，k为多元线性回归方程中的自变量的个数。 3.回归方程的显著性检验 回归方程的显著性检验，即检验整个回归方程的显著性，或者说评价所有自变量与因变量的线性关系是否密切。能常采用F检验，F统计量的计算公式为： 根据给定的显著水平a,自由度(k,n-k-1)查F分布表，得到相应的临界值Fa，若F > Fa，则回归方程具有显著意义，回归效果显著；F < Fa，则回归方程无显著意义，回归效果不显著。 4.回归系数的显著性检验 在一元线性回归中，回归系数显著性检验(t检验)与回归方程的显著性检验(F检验)是等价的，但在多元线性回归中，这个等价不成立。t检验是分别检验回归模型中各个回归系数是否具有显著性，以便使模型中只保留那些对因变量有显著影响的因素。检验时先计算统计量ti；然后根据给定的显著水平a,自由度n-k-1查t分布表，得临界值ta或ta / 2,t > t ? a或ta / 2，则回归系数bi与0有显著关异，反之，则与0无显著差异。统计量t 的计算公式为： 其中，Cij是多元线性回归方程中求解回归系数矩阵的逆矩阵(x'x) ?1的主对角线上的第j个元素。对二元线性回归而言，可用下列公式计算： 其中， 5.多重共线性判别 若某个回归系数的t检验通不过，可能是这个系数相对应的自变量对因变量的影平不显
多元线性回归matlab中求解 源代码： y=data(:,1); >> x=data(:,2:3); >> [b,bint,r,rint,stats]=regress(y,x) 结果： b =1.6031 21.0280 bint =0.6449 2.5612 14.4526 27.6034 r =-16.2442 8.8754 17.5828 8.3155 7.6692 -20.7990 0.1578 9.1298 21.1145 -28.9567 rint =-54.5200 22.0316 -28.0267 45.7775 -15.2745 50.4401 -29.9540 46.5850 -30.7374 46.0758 -57.6551 16.0572 -40.7942 41.1098 -30.8252 49.0848 -15.2155 57.4446 -59.3228 1.4095 stats =1.0148 742.1191 0.0000 322.5068 分析结果： stats四个值说明：判决系数r^2，,F统计值，p值，误差方差 y=a1*x（1）+a2*x（2）;其中a1=1.6031,a2=21.0280, a1的置信区间【0.6449,2.5612】，a2的置信区间【14.45426，27.6043】，p小于0.05，说明显著效果很好，越小越好 在spss中求解：
线性规划matlab求解 例1：c=[2;3;1]; mix z=2*x1+3*x2+x3 >> a=[1 4 2;3 2 0]; s.t 1.x1+4*x2+2*x3>=8; >> b=[8;6]; 2.3*x1+2*x2>=6; >> [x,y]=linprog(c,-a,-b,[],[],zeros(3,1) ) 3.x1>=0,x2>=0,x3>=0结果：x =0.8066
一元线性回归分析及方差分析与显著性检验 某位移传感器的位移x 与输出电压y 的一组观测值如下：（单位略） 设x 无误差，求y 对x 的线性关系式，并进行方差分析与显著性检验。 （附：F 0。10(1，4)=，F 0。05(1，4)=，F 0。01(1，4)=） 回归分析是研究变量之间相关关系的一种统计推断法。 一． 一元线性回归的数学模型 在一元线性回归中，有两个变量，其中 x 是可观测、可控制的普通变量，常称它为自变量或控制变量，y 为随机变量，常称其为因变量或响应变量。通过散点图或计算相关系数判定y 与x 之间存在着显著的线性相关关系，即y 与x 之间存在如下关系： (1) / 通常认为 且假设与x 无关。将观测数据 (i=1，……，n)代入(1) 再注意样本为简单随机样本得： (2) 称(1)或(2)(又称为数据结构式)所确定的模型为一元(正态)线性回归模型。 对其进行统计分析称为一元线性回归分析。 模型(2)中 EY= ，若记 y=E(Y),则 y=a+bx,就是所谓的一元线性回归方程， 其图象就是回归直线，b 为回归系数，a 称为回归常数，有时也通称 a 、b 为回归系数。 设得到的回归方程 bx b y +=0? 残差方程为N t bx b y y y v t t t i ,,2,1,?0 =--=-= 根据最小二乘原理可求得回归系数b 0和b 。 对照第五章最小二乘法的矩阵形式，令 ￥ ?????? ? ??=??? ? ??=??? ???? ??=??????? ??=N N N v v v V b b b x x x X y y y Y 2102121?111 则误差方程的矩阵形式为
实验实训报告 课程名称：计量经济学实验 开课学期： 2011-2012学年第一学期开课系(部)：经济系 开课实验(训)室：数量经济分析实验室学生姓名： 专业班级： 学号： 重庆工商大学融智学院教务处制
实验题目 实验(训)项目名称多元线性回归模型的估计和统 指导教师 计检验 实验(训)日期所在分组 实验概述 【实验(训)目的及要求】 目的：掌握多元线性回归模型的估计、检验。 要求：在老师指导下完成多元线性回归模型的建立、估计、统计检验，并得到正确的分析结果。 【实验(训)原理】 当多元线性回归模型在满足线性模型古典假设的前提下，最小二乘估计结果具有无偏性、有效性等性质，在此基础上进一步对估计所得的模型进行经济意义检验及统计检验。 实验内容 【实验(训)方案设计】 1、创建工作文件和导入数据； 2、完成变量的描述性统计； 3、进行多元线性回归估计； 4、统计检验：可决系数分析（R2）；（2）参数显著性分析(t检验)；（3）方程显著性分析（F检验）； 5、进行变量非线性模型的线性化处理，并比较不同模型的拟合优度（因变量相同时）。 实验背景 选择包括中央和地方税收的“国家财政收入”中的“各项税收”（简称“TAX”）作为被解释变量，以反映国家税收的增长。选择“国内生产总值（GDP）”作为经济整体增长水平的代表；选择中央和地方“财政支出”作为公共财政需求的代表(FIN)；选择“商品零售物价指数”作为物价水平的代表(PRIC)，并将它们设为影响税收收入的解释变量。建立中国税收的增长模型，并对已建立的模型进行检验。
【实验(训)过程】（实验(训)步骤、记录、数据、分析 ） 1、根据实验数据的相关信息建立Workfile ； 在菜单中依次点击File\New\Workfile,在出现的对话框“Workfile range ”中选择数据频率。因为本例分析中国1978-2002年度的税收（Tax ）与GDP 、财政支出（FIN ）、商品零售物价指数（PRIC ）之间关系，因此，在数据频率选项中选择“Annual ”选项。在“start data ”输入“1978”，在“end data ”输入“2002”。 2、导入数据； 在菜单栏中选择“Quick\Empty Group ”,将TAX 、GDP 、FIN 、PRIC 的年度数据从Excel 导入，并将这四个序列的名称分别改为“TAX ” 、“TAX ” 、“GDP ” 、“FIN ” 、“PRIC ” 。 或者在EViews 命令窗口中直接输入“data TAX GDP FIN PRIC ” ，在弹出的编辑框中将这四个个变量的时间数列数据从Excel 中复制过来。 3、给出自变量和因变量的描述性统计结果，并判断数据序列是否服从正态分布 （5%α=） 变量名 Mean Median Std J-B 值 J.B p 值 是否服从正态分布 GDP 35977 18548 34445 3.308 0.191 是 FIN 5855 3084 5968 9.390 0.009 否 PRIC 105 103 7 4.125 0.127 是 TAX 4848 2822 4871 6.908 0.032 否 4、给出自变量和因变量之间的相关系数矩阵： GDP FIN PRIC TAX GDP 1.000 0.957 -0.290 0.969 FIN 0.957 1.000 -0.375 0.997 PRIC -0.290 -0.375 1.000 -0.334 TAX 0.969 0.997 -0.334 1.000 5、假设总体回归模型1为0123TAX GDP FIN PRIC u ββββ=++++，进行多元回归估计 并报告估计结果：
回归分析MATLAB 工具箱 一、多元线性回归 多元线性回归：p p x x y βββ+++=...110 1、确定回归系数的点估计值： 命令为：b=regress(Y , X ) ①b 表示???? ?? ????????=p b βββ?...??10 ②Y 表示????????????=n Y Y Y Y (2) 1 ③X 表示??? ??? ????? ???=np n n p p x x x x x x x x x X ...1......... .........1 (12) 1 22221 11211 2、求回归系数的点估计和区间估计、并检验回归模型： 命令为：[b, bint,r,rint,stats]=regress(Y ,X,alpha) ①bint 表示回归系数的区间估计. ②r 表示残差. ③rint 表示置信区间. ④stats 表示用于检验回归模型的统计量,有三个数值：相关系数r 2、F 值、与F 对应的概率p. 说明：相关系数2 r 越接近1,说明回归方程越显著；)1,(1-->-k n k F F α时拒绝0H ,F 越大,说明回归方程越显著；与F 对应的概率p α<时拒绝H 0,回归模型成立. ⑤alpha 表示显著性水平(缺省时为0.05) 3、画出残差及其置信区间. 命令为：rcoplot(r,rint) 例1.如下程序. 解：(1)输入数据. x=[143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164]'; X=[ones(16,1) x]; Y=[88 85 88 91 92 93 93 95 96 98 97 96 98 99 100 102]'; (2)回归分析及检验. [b,bint,r,rint,stats]=regress(Y ,X) b,bint,stats 得结果：b = bint =
一元线性回归效果的显著性检验 (相关系数检验法) 为了检验两个变量x、y之间是否具有显著的线性关系，我们介绍了一元线性回归效果的显著性检验(F检验法),这里我们介绍另一种检验方法-相关系数检验法. 为了检验假设:H0：b=0 ,H1：b≠0 . 根据样本观测数据(x i, y i)(i=1,2,…,n),由一元线性回归中未知参数的最小二乘估计中的结论知回归直线方程为: 其中 , , , , . 令 , 此统计量称为相关系数.而回归平方和: , 误差平方和: =L yy(1-r2).
[其中是回归值与其平均值的离差平方和，而,可以把看成是由于x的变化而引起的y值变化，因此称之为回归平方和； 反映的是观测值与回归值之间的离差平方和，它表示除x对y的线性影响之外的一切因素引起的y值的变化，称之为误差平方和或残差平方和.] 不难看出,?由于Q≥0，L yy≥0，故1-r2≥0，即0≤|r|≤1． |r|越接近1，Q越小，回归方程对样本数据的拟合程度越好；反之，|r|越接近0，Q 越大，回归方程对样本数据的拟合程度越差． 下面利用散点图具体说明,当r取各种不同数值时,散点分布的情形,见下图． 具体说明如下: (1)当r=0时，L xy=0，因此，回归直线平行于x轴，说明y的取值与x无关．注意，此时x与y可能存在其他非线性关系． (2)当|r|=1时，Q=0，从而y=这时所有的点都在回归直线上，此时x与y存在确定的线性函数关系，称x与y完全线性相关． (3)当0＜|r|＜1时，x与y存在一定的线性关系．若r与L xy同号，则r＞0，＞0，称x与y正相关：若r与L xy异号，则r＜0，＜0，称x与y负相关．
本次教程的主要内容包含： 一、多元线性回归 2# 多元线性回归：regress 二、多项式回归 3# 一元多项式：polyfit或者polytool 多元二项式：rstool或者rsmdemo 三、非线性回归 4# 非线性回归：nlinfit 四、逐步回归 5# 逐步回归：stepwise 一、多元线性回归 多元线性回归： 1、b=regress(Y, X ) 确定回归系数的点估计值
2、[b, bint,r,rint,stats]=regress(Y,X,alpha)求回归系数的点估计和区间估计、并检验回归模型 ①bint表示回归系数的区间估计. ②r表示残差 ③rint表示置信区间 ④stats表示用于检验回归模型的统计量,有三个数值：相关系数r2、F值、与F对应的概率p 说明：相关系数r2越接近1，说明回归方程越显著；时拒绝H0，F越大，说明回归方程越显著；与F对应的概率p<α时拒绝H0 ⑤alpha表示显著性水平(缺省时为0.05) 3、rcoplot(r,rint)画出残差及其置信区间 具体参见下面的实例演示 4、实例演示，函数使用说明 (1)输入数据 1.>>x=[143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164]'; 2.>>X=[ones(16,1) x]; 3.>>Y=[88 85 88 91 92 93 93 95 96 98 97 96 98 99 100 102]'; 复制代码 (2)回归分析及检验 1. >> [b,bint,r,rint,stats]=regress(Y,X) 2. 3. b = 4. 5. -1 6.0730 6.0.7194 7. 8. 9.bint =
matlab 回归（多元拟合）教程 前言 1、学三条命令 polyfit(x,y,n)---拟合成一元幂函数（一元多次） regress(y,x)----可以多元， nlinfit(x,y,’fun ’,beta0) (可用于任何类型的函数，任意多元函数，应用范围最主，最万能的) 2、同一个问题，这三条命令都可以使用，但结果肯定是不同的，因为拟合的近似结果，没有唯一的标准的答案。相当于咨询多个专家。 3、回归的操作步骤： 根据图形（实际点），选配一条恰当的函数形式（类型）---需要数学理论与基础和经验。（并写出该函数表达式的一般形式，含待定系数）------选用某条回归命令求出所有的待定系数。所以可以说，回归就是求待定系数的过程（需确定函数的形式） 一、回归命令 一元多次拟合polyfit(x,y,n);一元回归polyfit;多元回归regress---nlinfit(非线性) 二、多元回归分析 对于多元线性回归模型(其实可以是非线性，它通用性极高)： e x x y p p ++ ++ = βββ 1 10 设变量12,,,p x x x y 的n 组观测值为12(,, ,)1,2, ,i i ip i x x x y i n = 记 ??????? ??=np n n p p x x x x x x x x x x 2 1 22221 1121111 1，?? ?? ? ?? ??=n y y y y 21，则?????? ? ??=p ββββ 10 的估计值为排列方式与线性代数中的线性方程组相同（），拟合成多元函数---regress 使用格式：左边用b=[b, bint, r, rint, stats]右边用=regress(y, x)或regress(y, x, alpha) ---命令中是先y 后x, ---须构造好矩阵x(x 中的每列与目标函数的一项对应) ---并且x 要在最前面额外添加全1列/对应于常数项
线性回归的显著性检验 1.回归方程的显著性 在实际问题的研究中，我们事先并不能断定随机变量y 与变量p x x x ,,,21 之间确有线性关系，在进行回归参数的估计之前，我们用多元线性回归方程去拟合随机变量y 与变量p x x x ,,,21 之间的关系，只是根据一些定性分析所作的一种假设。因此，和一元线性回归方程的显著性检验类似，在求出线性回归方程后，还需对回归方程进行显著性检验。 设随机变量Y 与多个普通变量p x x x ,,,21 的线性回归模型为 p p x b x b b Y 110 其中 服从正态分布),0(2 N 对多元线性回归方程的显著性检验就是看自变量若接受p x x x ,,,21 从整体上对随机变量y 是否有明显的影响。为此提出原假设 0,,0,0:210 p b b b H 如果0H 被接受，则表明随机变量y 与p x x x ,,,21 的线性回归模型就没有意义。通过总离差平方和分解方法，可以构造对0H 进行检验的统计量。正态随机变量 n y y y ,,,21 的偏差平方和可以分解为： n i i i n i i n i n i i i i i y y y y y y y y y y 1 21 2 1 1 2 2 )?()?()??()( n i i T y y S 12 )(为总的偏差平方和， n i i R y y S 1 2)?(为回归平方和， n i i i E y y S 1 2)?(为残差平方和。因此，平方和分解式可以简写为：
E R T S S S 回归平方和与残差平方和分别反映了0 b 所引起的差异和随机误差的影响。构造F 检验统计量则利用分解定理得到： ) 1( p n Q p Q F E R 在正态假设下，当原假设0,,0,0:210 p b b b H 成立时，F 服从自由度为)1,( p n p 的F 分布。 对于给定的显著水平 ，当F 大于临界值)1,( p n p 时，拒绝0H ，说明回归方程显著，y x 与有显著的线性关系。 实际应用中，我们还可以用复相关系数来检验回归方程的显著性。复相关系数R 定义为： T R S S R 平方和分解式可以知道，复相关系数的取值范围为10 R 。R 越接近1表明E S 越小，回归方程拟合越好。 2.回归系数的显著性 若方程通过显著性检验，仅说明p b b b b ,,,210不全为零，并不意味着每个自变量对y 的影响都显著，所以就需要我们对每个自变量进行显著性检验。若某个系数0 j b ，则j x 对y 影响不显著，因此我们总想从回归方程中剔除这些次要的，无关的变量。检验i x 是否显著，等于假设 p j b H j j ,,2,1,0:0 已知])(,[~?12 X X B N B ，p j i c X X ij ,,2,1,0,)(1 ）（记,可知 ],[~?2 ij j j c b N b ,,,2,1,0p j 据此可构造t 统计量
matlab多元非线性回归及显著性分析 给各位高手：小弟有一些数据需要回归分析（非线性）及显著性检验（回归模型，次要项，误差及失拟项纯误差，F值和P值），求大侠帮助，给出程序，不胜感激。 模型： DA TA=... %DA TA前三列是影响因子，第四列为响应值 [2 130 75 48.61; 2 110 75 56.43; 2 130 45 61.32; 2 110 45 65.28; 1 110 45 55.80; 1 130 75 45.65; 1 110 75 50.91; 1 130 45 67.94; 1.5 120 60 74.15; 1.5 120 60 71.28; 1.5 120 60 77.95; 1.5 120 60 74.16; 1.5 120 60 75.20; 1.5 120 85 35.65; 1.5 140 60 48.66; 1.5 120 30 74.10; 1.5 100 60 6 2.30; 0.5 120 60 66.00; 2.5 120 60 75.10]; 回归分析过程： （1）MATLAB编程步骤1：首先为非线性回归函数编程，程序存盘为user_function.m function y=user_function(beta,x) b0 = beta(1); b1 = beta(2); b2 = beta(3); b3 = beta(4); x0 = x(:,1); x1 = x(:,2); x2 = x(:,3); x3 = x(:,4); y=b0*x0+b1*x1.^2+b2*x2.^2+b3*x3.^2; （2）MATLAB编程步骤2：编写非线性回归主程序，程序运行时调用函数user_function x=[1 2 130 75 48.61;
Matlab 线性回归（拟合） 对于多元线性回归模型： e x x y p p ++++=βββ 110 设变量12,,,p x x x y 的n 组观测值为 12(,,,)1,2,,i i ip i x x x y i n =． 记 ??????? ??=np n n p p x x x x x x x x x x 2122221112 11111，??????? ??=n y y y y 21， 则?????? ? ??=p ββββ 10 的估计值为 y x x x b ')'(?1-==β 在Matlab 中，用regress 函数进行多元线性回归分析，应用方法如下： 语法：b = regress(y, x) [b, bint, r, rint, stats] = regress(y, x) [b, bint, r, rint, stats] = regress(y, x, alpha) b = regress(y, x)，得到的p+1维列向量b 即为(11.2)式给出的回归系数β的 估计值． [b, bint, r, rint, stats]=regress(y, x) 给出回归系数β的估计值b ，β的95％置 信区间（(p+1)*2向量）bint ，残差r 以及每个残差的95％置信区间（2?n 向量）rint ；向量stats 给出回归的R2统计量和F 以及临界概率p 的值． 如果i β的置信区间（bint 的第i+1行）不包含0，则在显著水平为α时拒绝0i β=的假设，认为变量i x 是显著的． [b, bint, r, rint, stats]=regress(y, x, alpha) 给出了bint 和rint 的100(1-alpha)%的置信区间． 1.三次样条插值函数的MATLAB 程序 matlab 的spline x = 0:10; y = sin(x); %插值点 xx = 0:.25:10; %绘图点 yy = spline(x,y,xx);
多元线性回归及显著性检验Matlab程序（完美版） 一、说明： 1、本程序是研究生教材《数理统计》（杨虎、刘琼、钟波编著）例4.4.1（P133）的Matlab 编程解答程序。教材上的例题只做了回归方程显著性分析和一次回归系数显著性分析（剔除x1后没有再检验x2和x3）。 2、本程序在以上的基础之上,还分别检验了x2和x3,并且计算精度更高。 3、本程序可根据用户的需要,在输入不同的显著性水平α之下得到相应的解答。 4、本程序移植性强,对于其他数据,只需要改变excel中的数据即可。 5、本程序输出的可读性强,整洁美观。 二、数据入下（将数据存入excel表格,文件名为jc_p133_example.xls。注意数据是按 ）：
三、完整程序如下： %----------------------------by ggihhimm---------------------------- %《数理统计》杨虎、刘琼、钟波编著例4.4.1 多元线性回归及显著性检验完整解答 % 输入需要的显著水平α（默认α=0.02）,计算出不同结果（见运行结果） % 该程序也适合其他维数的数据分析（只需改变excel表格中的数据即可） %----------------------------by ggihhimm---------------------------- clear;clc; data=xlsread('jc_p133_example.xls','sheet1'); xi=data(:,1:end-1); [n,k]=size(data); k=k-1; index_of_xi_array=ones(1,k); X=[ones(n,1) xi]; Y=data(:,end); fprintf('第1次计算结果：\r') beta_mao=((X'*X)\X'*Y)'; fmt_str0=''; for i0=1:k+1 fmt_str0=[fmt_str0 'β' num2str(i0-1) ' = %0.4f\r']; end fprintf(fmt_str0,beta_mao) fprintf('\r')
Matlab 线性回归（拟合） 对于多元线性回归模型： e x x y p p ++++=βββ 110 设变量12,,,p x x x y 的n 组观测值为 12(,,,) 1,2,,i i ip i x x x y i n = ． 记 ??????? ? ?=np n n p p x x x x x x x x x x 2 1 222211121111 1，?? ?? ??? ??=n y y y y 2 1 ，则???? ?? ? ??=p ββββ 10 的估计值为 y x x x b ')'(?1-==β (11.2) 在Matlab 中，用regress 函数进行多元线性回归分析，应用方法如下： 语法：b = regress(y, x) [b, bint, r, rint, stats] = regress(y , x) [b, bint, r, rint, stats] = regress(y , x, alpha) b = regress(y, x)，得到的1+p 维列向量b 即为(11.2)式给出的回归系数β的估计值． [b, bint, r, rint, stats]=regress(y , x) 给出回归系数β的估计值b ，β的95％置信区间（(1)2p +?向量）bint ，残差r 以及每个残差的95％置信区间（2?n 向量）rint ；向量stats 给出回归的R 2 统计量和F 以及临界概率p 的值． 如果i β的置信区间（bint 的第1i +行）不包含0，则在显著水平为α时拒绝0i β=的假设，认为变量i x 是显著的． [b, bint, r, rint, stats]=regress(y , x, alpha) 给出了bint 和rint 的100(1-alpha)%的置信区间． 三次样条插值函数的MATLAB 程序 matlab 的spline x = 0:10; y = sin(x); %插值点 xx = 0:.25:10; %绘图点 yy = spline(x,y ,xx); plot(x,y,'o',xx,yy)
matlab多元线性回归模型
云南大学数学与统计学实验教学中心 实验报告 一、实验目的 1.熟悉MATLAB的运行环境. 2.学会初步建立数学模型的方法 3.运用回归分析方法来解决问题 二、实验内容 实验一：某公司出口换回成本分析 对经营同一类产品出口业务的公司进行抽样调查,被调查的13家公司,其出口换汇成本与商品流转费用率资料如下表。试分析两个变量之间的关系,并估计某家公司商品流转费用率是6.5%的出口换汇成本.
实验二：某建筑材料公司的销售量因素分析 下表数据是某建筑材料公司去年20个地区的销售量（Y，千方），推销开支、实际帐目数、同类商品竞争数和地区销售潜力分别是影响建筑材料销售量的因素。1）试建立回归模型，且分析哪些是主要的影响因素。2）建立最优回归模型。
提示：建立一个多元线性回归模型。 三、实验环境 Windows操作系统; MATLAB 7.0. 四、实验过程 实验一：运用回归分析在MATLAB里实现 输入：x=[4.20 5.30 7.10 3.70 6.20 3.50 4.80 5.50 4.10 5.00 4.00 3.40 6.90]'; X=[ones(13,1) x]; Y=[1.40 1.20 1.00 1.90 1.30 2.40 1.40 1.60 2.00 1.00 1.60 1.80 1.40]'; plot(x,Y,'*'); [b,bint,r,rint,stats]=regress(Y,X,0.05); 输出： b = 2.6597 -0.2288 bint = 1.8873 3.4322 -0.3820 -0.0757 stats = 0.4958 10.8168 0.0072