第9讲--多元线性回归--主成分回归

格式：pptx
大小：203.45 KB
文档页数：35

下载文档原格式

多元线性回归讲解学习

简要回答题：1. 在多元线性回归分析中，F检验和t检验有何不同？答案：在多元线性回归中，由于有多个自变量，F检验与t检验不是等价的。

F检验主要是检验因变量同多个自变量的整体线性关系是否显著，在k个自变量中，只要有一个自变量同因变量的线性关系显著，F检验就显著，但这不一定意味着每个自变量同因变量的关系都显著。

检验则是对每个回归系数分别进行单独的检验，以判断每个自变量对因变量的影响是否显著。

知识点：多元线性回归难易度：12. 在多元线性回归分析中，如果某个回归系数的t检验不显著，是否就意味着这个自变量与因变量之间的线性回归不显著？为什么？当出现这种情况时应如何处理？答案：（1）在多元线性回归分析中，当t检验表明某个回归系数不显著时，也不能断定这个自变量与因变量之间线性关系就不显著。

因为当多个自变量之间彼此显著相关时，就可能造成某个或某些回归系数通不过检验，这种情况称为模型中存在多重共线性。

（2）当模型中存在多重共线性时，应对自变量有所选择。

变量选择的方法主要有向前选择、向后剔除和逐步回归等。

知识点：多元线性回归难易度：2计算分析题：1. 一家餐饮连锁店拥有多家分店。

管理者认为，营业额的多少与各分店的营业面积和服务人员的多少有一定关系，并试图建立一个回归模型，通过营业面积和服务人员的多少来预测营业额。

为此，收集到10家分店的营业额（万元）、营业面积（平方米）和服务人员数（人）的数据。

经回归得到下面的有关结果（a=0.05）。

回归统计Multiple R R Square Adjusted R Square 标准误差0.9147 0.8366 0.7899 60.7063方差分析df SS MS F Significance F回归 2 132093.199 66046.600 17.922 0.002残差7 25796.801 3685.257总计9 157890.000参数估计和检验Coefficients 标准误差t Stat P-valueIntercept -115.288 110.568 -1.043 0.332X Variable 1 0.578 0.503 1.149 0.288X Variable 2 3.935 0.699 5.628 0.001（1）指出上述回归中的因变量和自变量。

第九章 REG-多元线性回归

多重共线性的处理方法
• • • • 剔除不重要的自变量；增大样本容量；把横截面数据与时间序列数据结合起来使用；当样本资料来自时间序列时，可以对回归模型进行差分，然后拟合差分后的模型； • 岭回归方法； • 主成分回归。
岭回归自变量间存在多重共线性时
X 0,因此给 X 加上一个 k I(k 0), 那么 X X X k I接近奇异的程度会降低 X
K=0.02对应的岭回归方程为： import=-8.9277+0.057gdp+0.59542save+0.127consume 且三个变量的VIF都小于10，多重共线性不明显。
• • • • •
proc reg data=imports outest=result1 outvif; model import=gdp save consume/pcomit=1; run; proc print data=result1; 主成分回归 run;
2 ˆ ˆ 从而使的方差阵 D ( ) （X ）1对角线上的元素很大， X ˆ 也 var( ) 很大 i
多重共线性的判断
（1）方差膨胀因子VIF：
1 VIFj 1 R2 j
其中R 2为第j个自变量对模型中其余自变量进行线性回 j 归所得到的拟合优度。
一般来说，VIFj 10，表明自变量间存在高度共线性。
outest=result：要求把岭回归估计值输出到数据集result中 Outvif: 要求把岭回归估计的VIF输出到数据集result中 ridge=0.0 to 0.1 by 0.01 0.2 0.3 0.4 0.5;指定一组岭迹参数 Plot/ridgeplot; 要求绘制岭迹图

一文读懂多元回归分析

⼀⽂读懂多元回归分析⼀、多元回归分析简介⽤回归⽅程定量地刻画⼀个应变量与多个⾃变量间的线性依存关系,称为多元回归分析（multiple linear regression),简称多元回归(multiple regression)。

多元回归分析是多变量分析的基础，也是理解监督类分析⽅法的⼊⼝！实际上⼤部分学习统计分析和市场研究的⼈的都会⽤回归分析，操作也是⽐较简单的，但能够知道多元回归分析的适⽤条件或是如何将回归应⽤于实践，可能还要真正领会回归分析的基本思想和⼀些实际应⽤⼿法！回归分析的基本思想是：虽然⾃变量和因变量之间没有严格的、确定性的函数关系，但可以设法找出最能代表它们之间关系的数学表达形式。

⼆、多元回归线性分析的运⽤具体地说，多元线性回归分析主要解决以下⼏⽅⾯的问题。

（1）确定⼏个特定的变量之间是否存在相关关系，如果存在的话，找出它们之间合适的数学表达式；（2）根据⼀个或⼏个变量的值，预测或控制另⼀个变量的取值，并且可以知道这种预测或控制能达到什么样的精确度；（3）进⾏因素分析。

例如在对于共同影响⼀个变量的许多变量（因素）之间，找出哪些是重要因素，哪些是次要因素，这些因素之间⼜有什么关系等等。

在运⽤多元线性回归时主要需要注意以下⼏点：⾸先，多元回归分析应该强调是多元线性回归分析！强调线性是因为⼤部分⼈⽤回归都是线性回归，线性的就是直线的，直线的就是简单的，简单的就是因果成⽐例的；理论上讲，⾮线性的关系我们都可以通过函数变化线性化，就⽐如：Y=a+bLnX，我们可以令 t=LnX，⽅程就变成了 Y=a+bt，也就线性化了。

第⼆，线性回归思想包含在其它多变量分析中，例如：判别分析的⾃变量实际上是回归，尤其是Fisher线性回归⽅程；Logistics回归的⾃变量也是回归，只不过是计算线性回归⽅程的得分进⾏了概率转换；甚⾄因⼦分析和主成分分析最终的因⼦得分或主成分得分也是回归算出来的；当然，还有很多分析最终也是回归思想！第三：什么是“回归”，回归就是向平均靠拢。

多元线性回归分析正式优秀课件

l1 b 1 1 l1 b 2 2 l1 m b m l1 Y l2b 1 1l2b 22 l2 m b m l2Y lm 1 b 1 lm 2 b 2 lm b m m lmY
b 0 Y （ b 1 X 1 b 2 X 2 b m X m ）
用最小二乘法解正规方程组，使残差平方和Q最小。
11.2
2
3.79
1.64
7.32
6.9
8.8
3
6.02
3.56
6.95
10.8
12.3
27
3.84
1.20
6.45
9.6
10.4
66.010367.360-583.952331.368677.6962
67.3601872.364-89.492296.728869.8025
lij -53.952-39.4923950.31-5076.38-61342.434
多元线性回归分析正式
讲课内容
第一节多元线性回归(重点) 第二节自变量选择方法(重点) 第三节多元线性回归的应用及注
意事项
第一节多元线性回归
一、多元线性回归模型
表 15-2 27 名糖尿病人的血糖及有关变量的测量结果
序号 i
总胆固醇甘油三酯
(mmol/L) (mmol/L)
X1
X2
胰岛素糖化血红蛋白血糖
SS残 SS总 SS回
F
SS 残
SS回 /（ n
/m m
1）
MS MS
回残
表 15-3 多元线性回归方差分析表
变异来源自由度 SS
MS
FP
总变异 n－1 SS 总
回归
m
SS 回

多元线性回归分析课件优秀课件

根着据自s变y.x量1x2的…x增p大加小而判减断少方，程但优当劣增时加的一优些点无：统一计般学随意义的自变量后，剩余标准差反而增大。根据复相关系数R来判断，但只反映密切程度，不反应方向
根据sy.x1x2…xp大小判断方程优劣时的优点：一般随着自变量的增加而减少，但当增加一些无统计学意义的自变量后，剩余标准差反而增大。
(normality) 4.方差齐性(homogeneity or equal variance)
简称为LINE
PAN.sav数据库是某地29名13岁男童的体重x (kg) 和肺活量y(L)资料，试建立体重与肺活量的直线回归方程。
SPSS程序：Analyze Regression Linear，打开对话框，把肺活量y放入应变量栏中，体重x放入自变量栏中。
2
1.538 15.642
Res idual 2.557
26
.098
T otal 5.634
28
a.Predictors: (Constant), 身高 , 体重
b.Dependent Variable: 肺活量
Sig. .000a
衡量回归方程的标准
建立回归方程时要求：既要尽可能提高拟合的精度，又要尽可能使模型简单。常用的衡量方程“优劣”的标准有：
1、决定系数（R2）； 2、复相关系数R 3、调整决定系数（R2adj）； 4、剩余标准差（sy.x1x2…xp）。 5、赤池信息准则（AIC） 6、Cp统计量
根据R2大小判断方程优劣时的缺点是：变量最多的方程最好，即使所增加的变量无统计学意义。
根学意据意义R义的2a的变dj 变量大量进小进入判入方断方程方程，程，优R2劣aRd2j时反adj的而增优减加点少；：。当当无有统统计计学

《多元线性回归》PPT课件

ˆ 0.7226 0.0003 15674 103 .172 1 ˆ β ˆ 0 . 0003 1 . 35 E 07 39648400 0 . 7770 2
x11 x x 1n x k1 x kn
假设6：回归模型是正确设定的
§3.2
多元线性回归模型的参数估计
一、普通最小二乘估计二、参数估计量的性质三、样本容量问题
参数估计的任务和方法
1、估计目标：回归系数βj、随机误差项方差б2 2、估计方法：OLS、ML或者MM * OLS：普通最小二乘估计 * ML：最大似然估计
E(X(Y Xβ )0
矩条件
*矩条件和矩估计量*
1、 E(X(Y Xβ ) 0 称为原总体回归方程的一组矩条件，表明了
原总体回归方程所具有的内在特征。
2、如果随机抽出原总体的一个样本，估计出的样本回归方程：
ˆ 能够近似代表总体回归方程的话，则应成立： ˆ X Y
1 ˆ)0 X (Y Xβ n
第三章
多元线性回归模型
§ 3.1 多元线性回归模型
§ 3.2 多元线性回归模型的参数估计 § 3.3 多元线性回归模型的统计检验 § 3.4 多元线性回归模型的预测 § 3.5 可线性化的多元非线性回归模型 § 3.6 受约束回归
§3.1
多元线性回归模型
一、模型形式二、基本假定
一、模型形式
Yi 0 1 X 1i 2 X 2 i ... k X ki i 0 j X ji i
#参数估计的实例
例3.2.1：在例2.1.1的家庭收入-消费支出例中，

统计学中的多元分析和主成分分析

统计学中的多元分析和主成分分析统计学是一门研究数据收集、分析和解释的学科。

在统计学中，多元分析和主成分分析是两种常用的数据分析方法。

它们可以帮助我们理解和解释数据中的多个变量之间的关系，并从中提取出最重要的信息。

本文将对多元分析和主成分分析进行介绍和比较，以便更好地理解它们的应用和作用。

一、多元分析多元分析是一种用于研究多个变量之间关系的统计方法。

它可以帮助我们确定和解释数据中的多个变量之间的关联性、相关性和相互作用。

多元分析的目标是找到一个或多个线性方程，用于描述和预测多个自变量和因变量之间的关系。

在多元分析中，常见的方法包括相关分析、回归分析、方差分析等。

相关分析用于度量两个或多个变量之间的关系程度，回归分析用于建立自变量和因变量之间的线性关系模型，方差分析则用于比较多个样本之间的均值差异。

这些方法可以帮助我们深入了解数据背后的规律和关联性。

二、主成分分析主成分分析是一种用于降维和提取数据主要信息的统计方法。

它可以帮助我们从一个包含大量变量的数据集中提取出最为重要的主成分，以实现数据的降维和解释。

主成分分析通过线性变换将原始变量转化为一组新的无关变量，这些新的变量被称为主成分。

主成分分析的过程包括计算协方差矩阵、计算特征值和特征向量，以及选择最重要的主成分。

通过选择最重要的主成分，我们可以将原始数据的维度降低，从而更好地理解和解释数据。

主成分分析在数据探索、模式识别和数据可视化等方面具有广泛的应用。

三、多元分析与主成分分析的比较多元分析和主成分分析虽然在统计学中都是用于分析多个变量之间的关系，但它们在目的和方法上有所不同。

1. 目的不同：多元分析旨在研究多个变量之间的关系和相互作用，以找到描述和预测这些关系的线性方程；而主成分分析旨在通过降维和提取主要信息，将原始数据转化为一组更为简洁和解释性强的主成分。

2. 方法不同：多元分析通常采用相关分析、回归分析和方差分析等方法，通过计算统计指标和建立模型来分析多个变量之间的关系；主成分分析则通过线性变换和特征值分解等方法，将原始变量转化为一组新的无关变量。

多元线性回归的名词解释

多元线性回归的名词解释多元线性回归是一种经济学和统计学中常用的方法，用于分析多个自变量与一个连续因变量之间的关系。

在这种回归分析中，解释变量（自变量）可以是连续或分类变量，而被解释变量（因变量）通常是连续变量。

本文将对多元线性回归的关键名词进行解释，以帮助读者更好地理解和应用该方法。

一、回归分析回归分析是研究两个或多个变量之间关系的统计方法。

在多元线性回归中，我们可以使用多个自变量来预测一个连续的因变量。

回归分析可以帮助我们了解各个自变量对因变量的贡献程度，以及它们之间的相互作用。

二、线性回归线性回归是一种回归分析的方法，假设自变量和因变量之间存在线性关系。

这意味着在多元线性回归中，我们假设因变量是自变量的线性组合，具体表现为一个多元线性方程。

通过最小化预测值和实际观测值之间的误差平方和，我们可以估计出各个自变量的系数，并对因变量进行预测。

三、自变量和因变量在多元线性回归中，自变量是我们用来解释或预测因变量的变量。

自变量可以是连续变量，如年龄、收入等，也可以是分类变量，如性别、教育程度等。

因变量是我们希望预测或解释的变量，通常是一个连续变量，如房屋价格、销售额等。

四、最小二乘法最小二乘法是多元线性回归中参数估计的常用方法。

该方法通过最小化预测值与实际观测值之间的误差平方和来确定各个自变量的系数。

通过求解估计方程，我们可以得到最佳的系数估计，从而建立起自变量与因变量之间的线性关系。

五、多重共线性多重共线性是多元线性回归中一个重要的问题。

当自变量之间存在高度相关性时，可能会导致估计的系数不稳定或不精确。

为了检测和解决多重共线性问题，我们可以计算自变量之间的相关系数矩阵，并使用方差膨胀因子（VIF）来评估自变量之间的共线性程度。

六、拟合优度拟合优度是衡量多元线性回归模型拟合优良程度的指标。

拟合优度可以用于评估模型对观测值的解释能力。

常见的拟合优度指标包括决定系数（R²），它可以解释因变量的变异程度中可归因于自变量的比例。

多元线性回归课件

误差项之间不存在自相关性。
线性关系
自变量与因变量之间存在线性关系。
无异方差性
误差项的方差在所有观测值中保持恒定。
无异常值
数据集中没有异常值。
02
多元线性回归的参数估计
最小二乘法
最小二乘法是一种数学优化技术，其基本思想是寻找一个函数，使得该函数与已知数据点的总误差（或总偏差）的平方和最小。
最小二乘法通过构建残差平方和பைடு நூலகம்数学模型，并对其求最小值来估计参数，这种方法具有简单、直观和易于计算的特点。
在多元线性回归中，最小二乘法的目标是找到最佳参数值，使得实际观测值与通过模型预测的值之间的残差平方和最小。
参数的估计值与估计量的性质
参数的估计值是通过最小二乘法或其他优化算法从样本数据中得
多元线性回归课件
目录
CONTENTS
• 多元线性回归概述 • 多元线性回归的参数估计 • 多元线性回归的评估与诊断 • 多元线性回归的进阶应用 • 多元线性回归的软件实现 • 多元线性回归的案例分析
01
多元线性回归概述
定义与模型
定义
多元线性回归是一种统计学方法，用于研究多个自变量与因变量之间的线性关系。
决定系数（R^2）
衡量模型解释变量变异程度的指标，值越接近1表示模型拟合度越好。
调整决定系数（Adjusted R^2）
考虑了模型中自变量的增加，对R^2进行调整后的拟合度指标。
均方误差（MSE）
衡量模型预测误差大小的指标，值越小表示模型预测精度越高。
变量的显著性检验
t检验
通过t统计量检验自变量对因变量的影响是否显著，值越大表明该变量越重要。
用于判断自变量之间是否存在多重共线性的指标，值小于阈值时可能存在多重共线性问题。

多元线性回归模型资料讲解

多元线性回归模型资料讲解多元线性回归模型第三章多元线性回归模型基本要求：1、理解多元线性回归模型的定义2、理解多元线性回归模型的假定3、掌握参数估计的计算4、理解参数统计性质第一节多元线性回归模型及假定一、多元线性回归模型许多经济现象往往要受多个因素的影响，研究被解释变量受多个解释变量的影响，就要利用多元回归模型。

多元线性回归模型与一元线性回归模型基本类似，只不过解释变量由一个增加到两个以上，被解释变量Y 与多个解释变量k X X X ,,,21 之间存在线性关系。

假定被解释变量Y 与多个解释变量k X X X ,,,21 之间具有线性关系，是解释变量的多元线性函数，称为多元线性回归模型。

即k k X X X Y 22110(3-1)其中Y 为被解释变量，(1,2,,)j X j k L 为k 个解释变量，(0,1,2,,)j j k L 为1k 个未知参数，为随机误差项。

被解释变量Y 的期望值与解释变量k X X X ,,,21 的线性方程为：01122()k k E Y X X X L (3-2)称为多元总体线性回归方程，简称总体回归方程。

对于n 组观测值),,2,1(,,,,21n i X X X Y ki i i i ，其方程组形式为：01122,(1,2,,)i i i k ki i Y X X X i n L L(3-3) 即nkn k n n n k k k k X X X Y X X X Y X X X Y 2211022222121021121211101 其矩阵形式为n Y Y Y 21=kn n nk k X X X X X X X X X212221212111111k 210+n 21 即Y X βμ(3-4) 其中1n Y n Y Y Y 21为被解释变量的观测值向量； )1(k n Xkn n nk k X X X X X X X X X212221212111111为解释变量的观测值矩阵；(1)1k βk 210为总体回归参数向量；1nμn 21为随机误差项向量。

1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

程序代码—预报
对新测定Snew: C=np.dot(Snew, Alast)
扩展--能否用MLR、PCA类PCR类
• 传递X，Y给PCR
• PCR内，以X调用PCA，确定主成分数
• 根据确定的主成分数，确定T、P，以T，Y建模，并结合
P确定回归系数 • 建立预报方法。
扩展--能否用MLR、PCA类PCR类
T和P都是列正交矩阵
T的第i列ti的模，就是第i个特征值λi E为残差矩阵，对应噪声
11
主成分示例
方差最大方向
NIPALS算法每次只求一个主成分，目前最大散差方向
12
仪器的信噪比
仪器测量时，信号强度要远远大于噪声
信号的数据的方差要远远大于噪声的方差所以，PCA可以区别噪声
第9讲多元线性回归主成分及其回归
多元线性回归解决的问题
系数矩阵 Y=XA 建模：求解回归系数A，该过程称为建
模预报：在A已知时，对于新测Xnew，预报Ynew，称为预报
例子
某保健品含片产品，说明书标明：由营养
物质A、B、C组成，产品标注中写出了每片中A、B、C物质的含量。问，如何认定？
矩阵中有3个有效特征值根据有效特征值，设定PCA 的得分和载荷
实例—光谱矩阵的SVD分解
根据主成分，规划得分U和载荷矩阵P SVD ：X=USV PCA：X=TPt T=US ，P=Vt i=len(lamda) S=np.zeros ((i,i)) S[:i,:i]=np.diag (lamda) T = np.dot (U,S) V=V.T P =V T = T[:,:k] P = P[:,:k]
程序代码—建模过程
P=V.T for i in range(len(lmada)-1): temp = lamda[i]/lamda[i+1] print (temp) k=int(input(“主成分数为:”)) T = T[:,:k] P = P[:,:k] TtT=np.dot(T.T,T) inv = np.linalg.inv(TtT) A=np.dot(inv, T.T) Alast=np.dot(P,A)
主成分回归
数据 E:\学校教学\python\S-093843.txt E:\学校教学\python\C-093843.txt 求解方程 C=SA S是6*16的矩阵所以StS的逆不存在 S 是光谱矩阵，光谱的不同波长间线性相关，所以可以用PCR
程序代码—建模过程
S=np.mafromtxt(“E:\\学校教学\\python\\S-093843.txt ") S=S.data
通过特征值比值判断有效变量数
在λi/ λi+i，应该达到最大值根据i值，取T和P的前i列，即可扔掉噪声
15
主成分回归PCR
Principle Component Regression 是多元线性回归！原来 Y=XA 现在 Y=TA T为X的主成分得分，即X经PCA分解后的得分因为 T只是 X 的线性组合，提取了线性相关的部分，且只取前i列，所以模型稳定，去掉噪声
配置A、B、C的一组溶液，建立浓度与光
吸收的关系。既建模求回归系数将药片配置成溶液，测吸光，利用上面的模型，预报浓度。
建模公式推导
Y=XA XtY=XtXA (XtX)-1XtY=A
E:\学校教学\python\X.txt E:\学校教学\python\Y.txt
问题求解的关键步骤是什么？
样例
原数据
x y
0.9 1.1 1.2 1.0
0.8
0.87 2
2.2
1.9 2.1 1.7 2.5
0.92 1.1
1.81 1.9
图
PCA后
t1 t2 1.486 -0.208 1.485 0.075 1.216 -0.081 1.393 -0.158 2.694 0.142 2.898 0.221 2.545 0.149 3.253 -0.273
print("相邻特征值比值") compare = pcr.confirmPCs() print(compare) k=int(input("确定主成分数：")) pcr.model(k) ans=pcr.predict(S)
方程数与未知数的关系
设有规律上符合如下方程的一组实验数据
y= ax+b
通过实验，不断变更x，测得对应的y 求a,b的值，需要几组这样的数据？唯一解最小二乘解
y1 y2 … yn
=
x1 x2 … பைடு நூலகம்n
1 1 1 1
矩阵形式
a b XtX是2*2的矩阵
方程数与未知数的关系
设有规律上符合如下方程的一组实验数据
16
numpy中主成分分解—SVD分解
实矩阵的SVD(Singular Value Decomposition，奇
异值分解 )分解：分解结果：A=USV 其中S是对角矩阵
numpy中主成分分解---SVD
程序代码： B = np.linalg.svd(A,full_matrices=False) full_matrices=False一定要写，否则会按复数分解分解结果： U=B[0] lamda=B[1] V = B[2] Lamda是所有的特征值，可以计算相邻比值，决定主成分，它不是一个矩阵
y= 1.2 x1 + 0.9 x2 + 3.3 x3
通过实验，不断变更x1、x2、x3，测得对应的y
需要几组这样的数据？
唯一解
最小二乘解
方程数小于未知数，一定无解吗
如果x个数很多，样本打不到要求，怎么办？ y= 1.2 x1 + 0.9 x2 + 3.3 x3
当X1,X2,X3存在线性相关时，问题会怎样？
PCA类
self.T = np.dot (U,S) V=V.T self.P = V compare=[] for i in range(len(lamda)-1): temp = lamda[i]/lamda[i+1] compare.append(temp) return U,S,V,compare def PCAdecompose(self,k): T = self.T[:,:k] P = self.P[:,:k] return T,P
实例—光谱矩阵的SVD分解
数据：E:\学校教学\教改项目教材\数据\S-093790.txt 是一个16*6的矩阵看看能求解个特征值？16个？ 6个？96个？
实例—光谱矩阵的SVD分解
data=np.mafromtxt("E:\\学校教学\\教改项目教材\\ 数据\\S-093790.txt") data=data.data B = np.linalg.svd(data,full_matrices=False) >>> B[1] array([ 5.48250094e+00, 1.10440342e+00, 3.27012276e-01, 3.23153080e-03, 2.19720845e-03, 1.11546885e03])
可否编写PCA类
传递矩阵给类求得T、P矩阵，特征值比值列表根据特征值比值，规划T和P
PCA类
import numpy as np class PCA: def __init__(self, A): self.A=A def SVDdecompose(self): B = np.linalg.svd(self.A,full_matrices=False) U=B[0] lamda=B[1] V = B[2] i=len(lamda) S=np.zeros ((i,i)) S[:i,:i]=np.diag (lamda)
import numpy as np from PCA import PCA from MLR import MLR class PCR: def __init__(self,X,Y): self.X=X self.Y=Y def confirmPCs(self): pca=PCA(self.X) U,S,V,compare=pca.SVDdecompose() return compare
C=np.mafromtxt(“E:\\学校教学\\python\\C-093843.txt ") C=C.data B = np.linalg.svd(data,full_matrices=False) U=B[0] lamda=B[1] i=len(lamda) S=np.zeros ((i,i)) S[:i,:i]=np.diag (lamda) T = np.dot (U,S) V=B[2]
调用函数
S=np.mafromtxt("E:\\学校教学\\python\\S-093843.txt") S=S.data
S=S.T 要一行一个样本，所以转置 C=np.mafromtxt("E:\\学校教学\\python\\C-093843.txt") C=C.data C=C.T pcr=PCR(S,C)
PCA类调用
应该先调用decompose方法，根据返回的
特征之比值，确定主成分再调用PCAdecompose方法，设定得分和载荷矩阵
主成分回归
原来 Y=XA 现在 Y=TA
TtY=TtTA TtT-1TtY=A 求得最终的回归系数：主成分 X=TPt 因为P是正交矩阵，所以 T=XP Y=TA=XPA=XAnew
扩展----能否用MLR、PCA类
def model(self,PCs): pca=PCA(self.X) U,S,V,compare=pca.SVDdecompose() T,P=pca.PCAdecompose(PCs) mlr=MLR(T,self.Y) mlr.modelling() self.A=np.dot(P,mlr.A) def predict(self,Xnew): ans = np.dot(Xnew,self.A) return ans