线性相关

线性相关是一个数学学科里用的一个术语。

线性数学术语的描述：在线性代数里，矢量空间的一组元素中，若没有矢量可用有限个其他矢量的线性组合所表示，则称为线性无关或线性独立(linearly independent)，反之称为线性相关(linearly dependent)。

例如：在三维欧几里得空间R的三个矢量(1, 0, 0)，(0, 1, 0)和(0, 0, 1)线性无关；但(2, −1, 1)，(1, 0, 1)和(3, −1, 2)线性相关，因为第三个是前两个的和。

定义：在向量空间V的一组向量A: ，如果存在不全为零的数k1, k2, ···,km , 使则称向量组A是线性相关的，否则数k1, k2, ···,km全为0时，称它是线性无关。

由此定义看出是否线性相关，就看是否存在一组不全为零的数k1, k2, ···,km使得上式成立。

即是看这个齐次线性方程组是否存在非零解，将其系数矩阵化为最简形矩阵，即可求解。

此外，当这个齐次线性方程组的系数矩阵是一个方阵时，这个系数矩阵存在行列式为0，即有非零解，从而线性相关。

注意事项：1、对于任一向量组而言，不是线性无关的就是线性相关的。

2、向量组织包含一个向量a时，a为0向量，则说A线性相关; 若a ≠0, 则说A线性无关。

3、包含零向量的任何向量组是线性相关的。

4、含有相同向量的向量组必线性相关。

5、增加向量的个数，不改变向量的相关性。

(注意，原本的向量组是线性相关的)【局部相关，整体相关】6、减少向量的个数，不改变向量的无关性。

(注意，原本的向量组是线性无关的）【整体无关，局部无关】7、一个向量组线性无关，则在相同位置处都增加一个分量后得到的新向量组仍线性无关。

【无关组的加长组仍无关】8、一个向量组线性相关，则在相同位置处都去掉一个分量后得到的新向量组仍线性相关。

线性相关判断方法总结定义2.1.1 线性相关、线性无关\boldsymbol\alpha_1,\boldsymbol\alpha_2,\cdots,\boldsy mbol\alpha_m 是m个向量。

对于方程\lambda_1\boldsymbol\alpha_1+\lambda_2\boldsymbol\alph a_2+\cdots+\lambda_m\boldsymbol\alpha_m=\boldsymbol0 ，若其有非零解(\lambda_1,\lambda_2,\cdots,\lambda_m)\not=\boldsymbol 0 ，则称 \alpha_1,\alpha_2,\cdots,\alpha_m 线性相关；若其只有唯一解(\lambda_1,\lambda_2,\cdots,\lambda_m)=\boldsymbol0 ，则称\boldsymbol\alpha_1,\boldsymbol\alpha_2,\cdots,\boldsy mbol\alpha_m 线性无关。

特别地， \boldsymbol0 向量和任意向量线性相关。

二、线性相关、无关的性质定理2.1.1\boldsymbol\alpha_1,\boldsymbol\alpha_2,\cdots,\boldsy mbol\alpha_m 线性相关 \iff 显然，其中必有某个向量是其它向量的线性组合。

定理2.1.2\boldsymbol\alpha_1,\boldsymbol\alpha_2,\cdots,\boldsy mbol\alpha_m 线性相关 \iff 其中必有某个向量是它前面的向量的线性组合。

推论2.1.1\boldsymbol\alpha_1,\boldsymbol\alpha_2,\cdots,\boldsy mbol\alpha_m 线性无关 \iff 其中任何一个向量都不是它前面的向量的线性组合。

线性相关是什么意思线性相关是指两个变量的线性关系。

它指的是两个变量之间的变化是根据它们之间的线性关系而产生的。

这可以看作一个图表，其中X轴和Y轴分别代表变量A和变量B。

如果两个变量之间存在线性关系，也就是说如果变量A发生变化，那么变量B也会发生相应的改变，从而反映他们之间的线性关系。

线性相关的实际应用是总体分析和统计分析的基础和需要，可以帮助我们探索两个变量之间的相互作用。

它有助于我们从更深层次来理解总体的运作机制。

此外，线性间接解释了变量之间的因果关系，有助于我们更有效地解释复杂的数据，并预测将来的变化。

线性相关通常是基于统计学分析，利用数学工具，例如线性回归分析和最小二乘法，来确定这种变量之间的线性关系。

经过统计学分析，可以计算出系数，系数的值可以反映变量之间的线性关系的强弱。

线性相关常被用于回归分析，以确定某个变量的变化速度，并用来预测另一个变量将来的变化情况。

例如，两个变量A和B可能表示销售额和价格。

利用线性回归模型，可以计算出当价格升高一个单位时，销售额会相应上升多少，进而使用该数字进行预测，即在未来某一价格水平下的预期销售额。

另一方面，相关性也可能提供有关变量之间的因果关系的信息。

可以用来证明变量X的变化是否是变量Y的原因。

比如，当A和B之间存在负线性关系时，表明A的变化可能会导致B的变化，这可以帮助研究者推断出变量A的变化可能是导致变量B的原因。

线性相关的概念和应用可以广泛应用于商业，科学，教育和各种学科。

例如，在商业分析中，可以使用它来确定价格，消费者偏好习惯和消费者行为之间的线性关系，以决定某项商品或服务在市场上的价值。

在科学研究中，可以使用它来测量温度，压力和其他重要参数之间的线性关系，以获得更多的实验数据支持。

在教育中，线性相关也可以帮助教育者更全面地了解学生的成长，例如研究学生的学习时间和学习成绩之间的相互关系，可以帮助更好地指导教育实践。

总之，线性相关是一个重要的统计概念，它可以帮助我们从一个更宏观的视角来理解总体问题，并有助于解释和预测变量之间的线性关系。

§2向量的线性关系一． 概念为了进一步研究线性方程组的有解性和工程技术实际问题以及理论的需要，我们在本节研究向量的概念及其线性关系。

在向量代数一章里，我们已经知道，空间向量（向径）={x ，y ，z}（其中M （x ，y ，z ））与有序三数组一一对应。

将此推广到一般n 元有序数组得到n 维向量的概念。

定义1 n 个数n a a a ,,,21 组成的有序数组 ),,,(21n a a a =α称为n 维向量，),,2,1(n i a i =称为α的第i 个分量（坐标）。

注1.记号 ①手写：γβα,,分量用a ,,b c ,……，{}→()。

②印刷：黑体的γβα,,。

2. 一维、二维、三维向量的几何意义分别是直线向量，平面向量和空间向量。

四维及其以上的向量已无几何意义。

3. 线性方程),,,,(212211b a a a b x a x a x a n n n ↔=+++4. 行向量，列向量。

二． 运算设),,,(21n a a a =α，),,,(21n b b b =β 1. 相等：),,.2,1(n i b a i i ==⇔=βα2. 零向量： 分量都是0，记作θ（或0），即)0,,0,0( =θ3. 负向量： 向量(),,,21n a a a --- 称为=α(),,,21n a a a 的负向量，记为α-。

4. 和与差向量（加与减）：向量()n n b a b a b a +++,,,2211 称为向量α与β的和，记作βα+。

向量()n n b a b a b a ---,,,2211 称为向量α与β的差，记作βα-。

即 βα±()n n b a b a b a ±±±=,,,2211 。

5．数乘向量： αk (),,,21n ka ka ka =。

向量的加法、减法与数乘统称为向量的线性运算。

线性运算满足的运算律与三维向量相同。

线性相关的等价条件
1.向量组的线性相关性的定义∶若存在一组不全为零的数入;=(i = 1,2，…, n)，使得, A +A2a+…+入n a。

=入a =o,则称向量组A线性相关，否则，称向量组A线性无关。

2.若向量组(或矩阵)A的秩R(A)= r，则r<m时，向量组A线性相关，r = m时，向量组线性无关。

3.若齐次线性方程组XA=0有非零解,则向量组A线性相关，否则(方程组只有零解)，向量组A线性无关。

4.若m = n，若矩阵A可逆，则向量组A线性无关，否则向量组A线性相关。

[1][2]
5. m > n时，向量组A必线性相关。

6.若矩阵A有一个m阶非零子式，则向量组A线性无关。

7.向量组等价的概念:若向量组B中的每一个向量都能由向量组A线性表示，则称向量组B能由向曩组A线性表示;若向量组A与向量组B能互相线性表示，则称向量组A与向量组B等价，记为A ~B。

8.所含向量个数相等的两个等价的向量组具有相同的线性相关性。

9.矩阵乘积后秩不可能变大，即对任意矩阵A和B，有R( AB)≤R( A)， R(AB)≤R(B)[1][2]
10.矩阵A乘一个非奇异阵(可逆阵)P后，不改变矩阵A的秩，从而不改变向量组A的线性相关性。

11.对任意实矩阵A，有矩阵ATA 与矩阵A秩相等，即R( ATA)
12.设有n维列向量组A:aj, a2，…,à,线性无关，显然r<n。

即
矩阵A=(&, a2,…, az)= ( aj)..的秩六, . 4TA是,阶非奇异的对称阵。

判断向量组线性相关的方法
判断向量组线性相关的方法有:
1. 行列式判断法：将向量按列排成矩阵A，计算矩阵A的行
列式值det(A)，若det(A)=0，则向量组线性相关；若det(A)≠0，则向量组线性无关。

2. 线性组合法：对向量组中的向量进行线性组合，若存在不全为零的系数使得线性组合等于零向量，则向量组线性相关；若只有全为零的系数才能使线性组合等于零向量，则向量组线性无关。

3. 列向量线性相关性判断法：将向量排成矩阵A，对矩阵A
进行行变换，化为梯形矩阵或行简化阶梯形矩阵。

在梯形矩阵或行简化阶梯形矩阵中，如果存在一个主元所在的列，列中存在非零元素，则向量组线性相关；如果不存在这样的列，则向量组线性无关。

4. 秩判断法：将向量组按列排成矩阵A，计算矩阵A的秩
rank(A)，如果rank(A)小于向量的个数，则向量组线性相关；
如果rank(A)等于向量的个数，则向量组线性无关。

§3.3 线性相关性以下我们总是在一固定的数域Ｐ上的n 维向量空间中进行讨论，不再每次说明了． 一、 线性组合定义：向量α称为向量组12,,,s βββ的一个线性组合，如果有数域Ｐ中的数12,,,s k k k P ∈，使1122s s k k k αβββ=+++此时也说，α可以由向量组12,,,s βββ线性表出.例如,对于向量组1α=(2,-1,3,1), 2α=(4,-2,5,4),3a =31α-2α=(2,-1,4,-1)。

3a 就是向量组1α,2α的一个线性组合，这是因为3a =31α-2α又如，任一个n 维向量12(,,,)n a a a α=都是向量组⎪⎪⎩⎪⎪⎨⎧===)1,,0,0()0,,1,0()0,,0,1(21 n εεε的一个组合．这是因为1122n n a a a αεεε=+++向量n εεε,,,21 称为n 维单位向量． 注：（1）若k αβ=，则称向量α与β成比例． （2）零向量0是任一向量组的线性组合．（3）一向量组中每一向量都可由该向量组线性表出． 二、向量组的等价1. 定义：若向量组12,,,s ααα中每一个向量(1,2,,)i i s α=都可经向量组12,,,t βββ线性表出，则称向量组12,,,sααα可以经向量组12,,,t βββ线性表出；若两个向量组可以互相线性表出，则称这两个向量组等价．由定义不难证明，如果向量组12,,,s ααα 可以经向量组12,,,t βββ线性表出，向量组12,,,t βββ可以经p γγγ,,,21 线性表出，那么向量组12,,,s ααα可以经向量组p γγγ,,,21 线性表出．事实上，如果 i α=∑=sj j ijk1β, i =1,2,…,t ,j β=∑=p m m jm l 1γ, j =1,2,…,s 则i α=∑∑==pm mjm s j ij l k 11γ=∑∑==⎪⎪⎭⎫⎝⎛pm m s j jm ij l k 11γ i =1,2,…,t 即，向量12,,,s ααα中每一个都可以经向量组p γγγ,,,21 线性表出，因而向量组12,,,s ααα可以经向量组p γγγ,,,21 线性表出．由上述的结论，得知向量组之间的等价有以下的性质：2．性质：（1) 反身性：每一个向量组都与它自身等价． （2）对称性：如果向量组12,,,s ααα与12,,,t βββ等价，那么向量组12,,,t βββ也与12,,,s ααα等价． （3) 传递性：如果向量组12,,,s ααα与12,,,t βββ等价，12,,,t βββ与p γγγ,,,21 等价，那么向量组12,,,sααα与p γγγ,,,21 等价. 三．线性相关性1．线性相关定义1：如果向量组12,,,(2)s s ααα≥中有一向量可经其余向量线性表出，则向量组12,,,s ααα称为线性相关的．例如，向量组1α=(2,-1,3,1), 2α=(4,-2,5,4),3a=(2,-1,4,-1)是线性相关的，因为 3a =31α-2α 注：（1）向量组12,αα线性相关12,αα⇔成比例． （2）任意一个含零向量的向量组必线性相关． 向量组的线性相关的定义还可以用另外一个说法： 定义１'：向量组12,,,(1)s s ααα≥称为线性相关的，如果在不全为零的数12,,,s k k k P ∈，使11220s s k k k ααα+++=注：在2s ≥时，定义１与定义１'是等价的．2．线性无关定义：若向量组12,,,s ααα不线性相关，即没有不全为零的数12,,,s k k k P ∈，使11220s s k k k ααα+++=则称12,,,s ααα为线性无关的．或者说，对于向量组12,,,sααα，若由11220s s k k k ααα+++=，必有120s k k k ====，则称12,,,s ααα为线性无关的．例 已知向量组123,,ααα线性无关，令112223331,,,βααβααβαα=+=+=+，证明：123,,βββ线性无关．证明：设1122330x x x βββ++=，即1311()()()x x x x x x ααα+++++=由于123,,ααα线性无关，于是有131223000x x x x x x +=⎧⎪+=⎨⎪+=⎩解之得，1230x x x ===．所以123,,βββ线性无关．3．线性相关性的有关性质（1）单独一个向量线性相关当且仅当它是零向量；单独一个向量线性无关当且仅当它是非零向量．（2）n 维单位向量n εεε,,,21 组成的向量组是线性无关的.（3）一向量组线性相关的充要条件是其中至少有一个向量可由其余向量线性表出．（4）一个向量组中若部分向量组线性相关，则整个向量组也线性相关；一个向量组若线性无关，则它的任何一个部分组都线性无关．（5）如果向量组12,,,s ααα线性无关，而向量组12,,,,s αααβ线性相关，则β可经向量组12,,,s ααα线性表出．（6）向量组12(,,,),1,2,,i i i in a a a i s α==线性无关的充要条件是齐次线性方程组111212112122221122000s s s s n n sn s a x a x a x a x a x a x a x a x a x +++=⎧⎪+++=⎪⎨⎪⎪+++=⎩（1）只有零解；向量组12(,,,),1,2,,i i i in a a a i s α==线性相关的充要条件是齐次线性方程组（1）有非零解． 特别地，向量组12(,,,),1,2,,i i i in a a a i n α==线性无关的充分必要条件为行列式111212122212n n n n nna a a a a a a a a ≠0向量组12(,,,),1,2,,i i i in a a a i n α==线性相关的充分必要条件是行列式111212122212n n n n nna a a a a a a a a =0（7）若向量组12(,,,),1,2,,i i i in a a a i s α==线性无关，则向量组12,1(,,,,),1,2,,i i i in i n a a a a i s β+==也线性无关．反之，若向量组12,,,s βββ线性相关，则向量组12,,,s ααα也线性相关．4．向量组线性相关的基本性质定理 定理 设12,,,r ααα与12,,,s βββ为两个向量组，若1）向量组12,,,r ααα可经12,,,s βββ线性表出，2）rs >则向量组12,,,r ααα必线性相关．证明：由1），有 1,1,2,,si jij j ti r αβ===∑，要证12,,,r ααα线性相关，只要证有不全为０的数12,,,r k k k ，使11220r r k k k ααα+++=．作线性组合1122111rrsr r i i i ji j i i j x x x x x t ααααβ===+++==∑∑∑1111r s sr i ji j i ji j i j j i x t x t ββ====⎛⎫== ⎪⎝⎭∑∑∑∑， 若能找到不全为０的数12,,,r x x x ，使12,,,s βββ的系数全为零，那就证明了α1,α2,…,αr 线性相关性.这一点是能够做到的，因为由2），即r ﹥s ，齐次方程组11112212112222112200r r r r s s sr r t x t x t x t x t x t x t x t x t x +++=⎧⎪+++=⎪⎨⎪⎪+++=⎩中，方程的个数s ﹤未知量的个数r ，所以它有非零解．从而有不全为零的数12,,,rx x x ，使11220r r x x x ααα+++=. 所以12,,,r ααα线性相关证毕推论１ 若向量组12,,,r ααα可经向量组12,,,s βββ线性表出，且12,,,r ααα线性无关，则r s ≤．推论２ 任意n ＋1个n 维向量必线性相关．推论３ 两个线性无关的等价的向量组必含有相同个数的向量． 四、极大线性无关组1. 极大线性无关组定义：设有向量组12,,,s ααα，它的一个部分组12,,,i i irααα若满足： 1）12,,,i i ir ααα线性无关2）对任意的(1)j j s α≤≤，j α可经12,,,i i ir ααα线性表出则称12,,,i i ir ααα为向量组12,,,s ααα的一个极大线性无关组（简称极大无关组）．例如，在向量组1α=(2,-1,3,1),2α=(4,-2,5,4),3a =(2,-1,4,-1)中，由1α,2α组成的部分组就是一个极大线性无关组.首先，1α,2α线性无关，因为由 k 11α+k 22α=k 1(2,-1,3,1)+k 2(4,-2,5,4) =(2k 1+4k 2,-k 1-2k 2,3k 1+5k 2,k 1+4k 2)=(0,0,0,0). 就有k 1 =k 2 =0.同时我们知道，1α,2α,3a 线性相关即1α,2α,3a 中的每一个向量都可由1α,2α线性表出，所以1α,2α就是一个极大线性无关组.不难看出，2α,3a 也是一个极大线性无关组. 2. 极大线性无关组性质：1）一个向量组的极大无关组不唯一．2）一个线性无关的向量组的极大无关组就是它本身． 3）一个向量组与它的极大无关组等价 4）一个向量组的任意两个极大无关组都等价． 5）一个向量组的任意两个极大无关组都含有相同个数的向量．3. 向量组的秩的定义：向量组的极大无关组所含向量个数称为这个向量组的秩．例如，向量组1α=(2,-1,3,1), 2α=(4,-2,5,4),3a =(2,-1,4,-1)的极大无关组为1α, 2α.所以它的秩就是2.4. 向量组的秩的性质：（1）一个向量组线性无关的充要条件是它的秩与它所含向量个数相同；一个向量组线性相关的充要条件是它的秩小于它所含向量的个数．（2）等价的向量组必有相同的秩． （3）若向量组12,,,r ααα可经向量组12,,,s βββ线性表出，则秩12(,,,)r ααα≤秩12(,,,)s βββ．。

常见的相关系数为简单相关系数，简单相关系数又称皮尔逊相关系数或者线性相关系数。

线性相关系数计算公式如图所示：
r值的绝对值介于0～1之间。

通常来说，r越接近1，表示x与y两个量之间的相关程度就越强，反之，r越接近于0，x与y两个量之间的相关程度就越弱。

线性相关系数性质：
(1)定理: | ρXY | = 1的充要条件是，存在常数a，b，使得P{Y=a+bX}=1。

相关系数ρXY取值在-1到1之间，ρXY = 0时。

称X,Y不相关; | ρXY | = 1时，称X,Y完全相关，此时，X,Y之间具有线性函数关系; | ρXY | < 1时，X的变动引起Y 的部分变动，ρXY的绝对值越大，X的变动引起Y的变动就越大，| ρXY | > 0.8时称为高度相关，当| ρXY | < 0.3时称为低度相关，其它时候为中度相关。

(2)推论:若Y=a+bX，则有。

证明: 令E(X) = μ，D(X) = σ。

则E(Y) = bμ+ a，D(Y) = bσ。

E(XY) = E(aX + bX) = aμ+ b(σ+ μ)。

Cov(X,Y) = E(XY) − E(X)E(Y) = bσ。

若b≠0，则ρXY ≠0。

若b=0，则ρXY = 0。