第九章方差分析及回归分析-PPT精品文档

系数：
参数a、b的最小二乘估计
A good
line is one that minimizes the sum of squared differences between the points and the line.
根据推导，
a y bx
( x x )( y y ) b (x x)
Multiple Regression
R2adj - “adjusted R-square”
R2是一个受自变量个数与样本规模之比（k:n）影响的系数，一般是1：10 以上为好。当这个比值小于1：5时，R2倾向于高估实际的拟合的程度。 Takes into account the number of regressors in the model
X的变异
r2
Y的变异
Simple Regression
R2 - “Goodness of fit”
For simple regression, R2 is the square of the correlation coefficient
Reflects variance accounted for in data by the best-fit line
第九章 多元回归分析
浙江师范大学教育学院心理系
徐长江 xucj@
纲要
回归分析的基本原理
一元回归分析 多元回归分析
多元回归分析的方法 多元回归分析的实现
回归分析的目的
设法找出变量间的依存(数量)关系, 用函数 关系式表达出来
Example: Height vs Weight
Takes values between 0 (0%) and 1 (100%) Frequently expressed as percentage, rather than decimal

s
n j X . j nቤተ መጻሕፍቲ ባይዱ X ij nX 0
j 1 i 1
因此得知SA的自由度是 s -1.
由（1.3）,（1.6）及Xij的独立性得知
X ~ N ( , / n)
2
s j 1
（1.14）
E ( S A ) E[ n j X .2j nX 2 ]
j 1
s
（1.13） 可以计算 E( S E ) (n s) 2. SA的统计特性. 它是s个变量 n j ( X . j X )
2
的平方和，且仅有一个线性约束条件:

j 1 s j 1
s
nj

nj ( X. j X ) nj ( X. j X )
j 1 s nj
i 1

( X ij X . j ) 2 / 2 ~ 2 (n j 1)
i 1
nj
（1.11）中各项独立，根据 分布的可加性，得 s
2
S E / 2 ~ 2 ( ( n j 1))
j 1
即S E / 2 ~ 2 ( n s ),
n n j （1.12）
j
Xij - μj可以看成是随机误差. 记为Xij - μj =εij ，
则Xij 可以写为
Xij = μj +εij
εij ~N(0, ζ2),各ε
ij独立
(1.1)
i=1,2,…,nj , j=1,2,…,s
(1.1)称为单因素方差分析的数学模型.
方差分析的任务
X i1 ~ N (1 , 2 ), X i 2 ~ N (2 , 2 ),..., X is ~ N ( s , 2 ) I. 检验s个总体

x1, x2, , xn
因此干脆不把X看成随机变量，而将它当作 普通的变量。X的变化将使Y发生相应的变 化，但它们之间的变化是不确定的。由于Y 是随机变量 ，当X取得任一个可能的值x时， Y都相应地服从一定的概率分布。
10
设进行 n 次独立试验，测得试验数据如下表：
xபைடு நூலகம்
x1
x2
xn
y
y1
y2
yn
我们的问题是，如何根据这组观察值，用 “最佳”的形式来表达变量Y与x的相关关系？
比较合理的想法就是，取Xx时随机变量
Y的数学期望EY Xx 作为Xx时Y的估计值。
11
设Y的数学期望EY存在,其值随X的取值
而定，即Y的数学期望是x的函数。将这一函数
记为yx 或x，xEY Xx称为Y关于x
的回归函数。 为 此 ， 我 们 就 将 讨 论 Y 与 x的 相 关 关 系 的 问 题
转 换 为 讨 论 E Y x与 x的 函 数 关 系 了 。
由一个或一组非随机变量来估计或预测某 一个随机变量的观察值时所建立的数学模 型及所进行的统计分析称为回归分析
7
如果这个模型是线性的就称为线性回归分析 这种方法是处理变量间相关关系的有力工具，是
数理统计工作中一种常用的方法。它不仅告诉人 们怎样建立变量间的数学表达式，即经验公式， 而且还利用概率统计知识进行分析讨论，判断出 所建立的经验公式的有效性，从而可以进行预测 或估计。 本章主要介绍如何建立经验公式。
14
温度x(oc) 100 110 120 130 140 150 160 170 180 190 得率（%） 45 51 54 61 66 70 74 78 85 89
得率与温度关系的散点图 100 90 80 70 60 50 40

因素效应 试验误差
相差不大，说明试验处理对指标影 响不大。
相差较大，即因素效应比试验误差 大得多，说明试验处理影响是很大 的，不可忽视。
方差分析的用途
1. 用于多个样本平均数的比较 2. 分析多个因素间的交互作用 3. 回归方程的假设检验 4. 方差的同质性检验
第一节 方差分析的基本问题
一、方差分析问题的提出 问题：为了探索简便易行的发展大学生心 血管系统机能水平的方法，在某年级各项 身体发育水平基本相同，同年龄女生中抽 取36人随机分为三组，用三种不同的方法 进行训练，三个月后，测得哈佛台阶指数 如表 1 ，试分析三种不同的训练方法对女 大学生心血管系统的影响有无显著性差异。
εij －随机误差
（3.1）
要求εij 是相互独立的，且服从正态分布
N(0,σ2 )
29
令n

a i 1
ni，总平均：

1 n
a i 1

nii ,
第i个水平的影响： i i
3.1可以改写成

yiijj
~

N
i ij，( j 1,2,...,ni (0, 2),且相互独立
方差分析的直观思想
1.如果 1, 2 , 3之间没有差异，则三个样本 之间的差异（以组间方差衡量）由抽样 误差带来，实质上由各组内个体之间的 差异造成，组内个体之间的差异的大小， 以组内方差来衡量。这时，组间方差ＭＳ间 与组内方差ＭＳ内相近。
方差分析的直观思想
２．如果 1, 2 , 3有差异，则组间差异不仅有 个体差异的影响还要受到总体差异的影
为纪念Fisher，以F命名，故方差 分析又称 F 检验 （F-test）
方差分析的 基本功能