贝叶斯决策理论(1)

第二章 贝叶内斯决容策纲理要论
指出了机器自动识别出现错分类的条件； 错分类的可能性如何计算； 如何实现使错分类出现可能性最小。
15
2.研1 究Ba目yes的决和策意的基义本概念 2）基于最小错误风险的Bayes决策
第二章 贝叶内斯决容策纲理要论
引入了“风险”与“损失”概念，希望做到使 风险最小，减小危害大的错分类情况。
P(1
|
X

) P( 2
|
X
)

X

12
39
2.研2 究基目于最的小和错意误义率的Bayes决策
第二章 贝叶内斯决容策纲理要论
判别函数还有另外两种形式，即似然比形式：
由统计资料表明总药品数为n， 其中正常药品数为 n1 ，异常药品数为 n2
则
P(1 )

n1 n
先验概率!
P(2 )

n2 n
显然在一般情况下正常药品占比例大，即 P(1) P(2)
由先验概率所提供的信息太少！！！
22
2.研1 究Ba目yes的决和策意的基义本概念 2、类条件概率密度函数 P(X | i )
第二章 贝叶内斯决容策纲理要论
类条件概率密度函数 P(X | i ) 是指在已知某类别的特征空间中，出现特征值X的 概率密度，
即第 i 类样品它的属性X是如何分布的。
23
2.研1 究Ba目yes的决和策意的基义本概念
第二章 贝叶内斯决容策纲理要论
假定只用某一个特征进行分类，即d＝1。 并已知这两类的类条件概率函数分布，如图4－3所示。

i
)]



1 (X 2

i )T
Si 1 ( X

R R x | xpxdx
期望风险R反映对整个特征空间上所有x的取 值采取相应的决策(x)所带来的平均风险。
条件风险R(i|x)只是反映对某一观察值x，
采取决策i时，所有类别状态下带来风险的 平均值。
显然，我们要求采取的一系列决策行动(x) 使期望风险R最小。
如果在采取每一个决策或行动时，都使其条件 风险最小，则对给定的观察值x作出决策时，其 期望风险也必然最小。这样的决策就是最小风 险贝叶斯决策。其规则为：
p(x 1)P(1)dx p(x 2 )P(2 )dx
R2
R1
P(1)P1(e) P(2 )P2 (e)
对应图中黄色和 橘红色区域面积
px
|
1
dx
px
|
2
dx
R2
R1
对多类决策（假设有c类），很容易写出相应的最小 错误率贝叶斯决策规则：
形式一：
如果P( x) max P( x)，则x
它是在c个类别状态中任取某个状态j时，采
用决策i的风险(i|j)相对于后验概率 P(j/x)的条件期望。
▪ 观察值x是随机向量，不同的观察值x，采取 决策i时，其条件风险的大小是不同的。所 以，究竟采取哪一种决策将随x的取值而定。
▪ 决策看成随机向量x的函数，记为(x), 它 也是一个随机变量。我们可以定义期望风险R：
(i
,
j
)
0 1
i j i j
i, j 1, 2, , c
此时的条件风险为：
c
c
R(i x) (i , j )P( j x) P( j x)
j1
j1
i j
表示对x采取决策i的条件错误概率
所以在0-1损失函数时，使

1
R( | x) 0 L( , ) ( | x)d 20 ( ) ( | x)d
1
( ) ( | x)d 30 ( ) ( | x)d E( | x)
(3)求最优行动使上述风险函数达到最小.令:
dR(
| x)
3
(
|
x)d
1
0
则得:
( | x)d 1
d
0
0
3
(4)数值计算:
8
例2 在市场占有率θ的估计问题中，已知损失函数为：
L(
,
)
2(
,
),
0 1
药厂厂长对市场占有率θ无任何先验信息，另外在市场调查中，
在n个购买止痛剂的顾客中有x人买了新药，试在后验风险准则下
对θ作出贝叶斯估计。
解:(1)求参数θ的后验分布: 结果为 Be(x+1,n-x+1)
(2) (x),计算风险函数
| |
解:分三步求解:
(1)求参数θ的后验分布
(
|
x)
N
n
xi
2
, (n
2
)1
(2)对于任意一个决策函数
计算后验风险函数:
R( | x) L( , ) ( | x)d
( | x)d
| |
P|x (| | ) 1 P|x (| | )
(3)求出使得上述风险函数达到最小时的决策函数:
,i 0 ,i 1
斯决策问题:
p0 (x) 0 p1(x)1
①参数空间Θ={0,1}
②行动空间A={0,1}
③先验分布:P(θ=0)=π0, P(θ=1)=π1
④损失函数:决策正确无损失, 决策错误的损失为1.则

• 如果 p(x | 1)P(1) > p(x | 2 ) P(2) ，则决 策为1 ，否则决策为2 。
– 如果p(x | 1)=p(x | 2 ) ，则x不提供任何信息， 决策结果完全取决于先验概率
– 如果P(1) =P(2) ，两种类别等概率出现，决策 规则取决于似然度p(x | j)。
贝叶斯决策规则及等价形式
第二章 贝叶斯决策理论
• 2.1 引言 • 2.2 最小错误率贝叶斯决策 • 2.3最小风险贝叶斯决策 • 2.4正态分布下的贝叶斯决策
2.1引言
• 统计决策理论是根据每一类总体的概率分 布决定未知类别的样本属于哪一类
• 贝叶斯决策是统计决策理论的基本方法， 它的基本假定是分类决策是在概率空间中 进行的，并且以下概率分布是已知的
类条件概率密度函数
光泽度的类条件概率密度函数反应了两种鱼之间光泽度的差异
后验概率
• 假 密定度p我(x们| ω知j),道j=先1,2验，概并率且P测(ω得j)和一类条条鱼件的概光率泽 度为x，那么如何在分类决策中利用这一信 息呢？
• 由于联合概率分布满足
p( j , x) P( j | x) p(x) p(x | j )P( j )
可得贝叶斯公式
P( j
| x)
p(x | j ) P( j ) .
p(x)
其中 2
p( x)
p(x | j ) P( j )
j 1
• P(ωj|x)就是类别关于光泽度的后验概率
贝叶斯公式
• 贝叶斯公式的直观理解 Posterior = (Likelihood x Prior) / Evidence
• 可以证明错误率是P(ω1)，P(ω2)中小的那个
加入后验信息

对这三种概率的定义，相互关系要搞得清清 楚楚
Bayes公式正是体现这三者关系的式子，要 透彻掌握。
2.1引言
统计决策理论
是模式分类问题的基本理论之一
贝叶斯决策理论
是统计决策理论中的一个基本方法
物理对象的描述
在特征空间中讨论分类问题
假设一个待识别的物理对象用其d个属性观
察值描述，称之为d个特征，记为x = [x1, x2, …, xd]T
识别的目的是要依据该X向量将细胞划分为 正常细胞或者异常细胞。
这里我们用ω１表示是正常细胞，而ω２则 属于异常细胞。
基于最小错误率的贝叶斯决策
先验概率
P(ω1)和P(ω2) 含义: 每种细胞占全部细胞的比例 P(ω1)+P(ω2)=1 一般情况下正常细胞占比例大，即
P(ω1)>P(ω2)
基于最小错误率的贝叶斯决策
贝叶斯公式
先验概率，后验概率，概率密度函数之间关 系
根据先验概率和概率密度函数可以计算出后 验概率
基于最小错误率的贝叶斯决策
问题
为什么先验概率和类条件概率密度函数可以 作为已知？
而后验概率需要通过计算获得？
基于最小错误率的贝叶斯决策
为什么后验概率要利用Bayes公式从先验 概率和类条件概率密度函数计算获得 ？
如果我们把作出w1决策的所有观测值区域 称为R1，则在R1区内的每个x值，条件错误 概率为p(w2|x)。
另一个区R2中的x,条件错误概率为p(w1|x)。
基于最小错误率的贝叶斯决策
最小错误率贝叶斯准则使得错误率最小 证明:
因此平均错误率P(e)可表示成
基于最小错误率的贝叶斯决策
最小错误率贝叶斯准则使得错误率最小 证明:

超曲面。相邻的两个类别在决策面上的判别函数
值是相等的。如果ωi和ωj是相邻的，则分割它们 的决策面就应为
– di(x)=dj(x) 或 di(x)-dj(x)=0 – 对于两类问题，决策面方程：
– P(x|ω1)P(ω1)-P(x|ω2)P(ω2)=0
§2.2 基于贝叶斯公式的几种判别规则
一、基于最小风险的贝叶斯决策
ωi所受损失。因为这是错误判决，故损失最大。
表示：在决策论中，常以决策表表示各种 情况下的决策损失。
状态
ω
ω
…ω
…ω
损失
1
2
j
m
决策
α1
…
…
α2
…
…
…
…
αi
…
…
…
…
αα
…
…
2.风险R（期望损失）：
对未知x采取判决行动α(x)所付出的代价（损耗）
➢行动αi：表示把模式x判决为ωi类的一次动作。
➢条件风险：
密度，考虑误判的损失代价。决策应是统计意义
上使由于误判而蒙受的损失最小。
–
如果在采取每一个决策或行动时，都使
其条件风险最小，则对所有的x作出决策时，其期
望风险也必然最小。（条件平均损失最小的判决
也必然使总的平均损失最小。）
–5.最小风险贝叶斯决策规则
–如果 ：
–6.判决实施步骤：
–（1）在已知P(ωj),P(x|ωj),j=1,2,…m，并给出待 识别的x的情况下，根据贝叶斯公式计算出后验概
决策表很不容易，往往要根据所研究的具体问题， 分析错误决策造成损失的严重程度来确定。
–7.错误率最小的贝叶斯决策规则与风险最小的贝 叶斯决策规则的联系 – 在采用0-1损失函数时，最小风险贝叶斯决 策就等价于最小错误率贝叶斯决策。

常表示为
p (x )~ N (, )
多元正态分布的性质
等密度点的轨迹是超椭球面
R 1
R 2
R 22 (12 22) p(x2)dx
R 1
P ( 1)(11 22) (21 11) p(x 1)dx (12 22) p(x2)dx
R 2
R 1
一旦R 1 和 R 2 确定，风险 R 就是先验概率 P (1 ) 的线性函数，可表
示为
RabP(1)
a22(1222) p(x2)dx
R 11P(1x)12P(2 x)p(x)dx
R1
21P(1x)22P(2 x)p(x)dx
R2
R11P(1)p(x1)12P(2)p(x2)dx
R 1
21P(1)p(x1)22P(2)p(x2)dx
R2
P (2 ) 1 P (1 ) p ( x 1 ) d x p ( x 1 ) d x 1
2.3 正态分布时的统计决策
贝叶斯分类器的结构可由条件概率密度 和先验概率来决定
最受青睐的密度函数——正态分布，也称 高斯分布
合理性：中心极限定理表明，在相当一般的 条件下，当独立随机变量的个数增加时，其 和的分布趋于正态分布
简易性
2.3.1 正态分布的定义及性质
单变量正态分布由两个参数完全确定，即 均值和方差
模式识别的目的就是要确定某一个给定 的模式样本属于哪一类
可以通过对被识别对象的多次观察和测
量，构成特征向量，并将其作为某一个
判决规则的输入，按此规则来对样本进 行分类
作为统计判别问题的模式分类
在获取模式的观测值时，有些事物具有 确定的因果关系，即在一定的条件下， 它必然会发生或必然不发生
例如识别一块模板是不是直角三角形，只要 凭“三条直线边闭合连线和一个直角”这个 特征，测量它是否有三条直线边的闭合连线 并有一个直角，就完全可以确定它是不是直 角三角形

c
那么，特征x与行动i 相关联的损失为: R(i|x)(i|j)P(j|x) j1
因此，R(i | x) 称为条件风险。
借助 R(i | x) 可以提供一个总风险的优化过程，即遇到特征x， 我们可以选择最小化风险的行为来使预期的损失达到最小。 假设对于特征x，决策的行为是 (x) ，则总风险可表示为：
如果
P P((xx|| 1 2))((12,2 ,1 2 1,,12))P P(( 1 2))
则判为 1 ； 否则，判决为 2
（18）
注意公式(18)的右边是与x无关的常数，因此可以视为左边
的似然比超过某个阈值，则判为 1
16
左图说明，如果
b
引入一个0-1损失
或分类损失，那么
6
在先验概率 P (w 1 ) 2 /3 ,P (w 2 ) 1 /3及图2-1给出的后验概率图.此情况下,假定一
个模式具有特征值 x14 , 那么它属于 2 类的概率约为0.08, 属于 1 的概率
约为0.92.在每个x 处的后验概率之和为1.0
7
• 基于后验概率的决策准则
(x 表示观察值)
R 1,1P(1)p(x|1)1,2P(2)p(x|2))dx R1
2,1P(1)p(x|1)2,2P(2)p(x|2))dx R2
判为1 判为2
20
结合公式 P(2)1P(1)与 p(x|1)d x1p(x|1)dx
R1
R2
可以得到
概述
1. 允许利用多于一个的特征 2. 允许多于两种类别状态的情形 3. 允许有其它行为而不仅是判定类别。 4. 引入损失函数代替误差概率。
11
考察损失函数对判定准则的影响

ωc } αa}

对x可能采取的决策： Α = {α1 α 2

决策表
损失 状态 决策
ω1
ω2
…
ωj
λ (α 2 , ω j ) λ (α i , ω j ) λ (α a , ω j ) λ (α1 , ω j )
…
ωc
λ (α1 , ωc ) λ (α 2 , ωc ) λ (α i , ωc ) λ (α a , ωc )
⎧0 i = j 假设损失函数为0 - 1函数 ： λ (α i , ω j ) = ⎨ ⎩1 i ≠ j
条件风险为 ：R(α i | x ) = ∑ λ (α i , ω j )P (ω j | x ) =
c j =1 j =1, j ≠ i
∑ P(ω
c
j
| x)
等式右边的求和过程表示对x采取决策 ωi 的条件错 误概率。


贝叶斯公式 设试验E的样本空间为S，A为E的事件， B1,B2,…,Bn为S的一个划分
且 P ( A ) > 0 , P (B i ) > 0 , 则 P (B i | A ) =
n
P ( A | B i ) ⋅ P (B i )
j j
∑ P (A | B )⋅ P (B )
j =1
, j = 1, 2 ,..., n
分析 根据后验概率，发现这个细胞不正常的可能性
利用Bayes公式求后验概率 P(ωi | x )
增大了。 ∵ P (ω1 | x ) > P (ω 2 | x ) 所以判断该细胞为正常的。 实际中仅这个结论不能确诊的，需要更有效的化验。
（2）最小错误率的贝叶斯决策规则
⎧ω1 > 若P(ω1 | x ) < P(ω2 | x )，则x ∈ ⎨ ⎩ω2 ⎧ω1 > 若P(ω1 ) ⋅ p (x | ω1 ) < P(ω2 ) ⋅ p( x | ω2 )，则x ∈ ⎨ ⎩ω2 ⎧ω1 p( x | ω1 ) > P(ω2 ) ∈ x 若l ( x ) = ，则 ⎨ < p( x | ω2 ) P(ω1 ) ⎩ω2

34
研究目的和意义
第二章 贝叶内斯决容策纲理要论
2.2 基于最小错误率的 Bayes决策
35
2.研2 究基目于最的小和错意误义率的Bayes决策
第二章 贝叶内斯决容策纲理要论
ቤተ መጻሕፍቲ ባይዱ
假定得到一个待识别量的特征X后，每个样品X有 N 个特征，即 X (x1, x2 ,..., xN )T 通过样品库，计算先验概率 P(i ) 及类条件概率密度函数 P(X |i ) ，得到呈现状态X时，该样品分属各类别的概率， 显然这个概率值可以作为识别对象判属的依据。
第二章 贝叶内斯决容策纲理要论
Bayes公式如下：
P(i | X )
P( X | i )P(i )
n
P(X | j )P( j )
j 1
先验概率 P(i ) 类条件概率密度函数 P(X | i )
后验概率 P(i | X )
Bayes公式体现了先验概率、类概率密度函数、后 验概率三者之间的关系。
第二章 贝叶内斯决容策纲理要论
02
研究目的和意义
第二章 贝叶内斯决容策纲理要论
2.1 Bayes决策的基本概念
03
研究目的和意义
第二章 贝叶内斯决容策纲理要论
2.1.1 Bayes决策所讨论的问题
04
2.研1 究Ba目yes的决和策意的基义本概念
第二章 贝叶内斯决容策纲理要论
（1）当分类器的设计完成后，对待测样品进行 分类，一定能正确分类吗？
20
2.研1 究Ba目yes的决和策意的基义本概念 1、先验概率 P(i )
第二章 贝叶内斯决容策纲理要论
先验概率 P(i ) 针对M个事件出现的可能性而言， 不考虑其他任何条件。