R R x | xpxdx
期望风险R反映对整个特征空间上所有x的取 值采取相应的决策(x)所带来的平均风险。
条件风险R(i|x)只是反映对某一观察值x,
采取决策i时,所有类别状态下带来风险的 平均值。
显然,我们要求采取的一系列决策行动(x) 使期望风险R最小。
如果在采取每一个决策或行动时,都使其条件 风险最小,则对给定的观察值x作出决策时,其 期望风险也必然最小。这样的决策就是最小风 险贝叶斯决策。其规则为:
p(x 1)P(1)dx p(x 2 )P(2 )dx
R2
R1
P(1)P1(e) P(2 )P2 (e)
对应图中黄色和 橘红色区域面积
px
|
1
dx
px
|
2
dx
R2
R1
对多类决策(假设有c类),很容易写出相应的最小 错误率贝叶斯决策规则:
形式一:
如果P( x) max P( x),则x
它是在c个类别状态中任取某个状态j时,采
用决策i的风险(i|j)相对于后验概率 P(j/x)的条件期望。
▪ 观察值x是随机向量,不同的观察值x,采取 决策i时,其条件风险的大小是不同的。所 以,究竟采取哪一种决策将随x的取值而定。
▪ 决策看成随机向量x的函数,记为(x), 它 也是一个随机变量。我们可以定义期望风险R:
(i
,
j
)
0 1
i j i j
i, j 1, 2, , c
此时的条件风险为:
c
c
R(i x) (i , j )P( j x) P( j x)
j1
j1
i j
表示对x采取决策i的条件错误概率
所以在0-1损失函数时,使