马尔科夫相关性质、马尔科夫随机场详解

i t arg et1 1 2 i t arg et 2 yi Y xi xi X , i {1, 2, i t arg etL L 根据贝叶斯准则，最优分割准则为： p (Y | X ) p ( X ) X arg max p( X | Y ) arg max p (Y ) X X
就称 X n , n T 为马尔科夫过程，该随机过程的统计特性 完全由条件概率所决定

例如：假定天气是马尔科夫的，其意思 就是我们假设今天的天气仅仅与昨天的 天气存在概率上的关联，而与前天及前 天以前的天气没有关系。其它如传染病 和谣言的传播规律，都是马尔科夫的。




荷花池里有N张荷叶，在时刻Tn时，Xn为时刻Tn青蛙所处的状态。 P(Xn+1=j/Xn=i)=Pi,j , 其中，i,j=1,2,…N. 表示在Tn时刻青蛙在 第i张荷叶上。在下一个时刻Tn+1跳到第j张荷叶上的可能性，又 称为从状态i经一步转移到j的概率，简称为一步转移概率。 将这些 Pi,j依序排列起来，就构成一个矩阵，叫做转移概率矩阵 。 P11 P12 ... P1n P = [ P21 P22 ... P2n ] ... Pn1 Pn2 ... Pnn
对于一幅给定的M*N的图像Y， 其中任意一个像素yi , 分割后对应的标记为x i , 定义两个随机场： X={x i , i S}是图像分割后的类别标号场， xi 1, 2, L表示分割成L个区域， 但其类别状态不能直接观察到。 Y={yi , i S}是可观测的随机场， 即图像的观测灰度场， 那么分割问题可以描述为：
马尔科夫预测


例如：A,B,C三个厂生产的电脑上公司在某地区市场上的 占有率分别为0.3， 0.2 ，0.5。根据市场调查得知、顾客 的流动情况如下： A B C A B C 0.4 0.6 0.6 0.3 0.3 0.1 0.3 0.1 0.3


市场的初始状态为S(0)=(0.3,0.2,0.5) 转移概率P为 0.4 0.3 0.3 P = [ 0.6 0.3 0.1 ] 0.6 0.1 0.3
马尔科夫随机场
马尔科夫随机场包含两层意思 马尔科夫性质 随机场
随机场

当给每一个位置中按照某种分布随机赋予相空间的一 个值之后，其全体就叫做随机场。其中有两个概念： 位置（site），相空间（phase space）。我们可以拿 种地来打个比方。“位置”好比是一亩亩农田；“相 空间”好比是要种的各种庄稼。我们可以给不同的地 种上不同的庄稼，这就好比给随机场的每个“位置”， 赋予相空间里不同的值。所以，随机场就好比是在哪 块地里种什么庄稼的事情。
马尔科夫过程
设有随机过程 X n , n T , 若对于任意正整数n T 和任意的 i0 , i1 , , in 1 I , 条件概率满足 , X n in } P{ X n 1 in 1 | X n in } P{ X n 1 in 1 | X 0 i0,
马尔科夫随机场
同样拿种地打比方，如果任何一块地里种的庄稼 的种类仅仅与它邻近的地里种的庄稼的种类有关，与 其它地方的庄稼的种类无关，那么这些地里种的庄稼 的集合，就是一个马尔可夫随机场。
马尔科夫随机场与图像的关系


一维马尔科夫随机过程很好的描述随机过程中 某点的状态只与该点之前的一个点的状态有关 系。 对于定义在二维空间上的图像，也可以将它看 为一个二维随机场。那么就存在二维马尔科夫 随机场,将时间上的马尔科夫性转换到空间上， 考虑空间的关系,二维MRF的平面网格结构可以 较好的表现图像中像素之间的空间相关性。
马尔科夫图像模型

MRF 将图像模拟成一个随机变量组成的 网格，其中的每一个变量对明确的对其 自身之外的随机变量组成的邻近基团具 有依赖性。该模型考虑每个像元关于它 的邻近像元的条件分布，有效地描述图 像的局部统计特性。
基本定义
设S {(i, j ) |1 i M ,1 j N}表示MN位置的有限格点集 即随机场中的位置
(n) ( n +1)
( s)
基团
S中有不同的邻域结构，在S上由单个像 元或由象元与其邻点组成的子集 c S 称为一个基团。子团c的集合用C来表示。
分阶邻域系统与基团示例
马尔科夫随机场
设 为S上的邻域系统，若随机场X={x s ,s S}满足如下条件： (2) P{X s =x s | X r xr , r s, r ( s)} P{X s =x s | X r xr , r ( s)} 则称X为以 为邻域系统的马尔科夫随机场， 上式称为马尔科夫随机场的局部特性



基于MRF的图像分割模型

我们把图像的的分割问题转化为图像的标记问题。 标记场是用来对待测对象的像素进行跟踪标记，特征 场是拟合原始的观测数据，尽可能准确的反映每一个 像素位置的特征信息，使图像分割的结果中能够保留 更多的细节信息。 根据贝叶斯估计准则和最大后验概率准则，将后验概 率转换为先验概率与似然函数的乘积，似然函数同城 是一个高斯分布，而先验概率通过MRF转换为Gibbs分 布得到，最后更新标号场使得成绩最大，得到最佳分 割。
马尔科夫与图像处理
马尔科夫


马尔科夫随机过程就是，下一个时间点的状态只与当 前的状态有关系，而与以前的状态没有关系，即未来 的状态决定于现在而不决定于过去。 其未来由现在决定的程度，使得我们关于过去的知识 丝毫不影响这种决定性。这种在已知 “现在”的条件 下，“未来”与“过去”彼此独立的特性就被称为马 尔科夫性，具有这种性质的随机过程就叫做马尔科夫 过程
S(1)=S(0)*P=(0.54, 0.20, 0.26),这个月A,B,C电脑 的市场占有率为54%,20%,26% S(2)=S(1)*p=S(0)*P^2=(0.492, 0.248, 0.26),下个 月A,B,C电脑的市场占有率为49.2%，24.8%，26%

隐马尔科夫过程


与马尔科夫相比，隐马尔科 夫模型则是双重随机过程， 不仅状态转移之间是个随机 事件，状态和输出之间也是 一个随机过程






例如：我在不同天气状态下去做一些事情的概率不同，（观察状态）天 气状态集合为{下雨，阴天，晴天}，（隐藏状态）事情集合为{宅着，自 习，游玩}。假如我们已经有了转移概率和输出概率，即P(天气A|天气B) 和P(事情a|天气A)的概率都已知道，那么我们可以解决： 假如一周内的天气变化是 下雨->晴天->阴天->下雨->阴天->晴天->阴 天，那么我这一周 自习->宅着->游玩->自习->游玩->宅着->自习的概 率。 假如一周内的天气变化是 下雨->晴天->阴天->下雨->阴天->晴天->阴 天，那我们这一周最有可能的做事序列。 这些可以通过隐马尔科夫模型得到结果。


通过能量函数确定MRF的条件概率，从而使其 在全局上具有一致性。通过单个像素及其领域 的简单的局部交互，MRF模型可以获得复杂的 全局行为。即计算局部的Gibbs分布得到全局 的统计结果。 上式解决了求MRF中概率分布的难题,使对MRF 的研究转化为对势函数Vc(x)的研究。
贝叶斯公式

用来描述两个条件概率之间的关系，比如 P(A|B) 和 P(B|A)。按照乘法 法则：P(A∩B)=P(A)*P(B|A)=P(B)*P(A|B)。 事件A在事件B(发生)的条件下的概率，与事件B在事件A的条件下的概率 是不一样的。 P(A)是A的先验概率或边缘概率。所以称为"先验"是因为它不考虑任何B 方面的因素。 P(A|B)是已知B发生后A的条件概率，也被称作A的后验概率。 P(B|A)是已知A发生后B的条件概率，也被称作B的后验概率。 P(B)是B的先验概率或边缘概率，也作标准化常量。 按这些术语，Bayes法则可表述为： 后验概率 = (似然度 * 先验概率)/标准化常量 也就是说，后验概率与先验概率和似然度的乘积成正比。
MRF与Gibbs分布的等价关系
Gibbs分布：
是定义在S上的邻域系统，当且仅当随机场X={x s , s S }
的联合概率分布具有如下形式： P( X x) (1 / Z ) exp{U ( x)} 即X在格点集S上的一组态。 U ( x ) Vc ( x )称为能量函数，Vc ( x )是仅与子团c内各
邻域系统

随机场（Random Filed）中，利用邻域 系统可以分析空间上的马尔科夫性。一 个像素点的特性，更可能受它周围像素 的影响，与它距离越远的像素，对它的 特性的影响越小。
邻域系统
设 ={ ( s) | s S}是定义在S上的通用邻域系统的集合， 其满足如下特性：
(1) ( s) S (2) s ( s) (3)s, r S , s (r ) r ( s) 则位置r ( s)称作s的邻点， ( s)称作s的邻点集


由于Markov 随机场是用来描述图像的局部性 质，而 Gibbs 随机场由随机场的全局性质来刻画。 可以将两个随机场联系起来。20世纪80年代 Hammersley-Clifford给出了Gibbs分布与MRF关系。 Harmmersley-Clifford 定理：邻域系统 M 在集合 S 中，若 S 上随机场 X 符合Gibbs 随机 场，那么 X 也是一个 Markov 随机场。 从而用Gibbs分布求解MRF中的概率分布，相 应的 MRF 模型的结构信息就可以由 Gibbs分布的 表达式可以描述。
={1,2， L}表示状态空间，即随机场中的相空间
图像分割问题要求解的是满足最大后验概率准则的对每 个像素的分类标号，我们统一称为标号场，记为X。
X ( xs1, xs 2,..., xsM * N )

xs ∈ ，表示在标号场X上，状态空间为Λ的隐状态随机 变量。
在图像中 格点集S表示像素的位置 X称为标号场，也可以表示像素值的集合 或图像经小波变换后的小波系数集合 L表示将图像分割为不同区域的数目，即 标签集合

该图上面那行是一个马尔科夫转移 过程，X1， X2,…… XT状态称为隐藏 状态，下面这一行则是输出，即我 们可以观察到的值，称为观察状态 ，观察状态的集合表示为 O={O1,O2,O3,…OM}。
隐马尔科夫也比马尔科夫多了一个 假设，即输出仅与当前状态有关， 可以用如下公式表示： P(O1,O2,…,Ot|S1,S2,…,St)=P(O1|S1 )*P(O2|S2)*...*P(Ot|St) O1,O2,…,Ot为从时刻1到时刻t的观 测状态序列，S1,S2,…,St则为隐藏 状态序列。
分阶邻域系统与子团
在图像模型中，可以根据对象元的距离建立一种 分阶邻域系统，定义如下：
(n)
( s) {r | d ( s, r ) n, r s}, 式中n为邻域系统的阶次， d ()表示距离函数，经常使用欧氏距离，市区距离， 棋盘距离等函数。
对n 0, 满足特性 ( s)
cC
则称X为吉斯随机场，式中x是随机场X的一“实现”，
象元值有关的子团势函数 Z e U ( x ) 称为配分函数，是一个归一化常数
x
MRF与Gibbs分布的等价关系
Gibbs分布与MRF的等价条件：一个随机场 是关于邻域系统的MRF，当且仅当这个 随机场是关于邻域系统的Gibbs分布，表 示为： exp (Vc (xs | xr )) cC P(xs | xr , r ( s)) L exp (Vc ( xs | xr )) xs 1 cC
（1）P{X=x}>0,x
邻域系统的MRF的含义：在任意格点s的其余格点位置上 随机变量xs取值已知的条件下，随机场在格点s处的取值概率 只与格点s的 相邻点有关。
在图像中，P()表示标号场的先验概率， P( | )表示邻域系统标号的局部作用关系
MRF与Gibbs分布的等价性