下载文档原格式
概率分布函数与随机变量的期望概率分布函数（Probability Density Function，PDF）和随机变量的期望（Expectation）是概率论与数理统计中常见的概念，它们对于描述和分析随机变量的分布特征具有重要意义。
一、概率分布函数（Probability Density Function）概率分布函数是描述随机变量取各个取值的概率的函数。
在统计学中，常见的概率分布函数有几何分布、泊松分布、正态分布等。
以正态分布为例，它的概率分布函数可以表示为：f(x) = (1 / (σ * √(2π))) * exp(-(x-μ)²/(2σ²))其中，f(x)为随机变量X取值为x的概率密度，μ为均值，σ为标准差，exp()为指数函数。
二、随机变量的期望（Expectation）随机变量的期望是指随机变量在大量重复试验中取各个值的平均值。
可以用公式来表示，以离散型随机变量为例：E(X) = ∑(x * P(X = x))其中，E(X)表示随机变量X的期望，x表示随机变量X的取值，P(X = x)表示随机变量X取值为x的概率。
对于连续型随机变量，期望的计算需要对概率密度函数进行积分：E(X) = ∫(x * f(x) dx)其中，f(x)为随机变量X的概率密度函数。
三、应用示例假设某超市的销售额（单位：万元）服从正态分布，均值为50万元，标准差为10万元。
现在我们希望计算超市一天的销售额的期望是多少。
根据正态分布的概率密度函数公式，代入μ和σ的值，我们可以得到超市一天销售额的概率密度函数为：f(x) = (1 / (10 * √(2π))) * exp(-(x-50)²/(2*10²))然后，我们可以对概率密度函数进行积分，计算超市一天销售额的期望：E(X) = ∫(x * (1 / (10 * √(2π))) * exp(-(x-50)²/(2*10²)) dx)对于这个积分式，可以通过数值计算方法求解，比如数值积分等。
概率论-常见的概率分布模型常见的概率分布模型离散概率分布函数 离散概率分布也称为概率质量函数（probability mass function），离散概率分布的例⼦有 伯努利分布（Bernoulli distribution） ⼆项分布（binomial distribution） 泊松分布（Poisson distribution） ⼏何分布（geometric distribution）等连续概率分布函数 连续概率分布也称为概率密度函数（probability density function），它们是具有连续取值（例如⼀条实线上的值）的函数，连续概率分布的例⼦有 正态分布（normal distribution） 指数分布（exponential distribution） β分布（beta distribution）等联合分布函数 给定⼀个随机变量(X,Y)，称定义域为整个平⾯的⼆元实值函数F(x,y)=P(X≤x,Y≤y)−∞≥x,y≤∞该⼆元实值函数为随机变量(X,Y)的分布函数，也可以称为是(X,Y)的联合分布函数。
按照联合分布函数的定义，F(x,y)=P((X,Y)∈D xy)，其中D xy如下图所⽰Processing math: 100%多项分布（Multinomial Distribution ）多项分布简介 多项分布是⼆项分布的推⼴，他们的区别是⼆项分布的结果只有0和1两种，多项式的结果可以有多个值。
多项分布的典型例⼦是掷骰⼦，6个点对应6个不同的数，每个点的概率都为16 与⼆项分布类似，多项分布来⾃于(p 1+p 2+⋯+p k )n 多项式的展开多项分布公式解析 以掷骰⼦为例，掷骰⼦的时候掷1−6的概率都为16，记作p 1−p 6，可以发现p 1+p 2+p 3+p 4+p 5+p 6=1，现在把p 1+p 2+p 3+p 4+p 5+p 6记作做⼀次抽样各种事件发⽣的概率和，即可得(p 1+p 2+p 3+p 4+p 5+p 6)n =1n 为n 次抽样所有事件相互组合对应的概率和，之后使⽤多项式展开(注：使⽤多项式定理展开，由于多项式定理不在本节提及范围内，不多赘述)，如果它不是掷骰⼦，⽽是⼀个有n 种可能的问题，会得到⼀个多项式展开的公式P (X 1=x 1,…,X k =x k )=n !x 1!⋯x k !(p x 1⋯p x k )when ∑k i =1x i =n0otherwise这个多项式表⽰X 1出现x 1次，X 2出现x 2次，…，X k 出现x k 次的出现概率，这样就得到了上述所⽰的多项分布的多项展开式公式。
概率图模型及求解方法本文介绍概率图模型的定义和几个相关算法，概率图模型是贝叶斯统计和机器学习中的一个常用方法，在自然语言处理和生物信息中也有重要应用。
关于概率图模型更详细全面的介绍参见[1],[6]。
1.1什么是概率图模型概率图模型简单地说是用图作为数据结构来储存概率分布的模型。
图中的节点表示概率分布中的随机变量，图中的边表示它连接的两个随机变量之间存在的某种关系（具体是什么关系将在后文提到）。
概率图模型可以简洁的表示复杂的概率分布，并且可以利用图论中的算法来求解概率分布中的某些特性（条件独立性和边际概率），因此得到了广泛应用。
1.2有向图模型1.2.1定义概率图模型根据模型中的图是否为有向图分为有向图模型和无向图模型两种。
有向图模型也叫贝叶斯网络。
我们考虑的有向图模型中的图是有向无圈图，有向无圈图是指图中两点之间至多存在一条有向路径。
我们可以对有向无圈图中的节点排序，使得图中的边都是从序号小的节点指向序号大的节点，这种排序称为拓扑排序。
在有向图中，我们称存在有向边指向节点x 的节点为x 的父节点，节点x 的边指向的节点为x 的子节点。
存在由节点x 到节点y 的一条有向路径，并且路径的方向指向节点y 的所有y 的集合称为x 的后代节点。
容易看出，在拓扑排序下父节点的序号总是小于子节点的序号。
如果图G 中存在有向圈，则节点x 可能既是节点y 的父节点又是节点的子节点，因此父节点、子节点只对有向无圈图有意义。
称概率分布P 可以由有向无圈图G 表出，如果概率分布可以分解为： 1(x)(x |pa )k k Kk P P ==∏ (1.1)其中，pa k 表示x k 在图G 中所有父节点组成的集合。
图1. 简单的概率图模型例1. 我们考虑图1对应的概率图模型，概率分布可以写成：12345123124352(x ,x ,x ,x ,x )(x )(x )P(x |x ,x )P(x |x )P(x |x )P P P =假设每个自变量可取3个值，那么用概率图模型表示这个概率分布，我们只需记录6+6+18+6+6=42个参数，而如果不用概率图模型，则需要记录3^5-1=242个参数。
