基于最大熵原理的分布模型

  • 格式:pdf
  • 大小:167.40 KB
  • 文档页数:4

Vo . 1 No 6 12 .
Nov 20 . 07
文章编 号 :6 2 6 9 (0 7 0 — 0 7 0 17— 172 0 )6 08 — 4
基 于最 大 熵 原 理 的分 布模 型
胡 琛 ,王 彬
(. 1 山东 科 汇 电 子 股 份 有 限 公 司 ,山东 淄 博 2 5 0 ; 5 0 0
不是唯一 的 , 么 , 那 如何从 这 些相 容 的分 布 中挑 出
“ 最佳 的” 最合理 的” 布作为实 际 的常见 分布 呢? “ 分
这 就必须挑选 一个标准 , 这个挑选 标准就 是最大熵
代 ,h n o S a n n等人 所 发展 的通信 理论 , 就 是后 来 也 逐渐 成熟且 多元 化 的信 息 论 中 , 样存 在 一 相 似 同 特征 的量. h n o S a n n称之为 信息 熵 , 它是 对 信息 量 多少 的量度 . 其形 式类 似 于热力 学熵 , 同在 于热 不 力学熵 含有 玻尔 兹曼 常数. 9 7 J y e 研究 证 15 年 a ns 明这个 形似 其实 是 相 等 , 息 熵 和 热力 学 熵 实 际 信
Ke r s:t a m u n r y;m e n p e i ia i y wo d he m xi m e t op a r c p t ton; m e n w i pe d a nd s e
熵最早 是 由 C a s s 1 6 lu i 于 8 5年 提 出并 应 用 n 于热 力学 , 来 应 用 于统 计 物理 学 . 后 上世 纪 4 0年
的分 布.
最 常见 、 最实 际 的 几率 分 布 对 应 的信 息 熵 最
有一些 随机事件 , 分布 函数不 了解 或不 可能 其
大. 信息 熵取 极 大值时 , 对应 的 几率 分 布[ i一 定 p] 是 最可能 的分 布. 以 , 所 确定最 大熵 原理 作为一 条
选择 标 准是 合理 的.
山 东 理 工 大 学 学 多小 段 , 不 同长 度 的线 段 各 求
直 接计 算 , 我们所掌握 的仅是与 随机事件 有关 的一
个 或几个随 即变量 的平 均 值 , 然 , 显 这种 几 率分 布
收 稿 日期 :2 0 —0 0 7 5—2 5 作 者 简 介 :胡 琛 ( 95一 , 18 ) 女
维普资讯
8 8
2 西北 工 业大学 理 学 院,陕西 西安 7 0 7 ) . 1 0 2 摘 要 :通过 对 自然 界 中几 个现 象 的分析 , 证 了最大熵 原理 在统 计分 布 中的作用 , 到 了这 验 得 些现象 的统 计分布 规律 , 用最 大熵原 理对这 些 问题 物理 成 因进 行 了讨论. 并 关键词 :最 大熵原 理 ;平 均 降水量 ;平 均风速 中 图分 类 号 :O 1 . 4 42 文献标 识码 :A
Di t i to o lb s d o a i u n r py prnc p e s r bu i n m de a e n m x m m e t o i i l
H U e 。W AN G n Ch n Bi
( . h n o g Ke u e ti mp n mie 1 S ad n h i Elc rcCo a y Li td,Z b 5 0 0。Ch n ; io2 5 0 i a
上 具有 相 同含义 , 证 明 了最 大熵 原理 .】 并 [ ]
原 理. 它是热力学 熵增加原理 的一 个重大推广.
按 照最 大熵 原 理 , 全 部相 容 的 分 布 中挑 出 从
这 样 的分布 , 它是 在某 些约束 条件 下 ( 常是 给定 通 的某些 随机 变量 的平 均 值 ) 使信 息 熵 达 到极 大 值
2. o t N r hwe t r Pol e h c lU nie st S ho i n e,X i n 71 07 s e n y t c nia v r iy。 c olofSce c ’ 0 2,Chia) a n
Ab t a t Tho h t t dy o e e a he ome a i hena u e,t e r l n s a itc ld s r— sr c : ug he s u n s v r lp n n n t t r h o e i t ts ia i ti bu i n o he ma m u e t op r n i e wa e iid,t s he o na s a itc ld s rbu to ft xi m n r y p i cpl s v rfe he e p n me t ts ia it i — ton r e r t i e i uls we e ob a n d, a d t d s us i wih t xi u e t op rncpl t h s n he ic son t he ma m m n r y p i i e o t e e q s i fphy ia rgi s we e c r id o ue tonso sc lo i n r a re n.
维普资讯
第 2 1卷 第 6期
20 0 7年 1 1月
山 东 理 工 大 学 学 报( 然 科 学 版) 自
J u n lo h n o gU nv riyo c n lg ( t rlS in eEdt n o r a fS a d n iest fTeh oo y Nau a ce c ii ) o