信息论课程知识总结

  • 格式:pptx
  • 大小:1.52 MB
  • 文档页数:8

下载文档原格式

  / 8
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
1.1 消息

信息具有特殊的性质:无形、可共享、无限、可度量。其中信息是可 度量是要解决信息数量与质量的度量。嘻嘻度量应满足信息的三个基 本方向:结构的、统计的和语义的。 消息是信息的载荷者。消息具有不同的形式。构成消息的条件有两 个:一是构成的消息能够被通信双方理解;二是可以在通信中进行传 递和交换。同一个消息可以含有不同的信息量。 信号是消息的表现形式,消息则是信号的具体内容。信号是消息的载 体,是表示消息的物理量。


2.1自信息量和条件自信息量

2.2互信息量和条件互信息量

2.2互信息量和条件互信息量

2.3 离散集的平均自信息量

Baidu Nhomakorabea
2.3 离散集的平均自信息量