信息论与编码技术实验指导书

《信息理论与编码》实验指导书武汉理工大学教材中心2009年7月实验一绘制二进熵函数曲线一、实验目的1.熟悉Matlab 工作环境及工具箱；2.掌握Matlab 绘图函数；3.理解熵函数表达式及其性质。

二、实验内容实验内容与要求内容：用Matlab 软件绘制二进熵函数曲线。

要求：1. 提前预习实验，认真阅读教材及相应的参考书，熟悉实验原理；2. 遵守实验室规定，实验过程中服从实验室管理人员和实验指导老师的管理；3. 独立完成实验，认真做好实验记录；4. 实验结束后，认真填写实验报告。

知识要点1. 信源熵的概念及其性质。

参照教材及参考书。

2. 二进熵公式：注意：虽然理论上定义0 ·log0 = 0 ，但是，在实际运算时，对数函数logx 的变量x 不能取0 值，而应设置一个系统默认的最小值eps 。

三、实验总结1、绘制二进熵函数曲线，观察曲线形状。

2、结合熵函数的性质，分析二进熵函数曲线的特点。

四、思考与提高1、绘制三元熵函数曲线，观察曲线形状。

2、结合熵函数的性质，分析三元熵函数曲线的特点。

p=0.00001:0.00001:0.99999;h=-p.*log2(p)-(1-p).*log(1-p);plot(p,h);title('二进熵函数曲线');ylabel('H(p,1-p)');p=linspace(eps,1-eps,100);q=linspace(eps,1-eps,100);[P,Q]=meshgrid(p,q);P_Q=P+Q;for n=1:100for m=1:100if P_Q(n,m)>=1Q(n,m)=nan;endendendH=-P.*log2(P)-Q.*log2(Q)-(1-P-Q).*log2(1-P-Q);mesh(P,Q,H);title('三维熵函数图像');实验二一般信道容量迭代算法一、实验目的1、熟悉Matlab 工作环境及工具箱；2、掌握一般信道容量迭代算法的原理。

信息论与编码技术实验教案第一章：信息论基础1.1 信息的概念与度量介绍信息的基本概念，信息源的随机性，信息的不确定性。

讲解信息的度量方法，如香农熵、相对熵等。

1.2 信道模型与容量介绍信道的概念，信道的传输特性，信道的噪声模型。

讲解信道的容量及其计算方法，如单符号信道、多符号信道等。

第二章：信源编码与压缩2.1 信源编码的基本概念介绍信源编码的定义、目的和方法。

讲解信源编码的基本原理，如冗余度、平均冗余度等。

2.2 压缩算法与性能评价介绍无损压缩算法，如霍夫曼编码、算术编码等。

讲解有损压缩算法，如JPEG、MP3等。

分析各种压缩算法的性能评价指标，如压缩比、重建误差等。

第三章：信道编码与错误控制3.1 信道编码的基本概念介绍信道编码的定义、目的和方法。

讲解信道编码的基本原理，如纠错码、检错码等。

3.2 常见信道编码技术介绍常用的信道编码技术，如卷积码、汉明码、奇偶校验等。

分析各种信道编码技术的性能，如误码率、编码效率等。

第四章：数字基带传输4.1 数字基带信号与基带传输介绍数字基带信号的概念，数字基带信号的传输特性。

讲解数字基带信号的传输方法，如无编码调制、编码调制等。

4.2 基带传输系统的性能分析分析基带传输系统的性能指标，如误码率、传输速率等。

讲解基带传输系统的优化方法，如滤波器设计、信号调制等。

第五章：信号检测与接收5.1 信号检测的基本概念介绍信号检测的定义、目的和方法。

讲解信号检测的基本原理，如最大后验概率准则、贝叶斯准则等。

5.2 信号接收与性能分析分析信号接收的方法，如同步接收、异步接收等。

讲解信号接收性能的评价指标，如信噪比、误码率等。

第六章：卷积编码与Viterbi算法6.1 卷积编码的基本原理介绍卷积编码的定义、结构及其多项式。

讲解卷积编码的编码过程，包括初始状态、状态转移和输出计算。

6.2 Viterbi算法及其应用介绍Viterbi算法的原理，算法的基本步骤和性能。

讲解Viterbi算法在卷积编码解码中的应用，包括路径度量和状态估计。

信息理论与编码实验教学指导书(试用教材)电子信息工程系2019年4月实验1.1 汉明码的编译码实验板实验一、实验目的1． 学习汉明码编译码的基本概念； 2． 掌握汉明码的编译码方法； 3． 验证汉明码的纠错能力。

二、实验仪器1． RZ9681实验平台 2． 实验模块： ● 主控模块● 信道编码与频带调制模块-A4 ● 频带解调与信道译码模块-A5 3． 100M 双通道示波器 4． 信号连接线 5． PC 机（二次开发）三、实验原理3.1汉明编译码介绍汉明码（Hamming Code ）是一个可以有多个校验位，具有检测并纠正一位错误代码的纠错码，所以它也仅用于信道特性比较好的环境中，如以太局域网中，因为如果信道特性不好的情况下，出现的错误通常不是一位。

汉明码的检错、纠错基本思想是将有效信息按某种规律分成若干组，每组安排一个校验位进行奇偶性测试，然后产生多位检测信息，并从中得出具体的出错位置，最后通过对错误位取反（也是原来是1就变成0，原来是0就变成1）来将其纠正。

3.2汉明编译码原理汉明码编码采用()4,7汉明码，信息位数4=k ，监督位数3=-=k n r ，可以纠一位错码，生成矩阵⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=1101000101010001100101110001G ，编码情况见表 1。

表 1()4,7 Hamming 编码表汉明码译码计算校正子[]321,,S S S S =,其中24561a a a a S ⊕⊕⊕= 13562a a a a S ⊕⊕⊕= 03463a a a a S ⊕⊕⊕=校正子S 的值决定了接收码元中是否有错码，并且指出错码的位置，见表2。

表2 错码位置示意3.3 举例说明信息位10013456=a a a a ，根据表 1()4,7 Hamming 编码表，编码为1001100，如果在信道传输的过程中产生一位误码，编码接收时变为1101100，我们计算校正子：124561=⊕⊕⊕=a a a a S 113562=⊕⊕⊕=a a a a S 003463=⊕⊕⊕=a a a a S校正子110=S ，查找表2 错码位置示意，5a 产生误码，则译码输出信息位1001。

《信息论与编码》实验指导书邹东尧等编计算机与通信工程学院信息与通信工程系2010年10月绪论随着信息产业的飞速发展，对从事信息、通信、电子工程类等专业的人员的要求也越来越高，而《信息论与编码》是这类专业的专业必修课，这门课主要介绍了有关信息论的基本原理以及信源编码、信道编码的内容。

通过理论与实践的结合，才能更好的领会知识的真谛。

《信息论与编码》结合实验的实践，让学生更能深刻的理解和掌握这门课的基本概念、基本理论，并培养学生的动手实践能力。

本实验指导书正是配合教学计划的实验教学而编写，主要是基于matlab 仿真软件对信源编解码和信道容量进行仿真。

本书共有三个实验：绘制信源熵函数曲线、哈夫曼编解码和离散信道容量，为实验大纲要求的必做实验。

本书主要由邹东尧编写，主要参考了李祖贺等编写的《信息论与编码》实验指导书，并得到了李祖贺等老师的大力支持，特此对他们表示衷心的感谢！由于时间仓促，错误难免，恳请读者谅解和指正！郑州轻工业学院计算机与通信工程学院信息与通信工程系2010年10月目录实验一绘制信源熵函数曲线 (4)实验二哈夫曼编解码 (7)实验三离散信道容量 (11)1实验一绘制信源熵函数曲线一、实验目的1.掌握离散信源熵的原理和计算方法。

2.熟悉matlab软件的基本操作，练习应用matlab软件进行信源熵函数曲线的绘制。

3.理解信源熵的物理意义，并能从信源熵函数曲线图上进行解释其物理意义。

二、实验原理1.离散信源相关的基本概念、原理和计算公式产生离散信息的信源称为离散信源。

离散信源只能产生有限种符号。

假定X是一个离散随机变量，即它的取值范围R={x1，x2，x3，…}是有限或可数的。

设第i个变量x i发生的概率为p i=P{X=x i}。

则：定义一个随机事件的自信息量I（x i）为其对应的随机变量x i出现概率对数的负值。

即：I（x i）= -log2p(x i)定义随机事件X的平均不确定度H（X）为离散随机变量x i出现概率的数学期望，即：∑∑-==i ii ii ixpxpxIxpXH)(log)()()()(单位为比特/符号或比特/符号序列。

《信息论与编码》实验指导书前言当前，信息论与编码已经成为电子信息类专业高年级学生必修的专业基础课。

尽管各个院校开设课程名称有所不同，但都是以香农信息论为核心内容的。

这是一门理论性和系统性很强的课程。

涉及多个学科，需要广泛数学知识。

为了能透彻掌握信息论基本概念和分析方法，做实验进行实践练习是不可缺少的环节。

通过综合性、验证性实验，可以加深对理论和概念的理解，增强分析和解决实际问题的能力。

为此，河北工业大学信息学院编写了《信息论与编码实验指导书》，由于可供参考的实验指导书有限，本书的不妥和错误之处，恳请读者予以批评指正。

马杰2008年2月目录实验一信息熵与图像熵计算--------------------------------------- 1实验二 Huffman 编码实验------------------------------------------ 6实验三算术编码实验------------------------------------------------ 11 实验四 CRC校验编码实验------------------------------------------17实验一信息熵与图像熵计算（2学时）一、实验目的1．复习MATLAB的基本命令，熟悉MATLAB下的基本函数。

2．复习信息熵基本定义, 能够自学图像熵定义和基本概念。

二、实验内容1．能够写出MATLAB源代码，求信源的信息熵。

2．根据图像熵基本知识，综合设计出MATLAB程序，求出给定图像的图像熵。

三、实验仪器、设备1．计算机－系统最低配置 256M内存、P4 CPU。

2．Matlab仿真软件－ 7.0 / 7.1 / 2006a 等版本Matlab软件。

四、实验原理1． MATLAB中数据类型、矩阵运算、图像文件输入与输出知识复习。

2．利用信息论中信息熵概念，求出任意一个离散信源的熵（平均自信息量）。

自信息是一个随机变量,它是指某一信源发出某一消息所含有的信息量。

北京信息科技大学《信息论与编码》实验指导书李红莲编光电信息与通信工程学院二〇一〇年八月目录实验一信息熵、信道容量的计算............................ . (3)一、实验目的 (3)二、实验内容 (3)三、实验原理............................................................. (3)四、实验方法与实验步骤 (3)五、思考题 (3)六、实验报告要求 (3)实验二霍夫曼编码、率失真函数的计算 (4)一、实验目的 (4)二、实验内容 (4)三、实验原理............................................................. (4)四、实验方法与实验步骤 (4)五、思考题 (4)六、实验报告要求 (4)实验一：信息熵、信道容量的计算实验项目：信息熵、信道容量的计算实验项目性质：验证性实验课程：《信息论与编码》计划学时：4学时一、实验目的掌握使用计算机计算信息熵、信道容量的方法。

二、实验内容利用matlab语言编程实现信息熵、信道容量的计算。

三、实验原理1．参照教材（焦瑞莉等编著《信息论基础教程》）第14页式（2-16）理解信息熵的定义2．参照教材（焦瑞莉等编著《信息论基础教程》）第68页式（3-15）理解信道容量的定义四、实验方法与实验步骤（一）参照教材第215页信源熵程序建立文件entropy.m（二）建立文件exercise2_3_1.m通过调用entropy.m计算教材第59页练习2.3（1）（参考答案：0.8113比特）（三）参照教材第215页离散无记忆信道容量的迭代计算程序建立文件channelcap.m（四）建立文件exercise3_2_b.m通过调用channelcap.m计算教材第92页练习3.2（b）（参考答案：0.0817比特）五、思考题使用计算机编程进行信道容量的迭代计算是否肯定收敛，即是否一定能得出近似正确结果？六、实验报告要求（1）简述实验目的、实验原理和实验任务；（2）列出源程序代码；（3）给出计算结果（4）收获与体会。

信息论与编码技术实验教案第一章：信息论基础1.1 实验目的1. 了解信息的基本概念及其度量方法；2. 掌握信息的熵、冗余度和信道容量等基本概念。

1.2 实验原理1. 信息的基本概念：信息、消息、信源等；2. 信息的度量：平均信息量、熵、冗余度等；3. 信道容量和编码定理。

1.3 实验设备与材料1. 计算机及投影仪；2. 相关实验软件。

1.4 实验步骤1. 讲解信息的基本概念及其度量方法；2. 分析实际例子，演示信息的熵、冗余度和信道容量的计算过程；3. 让学生通过实验软件进行相关计算和分析。

1.5 思考与讨论1. 信息量与消息长度的关系；2. 信道容量在实际通信系统中的应用。

第二章：数字基带编码2.1 实验目的1. 掌握数字基带编码的基本原理；2. 学会使用相关软件进行数字基带编码的仿真。

2.2 实验原理1. 数字基带编码的定义和分类；2. 常用数字基带编码方法：NRZ、RZ、曼彻斯特编码等；3. 数字基带编码的性能评估：误码率、带宽利用率等。

2.3 实验设备与材料1. 计算机及投影仪；2. 相关实验软件。

2.4 实验步骤1. 讲解数字基带编码的基本原理和方法；2. 演示常用数字基带编码的仿真效果；3. 让学生通过实验软件进行数字基带编码的仿真实验。

2.5 思考与讨论1. 数字基带编码的优缺点；2. 如何在实际通信系统中选择合适的基带编码方法。

第三章：信道编码与误码控制3.1 实验目的1. 了解信道编码的基本原理；2. 掌握常见的信道编码方法；3. 学会使用相关软件进行信道编码的仿真。

3.2 实验原理1. 信道编码的定义和作用；2. 常用信道编码方法：卷积编码、汉明编码、里德-所罗门编码等；3. 误码控制原理：检错、纠错等。

3.3 实验设备与材料1. 计算机及投影仪；2. 相关实验软件。

3.4 实验步骤1. 讲解信道编码的基本原理和方法；2. 演示常用信道编码的仿真效果；3. 让学生通过实验软件进行信道编码的仿真实验。

实验一 信道容量的迭代算法一、 实验目的1、掌握信道容量的概念。

2、了解迭代法计算信道容量的流程。

3、熟悉Matlab 程序的设计和调试方法。

二、 实验要求1、学习Matlab 软件编程和调试方法；2、输入：任意一个信道转移概率矩阵。

包括信源符号个数、信宿符号个数、信道转移概率，在程序运行时从键盘输入；3、输出：输入的信道矩阵、信道容量C 。

三、 算法描述1. 初始化信源分布),,,,,(21)0(r i p p p p p ⋅⋅⋅⋅⋅⋅= （一般初始化为均匀分布），置迭代计数器0=k ,设信道容量相对误差门限为,0,>δδ可设-∞=)0(C ； 2. r i p pp p i k i ij k i ij k ji ,,2,1)()()(⋅⋅⋅==∑ϕ；s j ,,1⋅⋅⋅= 3. r i p p p i j k ji ij j k ji ij k i ,,1ln exp ln exp )()()1(⋅⋅⋅=⎪⎭⎪⎬⎫⎪⎩⎪⎨⎧⎥⎦⎤⎢⎣⎡⎥⎦⎤⎢⎣⎡=∑∑∑+ϕϕ 4. ⎪⎭⎪⎬⎫⎪⎩⎪⎨⎧⎥⎦⎤⎢⎣⎡=∑∑+i j k ji ij k p C )()1(ln exp ln ϕ 5. 如果,)1()()1(δ≤-++k k k C C C 转向76. 置迭代序号k k →+1，转向27. 输出)1(+k i p 和)1(+k C 的结果8. 停止四、 实验报告内容1、画出信道容量迭代算法流程图；2、给出实验结果的截图（输入信道矩阵和信道容量计算结果）；3、对各种情况的实验结果进行分析和检验。

附：实验用Matlab 源程序。

（如果使用了非给定源程序）实验报告提交：电子文档（邮箱：yangxiaoping2004@ ）实验过程：结果出来时，请实验老师检查并做记录（1个结果即可）。

实验二 唯一可译码判决准则一、 实验目的1、了解唯一可译码的概念。

2、掌握唯一可译码判决准则。

3、掌握Matlab 程序调试方法。

信息理论与编码实验指导书电子与电气工程学院罗晓琴编实验要求1、实验前认真阅读实验指导书的内容，并完成预习任务。

2、复习Matlab的相关知识，完成仿真。

3、要熟悉本次实验的任务。

4、实验过程中要认真记录实验结果，仿真结果需经指导教师审阅。

5、实验后每位同学要独立完成实验报告的内容。

目录实验一离散信源的自信息量和熵 (3)实验二最大离散熵定理 (6)实验三费诺编码 (9)实验四霍夫曼编码 (13)实验五香农编码 (16)实验一：计算离散信源的自信息量和熵一、实验目的1、熟悉离散信源的特点。

2、学习Matlab仿真离散信源的方法。

3、学习离散信源自信息量和信源熵的计算方法。

4、熟悉 Matlab 编程。

二、实验设备1、计算机2、软件：Matlab三、实验原理本实验主要完成信源概率分布的自信息量以及信源熵的计算。

计算公式如下：一个字符它所携带的信息量是和该字符出现的概率有关，概率可以表征自信息量的大小自信息的计算公式为：21()l o g aI a p 自信息量有两个含义：第一、当事件发生前，表示该事件发生的不确定性；第二、当事件发生后，标是该事件所提供的信息量．自信息量的单位取决于对数所取的底，若以2为底，单位为比特，以e 为底，单位为奈特，以10为底，单位为哈特。

在通信系统中，通常取比特为单位，底数2略去不写。

由于自信息I(a)是一个随机变量，不能用来表征整个信源的不确定度。

所以我们用平均自信息量来表征整个信源的不确定度。

平均自信息量就是信源输出所有消息的自信息的数学期望，又称为信息熵、信源熵，简称熵。

熵（平均自信息）的计算公式为：22111()log log qq i i i i i i H x p p p p ====-∑∑ 信息熵H （x ）是对信源的平均不确定性的描述。

它从平均意义上来表征信源的总体信息测度。

对于某特定的信源，其信息熵是一个确定的数值。

信息熵具有如下三种物理意义。

第一，信息熵H （x ）是表示信源输出后，每个消息或符号所提供的平均信息量。

《信息论与编码技术》实验教案第一章：信息论基础1.1 信息的概念与度量介绍信息的基本概念，理解信息的含义学习信息熵的计算方法，掌握信息熵在通信系统中的应用1.2 信源与信道模型学习信源的数学模型，理解信源的随机性和统计特性学习信道的数学模型，了解信道的传输特性第二章：信源编码2.1 信源编码的基本概念理解信源编码的目的和意义学习信源编码的基本原理和方法2.2 常用信源编码技术学习霍夫曼编码、算术编码等常用信源编码技术掌握编码算法的实现和应用第三章：信道编码3.1 信道编码的基本概念理解信道编码的目的和意义学习信道编码的基本原理和方法3.2 常用信道编码技术学习卷积编码、汉明编码等常用信道编码技术掌握编码算法的实现和应用第四章：误码控制与编码技术4.1 误码产生的原因与类型了解通信系统中误码的产生原因和类型学习误码的检测与纠正方法4.2 错误控制编码技术学习自动重传请求（ARQ）、前向纠错（FEC）等错误控制编码技术掌握编码算法的实现和应用第五章：信息加密与安全5.1 信息加密的基本概念理解信息加密的目的和意义学习信息加密的基本原理和方法5.2 常用加密技术学习对称加密、非对称加密等常用加密技术掌握加密算法的实现和应用第六章：数据压缩技术6.1 数据压缩的基本概念理解数据压缩的目的和意义学习数据压缩的基本原理和方法6.2 常用数据压缩技术学习霍夫曼编码、LZ77、LZ78等常用数据压缩技术掌握压缩算法的实现和应用第七章：数字信号传输7.1 数字信号传输的基本概念理解数字信号传输的目的和意义学习数字信号传输的基本原理和方法7.2 数字信号传输技术学习基带传输、频带传输等数字信号传输技术掌握传输算法的实现和应用第八章：调制与解调技术8.1 调制与解调的基本概念理解调制与解调的目的和意义学习调制与解调的基本原理和方法8.2 常用调制与解调技术学习幅度调制、频率调制、相位调制等常用调制技术掌握调制与解调算法的实现和应用第九章：无线通信与编码技术9.1 无线通信的基本概念理解无线通信的目的和意义学习无线通信的基本原理和方法9.2 无线通信编码技术学习扩频技术、多址技术等无线通信编码技术掌握编码算法的实现和应用强调实验的重要性和在实际应用中的作用10.2 拓展学习推荐相关的学习材料和参考书籍鼓励学生探索新技术和发展趋势，提高学生的学习兴趣和动力重点和难点解析重点环节一：信息的概念与度量信息熵的计算方法是理解信息论的核心，需要重点掌握。

信息论与编码实验指导书1 课程实验目的本课程是一门实践性很强的专业课和核心课程,根据课程理论教学的需要安排了6学时的配套实验教学,主要内容涉及信息度量的计算方法、典型信源编码方法、典型信道容量计算方法和数据压缩方法四个实验,这四个实验的开设一方面有助于学生消化、巩固课程理论教学的知识,另一方面又可培养学生实践动手能力,同时为后续课程做好准备;2 课程实验要求课程实验准备要求1课程实验主要为设计性实验,要求学生熟悉掌握在VC环境下编写和调试C++程序的方法;2要求学生在实验前复习实验所用到的预备知识;可以查阅教材或者相关的参考资料,这需要学生有自主的学习意识和整理知识的能力;3根据实验项目,设计相关的数据结构和算法,再转换为对应的书面程序,并进行静态检查,尽量减少语法错误和逻辑错误;上机前的充分准备能高效利用机时,在有限的时间内完成更多的实验内容;课程实验过程要求1生成源代码;将课前编写好的书面代码,利用VC自带的编辑器尽快输入为转换为源代码；2程序调试和软件测试;要求学生熟练掌握调试工具,调试正确后,认真整理源程序和注释,给出带有完整注释且格式良好的源程序清单和结果;3完成实验报告;根据实验内容和完成情况,按照附件1给定的格式完成课程实验报告的编写;课程实验报告要求在每次课程实验后要及时进行总结和整理,并编写课程实验报告;报告格式按江西蓝天学院实验报告纸格式填写;实验一二维随机变量信息熵的计算实验目的掌握二变量多种信息量的计算方法;实验学时2学时实验准备1．熟悉二变量多种信息量的计算方法,设计实验的数据结构和算法；2．编写计算二维随机变量信息量的书面程序代码;实验内容及步骤离散二维随机变换熵的计算说明：1利用random函数和归一化方法构造一个二维离散随机变量X,Y；2分别计算X与Y的熵、联合熵、条件熵：HX、HY、HX,YHX|Y、IX|Y；3对测试通过的程序进行规范和优化；4编写本次实验的实验报告;附实验一主要内容及源程序实验一离散二维随机变量信息熵的计算1 实验内容1利用random函数和归一化方法构造一个二维离散随机变量X,Y；2分别计算X与Y的熵、联合熵、条件熵：HX、HY、HX,YHX|Y、IX|Y；2 数据结构与算法描述1函数的定义：函数的数据成员1.随机生成函数的代码：int k,n,t=0;double a44,b=0,c=0;for k=0;k<4;k++{for n=0;n<4;n++{akn=rand%100;t+=akn;}}cout<<"从到间随机取得行列的random函数："<<endl;for k=0;k<4;k++{for n=0;n<4;n++{cout<<setw5<<akn;}cout<<endl;}2.函数归一化代码：cout<<"函数归一化："<<endl;for k=0;k<4;k++{for n=0;n<4;n++{cout<<setw12<<akn/t;}cout<<endl;}3. HY、 HX计算代码：cout<<"HY计算："<<setw20<<"HX计算："<<endl;int e=1;for k=0;k<4;k++{double i=0,g=0;for n=0;n<4;n++{i+=akn/t;g+=ank/t;}cout<<"PY"<<k+1<<"："<<i<<setw8<<"PX"<<e<<"："<<g<<endl;++e;b-=ilogi/log;c-=glogg/log;}cout<<"HY=-∑pYlog pY="<<b<<endl;cout<<"HX=-∑pXlog pX="<<c<<endl;4.联合熵HX,Y计算代码：cout<<"联合熵HX,Y计算："<<endl;b=0;int r,u,h=0;for k=0;k<4;k++{for n=0;n<4;n++{if akn=0{b-=akn/tlogakn/t/log;}else{r=k,u=n;h=1;break;}}}if h==0cout<<"HX,Y=-∑∑pX,Ylog pX,Y="<<b<<endl;else cout<<"P"<<r+1<<","<<u+1<<"为零,中断,无值"<<endl;5.条件熵HX|Y计算代码：cout<<"条件熵HX|Y计算："<<endl;b=0,h=0;for k=0;k<4;k++{double i=0;for n=0;n<4;n++{i+=akn/t;}for n=0;n<4;n++{if akn=0{b-=akn/tlogakn/t/i/log;}else {h=1;break;}}}if h==0{cout<<"HX|Y=-∑∑PX,YlogPX,Y/PY="<<b<<endl;}else cout<<"P"<<r+1<<","<<u+1<<"为零,中断,无值"<<endl;cout<<"IX|Y计算："<<endl;if h==0cout<<"IX|Y=HX-HX|Y="<<c-b<<endl;else cout<<"P"<<r+1<<","<<u+1<<"为零,中断,无值"<<endl;2主函数main 实现初始化操作,完成对子函数的调用因为整个程序是写在main函数中,就不列出,会在下面源程序清单中给出程序;3 实验数据与实验结果这里设定函数为4行4列的随机矩阵;然后函数归一化,即：把所有数字相加,再用每个数去除,就得到了归一化后的矩阵;而HX、HY、HX,YHX|Y、IX|Y就根据课本上的公式,然后编程;输出结果如下：4 程序代码清单：include<>include<cmath>include<iomanip>include<>include<iostream>using namespace std;void main{int k,n,t=0;double a44,b=0,c=0;srand unsigned timeNULL;for k=0;k<4;k++{for n=0;n<4;n++{akn=rand%100;t+=akn;}}cout<<"从0到100间随机取得行列的random函数："<<endl;for k=0;k<4;k++{for n=0;n<4;n++{cout<<setw5<<akn;}cout<<endl;}cout<<"函数归一化："<<endl;for k=0;k<4;k++{for n=0;n<4;n++{cout<<setw12<<akn/t;}cout<<endl;}cout<<"HY计算："<<setw20<<"HX计算："<<endl;int e=1;for k=0;k<4;k++{double i=0,g=0;for n=0;n<4;n++{i+=akn/t;g+=ank/t;}cout<<"PY"<<k+1<<"："<<i<<setw8<<"PX"<<e<<"："<<g<<endl;++e;b-=ilogi/log;c-=glogg/log;}cout<<"HY=-∑pYlog pY="<<b<<endl;cout<<"HX=-∑pXlog pX="<<c<<endl;cout<<"联合熵HX,Y计算："<<endl;b=0;int r,u,h=0;for k=0;k<4;k++{for n=0;n<4;n++{if akn=0{b-=akn/tlogakn/t/log;}else{r=k,u=n;h=1;break;}}}if h==0cout<<"HX,Y=-∑∑pX,Ylog pX,Y="<<b<<endl;else cout<<"P"<<r+1<<","<<u+1<<"为零,中断,无值"<<endl;cout<<"条件熵HX|Y计算："<<endl;b=0,h=0;for k=0;k<4;k++{double i=0;for n=0;n<4;n++{i+=akn/t;}for n=0;n<4;n++{if akn=0{b-=akn/tlogakn/t/i/log;}else {h=1;break;}}}if h==0{cout<<"HX|Y=-∑∑PX,YlogPX,Y/PY="<<b<<endl;}else cout<<"P"<<r+1<<","<<u+1<<"为零,中断,无值"<<endl;cout<<"IX|Y计算："<<endl;if h==0cout<<"IX|Y=HX-HX|Y="<<c-b<<endl;else cout<<"P"<<r+1<<","<<u+1<<"为零,中断,无值"<<endl;}实验二简单信源编码方法实现实验目的掌握Huffman编码方法;实验学时2学时实验准备1．熟悉离散信源的编码方法,重点是Huffman编码方法,设计Huffman编码的数据结构和算法；2．编写Huffman编码的书面程序代码;实验内容及步骤离散信源的Huffman编、译码方法说明：1利用random函数构造一个一维离散随机变量分布PX；2构造离散随机变量的概率压缩表；3根据概率压缩表构造Huffman编码表,并实现Huffman编码；4完成Huffman译码；4编写本次实验的实验报告;附实验二实验内容及程序源程序实验二离散信源的Huffman编、译码方法1 实验内容1利用random函数构造一个一维离散随机变量分布PX；2根据概率压缩表构造Huffman编码表,并实现Huffman编码；3完成Huffman译码；2 数据结构与算法描述1函数的定义：函数的数据成员1.随机生成归一化一维离散变量函数代码：void aa int n{double w=0;a=new double n;srand unsigned timeNULL;cout<<"随机生成归一化一维离散变量："<<endl;forint i=0;i<n;i++{ai=rand%50;w+=ai;}forint i=0;i<n;i++{ai=ai/w;}double p;forint i=0;i<n-1;i++{forint j=n-2;j>=i;j--{if aj<aj+1{p=aj+1;aj+1=aj;aj=p;}}}cout<<"PX:";forint i=0;i<n;i++{3;cout<<ai<<setw8;}}2.Huffman译码函数代码：void huffman double a,string c,int n{elem mp;stack sn;double b;b=new double n;forint i=0;i<n;i++{bi=ai;} double d;d=new double n;forint i=0;i<n;i++{di=i;}double e;e=new double n;forint i=0;i<n;i++{ei=i;}string t;forint m=n;m>=2;m--{bm-2+=bm-1;=dm-2;=dm-1;mp;double mp,mp1;forint i=0;i<n-1;i++{forint j=n-2;j>=i;j--{if bj<bj+1{mp=bj+1; mp1=dj+1;bj+1=bj; dj+1=dj;bj=mp;dj=mp1;}}}cout<<left<<setw6<<"\nPX:";forint i=0;i<m-1;i++{3;cout<<setw8<<bi;}}while{mp=;forint i=0;i<n;i++{if==ei{t=ci;}}forint i=0;i<n;i++{if==ei{ci=t;ci+="0";}else if==ei{ci=t;ci+="1";}}}}2主函数main 实现初始化操作,完成对子函数的调用void main{int n;cout<<"输入N：";cin>>n;c=new stringn;aan;huffmana,c,n;cout<<endl;cout<<setw6<<"各项Huffman编码为:"<<endl;forint i=0;i<n;i++{3;cout<<setw8<<ai;0;cout<<setwn+4<<ci;cout<<endl;}}3 实验数据与实验结果测试数据：随机生成归一化离散变量,如下图数据,并计算出各项Huffman编码;实验结果：4 程序代码清单：include<>include<cstdio>include<iomanip>include<>include<cassert>include<string>include<iostream>using namespace std;double a;string c;struct elem{double a2;double a3;};class stack{int size;int top;elem list;public:stack const int sz=0{size=sz;top=0;list=new elemsz;}~stack{delete list;}void clear{top=0;}void push const elem& item{asserttop<size;listtop++=item;} elem pop{assertisEmpty;return list--top;}elem topValue const{assertisEmpty;return listtop-1;}bool isEmpty const{return top==0;}};void aa int n{double w=0;a=new double n;srand unsigned timeNULL;cout<<"随机生成归一化一维离散变量："<<endl;forint i=0;i<n;i++{ai=rand%50;w+=ai;}forint i=0;i<n;i++{ai=ai/w;}double p;forint i=0;i<n-1;i++{forint j=n-2;j>=i;j--{if aj<aj+1{p=aj+1;aj+1=aj;aj=p;}}}cout<<"PX:";forint i=0;i<n;i++{3;cout<<ai<<setw8;}}void huffman double a,string c,int n{elem mp;stack sn;double b;b=new double n;forint i=0;i<n;i++{bi=ai;}double d;d=new double n;forint i=0;i<n;i++{di=i;} double e;e=new double n;forint i=0;i<n;i++{ei=i;} string t;forint m=n;m>=2;m--{bm-2+=bm-1;=dm-2;=dm-1;mp;double mp,mp1;forint i=0;i<n-1;i++{forint j=n-2;j>=i;j--{if bj<bj+1{mp=bj+1; mp1=dj+1;bj+1=bj; dj+1=dj;bj=mp;dj=mp1;}}}cout<<left<<setw6<<"\nPX:";forint i=0;i<m-1;i++{3;cout<<setw8<<bi;}}while{mp=;forint i=0;i<n;i++{if==ei{t=ci;}}forint i=0;i<n;i++{if==ei{ci=t;ci+="0";}else if==ei{ci=t;ci+="1";}}}}void main{int n;cout<<"输入N：";cin>>n;c=new stringn;aan;huffmana,c,n;cout<<endl;cout<<setw6<<"各项Huffman编码为:"<<endl;forint i=0;i<n;i++{3;cout<<setw8<<ai;0;cout<<setwn+4<<ci;cout<<endl;}}实验三典型信道容量计算实验目的掌握用递推算法计算典型信道的容量的方法;实验学时2学时实验准备1．熟悉二进信道的概率转移矩阵表示,掌握信道容量的递推算法,设计用递推算法计算二进信道容量的数据结构和算法；2．编写用递推算法计算二进信道容量的书面程序代码;实验内容及步骤用递推算法计算二进信道的容量说明：1构造各种二进信道的概率转移矩阵；2用递推算法计算各种二进信道的容量；3不断调整误差精度对系统进行测试,并进行对比分析；4编写本次实验的实验报告;附实验三内容及源程序实验三用递推算法计算二进信道的容量1 实验内容1构造各种二进信道的概率转移矩阵；2用递推算法计算各种二进信道的容量；3不断调整误差精度对系统进行测试,并进行对比分析；2 数据结构与算法描述1函数的定义：函数的数据成员1.随机生成二元对称信道函数代码：void aa{double e=0;cout<<"随机生成二元对称信道为："<<endl;int i=0;forint j=0;j<2;j++{a0j=rand%100;e+=a0j;}forint j=0;j<2;j++{a0j=a0j/e;}a11=a00;a10=a01;forint i=0;i<2;i++{forint j=0;j<2;j++{cout<<setw12<<aij;}cout<<endl;}}2.随机生成二元删除信道函数代码：void cc{double e=0;cout<<"随机生成二元删除信道为："<<endl;forint j=0;j<2;j++{b0j=rand%100;e+=b0j;}forint j=0;j<2;j++{b0j=b0j/e;}b02=0;b10=0;e=0;forint j=1;j<3;j++{b1j=rand%100;e+=b1j;}forint j=1;j<3;j++{b1j=b1j/e;}forint i=0;i<2;i++{forint j=0;j<3;j++{cout<<setw12<<bij;}cout<<endl;}}3.求二元对称信道最大信道容量和最大容量时w的值的函数代码：void bb{double w=0;double e2={0,0};for w=0;w<=1;w+={double tmp=0;tmp=wa00+1-wa01log1/wa00+1-wa01/log+wa01+1-wa00log1/wa01+1-wa00/log-a00log1/a00/log+a01log1/a01/l og;if e0<tmp{e0=tmp;e1=w;}}cout<<"最大信道容量为:"<<setw6<<e0<<" 此时w的值为："<<e1<<endl;cout<<endl;}4. 求二元删除信道最大信道容量和最大容量时w的值的函数代码：void dd{double P22;P10=0;P11=1;double temp2={0,1};do{double tmp1=0,tmp=0;forint i=0;i<2;i++{forint j=0;j<3;j++{if bij=0{tmp1+=P1ibijlogbij/log;}}}double temp223;forint i=0;i<2;i++{forint j=0;j<3;j++{temp2ij=P1ibij;}}forint j=0;j<3;j++{temp20j=temp20j+temp21j;}forint j=0;j<3;j++{if temp20j=0{tmp-=temp20jlogtemp20j/log;}}tmp-=tmp1;if tmp>=temp0{temp0=tmp;temp1=P10;}P10+=;P11-=;}while P10<=;cout<<"最大信道容量为:"<<temp0<<" 信源的w值为"<<temp1<<endl;}2主函数main 实现初始化操作,完成对子函数的调用void main{srand unsigned timeNULL;aa;bb;cc;dd;}3 实验数据与实验结果测试数据：随机生成了22矩阵和23矩阵,并求得最大容量和w的值;实验结果：4 程序代码清单：include<iostream>include<>include<iomanip>include<cmath>using namespace std;double a22;double b23;void aa{double e=0;cout<<"随机生成二元对称信道为："<<endl;int i=0;forint j=0;j<2;j++{a0j=rand%100;e+=a0j;}forint j=0;j<2;j++{a0j=a0j/e;}a11=a00;a10=a01;forint i=0;i<2;i++{forint j=0;j<2;j++{cout<<setw12<<aij;}cout<<endl;}}void bbdouble w=0;double e2={0,0};for w=0;w<=1;w+={double tmp=0;tmp=wa00+1-wa01log1/wa00+1-wa01/log+wa01+1-wa00log1/wa01+1-wa00/log-a00log1/a00/log+a01log1/a01/l og;if e0<tmp{e0=tmp;e1=w;}}cout<<"最大信道容量为:"<<setw6<<e0<<" 此时w的值为："<<e1<<endl;cout<<endl;}void cc{double e=0;cout<<"随机生成二元删除信道为："<<endl;forint j=0;j<2;j++{b0j=rand%100;e+=b0j;}forint j=0;j<2;j++{b0j=b0j/e;}b02=0;b10=0;e=0;forint j=1;j<3;j++{b1j=rand%100;e+=b1j;}forint j=1;j<3;j++{b1j=b1j/e;}forint i=0;i<2;i++{forint j=0;j<3;j++{cout<<setw12<<bij;}cout<<endl;}void dd{double P22;P10=0;P11=1;double temp2={0,1};do{double tmp1=0,tmp=0;forint i=0;i<2;i++{forint j=0;j<3;j++{if bij=0{tmp1+=P1ibijlogbij/log;}}}double temp223;forint i=0;i<2;i++{forint j=0;j<3;j++{temp2ij=P1ibij;}}forint j=0;j<3;j++{temp20j=temp20j+temp21j;}forint j=0;j<3;j++{if temp20j=0{tmp-=temp20jlogtemp20j/log;}}tmp-=tmp1;if tmp>=temp0{temp0=tmp;temp1=P10;}P10+=;P11-=;}while P10<=;cout<<"最大信道容量为:"<<temp0<<" 信源的w值为"<<temp1<<endl; }void main{srand unsigned timeNULL;aa;bb;cc;dd;}。

没实验一 绘制二进熵函数曲线（2个学时）一、实验目的：1. 掌握Excel 的数据填充、公式运算和图表制作2. 掌握Matlab 绘图函数3. 掌握、理解熵函数表达式及其性质 二、实验要求：1. 提前预习实验，认真阅读实验原理以及相应的参考书。

2. 在实验报告中给出二进制熵函数曲线图 三、实验原理：1. Excel 的图表功能2. 信源熵的概念及性质()()[]()[]())(1)(1 .log )( .)( 1log 1log )(log )()(10 , 110)(21Q H P H Q P H b nX H a p H p p p p x p x p X H p p p x x X P X ii i λλλλ-+≥-+≤=--+-=-=≤≤⎩⎨⎧⎭⎬⎫-===⎥⎦⎤⎢⎣⎡∑四、实验内容：用Excel 或Matlab 软件制作二进熵函数曲线。

具体步骤如下：1、启动Excel 应用程序。

2、准备一组数据p 。

在Excel 的一个工作表的A 列（或其它列）输入一组p ，取步长为0.01，从0至100产生101个p （利用Excel 填充功能）。

3、取定对数底c ，在B 列计算H(x) ,注意对p=0与p=1两处，在B 列对应位置直接输入0。

Excel 中提供了三种对数函数LN(x),LOG10(x)和LOG(x,c)，其中LN(x)是求自然对数，LOG10(x)是求以10为底的对数，LOG(x,c)表示求对数。

选用c=2,则应用函数LOG(x,2)。

在单元格B2中输入公式：=-A2*LOG(A2,2)-(1-A2)*LOG(1-A2,2) 双击B2的填充柄，即可完成H(p)的计算。

4、使用Excel 的图表向导，图表类型选“XY 散点图”，子图表类型选“无数据点平滑散点图”，数据区域用计算出的H(p)数据所在列范围，即$B$1:$B$101。

在“系列”中输入X值(即p值)范围，即$A$1:$A$101。

《信息论与编码技术》实验教案一、实验目的1. 理解信息论基本概念，如信息量、信道容量等。

2. 掌握编码技术的基本原理，如Hamming 编码、卷积编码等。

3. 学会使用仿真工具进行信息论与编码技术的实验。

二、实验原理1. 信息论基本概念：信息量、信道容量、误码率等。

2. 编码技术原理：Hamming 编码、卷积编码、解码算法等。

3. 仿真工具的使用：调用相关函数，设置参数，观察实验结果。

三、实验内容1. 实验一：信息量计算与信道容量分析利用仿真工具随机比特序列，计算信息量。

改变信道参数，分析信道容量变化。

2. 实验二：Hamming 编码与解码编写Hamming 编码器和解码器，进行编码和解码操作。

分析误码率与编码位数的关系。

3. 实验三：卷积编码与解码编写卷积编码器和解码器，进行编码和解码操作。

分析误码率与卷积编码器参数的关系。

4. 实验四：不同编码方案性能比较分别使用Hamming 编码和卷积编码对相同长度比特序列进行编码。

比较两种编码方案的误码率和信息传输效率。

5. 实验五：信息论与编码技术在实际应用中的案例分析分析数字通信系统中信息论与编码技术的应用。

了解信息论与编码技术在无线通信、图像传输等领域的应用。

四、实验步骤1. 实验一：信息量计算与信道容量分析随机比特序列，计算信息量。

设置信道参数，观察信道容量变化。

2. 实验二：Hamming 编码与解码编写Hamming 编码器和解码器，进行编码和解码操作。

改变编码位数，分析误码率变化。

3. 实验三：卷积编码与解码编写卷积编码器和解码器，进行编码和解码操作。

改变卷积编码器参数，分析误码率变化。

4. 实验四：不同编码方案性能比较使用Hamming 编码和卷积编码对相同长度比特序列进行编码。

比较两种编码方案的误码率和信息传输效率。

5. 实验五：信息论与编码技术在实际应用中的案例分析分析数字通信系统中信息论与编码技术的应用案例。

了解信息论与编码技术在无线通信、图像传输等领域的应用。

《信息论与编码》实验指导书邹东尧等编计算机与通信工程学院信息与通信工程系2010年10月绪论随着信息产业的飞速发展，对从事信息、通信、电子工程类等专业的人员的要求也越来越高，而《信息论与编码》是这类专业的专业必修课，这门课主要介绍了有关信息论的基本原理以及信源编码、信道编码的内容。

通过理论与实践的结合，才能更好的领会知识的真谛。

《信息论与编码》结合实验的实践，让学生更能深刻的理解和掌握这门课的基本概念、基本理论，并培养学生的动手实践能力。

本实验指导书正是配合教学计划的实验教学而编写，主要是基于matlab 仿真软件对信源编解码和信道容量进行仿真。

本书共有三个实验：绘制信源熵函数曲线、哈夫曼编解码和离散信道容量，为实验大纲要求的必做实验。

本书主要由邹东尧编写，主要参考了李祖贺等编写的《信息论与编码》实验指导书，并得到了李祖贺等老师的大力支持，特此对他们表示衷心的感谢！由于时间仓促，错误难免，恳请读者谅解和指正！郑州轻工业学院计算机与通信工程学院信息与通信工程系2010年10月目录实验一绘制信源熵函数曲线 (5)实验二哈夫曼编解码 (9)实验三离散信道容量 (14)1实验一绘制信源熵函数曲线一、实验目的1.掌握离散信源熵的原理和计算方法。

2.熟悉matlab软件的基本操作，练习应用matlab软件进行信源熵函数曲线的绘制。

3.理解信源熵的物理意义，并能从信源熵函数曲线图上进行解释其物理意义。

二、实验原理1.离散信源相关的基本概念、原理和计算公式产生离散信息的信源称为离散信源。

离散信源只能产生有限种符号。

假定X是一个离散随机变量，即它的取值范围R={x1，x2，x3，…}是有限或可数的。

设第i个变量x i发生的概率为p i=P{X=x i}。

则：定义一个随机事件的自信息量I（x i）为其对应的随机变量x i出现概率对数的负值。

即：I（x i）= -log2p(x i)定义随机事件X的平均不确定度H（X）为离散随机变量x i出现概率的数学期望，即：∑∑-==i ii i i i x p x p x I xp X H )(log )()()()( 单位为 比特/符号 或 比特/符号序列。

《信息论与编码技术》实验教案一、实验目的与要求1. 实验目的（1）理解信息论的基本概念和原理；（2）掌握信息编码的基本方法和技术；（3）培养动手实践能力和团队协作精神。

2. 实验要求（1）熟悉信息论与编码技术的基本理论；（2）具备一定的编程能力；（3）遵守实验纪律，按时完成实验任务。

二、实验内容与步骤1. 实验内容（1）信息熵的计算；（2）信源编码；（3）信道编码；（4）误码率分析；（5）编码技术的应用。

2. 实验步骤（1）实验讲解：了解实验目的、原理和实验设备；（2）信源熵的计算：根据给定的信源符号概率计算信源熵；（3）信源编码：采用香农编码和哈夫曼编码对信源进行编码；（4）信道编码：选择一种信道编码方案（如卷积编码或汉明编码），对编码后的数据进行信道编码；（5）误码率分析：通过模拟传输过程，分析不同编码方案下的误码率性能；（6）编码技术的应用：探讨编码技术在实际通信系统中的应用。

三、实验原理与方法1. 信息熵的计算信息熵是衡量信源不确定性的一种度量，采用香农熵公式计算。

2. 信源编码香农编码和哈夫曼编码是无损压缩编码方法，通过为符号分配唯一的编码，减少传输过程中的冗余信息。

3. 信道编码卷积编码和汉明编码是有损压缩编码方法，通过增加冗余信息，提高传输过程中的可靠性。

4. 误码率分析通过模拟传输过程，比较不同编码方案下的误码率性能。

5. 编码技术的应用探讨编码技术在实际通信系统中的应用，如数字通信、无线通信等。

四、实验器材与软件1. 实验器材（1）计算机；（2）实验箱；（3）调试器；（4）示波器。

2. 实验软件（1）编程语言软件（如C/C++、Python等）；（2）仿真软件（如MATLAB、Multisim等）。

五、实验结果与评价1. 实验结果（1）完成信源熵的计算；（2）得到信源编码和信道编码的代码；（3）通过模拟传输过程，得到不同编码方案下的误码率性能；（4）分析编码技术在实际通信系统中的应用。

信息理论与编码实验指导书电子与电气工程学院罗晓琴编实验要求1、实验前认真阅读实验指导书的内容，并完成预习任务。

2、复习Matlab的相关知识，完成仿真。

3、要熟悉本次实验的任务。

4、实验过程中要认真记录实验结果，仿真结果需经指导教师审阅。

5、实验后每位同学要独立完成实验报告的内容。

目录实验一离散信源的自信息量和熵 (3)实验二最大离散熵定理 (6)实验三费诺编码 (9)实验四霍夫曼编码 (13)实验五香农编码 (16)实验一：计算离散信源的自信息量和熵一、实验目的1、熟悉离散信源的特点。

2、学习Matlab 仿真离散信源的方法。

3、学习离散信源自信息量和信源熵的计算方法。

4、熟悉 Matlab 编程。

二、实验设备 1、计算机2、软件：Matlab 三、实验原理本实验主要完成信源概率分布的自信息量以及信源熵的计算。

计算公式如下：一个字符它所携带的信息量是和该字符出现的概率有关，概率可以表征自信息量的大小自信息的计算公式为：21()log aI a p = 自信息量有两个含义：第一、当事件发生前，表示该事件发生的不确定性； 第二、当事件发生后，标是该事件所提供的信息量． 自信息量的单位取决于对数所取的底，若以2为底，单位为比特，以e 为底，单位为奈特，以10为底，单位为哈特。

在通信系统中，通常取比特为单位，底数2略去不写。

由于自信息I(a)是一个随机变量，不能用来表征整个信源的不确定度。

所以我们用平均自信息量来表征整个信源的不确定度。

平均自信息量就是信源输出所有消息的自信息的数学期望，又称为信息熵、信源熵，简称熵。

熵（平均自信息）的计算公式为：22111()log log qqi i i i i iH x p p p p ====-∑∑信息熵H （x ）是对信源的平均不确定性的描述。

它从平均意义上来表征信源的总体信息测度。

对于某特定的信源，其信息熵是一个确定的数值。

信息熵具有如下三种物理意义。

第一，信息熵H （x ）是表示信源输出后，每个消息或符号所提供的平均信息量。