信息论编码与实验大纲PDF

《信息论与编码》课程教学大纲、课程基本信息二、课程内容及基本要求第一章绪论课程内容：1 •信息论之父--香农；信息论与香农信息论的形成与发展；香农信息论的中心问题及其局限性；2．信息、消息、信号、信息的本质、信息的广义性；3．通信系统基本模型：信源、信宿、信道、干扰、噪声、信源编码、信道编码。

基本要求：1．了解信息论之父---Shannon（香农）和香农信息论的基本思想及其局限性；了解信息论的形成与发展过程；了解香农信息论的基本思想（中心问题）及其适用范围；2．理解消息、信息与信号的含义；理解消息、信息与信号之间的联系与区别；3．熟悉通信系统的基本模型及各模块的主要功能。

本章重点香农信息论的中心问题、通信系统模型本章难点：信息、消息与信号的联系与区别；香农信息论的局限性第二章信源、信息量和信息熵课程内容：1．无记忆信源与有记忆信源、离散信源与连续信源、离散序列信源、马尔可夫信源、离散无记忆信源、离散无记忆序列信源；2．非平均信息量、信源熵、条件信息量、条件熵、噪声熵、损耗熵、联合熵、非平均互信息、平均互信息；3．熵的性质、离散无记忆信源的序列熵、离散有记忆信源的序列熵；4．数据处理中信息的变化、连续信源熵；5．凸函数、互信息量的凸性，冗余度。

基本要求：1．了解并掌握信源的分类与特点；2．理解并掌握非平均信息量、信源熵、互信息量、条件熵、联合熵、非平均互信息量、平均互信息的概念，计算；理解并掌握信源熵、信宿熵、噪声熵、损耗熵、平均互信息之间的关系；3．理解马尔可夫信源的概念、理解离散序列信源熵的概念；4．理解熵的性质、熵的唯一性原理；理解连续信源的熵及连续熵的性质；5．理解凸函数的含义和性质；了解凸函数在信息论中的应用。

本章重点：非平均自信息量、条件信息量、互信息量、条件互信息量、熵、条件熵、熵的性质本章难点：平均互信息量、熵、离散序列信源熵、马尔可夫信源、条件熵、噪声熵、损耗熵第三章信源编码课程内容：1．编码的定义与分类；奇异码与非奇码；唯一可译码与非唯一可译码；即时码与非即时码；克拉夫特不等式；码树；平均码长的计算；信息传输速率；2．无失真信源编码；定长码与定长编码定理；变长码与变长编码定理；最佳变长码编码定理；香农编码及其过程；费诺编码及其过程；哈夫曼编码及其过程；3．限失真信源编码；常用信源编码--- 游程编码、算术编码、预测编码、变换编码。

信息论与编码技术实验教案第一章：信息论基础1.1 信息的概念与度量介绍信息的基本概念，信息源的随机性，信息的不确定性。

讲解信息的度量方法，如香农熵、相对熵等。

1.2 信道模型与容量介绍信道的概念，信道的传输特性，信道的噪声模型。

讲解信道的容量及其计算方法，如单符号信道、多符号信道等。

第二章：信源编码与压缩2.1 信源编码的基本概念介绍信源编码的定义、目的和方法。

讲解信源编码的基本原理，如冗余度、平均冗余度等。

2.2 压缩算法与性能评价介绍无损压缩算法，如霍夫曼编码、算术编码等。

讲解有损压缩算法，如JPEG、MP3等。

分析各种压缩算法的性能评价指标，如压缩比、重建误差等。

第三章：信道编码与错误控制3.1 信道编码的基本概念介绍信道编码的定义、目的和方法。

讲解信道编码的基本原理，如纠错码、检错码等。

3.2 常见信道编码技术介绍常用的信道编码技术，如卷积码、汉明码、奇偶校验等。

分析各种信道编码技术的性能，如误码率、编码效率等。

第四章：数字基带传输4.1 数字基带信号与基带传输介绍数字基带信号的概念，数字基带信号的传输特性。

讲解数字基带信号的传输方法，如无编码调制、编码调制等。

4.2 基带传输系统的性能分析分析基带传输系统的性能指标，如误码率、传输速率等。

讲解基带传输系统的优化方法，如滤波器设计、信号调制等。

第五章：信号检测与接收5.1 信号检测的基本概念介绍信号检测的定义、目的和方法。

讲解信号检测的基本原理，如最大后验概率准则、贝叶斯准则等。

5.2 信号接收与性能分析分析信号接收的方法，如同步接收、异步接收等。

讲解信号接收性能的评价指标，如信噪比、误码率等。

第六章：卷积编码与Viterbi算法6.1 卷积编码的基本原理介绍卷积编码的定义、结构及其多项式。

讲解卷积编码的编码过程，包括初始状态、状态转移和输出计算。

6.2 Viterbi算法及其应用介绍Viterbi算法的原理，算法的基本步骤和性能。

讲解Viterbi算法在卷积编码解码中的应用，包括路径度量和状态估计。

信息论与编码实验2-实验报告信息论与编码实验 2 实验报告一、实验目的本次信息论与编码实验 2 的主要目的是深入理解和应用信息论与编码的相关知识，通过实际操作和数据分析，进一步掌握信源编码和信道编码的原理及方法，提高对信息传输效率和可靠性的认识。

二、实验原理（一）信源编码信源编码的目的是减少信源输出符号序列中的冗余度，提高符号的平均信息量。

常见的信源编码方法有香农编码、哈夫曼编码等。

香农编码的基本思想是根据符号出现的概率来分配码字长度，概率越大，码字越短。

哈夫曼编码则通过构建一棵最优二叉树，为出现概率较高的符号分配较短的编码，从而实现平均码长的最小化。

（二）信道编码信道编码用于增加信息传输的可靠性，通过在发送的信息中添加冗余信息，使得在接收端能够检测和纠正传输过程中产生的错误。

常见的信道编码有线性分组码，如汉明码等。

三、实验内容与步骤（一）信源编码实验1、选取一组具有不同概率分布的信源符号，例如：A（02）、B （03）、C（01）、D（04）。

2、分别使用香农编码和哈夫曼编码对信源符号进行编码。

3、计算两种编码方法的平均码长，并与信源熵进行比较。

（二）信道编码实验1、选择一种线性分组码，如（7,4）汉明码。

2、生成一组随机的信息位。

3、对信息位进行编码，得到编码后的码字。

4、在码字中引入随机错误。

5、进行错误检测和纠正，并计算错误纠正的成功率。

四、实验结果与分析（一）信源编码结果1、香农编码的码字为：A（010）、B（001）、C（100）、D （000）。

平均码长为 22 比特，信源熵约为 184 比特，平均码长略大于信源熵。

2、哈夫曼编码的码字为：A（10）、B（01）、C（111）、D （00）。

平均码长为 19 比特，更接近信源熵，编码效率更高。

（二）信道编码结果在引入一定数量的错误后，（7,4）汉明码能够成功检测并纠正大部分错误，错误纠正成功率较高，表明其在提高信息传输可靠性方面具有较好的性能。

信息论与编码实验报告一、实验目的本实验主要目的是通过实验验证信息论与编码理论的基本原理，了解信息的产生、传输和编码的基本过程，深入理解信源、信道和编码的关系，以及各种编码技术的应用。

二、实验设备及原理实验设备：计算机、编码器、解码器、信道模拟器、信噪比计算器等。

实验原理：信息论是由香农提出的一种研究信息传输与数据压缩问题的数学理论。

信源产生的消息通常是具有统计规律的，信道是传送消息的媒体，编码是将消息转换成信号的过程。

根据信息论的基本原理，信息的度量单位是比特（bit），一个比特可以表示两个平等可能的事件。

信源的熵（Entropy）是用来衡量信源产生的信息量大小的物理量，熵越大，信息量就越多。

信道容量是用来衡量信道传输信息的极限容量，即信道的最高传输速率，单位是比特/秒。

编码是为了提高信道的利用率，减少传输时间，提高传输质量等目的而进行的一种信号转换过程。

常见的编码技术有霍夫曼编码、香农-费诺编码、区块编码等。

三、实验步骤1.运行编码器和解码器软件，设置信源信息，编码器将信源信息进行编码，生成信道输入信号。

2.设置信道模拟器的信道参数，模拟信道传输过程。

3.将信道输出信号输入到解码器，解码器将信道输出信号进行解码，恢复信源信息。

4.计算信道容量和实际传输速率，比较两者的差异。

5.改变信道参数和编码方式，观察对实际传输速率的影响。

四、实验结果与分析通过实验，我们可以得到不同信道及编码方式下的信息传输速率，根据信道参数和编码方式的不同，传输速率有时会接近信道容量，有时会低于信道容量。

这是因为在真实的传输过程中，存在信噪比、传输距离等因素导致的误码率，从而降低了实际传输速率。

在实验中，我们还可以观察到不同编码方式对传输速率的影响。

例如，霍夫曼编码适用于信源概率分布不均匀的情况，可以实现数据压缩，提高传输效率。

而区块编码适用于数据容量较大的情况，可以分块传输，降低传输错误率。

此外，通过实验我们还可以了解到信息论中的一些重要概念，如信源熵、信道容量等。

《信息论与编码》课程教学大纲Information Theory & Codec.一、课程教学目标1、性质和地位：信息论与编码是通信工程（与计算机通信）专业的一门重要的专业课。

该课程是继通信原理与程控交换之后，为从事通信信息的编码研究学习而开设的专业必修或选修课。

2、知识要求：本课程的教学目的是通过教学和必要的练习、实践环节，使学生了解信息论的信源、信源炳概念，熟悉信源、信道编码定理，掌握一些重要的编码方法，为将来从事通信信息资源研发应用打好必要的基础。

3、能力要求：除课堂学习理论知识之外，通过练习与实践掌握一些常用的编码定理与编码方法，加深对信息论编码与通信可靠性、安全性的关系的认识。

二、教学原则和基本要求本课程教学采用课堂讲授与课外作业为主，以必要实习、实践（4~8学时）为辅的方法教学，通过本课程学习应达到如下基本要求：1.了解信息论信源炳重要基本概念；2.了解信息论的信源、信道编码定理；3.掌握信源炳的计算；4.掌握无失真信源最佳编码法（香农码、费诺码、哈夫曼码）；5.掌握限失真信源常用编码法；6.了解几种信道差错编码及密码编码原理与方法。

三、教学内容和学时分配1.总体安排：本课程授课时间为48学时，3学分。

具体授课内容与学时列表分配如下: 教学内容章目本课程学分：3学时分配讲课学时课堂讨论编程实习合计第一章绪论1第二章信源及信源嫡8第三章无失真信源编码72第四章限失真信源编码9第五章信道编码132第六章密码学6合计444482.具体要求：第一章绪论［目的要求］了解信息论的发展及通信系统的模型。

［教学内容］信息论的发展，通信系统的模型。

［重点难点］无。

［教学方法］课堂教学。

［作业］无。

［课时］1学时第二章信源及信源炳［目的要求］了解信源的信息量与嫡的概念，掌握信源炳的计算。

［教学内容］信源的描述分类，离散信源的炳和互信息，连续信源的炳和互信息, 离散序列信源的炳，冗余度。

［重点难点］自信息量、互信息，炳的计算。

信息论与编码教学大纲信息论与编码教学大纲信息论与编码是计算机科学领域中的重要学科，它涉及到信息的传输、存储和处理等方面的理论和方法。

信息论与编码的教学大纲是为了帮助学生系统地学习和掌握这一领域的基本原理和技术，从而为他们在实际应用中解决问题提供理论基础和实践能力。

一、引言信息论与编码是近代科学的一个重要分支，它起源于通信领域的需求。

随着信息技术的快速发展，信息论与编码的理论和方法在现代社会中的应用越来越广泛。

本课程的目标是让学生了解信息论与编码的基本概念和原理，掌握常用的编码和解码技术，以及应用信息论与编码解决实际问题的能力。

二、信息论基础1. 信息的概念和度量：介绍信息的定义和度量方法，包括信息熵、条件熵、互信息等基本概念。

2. 信源和信道：介绍信源和信道的基本概念，以及它们之间的关系。

3. 香农定理：介绍香农定理的基本内容和应用，包括信道容量的计算方法。

三、编码与解码1. 基本编码方法：介绍基本的编码方法，包括霍夫曼编码、香农-费诺编码等。

2. 常用编码技术：介绍常用的编码技术，包括哈夫曼编码、算术编码、游程编码等。

3. 常见解码方法：介绍常见的解码方法，包括最大似然解码、Viterbi解码等。

四、信息论在通信中的应用1. 信道编码：介绍信道编码的基本原理和常用方法，包括奇偶校验码、循环冗余校验码等。

2. 无线通信中的编码：介绍无线通信中的编码技术，包括调制解调、编码和解码等。

3. 数据压缩：介绍数据压缩的基本原理和方法，包括无损压缩和有损压缩等。

五、信息论在数据存储中的应用1. 磁盘存储：介绍磁盘存储中的编码技术，包括磁盘阵列编码、磁盘数据恢复等。

2. 数据库存储：介绍数据库存储中的编码技术，包括索引编码、压缩编码等。

六、信息论在图像处理中的应用1. 数字图像编码：介绍数字图像编码的基本原理和方法，包括JPEG、PNG等常用编码格式。

2. 图像压缩：介绍图像压缩的基本原理和方法，包括变换编码、预测编码等。

信息论与编码技术实验教案第一章：信息论基础1.1 实验目的1. 了解信息的基本概念及其度量方法；2. 掌握信息的熵、冗余度和信道容量等基本概念。

1.2 实验原理1. 信息的基本概念：信息、消息、信源等；2. 信息的度量：平均信息量、熵、冗余度等；3. 信道容量和编码定理。

1.3 实验设备与材料1. 计算机及投影仪；2. 相关实验软件。

1.4 实验步骤1. 讲解信息的基本概念及其度量方法；2. 分析实际例子，演示信息的熵、冗余度和信道容量的计算过程；3. 让学生通过实验软件进行相关计算和分析。

1.5 思考与讨论1. 信息量与消息长度的关系；2. 信道容量在实际通信系统中的应用。

第二章：数字基带编码2.1 实验目的1. 掌握数字基带编码的基本原理；2. 学会使用相关软件进行数字基带编码的仿真。

2.2 实验原理1. 数字基带编码的定义和分类；2. 常用数字基带编码方法：NRZ、RZ、曼彻斯特编码等；3. 数字基带编码的性能评估：误码率、带宽利用率等。

2.3 实验设备与材料1. 计算机及投影仪；2. 相关实验软件。

2.4 实验步骤1. 讲解数字基带编码的基本原理和方法；2. 演示常用数字基带编码的仿真效果；3. 让学生通过实验软件进行数字基带编码的仿真实验。

2.5 思考与讨论1. 数字基带编码的优缺点；2. 如何在实际通信系统中选择合适的基带编码方法。

第三章：信道编码与误码控制3.1 实验目的1. 了解信道编码的基本原理；2. 掌握常见的信道编码方法；3. 学会使用相关软件进行信道编码的仿真。

3.2 实验原理1. 信道编码的定义和作用；2. 常用信道编码方法：卷积编码、汉明编码、里德-所罗门编码等；3. 误码控制原理：检错、纠错等。

3.3 实验设备与材料1. 计算机及投影仪；2. 相关实验软件。

3.4 实验步骤1. 讲解信道编码的基本原理和方法；2. 演示常用信道编码的仿真效果；3. 让学生通过实验软件进行信道编码的仿真实验。

信息论与编码实验报告一、实验目的信息论与编码是一门涉及信息的度量、传输和处理的学科，通过实验，旨在深入理解信息论的基本概念和编码原理，掌握常见的编码方法及其性能评估，提高对信息处理和通信系统的分析与设计能力。

二、实验原理（一）信息论基础信息熵是信息论中用于度量信息量的重要概念。

对于一个离散随机变量 X，其概率分布为 P(X) ＝｛p(x1)， p(x2)，， p(xn)｝，则信息熵H(X) 的定义为：H(X) ＝∑p(xi)log2(p(xi)）。

（二）编码原理1、无失真信源编码：通过去除信源中的冗余信息，实现用尽可能少的比特数来表示信源符号，常见的方法有香农编码、哈夫曼编码等。

2、有噪信道编码：为了提高信息在有噪声信道中传输的可靠性，通过添加冗余信息进行纠错编码，如线性分组码、卷积码等。

三、实验内容及步骤（一）信息熵的计算1、生成一个离散信源，例如信源符号集为{A, B, C, D}，对应的概率分布为{02, 03, 01, 04}。

2、根据信息熵的定义，使用编程语言计算该信源的信息熵。

（二）香农编码1、按照香农编码的步骤，首先计算信源符号的概率，并根据概率计算每个符号的编码长度。

2、确定编码值，生成香农编码表。

（三）哈夫曼编码1、构建哈夫曼树，根据信源符号的概率确定树的结构。

2、为每个信源符号分配编码，生成哈夫曼编码表。

（四）线性分组码1、选择一种线性分组码，如（7, 4）汉明码。

2、生成编码矩阵，对输入信息进行编码。

3、在接收端进行纠错译码。

四、实验结果与分析（一）信息熵计算结果对于上述生成的离散信源，计算得到的信息熵约为 184 比特/符号。

这表明该信源存在一定的不确定性，需要一定的信息量来准确描述。

（二）香农编码结果香农编码表如下：｜信源符号|概率|编码长度|编码值|｜｜｜｜｜｜A|02|232|00|｜B|03|174|10|｜C|01|332|110|｜D|04|132|111|香农编码的平均码长较长，编码效率相对较低。

信息论与编码实验报告一、实验目的1.了解信息论与编码的基本概念和原理。

2.学习如何通过信息论与编码方法实现对数据的压缩和传输。

3.掌握信息论与编码实验的实验方法和实验技能。

4.提高实验设计、数据分析和报告撰写的能力。

二、实验内容1.通过对输入信源进行编码，实现对数据的压缩。

2. 比较不同编码方法的压缩效果，包括Shannon-Fano编码和霍夫曼编码。

3.通过传输信道对编码后的数据进行解码，还原原始信源。

4.分析并比较不同编码方法的传输效果，包括码率和传输质量。

三、实验原理1.信息论：熵是信息论中衡量信源不确定性的指标，熵越小表示信源的可预测性越高，在编码过程中可以压缩数据。

2. 编码方法：Shannon-Fano编码通过分治的方法将输入信源划分为不同的子集，分别进行编码；霍夫曼编码则通过构建最佳二叉树的方式，将较常出现的信源符号编码为较短的二进制码，较少出现的信源符号编码为较长的二进制码。

3.传输信道：信道可能存在误码和噪声，通过差错控制编码可以在一定程度上保障传输数据的正确性和完整性。

四、实验步骤1. 对给定的输入信源进行Shannon-Fano编码和霍夫曼编码。

2.计算编码后的码率，分析不同编码方法的压缩效果。

3.将编码后的数据传输到信道，模拟信道中的误码和噪声。

4.对传输后的数据进行解码，还原原始信源。

5.比较不同编码方法的传输质量，计算误码率和信噪比。

五、实验结果与分析1. 编码结果：通过对输入信源进行编码，得到了Shannon-Fano编码和霍夫曼编码的码表。

2.压缩效果：计算了不同编码方法的码率，比较了压缩效果。

3.传输结果：模拟信道传输后的数据，对数据进行解码，还原原始信源。

4.传输质量：计算了误码率和信噪比，分析了不同编码方法的传输质量。

六、实验总结通过本次实验，我深刻理解了信息论与编码的基本概念和原理，并掌握了信息论与编码实验的实验方法和实验技能。

在实验过程中，我遇到了一些困难，比如对编码方法的理解和实验数据的处理。

《信息论与编码技术》实验教案一、实验目的1. 理解信息论基本概念，如信息量、信道容量等。

2. 掌握编码技术的基本原理，如Hamming 编码、卷积编码等。

3. 学会使用仿真工具进行信息论与编码技术的实验。

二、实验原理1. 信息论基本概念：信息量、信道容量、误码率等。

2. 编码技术原理：Hamming 编码、卷积编码、解码算法等。

3. 仿真工具的使用：调用相关函数，设置参数，观察实验结果。

三、实验内容1. 实验一：信息量计算与信道容量分析利用仿真工具随机比特序列，计算信息量。

改变信道参数，分析信道容量变化。

2. 实验二：Hamming 编码与解码编写Hamming 编码器和解码器，进行编码和解码操作。

分析误码率与编码位数的关系。

3. 实验三：卷积编码与解码编写卷积编码器和解码器，进行编码和解码操作。

分析误码率与卷积编码器参数的关系。

4. 实验四：不同编码方案性能比较分别使用Hamming 编码和卷积编码对相同长度比特序列进行编码。

比较两种编码方案的误码率和信息传输效率。

5. 实验五：信息论与编码技术在实际应用中的案例分析分析数字通信系统中信息论与编码技术的应用。

了解信息论与编码技术在无线通信、图像传输等领域的应用。

四、实验步骤1. 实验一：信息量计算与信道容量分析随机比特序列，计算信息量。

设置信道参数，观察信道容量变化。

2. 实验二：Hamming 编码与解码编写Hamming 编码器和解码器，进行编码和解码操作。

改变编码位数，分析误码率变化。

3. 实验三：卷积编码与解码编写卷积编码器和解码器，进行编码和解码操作。

改变卷积编码器参数，分析误码率变化。

4. 实验四：不同编码方案性能比较使用Hamming 编码和卷积编码对相同长度比特序列进行编码。

比较两种编码方案的误码率和信息传输效率。

5. 实验五：信息论与编码技术在实际应用中的案例分析分析数字通信系统中信息论与编码技术的应用案例。

了解信息论与编码技术在无线通信、图像传输等领域的应用。

试验汇报课程名称: 信息论与编码姓名:系:专业:年级:学号:指导老师:职称:年月日目录试验一信源熵值计算............................................. 错误!未定义书签。

试验二Huffman信源编码...................................... 错误!未定义书签。

试验三Shannon编码 ............................................. 错误!未定义书签。

试验四信道容量迭代算法..................................... 错误!未定义书签。

试验五率失真函数 ................................................ 错误!未定义书签。

试验六差错控制方法............................................. 错误!未定义书签。

试验七汉明编码 .................................................... 错误!未定义书签。

试验一 信源熵值计算一、 试验目1 深入熟悉信源熵值计算 2熟悉 Matlab 编程二、 试验原理熵（平均自信息）计算公式∑∑=--==qi i i qi i i p p p p x H 1212log 1log )(MATLAB 实现: ))(log *.(2x x sum HX -=; 或者))((log *)(2i x i x h h -= 步骤: 第一步: 打开一个名为“nan311”TXT 文档, 读入一篇英文文章存入一个数组temp, 为了程序正确性将所读内容转存到另一个数组S, 计算该数组中每个字母与空格出现次数(碰到小写字母都将其转化为大写字母进行计数), 每出现一次该字符计数器+1;第二步: 计算信源总大小计算出每个字母和空格出现概率;最终, 经过统计数据和信息熵公式计算出所求信源熵值（本程序中单位为奈特nat ）。

《信息论与编码》教学大纲一、课程基本信息1．课程代码：219054002．课程中文名称：信息论与编码A课程英文名称：（Information Theory and code A）3．面向对象：信息工程专业4．开课学院（课部）、系（中心、室）：信息工程学院信息工程系5．总学时数：48讲课学时数：40 ，实验学时数：86．学分数： 37．授课语种：中文，考试语种：中文8．教材：《信息论与编码》（第二版），陈运，电子工业出版社;二、课程内容简介《信息论与编码》重点介绍由香农理论发展而来的信息论的基本理论以及编码的理论和实现原理。

本课程在介绍了有关信息度量的基础上，重点讨论了信道容量、率失真函数，以及无失真信源编码、限失真信源编码和信道编码中的理论知识及其实现原理。

迄今为止香农理论已经广泛的成为各项信息技术的理论指导。

三、课程的地位、作用和教学目标信息论是信息学科的数学基础，是所有从事信息学科的工程技术及研究人员必须掌握的一门基础课。

这门课从信息的最本质、最基础的基本概念和基本原理着手，主要介绍香农信息论的基本概念和香农有名的三大定理，以及编码理论和纠错编码。

从而为各种具体的信息技术提供了理论基础。

本课程要求在建立了熵的概念的基础上，重点掌握信道容量、率失真函数，以及无失真信源编码、限失真信源编码和信道编码中的理论知识及其实现原理。

四、与本课程相联系的其他课程在本专业，高等数学A、线性代数A、概率论与数理统计A可以作为本课程的先修课程。

五、教学基本要求1．学习和掌握信源熵、条件熵、联合熵等各种熵的概念、意义、性质，以及它们之间的相互关系；2．学习和掌握离散无失真信源编码定理；3．学习和掌握信道模型、信道容量及其计算；4．学习和掌握信道编码定理；5．学习和掌握离散信源的信息率失真函数及其性质、保真度准则下的信源编码定理；6．学习和了解离散信源编码、连续信源编码方法；7．学习和掌握信道编码方法：线性分组码和循环码；六、考核方式与评价结构比例考核方式：笔试平时成绩：作业10%+实验10%+考勤10%期末考试成绩：70%-60%七、教学参考资料1．《信息论与信源编码理论及应用》，刘建成著，北京邮电大学出版社，20102．《信息论与编码》，曹雪虹著，清华大学出版社3．《Information Theory & Coding》(英文版)(21世纪高等院校规划教材)，梁建武等编著，水利水电出版社，2008。

信息论与编码实验讲义李敏编写乐山师范学院物电学院二零一零年三月制实验1 绘制二进熵函数曲线一、实验内容用Excel 或Matlab 软件制作二进熵函数曲线。

二、实验环境1. 计算机2. Windows 2000 或以上3. Microsoft Office 2000 或以上4. Matlab 6.0或以上 三、实验目的1. 掌握Excel 的数据填充、公式运算和图表制作2. 掌握Matlab 绘图函数3. 掌握、理解熵函数表达式及其性质 四、实验要求1. 提前预习实验，认真阅读实验原理以及相应的参考书。

2. 认真高效的完成实验，实验中服从实验室管理人员以及实验指导老师的管理。

3. 认真填写实验报告。

五、实验原理1. Excel 的图表功能（略，参考书1中相关章节）2. 信源熵的概念及性质，参考书2中20~28页()()[]()[]())(1)(1 .log )( .)( 1log 1log )(log )()(10 , 110)(21Q H P H Q P H b nX H a p H p p p p x p x p X H p p p x x X P X ii i λλλλ-+≥-+≤=--+-=-=≤≤⎩⎨⎧⎭⎬⎫-===⎥⎦⎤⎢⎣⎡∑六，实验数据P=0.00 0.05 0.10 0.15 0.20 0.25 0.30 0.35 0.40 0.45 0.50 0.55 0.60 0.65 0.700.75 0.80 0.85 0.90 0.95 1.00 绘制H （P ）—P 函数图 七、参考书1. 《信息技术基础》河北大学出版社2. 《信息论与编码》陈运等，电子工业出版社3. 《Matlab 与科学计算》，电子工业出版社实验2 计算一阶马尔可夫信源的熵一、实验内容利用Matlab 强大的矩阵运算功能计算一阶马尔可夫信源的平稳分布概率，并在Matlab 环境下，编程计算该一阶马尔可夫信源的熵，并绘制熵函数曲线。

实验4 Huffman编码对英文文本的压缩和解压缩
一、实验内容
根据信源压缩编码——Huffman编码的原理，制作对英文文本进行压缩和解压缩的软件。

要求软件有简单的用户界面，软件能够对运行的状态生成报告，分别是：字符频率统计报告、编码报告、压缩程度信息报告、码表存储空间报告。

二、实验环境
1.计算机
2.Windows 2000 或以上
3.Microsoft Office 2000 或以上
4.VC++ 6.0
三、实验目的
1.掌握Huffman编码的原理
2.掌握VC开发环境的使用（尤其是程序调试技巧）
3.掌握C语言编程（尤其是位运算和文件的操作）
4.掌握数据结构的内容：链表、顺序表、堆栈、最优二叉树
5.掌握结构化程序分析和开发的软件工程原理
四、实验要求
1.提前预习实验，认真阅读实验原理。

2.认真高效的完成实验，实验过程中服从实验室管理人员以及实验指导老
师的管理。

3.认真填写实验报告。

五、实验原理
压缩/解压缩流程
压缩流程：
解压缩流程：
六、参考书
1.《信息论——基础理论及应用》傅祖芸，电子工业出版社
2.《数据结构》，清华大学出版社。