下载文档原格式
信息论与编码课程考核大纲一、适应对象修读完本课程规定内容的通信工程专业的学生。
二、考核目的考核学生对信息论的基本理论以及编码理论与实现原理的理解和掌握程度；并通过实验教学加深学生对基本概念的理解，巩固基础理论知识，提升学生参与课堂的积极性，充分发挥其主观能动性。
最后通过分析考核成绩，检查本门课程的教学效果，不断改进和提高课程教学水平，促进课程建设和学科建设。
三、考核形式与方法开卷考试、实验成绩和平时成绩均为百分制。
1、平时成绩考核方法如下：1) 作业：50%按交作业的次数、每次作业质量和态度确定。
2) 考勤：50%2、实验成绩考核方法如下：实验成绩为单次实验成绩的平均值。
单次实验成绩考核方法及所占比例如下：单次实验成绩＝实验方案×40%+实验操作×20%+实验结果×40%1) 实验方案：40%实验方案主要考察方案设计的合理性和可靠性；实验数据的整理归纳能力；实验报告完成的质量等。
不做实验预习报告的、不能回答教师问题的，扣除当次实验方案成绩的40%；不按时交实验报告的，扣除当次实验方案成绩的20%；书写不合格的重写，扣除当次实验方案成绩的40%；未交试验报告的，扣除当次实验方案成绩的100%。
2) 实际操作: 20%着重考察学生实际操作的科学性、主动性、认真性、熟练性。
实验课程缺勤的，扣除当次实验成绩的100%。
3) 实验结果：40%实验结果着重考查其与实验方案、实验要求、实验操作的一致性。
4) 实验课堂纪律：凡违反学生实验守则或安全规则的扣除实验总成绩的60%，损坏物品要赔偿。
5) 考勤：实验课程缺勤的，扣除当次实验成绩的100%。
3、期末考核采用开卷笔试形式。
四、课程考核成绩构成本门课程考核成绩按百分计。
课程考核成绩=平时成绩×20%+实验成绩×20%+期末考核成绩×60%五、考核内容与要求第1章概论【考核内容】信息论的形成和发展，信息、信号、消息的区别，香农信息的定义，通信系统的模型。
信息论与编码
信息论是一门研究信息传输、存储和处理的学科。
它的基本概念是由克劳德·香农于20世纪40年代提出的。
信息论涉及了许多重要的概念和原理，其中之一是编码。
编码是将信息从一种形式转换为另一种形式的过程。
在信息论中，主要有两种编码方式：源编码和信道编码。
1. 源编码(Source Coding)：源编码是将信息源中的符号序列转换为较为紧凑的编码序列的过程。
它的目标是减少信息的冗余度，实现信息的高效表示和传输。
著名的源编码算法有霍夫曼编码和算术编码等。
2. 信道编码(Channel Coding)：信道编码是为了提高信息在信道传输过程中的可靠性而进行的编码处理。
信道编码可以通过添加冗余信息来使原始信息转换为冗余编码序列，以增加错误检测和纠正的能力。
常见的信道编码算法有海明码、卷积码和LDPC码等。
编码在通信中起着重要的作用，它可以实现对信息的压缩、保护和传输的控制。
通过合理地选择编码方式和算法，可以在信息传输过程中提高传输效率和可靠性。
信息论和编码理论为信息传输和存储领域的发展提供了理论基础和数学工具，广泛应用于通信系统、数据压缩、加密解密等领域。
信息论与编码第三版答案《信息论与编码》是一本非常经典的书籍，已经成为了信息科学领域中的经典教材。
本书的第三版已经出版，相比于前两版，第三版的变化不小，主要是增加了一些新内容，同时也对一些旧内容做了修改和完善。
作为一本教材，上面的题目和习题都是非常重要的，它们可以帮助读者更好地理解书中的相关概念和知识点，同时也可以帮助读者更好地掌握理论和技术。
因此，本文将介绍《信息论与编码》第三版中部分习题的答案，方便读者快速查阅和学习。
第一章：信息量和熵1.1 习题1.1Q：两个随机变量的独立性和无关性有什么区别？A：独立性和无关性是两个不同的概念。
两个随机变量是独立的，当且仅当它们的联合概率分布等于乘积形式的边缘概率分布。
两个随机变量是无关的，当且仅当它们的协方差等于0。
1.2 习题1.7Q：什么样的随机变量的熵等于0？A：当随机变量的概率分布是确定的（即只有一个概率为1，其余全为0），其熵等于0。
第二章：数据压缩2.5 习题2.9Q：为什么霍夫曼编码比熵编码更加高效？A：霍夫曼编码能够更好地利用信源的统计特征，将出现频率高的符号用较短的二进制编码表示，出现频率低的符号用较长的二进制编码表示。
这样一来，在编码过程中出现频率高的符号会占用较少的比特数，从而能够更加高效地表示信息。
而熵编码则是针对每个符号分别进行编码，没有考虑符号之间的相关性，因此相比于霍夫曼编码更加低效。
第四章：信道编码4.2 习题4.5Q：在线性块码中，什么是生成矩阵？A：在线性块码中，生成矩阵是一个包含所有二元线性组合系数的矩阵。
它可以用来生成码字，即任意输入信息序列可以通过生成矩阵与编码器进行矩阵乘法得到相应的编码输出序列。
4.3 习题4.12Q：简述CRC校验的原理。
A：CRC校验是一种基于循环冗余校验的方法，用于检测在数字通信中的数据传输错误。
其基本思想是将发送数据看作多项式系数，通过对这个多项式进行除法运算，得到余数，将余数添加到数据尾部，发送给接收方。
信息论与编码实验报告Huffman and Shannon coding学生姓名***学号***专业班级信息安全0701指导教师***学院***完成时间2009年4月一、实验目的1. 熟悉C/C++语言的上机环境，掌握C /C++语言的基本结构；2. 理解并掌握Huffman编码和Shannon编码；3. 能用C/C++实现这两个编码；4. 对N（N较小时）个数进行全排列。
三、详细设计1.Huffman编码#include<iostream.h>#include<stdio.h>#include<malloc.h>typedef struct node{node * lchild;node * rchild;char data;int weight;}* tree;struct elemtype{char ch;int weight;int code[10];};int N=0,m=0;void savetree(char *str){FILE *fp=fopen("1.txt","w");for(int i=0;i<m;i++){fputc(str[i],fp);}fclose(fp);}void createhuffman(tree& T,elemtype ** a,int n){ 二、实验内容1. 在VC6.0的环境下实现Huffman编码；2. 在VC6.0的环境下实现Shannon编码；3. 在VC6.0的环境下实现4个数的全排列。
int i=0,j,k1,k2;btree * b;btree q;b=(btree * )malloc(n*sizeof(tree));for(i=0;i<n;i++){b[i]=(bnode *)malloc(sizeof(node));b[i]->data=a[i]->ch;b[i]->weight=a[i]->weight;b[i]->lchild=b[i]->rchild=NULL;}for(i=1;i<n;i++){k1=-1;for(j=0;j<n;j++){if(b[j]!=NULL&&k1==-1){k1=j;continue;}if(b[j]!=NULL){k2=j;break;}}for(j=0;j<n;j++){if(b[j]!=NULL){if(b[j]->weight<=b[k1]->weight){k1=j;} } }if(k1==k2){for(j=0;j<n;j++){if(b[j]!=NULL&&j!=k1){k2=j;break;}} }for(j=0;j<n;j++){if(b[j]!=NULL&&j!=k1){if(b[j]->weight<=b[k2]->weight){k2=j;}} }q=(bnode *)malloc(sizeof(bnode));q->data='#';q->lchild=b[k1];q->rchild=b[k2];q->weight=b[k1]->weight+b[k2]->weight;b[k1]=q;b[k2]=NULL; }free(b);T=q; }void huffmancoding(btree T,int len,elemtype**codes){static int a[10];if(T!=NULL){if(T->lchild==NULL&&T->rchild==NULL){int i;printf("%c------",T->data);codes[N]=(elemtype *)malloc(sizeof(elemtype));codes[N]->ch=T->data;codes[N]->weight=0;for(i=0;i<10;i++)codes[N]->code[i]=2;for(i=0;i<len;i++){printf("%d",a[i]);codes[N]->code[i]=a[i]; }N++;printf("\n"); }else{a[len]=0;huffmancoding(T->lchild,len+1,codes);a[len]=1;huffmancoding(T->rchild,len+1,codes);} }}void initlize(char * str,btree & T,elemtype ** codes,char *s){int i=0,j,n=0,k=0,h;elemtype* a[20];for(j=0;j<20;j++)a[j]=NULL;while(str[i]!=0){for(j=0;j<i;j++){if(str[j]==str[i]){for(h=0;h<n;h++){if(a[h]->ch==str[j])break;}a[h]->weight++;break;}}if(j>=i){a[k]=(elemtype*)new(elemtype);a[k]->ch=str[i];a[ k]->weight=1;n++;k++;}i++;}cout<<n<<endl;createhuffman(T,a,n);cout<<endl;savetree(s);k=0;cout<<"所求哈夫曼编码表如下："<<endl; huffmancoding(T,k,codes);} void main(){btree t=NULL;elemtype* b[26];char str[100];char s[50];cout<<endl;cout<<"**哈夫曼编码程序**"<<endl;cout<<endl;cout<<"请输入要编码的字符串:"<<endl;cin>>str;initlize(str,t,b,s);cout<<endl;cout<<"*** Made by ZBF 2009/4/22 *** "<<endl;cout<<endl;}2.香农编码#include<iostream.h>#include<math.h>#include<iomanip.h>#include<stdlib.h>class T{public:T() {}~T();void Create();void Coutpxj();void Coutk();void Coutz();void Print();protected:int n;double *p;double *pxj;int *k;double *mz;};T::~T(){ delete p;delete pxj;delete k;delete mz;}void T::Coutpxj(){for(int i=1;i<n;i++){ pxj[i]=0;for(int j=0;j<i;j++)pxj[i]+=p[j];}}void T::Coutk(){for(int i=0;i<n;i++){double d=(-1)*(log(p[i])/log(2));if(d-(int)d>0) k[i]=(int)d+1;else k[i]=(int)d;}}void T::Create(){cout<<"请输入信号个数:";cin>>n;p=new double[n];cout<<"分别输入这"<<n<<"个概率:\n"; for(int i=0;i<n;i++) cin>>p[i];pxj=new double[n];k=new int[n];mz=new double[n];double sum=0.0;for(i=0;i<n;i++) sum+=p[i];if(sum!=1.0) throw 1;else{for(i=0;i<n;i++){int k=i;for(int j=i+1;j<n;j++)if(p[k]<p[j]) k=j;double m=p[i];p[i]=p[k];p[k]=m;}}}void T::Print(){cout<<"其香农编码如下："; cout<<endl;cout<<"Xi"<<setw(8)<<"概率"<<setw(8)<<"概率和"<<setw(8)<<"码长"<<setw(8)<<"编码"<<endl;for(int i=0;i<n;i++){ cout<<"X"<<i+1<<setw(8)<<setprecision(2)<<p[i]<<setw(8)<<setprecision(2)<<pxj[i]<<setw(8)<<k[i]<<" ";mz[i]=pxj[i];for(int j=0;j<k[i];j++){if(2*mz[i]-1>=0){ cout<<1;mz[i]=2*mz[i]-1;}else{cout<<0;mz[i]=2*mz[i];} }cout<<endl;}double K=0.0,H=0.0,Y;for(i=0;i<n;i++){K+=(double)p[i]*k[i];H+=(-1)*p[i]*(log10(p[i])/log10(2.0));}Y=H/K;cout<<"Average length:"<<K<<endl;cout<<"H(S):"<<H<<endl;cout<<"Coding efficiency:"<<Y<<endl;}void main(){ T t;int e;try{ cout<<endl;cout<<"***香农编码程序***";cout<<endl;cout<<endl;t.Create();t.Coutpxj();t.Coutk();t.Print();cout<<endl;cout<<" ***Made by ZBF 2009/4/22***";cout<<endl;cout<<endl;}catch(int e){if(e==1) cout<<"ERROR!";}}3.4个数的全排列#include <stdio.h>#define N 7int Arrange(int* p, int num, int a,int &j);int main(){int p[N],n,c,j=20;printf("\n**输出n个元素的全排列程序**\n"); printf("\n请输入元素个数n（小于7）:");scanf("%d", &n);printf("\n");c = Arrange(p, n, 0,j);printf("\n\n%d个元素的全排列个数为%d\n\n", n,c); printf("\t********* Made by ZBF 2009/4/22\n"); return 0;}int Arrange(int* p, int num, int a,int &j){int c = 0;if (a == num){ for (int i = 0; i < num; i++){printf("%d", p[i]);}if(j%2==0){printf("+");j--;}else{printf("-");j--;}printf("\t\t");c = 1;}else{ for (int i = 1; i <= num; i++){ bool b = false;for (int m = 0; m< a; m++){if (p[m] == i){b = true;break;}}if (!b){ p[a] = i;c += Arrange(p, num, a + 1,j);}}}return c;}四.程序结果截图五、心得体会随着科学技术发展的日新日异，当今计算机应用在生活中可以说得是无处不在。
