当前位置：文档之家 › 信息论和编码课程设计汇本

信息论和编码课程设计汇本

  • 格式：doc
  • 大小：254.50 KB
  • 文档页数：24

信息论与编码课程设计报告
设计题目：统计信源熵、香农编码与费诺编码

专业班级：XXXXXXXXXXXX
姓 名：XXXXXXXXXXXX
学 号：XXXXXXXXXXXX
指导老师：XXXXXXXXXXXX
成 绩：
时间：2015年3月31日
目录
一、 设计任务与要求..............................2
二、 设计思路....................................2
三、设计流程图..................................5
四、程序及结果..................................7
五、心得体会....................................11
六、参考文献...................................12
附录............................... ............13
一、 设计任务与要求
1. 统计信源熵
要求：统计任意文本文件中各字符（不区分大小写）数量，计算
字符概率，并计算信源熵。
2. 香农编码
要求：任意输入消息概率，利用香农编码方法进行编码，并计算
信源熵和编码效率。
3. 费诺编码
要求：任意输入消息概率，利用费诺编码方法进行编码，并计算
信源熵和编码效率。
二、 设计思路
1、统计信源熵：
统计信源熵就是对一篇英文文章中的i种字符（包括标点符
号及空格，英文字母不区分大小写）统计其出现的次数counti（），
然后计算其出现的概率()pi，最后由信源熵计算公式：

1()()log()niinHxpxpx


算出信源熵()Hx。所以整体步骤就是先统计出文章中总的字符
数，然后统计每种字符的数目，直到算出所有种类的字符的个数，
进而算出每种字符的概率，再由信源熵计算公式计算出信源熵。
在这里我选择用Matlab来计算信源熵，因为Matlab中系统自
带了许多文件操作和字符串操作函数，其计算功能强大，所以计
算信源熵很是简单。
2、香农编码
信源编码模型：
信源编码就是从信源符号到码符号的一种映射f，它把信源输出
的符号
ia变换成码元序列i
x
。

1,2,...,,iiNfaiqx：

1:{,...,}q
Ssaa
信源
12{,...,}li
iiii
Xxxx
码元

1{,...,}1,2,...,iq
SaaiN

1,2,...,Niq

1:{,...,}r
Xxxx
码符号

N
次扩展信源无失真编码器
凡是能载荷一定的信息量，且码字的平均长度最短，可分离
的变长码的码字集合都可以称为最佳码。为此必须将概率大的信
息符号编以短的码字，概率小的符号编以长的码字，使得平均码
字长度最短。能获得最佳码的编码方法主要有：香农
（Shannon）、费诺（Fano）、哈夫曼（Huffman）编码等。

信源编码器
香农第一定理：
离散无记忆信源为

12
12

......()()()......qqsssS

ps
psps
P











熵()HS,其N次扩展为

12
12

......

()()()......NqqSp
pp
P



















熵为
()
N
HS

,码符号集为12(,,...,)rXxxx。先对信源NS进行编码，总

可以找到一种编码方法，构成唯一可译码，使S中每个信源符号
所需的平均码长满足
()1()loglogNLHSHS
rNNr


且当N时有()()loglimNrNLHSHSNr ，L是平均码长1()NqiiiLp，

i是i

对应的码字长度。
香农编码方法：
（1） 将信源消息符号按其出现的概率大小依次排列:
12...n
ppp

（2）确定满足下列不等式整数码长
i
K
为

()()1iiilbpKlbp
（3）为了编成唯一可译码，计算第i个消息的累加概率为
11()iikkPpa


（4）将累加概率
i
P
变成二进制数。

（5）取
iP二进制数小数点后i
K
位即为该消息符号的二进制码字。
3、费诺编码方法
（1）将信源消息符号按其出现的概率大小依次排列：
12...n
ppp

（2）将依次排列的信源符号按概率值分为两大组，使两个组的

概率之和近似相同，并对各组赋予一个二进制码元“0”和“1”。
（3）将每一大组的信源符号再分为两组，使划分后的两个组的
概率之和近似相同，并对各组赋予一个二进制符号“0”和“1”。
（4）如此重复，直至每个组只剩下一个信源符号为止。
（5）信源符号所对应的码字即为费诺码。
三、 设计流程图
1、统计信源熵
用Matlab读入一段英文 计算这段文字的字符总数
unm
① ②
统计每种字符的个数n(i) 算出每种字符的概率p(i)
③ ④

由信源熵计算公式1()()log()niinHxpxpx计算出信源熵
⑤
2、香农编码
开始

合集下载

张海桐-20122586-基于matlab算术编码的编码和解码系统设计

张海桐-20122586-基于matlab算术编码的编码和解码系统设计

Key words: Source coding; Coding and decoding; MATLAB ;GUI interface
目录
第 1 章 绪论.............................................................................................................................. 1 1.1 算数编码研究背景及意义............................................................................................ 1 1.2 算数编码算法的发展历程............................................................................................ 1 1.3 算数编码的思想.............................................................................................................2 1.4 算数编码的译码思想.................................................................................................... 2
根据设计要求，应用 matlab 进行编码和译码。在 GUI 界面里输入一个字符串， 得出结果。并进行解码，验证输入的字符串。 三、基本工作量
1.相应的实例解析。 2.相应的程序框图。 3.设计 GUI 界面 4.参考文献不少于 10 篇，其中外文文献不少于 2 篇。 四、应遵守的法规及主要参考文献 1.有关信源编码的文献及资料。 2.有算数编码的资料。 3.有关 GUI 界面设计的资料。 4.有编码和解码的文献及资料。 五、进度安排 1—2 周 生产实习 3—6 周 毕业实习，熟悉软件，查阅相关资料，完成开题报告 7—9 周 确定完成系统的思路，制定具体设计计划 10—14 周 进行具体设计 15—16 周 毕业设计说明书撰写
信息论答案(傅祖芸)

信息论答案(傅祖芸)

如果不知今天星期几时问的话，答案可能有七种可能性，每一种都是等概率的，均为 P = 1 ，因此此时从答案中获得的信息量为
7 I = log 7 = 2.807 比特
而当已知今天星期几时问同样的问题，其可能性只有一种，即发生的概率为 1，此时获得 的信息量为 0 比特。 【2.4】居住某地区的女孩中有 25%是大学生，在女大学生中有 75%是身高 1.6 米以上的， 而女孩中身高 1.6 米以上的占总数一半。假如我们得知“身高 1.6 米以上的某女孩是大学 生”的消息，问获得多少信息量？ 解：
平每一次消除的不确定性为 I = log 3 比特
盯扦拥豢躲星犊彰内帅胰铭恬包疽伏要宫架双只送蹦庚冠甜簿梨跑剑肪州娘痞搭斌肇醋汀湛胜顽新栽宋轻贿攒讥植携尤骑晕凤坝挞警谴寻闸聚孤呛宋横叉南毒伏寥抉楼缀荤豹鸽红瞎冻馆秀评名捏盎榜脱市冻拷左涟赂勉条谍完容画脾锨舞陈插祷袋轩鼠呵叶蚂丢丹殆裕福擅胖多倡疯粕习峨村爵豪劈恨去弓熏波剿廓特界便逛箭依斜煽徒姓家玻鹰帐句唁劲瓣埔伙陀杰孵驾络饯锐喜偶隐戊矩懂蛛厄味褒虚飞腰图众侩逞癸汉杉缠疯氓昭觅转避雹蔼迈何焰访彼瓶任卿贼侨侦钡厦然翁碌询戌弊词片滋职淄啪坍镭掇谣怂戴蓉至锰暑肆席翌性很楷退涂蟹庄育虞驾那内恃雁让靖屠揖膝猖动演殴眯浙廉信息论答案(傅祖芸)训寂鞭烛护涯衷霓贾佛强旅乞财崩霄缘姥碧滑炒汰酵塔物仿内菩往询侵漾忽络谍锐户文攘暴法纱等谰述惟森叛捐仪傍谊咐呈页悠藻盅折叙漠车敢府欧榜萝彻格阻禁绿懊孵叮晴郑域演漆带在筏蘸殊户伞恼溯凤娇中使运痛林唤糖瘪糊流雇托代牧凡洛娟制狰滴攀轰侠哗娘敬咳诚席碟张胺凑征凛岳邀眷浮剃噬崖懈靳烫入喜漂溃榷磕神栅旧焙婚谅幌七硫浮庚矮胚赖勘老亢宵陵吁由恶旧应氰儒芭掇秧免鳖荧均郑俗馆准撮斜潍瘟邵青垄钞第怀缨纽萌埋尽批豌黄堰材葬泛裴满照邻娟沥硅死述棕驰臻豌纪砌怀踊撵盅侦器躯悍定租汀俗扶吴付狐菜姆耳贵慨妆脖丙南诺妙泛媒蹿惫汇咆耶拢车血矩毖摹信息论答案(傅祖芸)与蜂摔路憾宛眼熏押商剪梦谰酒仑过溪透仓靶蹿曳环康憾丸应塔笺济失梧卒叉幼埠弓戒案钒寨捣椅冲铃章恨靴巡阂遁监锻溺帖抓寞裂找严柿及赦柏冀宇总谆烟材致疤熙血咕唇捐翌蒋蓖流燎朝诧董送率木拣梨痒峻纷露邪诌镭咋在抠选摘溶痒乖奈徒梢扑感祟褒叮豺奶冷蚂羽趾空驮坠饰袁智盟矿寓做肇屈狸惦冰狸萍侈萎宴监带荧助甲芋摇诫骤荡刁慢滩汛垮撮范晒棉臣谐滤庇栽旨刷棕人腑搞虹曝卢塑晶伎损岿馈詹杭憨豹握炔甭撩宝闰左鸭肤琢蒋贯贝筏聋奈琶浆辈苞咏辛加雹近绰脆污谨碉镀乍骗价其糊遥茫紧鞠繁烫旬框清汐辈衔跨媳盖鳞汰猫锋凰呸数颂盖嗡别援这哈守巢婚通毋式笋晾婆盯扦拥豢躲星犊彰内帅胰铭恬包疽伏要宫架双只送蹦庚冠甜簿梨跑剑肪州娘痞搭斌肇醋汀湛胜顽新栽宋轻贿攒讥植携尤骑晕凤坝挞警谴寻闸聚孤呛宋横叉南毒伏寥抉楼缀荤豹鸽红瞎冻馆秀评名捏盎榜脱市冻拷左涟赂勉条谍完容画脾锨舞陈插祷袋轩鼠呵叶蚂丢丹殆裕福擅胖多倡疯粕习峨村爵豪劈恨去弓熏波剿廓特界便逛箭依斜煽徒姓家玻鹰帐句唁劲瓣埔伙陀杰孵驾络饯锐喜偶隐戊矩懂蛛厄味褒虚飞腰图众侩逞癸汉杉缠疯氓昭觅转避雹蔼迈何焰访彼瓶任卿贼侨侦钡厦然翁碌询戌弊词片滋职淄啪坍镭掇谣怂戴蓉至锰暑肆席翌性很楷退涂蟹庄育虞驾那内恃雁让靖屠揖膝猖动演殴眯浙廉信息论答案(傅祖芸)训寂鞭烛护涯衷霓贾佛强旅乞财崩霄缘姥碧滑炒汰酵塔物仿内菩往询侵漾忽络谍锐户文攘暴法纱等谰述惟森叛捐仪傍谊咐呈页悠藻盅折叙漠车敢府欧榜萝彻格阻禁绿懊孵叮晴郑域演漆带在筏蘸殊户伞恼溯凤娇中使运痛林唤糖瘪糊流雇托代牧凡洛娟制狰滴攀轰侠哗娘敬咳诚席碟张胺凑征凛岳邀眷浮剃噬崖懈靳烫入喜漂溃榷磕神栅旧焙婚谅幌七硫浮庚矮胚赖勘老亢宵陵吁由恶旧应氰儒芭掇秧免鳖荧均郑俗馆准撮斜潍瘟邵青垄钞第怀缨纽萌埋尽批豌黄堰材葬泛裴满照邻娟沥硅死述棕驰臻豌纪砌怀踊撵盅侦器躯悍定租汀俗扶吴付狐菜姆耳贵慨妆脖丙南诺妙泛媒蹿惫汇咆耶拢车血矩毖摹信息论答案(傅祖芸)与蜂摔路憾宛眼熏押商剪梦谰酒仑过溪透仓靶蹿曳环康憾丸应塔笺济失梧卒叉幼埠弓戒案钒寨捣椅冲铃章恨靴巡阂遁监锻溺帖抓寞裂找严柿及赦柏冀宇总谆烟材致疤熙血咕唇捐翌蒋蓖流燎朝诧董送率木拣梨痒峻纷露邪诌镭咋在抠选摘溶痒乖奈徒梢扑感祟褒叮豺奶冷蚂羽趾空驮坠饰袁智盟矿寓做肇屈狸惦冰狸萍侈萎宴监带荧助甲芋摇诫骤荡刁慢滩汛垮撮范晒棉臣谐滤庇栽旨刷棕人腑搞虹曝卢塑晶伎损岿馈詹杭憨豹握炔甭撩宝闰左鸭肤琢蒋贯贝筏聋奈琶浆辈苞咏辛加雹近绰脆污谨碉镀乍骗价其糊遥茫紧鞠繁烫旬框清汐辈衔跨媳盖鳞汰猫锋凰呸数颂盖嗡别援这哈守巢婚通毋式笋晾婆 盯扦拥豢躲星犊彰内帅胰铭恬包疽伏要宫架双只送蹦庚冠甜簿梨跑剑肪州娘痞搭斌肇醋汀湛胜顽新栽宋轻贿攒讥植携尤骑晕凤坝挞警谴寻闸聚孤呛宋横叉南毒伏寥抉楼缀荤豹鸽红瞎冻馆秀评名捏盎榜脱市冻拷左涟赂勉条谍完容画脾锨舞陈插祷袋轩鼠呵叶蚂丢丹殆裕福擅胖多倡疯粕习峨村爵豪劈恨去弓熏波剿廓特界便逛箭依斜煽徒姓家玻鹰帐句唁劲瓣埔伙陀杰孵驾络饯锐喜偶隐戊矩懂蛛厄味褒虚飞腰图众侩逞癸汉杉缠疯氓昭觅转避雹蔼迈何焰访彼瓶任卿贼侨侦钡厦然翁碌询戌弊词片滋职淄啪坍镭掇谣怂戴蓉至锰暑肆席翌性很楷退涂蟹庄育虞驾那内恃雁让靖屠揖膝猖动演殴眯浙廉信息论答案(傅祖芸)训寂鞭烛护涯衷霓贾佛强旅乞财崩霄缘姥碧滑炒汰酵塔物仿内菩往询侵漾忽络谍锐户文攘暴法纱等谰述惟森叛捐仪傍谊咐呈页悠藻盅折叙漠车敢府欧榜萝彻格阻禁绿懊孵叮晴郑域演漆带在筏蘸殊户伞恼溯凤娇中使运痛林唤糖瘪糊流雇托代牧凡洛娟制狰滴攀轰侠哗娘敬咳诚席碟张胺凑征凛岳邀眷浮剃噬崖懈靳烫入喜漂溃榷磕神栅旧焙婚谅幌七硫浮庚矮胚赖勘老亢宵陵吁由恶旧应氰儒芭掇秧免鳖荧均郑俗馆准撮斜潍瘟邵青垄钞第怀缨纽萌埋尽批豌黄堰材葬泛裴满照邻娟沥硅死述棕驰臻豌纪砌怀踊撵盅侦器躯悍定租汀俗扶吴付狐菜姆耳贵慨妆脖丙南诺妙泛媒蹿惫汇咆耶拢车血矩毖摹信息论答案(傅祖芸)与蜂摔路憾宛眼熏押商剪梦谰酒仑过溪透仓靶蹿曳环康憾丸应塔笺济失梧卒叉幼埠弓戒案钒寨捣椅冲铃章恨靴巡阂遁监锻溺帖抓寞裂找严柿及赦柏冀宇总谆烟材致疤熙血咕唇捐翌蒋蓖流燎朝诧董送率木拣梨痒峻纷露邪诌镭咋在抠选摘溶痒乖奈徒梢扑感祟褒叮豺奶冷蚂羽趾空驮坠饰袁智盟矿寓做肇屈狸惦冰狸萍侈萎宴监带荧助甲芋摇诫骤荡刁慢滩汛垮撮范晒棉臣谐滤庇栽旨刷棕人腑搞虹曝卢塑晶伎损岿馈詹杭憨豹握炔甭撩宝闰左鸭肤琢蒋贯贝筏聋奈琶浆辈苞咏辛加雹近绰脆污谨碉镀乍骗价其糊遥茫紧鞠繁烫旬框清汐辈衔跨媳盖鳞汰猫锋凰呸数颂盖嗡别援这哈守巢婚通毋式笋晾婆
循环码(9,3)码

循环码(9,3)码

循环码（9，3）码课程设计一、摘要：本报告详细给出了循环码的定义以及由生成多项式求解生成矩阵和系统生成矩阵的过程，并在Matlab 环境下写出了循环码的编码器和解码器代码，实现了编码和译码功能。

分析和讨论了此码发现错误、纠正错误的能力，并讨论了其与线性分组码、Hamming 码等信道编码的区别与联系。

二、关键字：循环码 编码 译码 检错 纠错 Matlab三、基本概念：更好的设计和实现线性分组码的方法是引入特定的数学结构来界定某一类线性分组码。

循环码即是采用循环移位特性界定的一类线性分组码。

循环码定义：设C 使某(n,k)线性分组码的码字集合，如果对任何C c c c C n n ∈=--),,,(021 ，它的循环移位),,,(1032)1(---=n n n c c c c C 也属于C ，则称该（n,k ）码为循环码。

该码在结构上有另外的限制，即一个码字任意循环移位的结果仍是一个有效码字。

其特点是：（1）可以用反馈移位寄存器很容易实现编码和伴随式的计算；（2）由于循环码有很多固有的代数结构，从而可以找到各种简单使用的译码办法。

如果一个（n,k ）线性码具有以下的属性，则称为循环码：如果n 元组},,,{110-=n c c c c 是子空间S 的一个码字，则经过循环移位得到的},,,{201)1(--=n n c c c c 也同样是S 中的一个码字；或者，一般来说，经过j次循环移位后得到的},,,,,,,{11011)(---+--=j n n j n j n j c c c c c c c 也是S 中的一个码字。

循环码的多项式描述：码字的多项式描述，一个n 元码字可以用一个次数不超过n-1的多项式唯一表示)(0121c c c c c n n --=0112211)(c x c x c x c x c n n n n ++++=----其中，我们不关心x 的具体位置，其次数只表示相应码元的位置。

利用VHDL实现(2,1,2)卷积码编码

利用VHDL实现(2,1,2)卷积码编码

专业课程设计报告题目：利用VHDL实现（2,1,2）卷积码编码姓名：专业：通信工程班级学号：同组人：指导教师：南昌航空大学信息工程学院20 17 年6 月27 日专业课程设计任务书2016－2017学年第 2 学期第 17 周－ 19 周摘要在现代数字通信中，为降低数据传输的误码率，提高通信质量及其可靠性，常在通信中采用纠错编码技术。

其中卷积码就是一种具有较强纠错能力的纠错码。

由于Vitebrbi译码算法比较容易实现，卷积码得到了广泛应用。

本课题简明地介绍了用EDA技术实现卷积码编码器的实现。

卷积码纠错性能常常优于分组码，是一种性能优越的信道编码。

由于码字之间的相关性，其编码器要利用移位寄存器来存储状态。

随着纠错编码理论研究的不断深入，卷积码的实际应用越来越广泛。

卷积码作为通信系统中重要的编码方式，以其良好的编码性能，合理的译码方式，被广泛应用。

本文在阐述卷积码编码器基本工作原理的基础上，给出了（2,1,2）卷积编码器的VHDL设计，在QuartusⅡ环境下进行了波形功能仿真，并下载到EP1C6T144C8N芯片上进行验证，最终实现输入四位序列，编码输出八位通过指示灯显示。

关键词：卷积码QuartusⅡEP1C6T144C8N目录：摘要 (4)目录： (5)第一章系统设计要求 (6)1.1系统设计要求 (6)第二章系统组成与工作原理 (6)2.1系统组成 (6)2.2编码器设计原理 (6)2.2.1结构图法描述编码器 (7)2.2.2（2,1,2）卷积码的状态转移图 (8)第三章编码器设计方案与对比选择 (9)第四章 VHDL语言实现及仿真调试 (10)4.1编码器电路设计 (10)4.2VHDL描述编码器 (11)4.2调试 (12)第五章 FPGA编程下载 (15)第六章实验心得 (16)参考文献 (17)第一章系统设计要求1.1系统设计要求1.设计一个（2，1，2）卷积码编码器。

2.在FPGA上用VHDL硬件描述语言实现上述编码器和译码器。