简析编年体史学的发展历程
摘要：作为中国史籍中最古老的体裁之一，编年体起源于远古人类的结绳记事。春秋战国时期出现的编年体国史是迄今可见的最早的编年体史籍。《春秋》的问世标志着中国至迟在这一时期形成了一门关于史书编纂的专门学问：编年体史学。纵观编年体史学的发展历程，主要经过了草创、形成、完善三个阶段，分别以《春秋》、《汉纪》和《资治通鉴》为代表作。编年体史学经过2000多年的发展、演变，已经成为中国史学的重要内容，在传承中华文明、凝聚民族精神方面发挥了不可或缺的作用。
关键词：编年体；史学；发展
中国历史典籍之宏富，堪称世界之最，史籍所涉及的内容，包括经济、政治、军事、文化、社会生活等各个方面，几乎达到史外无学的程度。在这浩瀚的史籍诸体中，以时间为本位，顺序地记载史事的编年体，可谓源远流长，名家辈出、名著迭现。对这些史家和著作进行评论和研究的史家和著作也绵延不绝，蔚为壮观。因此，本文从编年体的起源入手，简要的介绍了编年体史著的创新演变及其在整个中国古代史学发展中的地位作用。
一、编年体的概念类别及特点
1.编年体的概念。
编年体是我国传统史书的一种体裁。以时间为中心，按年、月、日编排史实，是编写历史最早也是最简便的方法。因为它以时间为经，以史事为纬，比较容易反映出同一时期各个历史事件的联系。因为编年体是中国最古老的历史体裁，故《隋书·经籍志》称之为“古史”。
2.编年体的类别。
以编年体纪录历史的方式最早起源于中国。由周代史官于公元前841年前后创体，《左传》完善其体例，荀悦《汉纪》创断代编年体，司马光成通史编年体。其它的编年体史书，还有纲目体、起居注、日历、实录、东华录等。
先秦编年体史书流传至今的，有《春秋》、《左传》、《竹书纪年》等。
断代编年史，是写一个封建王朝兴亡的历史著作，如东汉荀悦《汉纪》、明谈迁《国榷》等。
编年体通史著名的有宋司马光《资治通鉴》、清毕沅《续资治通鉴》等。
纲目体以编年为序，简记大事为纲，补充注说史事为目。有宋朱熹《通鉴纲目》等。
起居注，是记录帝王言语、行动和居止的专书，周代始创。时政记，是宰相执政关于朝廷君臣议论军国要政的记录，武周时始创，明代废止。
日历，是由史官根据起居注或时政记等所记杂事，稍加润饰汇编而成的资料书。唐顺宗时所创，明以后废止。
实录是在新皇帝即位后，由国史馆根据前一皇帝的起居注、时政记、日历等数据，重新汇编，撰修成的前皇帝言行及一代大事的编年史长编。自北凉刘昞《敦煌实录》创体，唐以后成为定制。
东华录，清乾隆闲蒋良骥创体，是根据实录和其它档案、公文、邸报所写的朝廷大事摘要。
3. 编年体的特点。
编年体是我国古代史学文体中最古老的一种叙事形态，是中国史体发展之源。它的产生、成熟与发展，始终伴随着中国历史学的成长历程。与其它史体相
比，编年体最突出的特征是时间与空间的巧妙结合。对此，唐代著名的史学理论家刘知几曾有过非常精辟和全面的总结：“系日月而次之，列岁时以相续；中国外夷，同年共世，莫不备载其事，形于目前。”（《二体》）刘知几的这段评论，首先从时间的顺序性与持续性指出编年体的结构特征；其次从空间的广延性和伸张性上指出编年体的内容编排。实际上，编年体与其它史体最大的区别在于时间结构。这种结构虽然是编年史家在编撰的史籍时所采用的外在表述形态，但是由于中华民族独特的文化背景与思维方式，使得这种结构有着特殊的内涵。
二、编年体的起源。
编年体是中国历史编纂中最早采用的体裁之一，起源于远古人类的结绳记事。早在黄帝时代就有左仓颉，右史沮诵的传说。三代以降，史官的数量渐多。最著名的有夏代的终古，商代的向挚。周代更系统地出现了大史、小史、内史、外史、左史、右史等不同名称的史官。他们各司其职，“大史掌国之六典，小史掌邦国之志，内史掌书王命，外史掌书使乎四方，左史记言，右史记事”［1］（《史官建置》）。各诸侯国也设有史官。这些史官均把时间要素作为他们编纂史书的关键之一。
春秋战国时期，诸侯崛起、王室衰微，经济、文化和民族关系急剧变化。各诸侯国纷纷自立史官，利用本国的纪年来记载历史，以显示自己的正统地位。于是，出现了鲁国《春秋》、晋国《乘》、郑国《志》、楚国《梼杌》等史书。这些史书又是什么体裁呢？《隋书·李德林传》中说得很清楚：“史者，编年也，故鲁号纪年。”可见，春秋战国时期的史官，都或有意或无意，地使用了编年体裁。此时的国史就已经是按年纪事的编年史了。正如史学史专家瞿林东教授所指出的：“这种国史按年代顺序记事，是中国史学上编年体史书形成的最早阶段。”可以说，编年体裁是随着史籍的出现而出现的。编年体国史中的代表是《竹书纪年》，它所记内容起自三代，迄于战国后期，是现今所知中国史学上最早的编年体性质的通史著作。因而，编年体史学其渊源可达几千年之遥，可以看作是史籍编纂中最基本、最古老的学问之一。
三、编年体史学的发展历程。
纵观编年体史学的发展历程，主要经过了草创、形成、完善三个阶段。即：草创于《春秋》、形成于《汉纪》、完善于《资治通鉴》。
1.编年体史学草创于《春秋》。
经过西周经济的繁荣时期，到春秋时代，史学出现别开生面的发展。突出的代表作，就是鲁国国史《春秋》。《春秋》一书是按鲁国的正统年代编写的。记载从鲁隐公元年（前722 年）至鲁哀公14 年（前481 年）共12 个国君，242 年的历史。相传此书是孔子根据原来鲁国国史改编的。《春秋》在编纂方法上有明显的体例要求。讲求“属辞比事而不乱”，即史料有排比，文法讲求修辞，“寓褒贬、别善恶”，更有明确的时间顺序。正如司马迁所说：“孔子因史文而次春秋，纪元年，正时、月、日，益其详焉。”尽管《春秋》亦有记事过简，范围狭窄之不足，但它草创了史籍中的编年体裁，对于了解不同地区的历史发展大势提供了清晰的脉络，标志着中国史学当时所能达到的新水平。另一部编年体史书《左传》继承了《春秋》的特点，并对编年体有较大的发展，即在编年纪事的总体格局中，首开了集中记事和写人物活动的撰述方法。《春秋》问世之后，《左传》的作者、孟子，以及以后评论编年体的史学家代有其人。
2.编年体史学形成于《汉纪》。
《春秋》出现以后，“学者因之，以为《春秋》则古史记之正法，有所著述，
多依《春秋》之体”《左传》、《战国策》、《国语》等相继而出。随着秦汉时期政治上的大一统和封建经济的繁荣发展，客观上要求有反映这一强盛历史的新史学编纂体裁的出现。西汉司马迁纪传体通史———《史记》如异军突起。班固《汉书》紧随其后，一改史坛前况，“自是世有著述，皆拟班马，以为正史，作者尤广”，致使“一代之史，至数十家。唯《史记》、《汉书》师法相传，并有解释”。从此，编年体史籍走向低谷。东汉末年，“汉献帝雅好典籍，以班固《汉书》文繁难省，命颍川荀悦作《春秋左传》之体，为《汉纪》30 篇”。《汉纪》虽仿《春秋》之体，但较之以前各部编年体著作又不尽相同。《汉纪》在内容上主要取材于《汉书》，但其史论却超过了班固的史论；在体裁上仿效《左传》但却更加严整，并且开创了编年体中连类列举法，即在有关史实之下记载与之有重要联系的人物和制度，这不仅使体例更加严谨，也扩大了编年体史书记事的范围，从而使编年体史书发展到比较成熟的阶段。史籍的编年体裁，经荀悦的更新，形成了一种独特的风格，起到了发凡起例的作用。人们常称荀悦以前的编年体为古体，荀悦以后的编年体为近体或新体。在他的《汉纪》影响下，两晋、南北朝时期编年史的编撰形成了空前的高潮，使之成为和纪传体并驾齐驱的一种历史编纂体裁，从而打破了纪传体在历史编纂领域一花独放、独霸史坛的局面。继之而起的袁宏的《后汉纪》也是魏晋南北朝时期编年体史书中的佳作。
3.编年体史学完善于《资治通鉴》。
司马光在编写《资治通鉴》时自称：“因宣明编年之体，仿荀悦简要之文。”《资治通鉴》正是继承和发扬了《左传》与《汉纪》的优良传统，把编年史的写作推进到了一个新的阶段。《通鉴》总结了以往编年体史著的经验予以发展、完善，成为编年体史学发展成熟的重要标志，代表了中国古代编年史学的最高成就。鉴于《资治通鉴》的成就，明人胡应麟在《史书占毕》中说：“编年之史，备于司马氏，司马氏出，而宋以前之为编年体者废矣。”清人浦起龙说：“上起三国，下终五季，弃编年而行纪传，史体偏缺者五百余年，至司马氏光始有《通鉴》之作，而后史家二体，到今两行。坠绪复续，厥功伟哉。”胡、浦二人高度赞扬了司马光的功绩，肯定了《资治通鉴》在我国史学发展中的重要地位。从此，编年体史学蓬勃发展起来。
《资治通鉴》的完成，使中国编年体史书更臻于完善。宋神宗曾称赞《资治通鉴》说：“前代未尝有此书，过荀悦《汉纪》远矣。”《资治通鉴》的问世，像一石激起千层巨浪，在编年体史籍发展的长河中掀起了壮阔的波澜。补撰改编、续作、注释、仿制、评论，诸家蜂起，洋洋大观，有力地促进了编年体史学的发展。
首先，对《资治通鉴》的研究成为一项专门的学问，被称为“通鉴学”。主要有宋代王应麟的《通鉴地理通释》。将《资治通鉴》所载地名，一一考其异同沿革。朱熹根据《资治通鉴》提纲挈领，写成《资治通鉴纲目》。每条以提要为纲，以叙述为目，新创了纲目体史书，极受统治者重视。宋末元初，胡三省则花了30 年时间，为《资治通鉴》作注，写成《资治通鉴音注》，学术价值甚高。
其次，《资治通鉴》的续编和仿作之作不断。自司马光制作长篇，李焘继之。李心传又撰《建炎以来系年要录》以续李焘之书。直到清代毕沅撰《续资治通鉴》220 卷，记载了从公元960 年（建隆元年）起，至1368年（至正28 年）止，408 年的历史，与司马光的《资治通鉴》紧密衔接。清朝中后期夏燮又撰《明通鉴》100 卷。清朝史学家印鸾章也在稍后写成《清鉴》。
四、编年体自我总结和推陈出新。
编年与纪传在中国古代史学上角力争锋，互相促进，铸就了中国史学的绚烂多姿，其间也引起了许多史家对两者作用和优劣的评论，有力地推动了中国古代史学的发展。在《春秋左氏传·序》中，杜预谈论《春秋》之例时说：“其发凡以言例，皆经国之常制，周公之垂法，史书之旧章。”晋唐之间，对编年、纪传二体的优劣之争尤为激烈，以编年优于纪传者如干宝，以纪传优于编年者如范晔，各有得失、不可偏废者如刘知几。刘知几在《史通》一书中，首次对史书的体裁体例做了系统评述，分析了编年、纪传二体的优缺点：“考兹胜负，互有得失”，“欲废其一，固亦难矣”；二体“各有其美，并行于世”。唐代皇浦湜在《编年纪传论》中更认为：“予以为合圣人之经者，以心不以迹，得良史之体者，在适不在同。编年纪传，系于时之所宜、才之所长者耳，何常之有！故是非与众人同辨，善恶得圣人之中，不虚美，不隐恶，则为纪，为传，为编年，是皆良史矣。”可以说，至此，对史书体裁的认识才算是达到了辩证的境界。
近代以来，史学家对编年体的运用和探讨并没有停止。夏曾佑、章太炎、梁启超等人都曾在充分考虑编年体的基础上对新的历史编纂体裁进行探索。周谷城为阐述其“历史完形论”思想，对历史上的各种体裁进行了批评，其中指出：“编年体以按年月之前后排比事情为特征；然同一年或同一月所发生的许多事情，彼此间未必定有不可移易的因果关系。无关系而并列之，只是杂录。其次，每一事情之产生发展完成未必定在同一时限之内：其所经历的时间往往有数年乃至数十年的。编著史书之余，将整个的一事分散，按年排比其零碎的部分，而与其他许多不相干的事情混合，于是这一事情的完整性亦不能保。”正是有了上述批评，人们对编年体的优缺点才有了更为清醒的认识和把握。此后，罗尔纲、白寿彝分别将编年体作为其新综合体的一个有机组成部分运用于太平天国史和多卷本中国通史的编纂中去，并取得了突出的成就。
总之，编年体史学从《春秋》草创到《资治通鉴》完善，不断改进、发展、创新，最终使其与纪传、纪事本末二体鼎足而三，成为中国古代史学的重要内容，同时也在中国近现代史学中发挥着积极的作用。
模拟试题一 一、概念简答题（共10题，每题5分） 1.简述离散信源和连续信源的最大熵定理。 2.什么是平均自信息（信息熵）？什么是平均互信息？比较一下两个概念的异同之处。 3.解释等长信源编码定理和无失真变长信源编码定理，说明对于等长码和变长码，最佳码的每符号平均码长最小为多少？编码效率最高可达多少？ 4.解释最小错误概率译码准则，最大似然译码准则和最小距离译码准则，说明三者的关系。 5.设某二元码字C={111000，001011，010110，101110}， ①假设码字等概率分布，计算此码的编码效率？ ②采用最小距离译码准则，当接收序列为110110时，应译成什么码字？ 6.一平稳二元信源，它在任意时间，不论以前发出过什么符号，都按 发出符号，求
和平均符号熵 7.分别说明信源的概率分布和信道转移概率对平均互信息的影响，说明平均互信息与信道容量的关系。 8.二元无记忆信源，有求： （1）某一信源序列由100个二元符号组成，其中有m个“1”，求其自信息量？
（2）求100个符号构成的信源序列的熵。 9.求以下三个信道的信道容量： ， ，10.已知一（3，1，3）卷积码编码器，输入输出关系为：
试给出其编码原理框图。 二、综合题（共5题，每题10分） 1.二元平稳马氏链，已知P（0/0）=0.9，P（1/1）=0.8，求： （1）求该马氏信源的符号熵。 （2）每三个符号合成一个来编二进制Huffman码,试建立新信源的模型，给出编码结果。 （3）求每符号对应的平均码长和编码效率。 2.设有一离散信道，其信道矩阵为，求：（1）最佳概率分布？
概率论与数理统计发展简史 姓名：苗壮学号：1110810513 班级：1108105 指导教师：曹莉 摘要：在这里，我们将简略地回顾一下概率论与数理统计的发展史，包括发展过程中所经历的一些大事，以及对这门学科的创立和发展有特别重大影响的那些学者的贡献． 关键词：概率论、数理统计、发展史 正文： 1.概率论的发展 17世纪，正当研究必然性事件的数理关系获得较大发展的时候，一个研究偶然事件数量关系的数学分支开始出现，这就是概率论． 早在16世纪，赌博中的偶然现象就开始引起人们的注意．数学家卡丹诺(Cardano)首先觉察到，赌博输赢虽然是偶然的，但较大的赌博次数会呈现一定的规律性, 卡丹诺为此还写了一本《论赌博》的小册子，书中计算了掷两颗骰子或三颗骰子时，在一切可能的方法中有多少方法得到某一点数．据说，曾与卡丹诺在三次方程发明权上发生争论的塔尔塔里亚，也曾做过类似的实验． 促使概率论产生的强大动力来自社会实践．首先是保险事业．文艺复兴后，随着航海事业的发展，意大利开始出现海上保险业务．16世纪末，在欧洲不少国家已把保险业务扩大到其它工商业上，保险的对象都是偶然性事件．为了保证保险公司赢利，又使参加保险的人愿意参加保险，就需要根据对大量偶然现象规律性的分析，去创立保险的一般理论．于是，一种专门适用于分析偶然现象的数学工具也就成为十分必要了． 不过，作为数学科学之一的概率论，其基础并不是在上述实际问题的材料上形成的．因为这些问题的大量随机现象，常被许多错综复杂的因素所干扰，它使难以呈“自然的随机状态”．因此必须从简单的材料来研究随机现象的规律性，这种材料就是所谓的“随机博弈”．在近代概率论创立之前，人们正是通过对这种随机博弈现象的分析,注意到了它的一些特性, 比如“多次实验中的频率稳定性”等，然后经加工提炼而形成了概率论. 荷兰数学家、物理学家惠更斯（Huygens）于1657年发表了关于概率论的早期著作《论赌博中的计算》．在此期间，法国的费尔马（Fermat）与帕斯卡（Pascal）也在相互通信中探讨了随机博弈现象中所出现的概率论的基本定理和法则．惠更斯等人的工作建立了概率和数学期望等主要概念，找出了它们的基本性质和演算方法，从而塑造了概率论的雏形．18世纪是概率论的正式形成和发展时期．1713年，贝努利（Bernoulli）的名著《推想的艺术》发表．在这部著作中，贝努利明确指出了概率论最重要的定律之一――“大数定律”，并且给出了证明，这使以往建立在经验之上的频率稳定性推测理论化了，从此概率论从对特殊问题的求解，发展到了一般的理论概括． 继贝努利之后，法国数学家棣谟佛（Abraham de Moiver）于1781年发表了《机遇原理》．书中提出了概率乘法法则，以及“正态分”和“正态分布律”的概念，为概率论的“中心极限定理”的建立奠定了基础． 1706年法国数学家蒲丰（Comte de Buffon）的《偶然性的算术试验》完成，他把概率和几何结合起来，开始了几何概率的研究，他提出的“蒲丰问题”就是采取概率的方法来求圆周率π的尝试．
一、设X 、Y 就是两个相互统计独立的二元随机变量,其取-1或1的概率相等。定义另一个二元随机变量Z,取Z=YX(一般乘积)。试计算: 1、H(Y)、H(Z); 2、H(YZ); 3、I(X;Y)、I(Y;Z); 二、如图所示为一个三状态马尔科夫信源的转移概率矩阵 1. 绘制状态转移图; 2、 求该马尔科夫信源的稳态分布; 3、 求极限熵 ; 三、在干扰离散对称信道上传输符号1与0,已知P(0)=1/4,P(1)=3/4,试求: 1. 信道转移概率矩阵P 2、信道疑义度 3、信道容量以及其输入概率分布 四、某信道的转移矩阵?? ????=1.006.03.001.03.06.0P ,求信道容量,最佳输入概率分布。 五、求下列各离散信道的容量(其条件概率P(Y/X)如下 :) 六、求以下各信道矩阵代表的信道的容量
答案 一、设X 、Y 就是两个相互统计独立的二元随机变量,其取-1或1的概率相等。定义另一个二元随机变量Z,取Z=YX(一般乘积)。试计算: 1、H(Y)、H(Z); 2、H(XY)、H(YZ); 3、I(X;Y)、I(Y;Z); 解:1、 2 i 11111H Y P y logP y log log 2222i i =??=-+????∑（）=-（）（）=1bit/符号 Z=YX 而且X 与Y 相互独立 ∴ 1(1)(1)(1)P P X P Y P X ?=+=-?=-（Z =1）=P(Y=1)= 1111122222 ?+?= 2(1)(1)(1)P P X P Y P X ?=-+=-?=（Z =-1）=P(Y=1)= 1111122222 ?+?= 故H(Z)= i 2i 1(z )log (z )i P P =- ∑=1bit/符号 2、从上式可以瞧出:Y 与X 的联合概率分布为:
统计学的发展历程 统计学的英文statist ics最早是源于现代拉丁文statisticum collegium (国会)以及意大利文statista (国民或政治家)。德文Statistik，最早是由Gottfried Achenwall(1749)所使用，代表对国家的资料进行分析的学问，也就是“研究国家的科学”。在十九世纪统计学在广泛的数据以及资料中探究其意义，并且由John Sinclair引进到英语世界。 统计学是一门很古老的科学，一般认为其学理研究始于古希腊的亚里斯多德时代，迄今已有两千三百多年的历史。它起源于研究社会经济问题，在两千多年的发展过程中，统计学至少经历了“城邦政情”，“政治算数”和“统计分析科学”三个发展阶段。所谓“数理统计”并非独立于统计学的新学科，确切地说它是统计学在第三个发展阶段所形成的所有收集和分析数据的新方法的一个综合性名词。概率论是数理统计方法的理论基础，但是它不属于统计学的范畴，而属于数学的范畴。 统计学的发展过程的三个阶段 第一阶段称之为“城邦政情”(Matters of state)阶段 “城邦政情”阶段始于古希腊的亚里斯多德撰写“城邦政情”或“城邦纪要”。他一共撰写了一百五十馀种纪要，其内容包括各城邦的历史，行政，科学，艺术，人口，资源和财富等社会和经济情况的比较，分析，具有社会科学特点。“城邦政情”式的统计研究延续了一两千年，直至十七世纪中叶才逐渐被“政治算数”这个名词所替代，并且很快被演化为“统计学”(Statistics)。统计学依然保留了城邦(state)这个词根。 第二阶段称之为“政治算数”(Politcal arthmetic)阶段 与“城邦政情”阶段没有很明显的分界点，本质的差别也不大。 “政治算数”的特点是统计方法与数学计算和推理方法开始结合。分析社会经济问题的方式更加注重运用定量分析方法。 1690年英国威廉·配弟出版(政治算数)一书作为这个阶段的起始标志. 威廉·配弟用数字，重量和尺度将社会经济现象数量化的方法是近代统计学的重要特征。因此，威廉？配弟的(政治算数)被后来的学者评价为近代统计学的来源，威廉？配弟本人也被评价为近代统计学之父。 配弟在书中使用的数字有三类： 第一类是对社会经济现象进行统计调查和经验观察得到的数字.因为受历史条件的限制，书中通过严格的统计调查得到的数据少，根据经验得出的数字多； 第二类是运用某种数学方法推算出来的数字。其推算方法可分为三种： “(1)以已知数或已知量为基础，循著某种具体关系进行推算的方法； (2)通过运用数字的理论性推理来进行推算的方法； (3)以平均数为基础进行推算的方法”； 第三类是为了进行理论性推理而采用的例示性的数字.配弟把这种运用数字和符号进行的推理称之为“代数的算法”。从配弟使用数据的方法看，“政治算数”阶段的统计学已经比较明显地体现了“收集和分析数据的科学和艺术”特点，统计实证方法和理论分析方法浑然一体，这种方法即使是现代统计学也依然继承。
简述通信行业的发展历程 摘要：本文简要叙述了通信技术的基本概念和主要发展历程，并以时间表的形式分析和记录了中国电信行业的主要发展史，并简要介绍了作为下一代通信技术的4G网络技术的基本原理和运用，并简要归纳了4G网络技术目前在国内的发展现状。 关键字：通信、通信技术、运营商、4G 一、通信的基本概念和主要发展历程 通信技术是当代生产力中最为活跃的技术因素，对生产力的发展和人类社会的进步起着直接的推动作用。通信最主要的目的就是传递信息。最早的通信包括最古老的文字通信以及我国古代的烽火台传信。而当今所谓的通信技术是指18世纪以来的以电磁波为信息传递载体的技术。通信技术的发展历史上主要经历了三个阶段： 初级通信阶段（以1839年电报发明为标志） 近代通信阶段（以1948年香农提出的信息论为标志） 现代通信阶段（以20世纪80年代以后出现的互联网、光纤通信、移动通信等技术为标志） 从1838年莫尔斯发明电报开始，通信技术经历了从架空明线、同轴电缆到光导纤维，从步进展、纵横制导数字程控交换机，从固定电话、卫星通信到移动电话、从模拟通信技术到数字通信技术的演进。通信技术每一次的重大进步，都极大地提升了通信网的能力和扩展了通信业务，如从过去的电报、传真、电话到现在的可视电话、即时通信（QQ&MSN）和电子邮件（E-mail）等，给通信行业发展注入了新活力，推动了社会通信服务水平的提高。现在通信技术和业务已
渗透到人们生活娱乐、工作学习的方方面面，深刻地改变了人类社会的生活形态和工作方式。随着社会的发展和进步，人类对信息通信的需求更加强烈，对其要求也越来越高。理想的目标就是实现任何人在任何时候、任何地方与任何人以及相关物体进行任何形式的信息通信。 百年以来，通信技术一直由西方国家主导其发展。直到世纪之交，历史才发生改变。2000年5月，由大唐电信科技产业集团（电信科学技术研究院）代表我国政府提出的具有自主知识产权的TD-SCDMA，被国际电信联盟（ITU）采纳为3G无线移动通信国际标准。2001年3月被3GPP采纳，这是我国通信百年历史上零的突破。移动通信从只支持语音通信的第一代模拟移动通信系统（1G），发展到到支持话音和低速数据（短信、GPRS）等的第二代数字移动通信系统（2G），再到支持视频通信、高速数据以及多媒体业务的第三代移动通信系统（3G）。当前，处在从2G到3G转折时期的通信行业正经历着一场前所未有的深刻变革，包括技术、网络、业务以及运营模式。电路交换技术与分组交换技术融合，将导致电信网、计算机网和有线电视网在技术、业务、市场、终端、网络乃至行业运行管理和政策方面的融合。在业务竞争中，各个电信运营商也在打破传统电信的思维或疆界，开拓新的市场。 二、中国电信行业发展历程 1、1949——1994 政府行政绝对垄断 从1949年11月1日邮电部成立到1978年，整个电信企业完全依靠行政垄断进行经营,在管理上采用政企合一的方式。政府无论从经营业务到资费方面都实行严格的控制，完全是计划经济，完全是政府定价，而且它的服务主要是面向党、政、军的，并没有考虑到为个人服务。举例说，直到改革开放初期的1979
一、（11’）填空题 （1）1948年，美国数学家香农发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。 （2）必然事件的自信息是 0 。 （3）离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的 N倍。 （4）对于离散无记忆信源，当信源熵有最大值时，满足条件为__信源符号等概分布_。 （5）若一离散无记忆信源的信源熵H（X）等于2.5，对信源进行等长的无失真二进制编码，则编码长度至少为 3 。 （6）对于香农编码、费诺编码和霍夫曼编码，编码方法惟一的是香农编码。（7）已知某线性分组码的最小汉明距离为3，那么这组码最多能检测出_2_______个码元错误，最多能纠正___1__个码元错误。 （8）设有一离散无记忆平稳信道，其信道容量为C，只要待传送的信息传输率R__小于___C（大于、小于或者等于），则存在一种编码，当输入序列长度n足够大，使译码错误概率任意小。（9）平均错误概率不仅与信道本身的统计特性有关，还与___译码规则____________和___编码方法___有关 三、（5'）居住在某地区的女孩中有25%是大学生，在女大学生中有75%是身高1.6米以上的，而女孩中身高1.6米以上的占总数的一半。 假如我们得知“身高1.6米以上的某女孩是大学生”的消息，问获得多少信息量？ 解：设A表示“大学生”这一事件，B表示“身高1.60以上”这一事件，则 P(A)=0.25 p(B)=0.5 p(B|A)=0.75 （2分） 故 p(A|B)=p(AB)/p(B)=p(A)p(B|A)/p(B)=0.75*0.25/0.5=0.375 （2分） I(A|B)=-log0.375=1.42bit （1分） 四、（5'）证明：平均互信息量同信息熵之间满足 I(X;Y)=H(X)+H(Y)-H(XY) 证明：
浅析统计学的起源 摘要从逻辑和历史两个角度对推断统计学的起源进行了尝试性的索关键词:统计史;起源 引言：史学研究历来受思想家们的重视,说史学研究应成为任何学科永恒的研究主题丝毫也不过分,因为早在两千多年前,中国古代伟大的思想家孔子,在论语中就曾留下了温故而知新的至理名言,而16世纪著名的英国哲学家培根也曾说过,读史使人明智。如果套用统计学里的一句专业术语,那就是历史具有遍历性。。 任何历史研究都必须首先限定其研究的时间范畴,对于推断统计史而言,一个首要问题就是:推断统计学的历史应该从哪里开始?为说明这个问题,我们首先探究一下统计学是什么。按一般统计学教材或百科全书上的定义:统计学是一门关于如何有效地收集、整理、表述、分析和解释数据的学科。其中的数据即为统计学的研究对象,因此统计学也被认为是一门从数据中获得有用信息的数据分析学科。需要强调的是,统计学研究的数据一定要具有随机性,也就是说可以通过某种概率分布规律来描述数据的分布状态,这一点也是统计学有别于其他处理数据学科的最重要特征。 在上述统计学的定义下,统计学又可划分为描述统计与推断统计。描述统计是一种通过图形、列表、数量化度量等方法描述样本数据基本特征的统计方法,其作用是对样本数据进行初步精炼,虽然在很多情况下样本数据的特征可用来推断总体的特征,但这需要给出推断的误差精度,由于描述统计中不包含任何关于误差精度的陈述,故
其结论也就仅局限于样本数据,与总体无关,从而也不存在推断问题。不过统计学的终极目的是希望通过样本来获取总体信息,故推断统计,即利用样本信息以及其它信息,获取有关样本所处总体信息的推断理论,就成为描述统计进一步发展的必然产物。下面我们引述有关文献给出的几个相当久远的例子加以说明。 古印度部落国王图潘纳为了炫耀自己的数学能力,他告诉自己的马车夫纳拉一个被放逐的国王,说他猜测出了一颗巨大果树两个枝干上的树叶与果实的数量,纳拉经过一夜的计算,吃惊地发现图潘纳的猜测非常接近实际的真实数量。这个故事来源于印度史诗摩诃婆罗多它最迟完成于公元400年。相当多的现代学者们认为,图潘纳是通过计算某一个典型小枝上树叶与果实的数量后,将其乘以整个果树上小枝的个数得到他的猜测的。 在伯罗奔尼撒战争中,古希腊的雅典人曾采取过架云梯突破敌人城墙的方法。由于建造适当高度的云梯就必须知道敌方城墙的高度,为此雅典人采取了如下方法来估算城墙高度:首先派一些士兵同时数前方敌城裸露部分城墙所砌砖的层数。虽然有一部分士兵的计数会发生错误,但大多数的计数结果应该是正确的,特别是出现最频繁的层数与那部分无法看见的城墙的层数会足够接近。然后通过猜测出来的城砖厚度乘以最频繁的层数估算出城墙的高度。这个故事来源于古希腊历史学家修西得底斯所著的伯罗奔尼撒战争史 应该说在我们给出的这些例子中,古人所使用的推断方法在形式上是属于推断统计学的,但这些方法没有给出有关推断结果的不确
论人工智能的发展历程 王鑫涛16151228 摘要：人工智能的发展、人工智能的应用、人工智能的未来 关键字：人工智能、阿尔法围棋、AI 正文：近几年，人工智能这个话题变得越来越热门，尤其是在今年三月份的一场举世瞩目的人机围棋大赛后，人工智能这个话题在人们之间也是越来越普遍地被谈论。2016年3月，阿尔法围棋（AlphaGo）与围棋世界冠军、职业九段选手李世石进行人机大战，并以4:1的总比分获胜，不少职业围棋手认为，阿尔法围棋的棋力已经达到甚至超过围棋职业九段水平，在世界职业围棋排名中，其等级分曾经超过排名人类第一的棋手柯洁。那么，阿尔法围棋是什么呢，为什么这么厉害？阿尔法围棋（AlphaGo）是一款围棋人工智能程序，由谷歌（Google）旗下DeepMind公司的戴密斯·哈萨比斯、大卫·席尔瓦、黄士杰和与他们的团队开发，其主要工作原理是“深度学习”。“深度学习”是指多层的人工神经网络和训练它的方法。一层神经网络会把大量矩阵数字作为输入，通过非线性激活方法取权重，再产生另一个数据集合作为输出。这就像生物神经大脑的工作机理一样，通过合适的矩阵数量，多层组织链接一起，形成神经网络“大脑”进行精准复杂的处理，就像人们识别物体标注图片一样。通过上述所所，可见现在的人工智能已发展到一个相当高相当先进的程度了，那么，人工智能又是怎么一步步发展到今天的呢，它的未来又会是如何？我在这里就说一下自己对人工智能浅薄的见解。
一、什么是人工智能 人工智能(Artificial Intelligence),英文缩写为AI，也称机器智能。“人工智能”一词最初是在1956年的Dartmouth学会上提出的。它是计算机科学、控制论、信息论、神经生理学、心理学、语言学等多种学科互相渗透而发展起来的一门综合性学科。从计算机应用系统的角度出发，人工智能是研究如何制造智能机器或智能系统来模拟人类智能活动的能力，以延伸人们智能的科学。 人工智能是计算机科学的一个分支,它企图了解智能的实质,并生产出一种新的能与人类智能相似的方式做出反应的智能机器。人工智能的发展史是和计算机科学与技术的发展史联系在一起的，目前能够用来研究人工智能的主要物质手段以及能够实现人工智能技术的机器就是计算机,人工智能在21世纪必将为发展国民经济和改善人类生活做出更大的贡献。 人类的科学演变已从单一的“数值计算”发展到系统的“逻辑计算”。人类正在将信息工程学逐步提入到计算机系统中，从而出现了“信息管理”“和“信息交换”等科学的迫切需求。而加速扩大“信息处理”层面来说，现有的计算机的处理数据能力是匹配不了的，缺少领域专业“智能”。这样的“计算机科学”已无法适应信息科学的发展需求。全球的信息科学正在逐步形成，Al作为现代信息科学发展的核心。从古至今人们对提及智能相关的问题就很感兴趣，只不过在计算机没有发明之前，没有任何高科技辅助工具能解开智能的奥秘。
信息论试卷题目及答案
————————————————————————————————作者：————————————————————————————————日期： 2
中国海洋大学2008—2009学年第一学期 一、填空题（每空2分，共20分） 1、1948年，美国数学家 香农 发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。 2、信源编码的目的是提高通信的有效性。信道编码的最终目的是提高信号传输的可靠性。 3、离散平稳无记忆信源X 的N 次扩展信源的熵等于离散信源X 的熵的N 倍。 4、对于香农编码、费诺编码和哈夫曼编码，编码方法惟一的是香农编码。 5、信道输入与输出间的平均互信息是信道转移概率的 下凸 函数，是输入概率的 上凸 函数。 6、信道矩阵??????10002/12/1代表的信道的信道容量C=符号/1bit ，达到信道容量的条件是输入符号等概分布。 7、 设某二进制码｛00011，10110，01101，11000，10010，10001｝，则码的最小距离是2 ，假设码字等概分布，则该码的码率为 0.517比特/符号 ，这时若通过二元对称信道接收码字为01100和00110时，应译为01101 ， 10110 。。 二、判断题（每题2分，共10分） 1、必然事件和不可能事件的自信息量都是0 。（错） 2、最大后验概率准则与最大似然准则是等价的。（错） 3、如果信息传输速率大于信道容量，就不存在使传输差错率任意小的信道编码。（对） 4、连续信源和离散信源的熵都具有非负性。（错） 5、相同功率的噪声中，高斯噪声使信道容量最小。（对） 三、简答题（第1、2题各6分，第三题10分，共22分） 1、简述最大离散熵定理。对于一个有m 个符号的离散信源，其最大熵是什么？ 答：最大离散熵定理为：离散无记忆信源，等概率分布时熵最大。 (3分) 最大熵值为 m H 2max log = (3分) 2、对于任意概率事件集X 、Y 、Z ，证明下述三角不等式成立()()()Z X H Z Y H Y X H ≥+ 证：因为)|()|(Y X H YZ X H ≤ ，(3分) 所以： ) |()|()|() |,() |()|()|()|(Z Y H XZ Y H Z Y H Z Y X I YZ X H Z X H Y X H Z X H ≤-==-≤-(3分)
统计学的发展历程
统计学概述 [编辑本段] 统计学是应用数学的一个分支，主要通过利用概率论建立数学模型，收集所观察系统的数据，进行量化的分析、总结，并进而进行推断和预测，为相关决策提供依据和参考。它被广泛的应用在各门学科之上，从物理和社会科学到人文科学，甚至被用来工商业及政府的情报决策之上。 统计学主要又分为描述统计学和推断统计学。给定一组数据，统计学可以摘要并且描述这份数据，这个用法称作为描述统计学。另外，观察者以数据的形态建立出一个用以解释其随机性和不确定性的数学模型，以之来推论研究中的步骤及母体，这种用法被称做推论统计学。这两种用法都可以被称作为应用统计学。另外也有一个叫做数理统计学的学科专门用来讨论这门科目背后的理论基础。 统计学的发展历程 [编辑本段] 统计学的英文statistics最早是源于现代拉丁文statisticum collegium (国会)以及意大利文 statista (国民或政治家)。德文Statistik，最早是由Gottfried Achenwall(1749)所使用， 代表对国家的资料进行分析的学问，也就是“研究国家的科学”。在十九世纪统计学在广泛的数据以及资料中探究其意义，并且由John Sinclair引进到英语世界。 统计学是一门很古老的科学，一般认为其学理研究始于古希腊的亚里斯多德时代，迄今已有两千三百多年的历史。它起源于研究社会经济问题，在两千多年的发展过程中，统计学至少经历了“城邦政情”，“政治算数”和“统计分析科学”三个发展阶段。所谓“数理统计”并非独立于统计学的新学科，确切地说它是统计学在第三个发展阶段所形成的所有收集和分析数据
《信息论基础》模拟试卷 一、填空题（共15分，每空1分） 1、信源编码的主要目的是 ，信道编码的主要目的是 。 2、信源的剩余度主要来自两个方面，一是 ，二是 。 3、三进制信源的最小熵为 ，最大熵为 。 4、无失真信源编码的平均码长最小理论极限制为 。 5、当 时，信源与信道达到匹配。 6、根据信道特性是否随时间变化，信道可以分为 和 。 7、根据是否允许失真，信源编码可分为 和 。 8、若连续信源输出信号的平均功率为2σ，则输出信号幅度的概率密度是 时，信源具有最大熵，其值为值 。 9、在下面空格中选择填入数学符号“,,,=≥≤?”或“?” （1）当X 和Y 相互独立时，H （XY ） H(X)+H(X/Y) H(Y)+H(X)。 （2）()() 1222 H X X H X = ()()12333H X X X H X = （3）假设信道输入用X 表示，信道输出用Y 表示。在无噪有损信道中，H(X/Y) 0, H(Y/X) 0,I(X;Y) H(X)。 二、（6分）若连续信源输出的幅度被限定在【2,6】区域内，当输出信号的概率密度是均匀分布时，计算该信源的相对熵，并说明该信源的绝对熵为多少。 三、（16分）已知信源 1234560.20.20.20.20.10.1S s s s s s s P ????=???????? （1）用霍夫曼编码法编成二进制变长码；（6分） （2）计算平均码长L ;（4分） （3）计算编码信息率R ';（2分） （4）计算编码后信息传输率R ;（2分） （5）计算编码效率η。（2分） 四、（10分）某信源输出A 、B 、C 、D 、E 五种符号，每一个符号独立出现，出现概率分别为1/8、1/8、1/8、1/2、1/8。如果符号的码元宽度为0.5s μ。计算： （1）信息传输速率t R 。（5分） （2）将这些数据通过一个带宽为B=2000kHz 的加性白高斯噪声信道传输，噪声的单边功率谱密度为 6010W n Hz -=。试计算正确传输这些数据最少需要的发送功率P 。（5分）
信息论之父—香农 20世纪中叶，信息论、控制论、系统论等标新立异的新理论相继问世，有力地“晃动”着传统的科学框架。克劳德·香农是一位美国数学工程师，作为信息论的创始人，人们认为他是20世纪最伟大的科学家之一。他在通信技术与工程方面的创造性工作，为计算机与远程通信奠定了坚实的理论基础。人们尊崇香农为信息论及数字通信时代的奠基之父。确实，他对人类的贡献超过了一般的诺贝尔获奖者。回顾20世纪的信息革命风暴，经他阐明的信息概念、连同“比特”这个单位已经深入人心，成为今天日常生活都离不开的词汇。 家庭背景 克劳德·香农(Claude Elwood Shannon，1916-2001)1916年4月30日诞生于美国密西根州的Petoskey。在Gaylord小镇长大，当时镇里只有三千居民。父亲是该镇的法官，他们父子的姓名完全相同，都是Claude Elwood Shannon。母亲是镇里的中学校长，姓名是Mabel Wolf Shannon。他生长在一个有良好教育的环境，不过父母给他的科学影响好像还不如祖父的影响大。香农的祖父是一位农场主兼发明家，发明过洗衣机和许多农业机械，这对香农的影响比较直接。此外，香农的家庭与大发明家爱迪生(Thomas Alva Edison，1847-1931)还有远亲关系。 香农的大部分时间是在贝尔实验室和MIT(麻省理工学院)度过的。在“功成名就”后，香农与玛丽(Mary Elizabeth Moore)1949年3月27日结婚，他们是在贝尔实验室相识的，玛丽当时是数据分析员。他们共有四个孩子：三个儿子Robert、James、Andrew Moore和一个女儿Margarita Catherine。后来身边还有两个可爱的孙女。
1. 在无失真的信源中，信源输出由 H (X ) 来度量；在有失真的信源中，信源输出由 R (D ) 来度量。 2. 要使通信系统做到传输信息有效、可靠和保密，必须首先 信源 编码， 然后_____加密____编码，再______信道_____编码，最后送入信道。 3. 带限AWGN 波形信道在平均功率受限条件下信道容量的基本公式，也就是有名的香农公式是log(1)C W SNR =+；当归一化信道容量C/W 趋近于零时，也即信道完全丧失了通信能力，此时E b /N 0为 -1.6 dB ，我们将它称作香农限，是一切编码方式所能达到的理论极限。 4. 保密系统的密钥量越小，密钥熵H (K )就越 小 ，其密文中含有的关于明文的信息量I (M ；C )就越 大 。 5. 已知n ＝7的循环码4 2 ()1g x x x x =+++，则信息位长度k 为 3 ，校验多项式 h(x)= 3 1x x ++ 。 6. 设输入符号表为X ＝{0，1}，输出符号表为Y ＝{0，1}。输入信号的概率分布为p ＝(1/2，1/2)，失真函数为d (0，0) = d (1，1) = 0，d (0，1) =2，d (1，0) = 1，则D min ＝ 0 ，R (D min )＝ 1bit/symbol ，相应的编码器转移概率矩阵[p(y/x )]＝1001?? ???? ；D max ＝ 0.5 ，R (D max )＝ 0 ，相应的编码器转移概率矩阵[p(y/x )]＝1010?? ? ??? 。 7. 已知用户A 的RSA 公开密钥(e,n )=(3,55)，5,11p q ==,则()φn = 40 ，他的秘密密钥(d,n )＝(27,55) 。若用户B 向用户A 发送m =2的加密消息，则该加密后的消息为 8 。 二、判断题 1. 可以用克劳夫特不等式作为唯一可译码存在的判据。 （√ ） 2. 线性码一定包含全零码。 （√ ） 3. 算术编码是一种无失真的分组信源编码，其基本思想是将一定精度数值作为序列的 编码，是以另外一种形式实现的最佳统计匹配编码。 （×） 4. 某一信源，不管它是否输出符号，只要这些符号具有某些概率特性，就有信息量。 （×） 5. 离散平稳有记忆信源符号序列的平均符号熵随着序列长度L 的增大而增大。 （×） 6. 限平均功率最大熵定理指出对于相关矩阵一定的随机矢量X ，当它是正态分布时具 有最大熵。 （√ ） 7. 循环码的码集中的任何一个码字的循环移位仍是码字。 （√ ） 8. 信道容量是信道中能够传输的最小信息量。 （×） 9. 香农信源编码方法在进行编码时不需要预先计算每个码字的长度。 （×） 10. 在已知收码R 的条件下找出可能性最大的发码i C 作为译码估计值，这种译码方 法叫做最佳译码。 （√ ）
统计学的产生与发展简介 人类的统计实践是随着记数活动而产生的。因此，对统计发展的历史可追溯到远古的原始社会。但是，使人类的统计实践上升到理论予以总结和概括成一门系统的科学----统计学，却是近代的事情，距今只有300多年的历史。 从统计学的产生和发展过程来看，大致可以分为三个时期： 萌芽期?近代期?现代期 1．萌芽期（17世纪中叶~18世纪） 主要学派： 国势学派（代表人物为德国的H.Conring和G.Achenwall）； 政治算术学派（代表人物为英国的W.Petty）。 国势学派所做的工作主要是对国家重要事项的记录，因此又称为“记述学派”。严格讲，这一学派的研究对象和研究方法都不符合统计学的要求，但国势学派对统计学的创立和发展作了不少贡献：（1）为这门新兴的学科起了一个至今仍为世界公认的名词：“统计学”（statistics）； （2）提出了至今仍为统计学者所采用的一些术语，如：“显著事项“，“统计数字资料”，“数字对比”等等。 政治算术学派的代表人物W.Petty曾被马克思称为“政治经济学
之父，在某种程度上也可以说是统计学的创始人”。原因就是W.Petty 在他所著的《政治算术》一书中，对当时的英国、荷兰、法国之间的“国富和力量”进行了数量上的计算和比较，做了前人从没有做过的从数量方面来研究社会经济现象的工作。 政治算术学派对统计学的主要贡献： （1）不仅满足于社会经济现象的数量登记、列表、汇总、记述等过程，还要求把这些统计经验加以全面系统地总结， 并从中提炼出某些理论原则。 （2）在搜集资料方面，提出了“大量观察法”、“典型调查”、“定期调查”等思想。 （3）在处理资料方面，广泛运用了分类、制表以及各种指标来浓缩与显现数量资料的内涵信息。 2．近代期（18世纪末~19世纪） 主要学派： 数理统计学派（代表人物为法国的https://www.doczj.com/doc/d417394289.html,place和比利时的A .Quetelet）； 社会统计学派（代表人物为德国的K.G.A.Knies和C.L.E.Engel）。 Laplace是第一个把概率论引进统计学领域的，他是一位天文学家、数学家、统计学家，他对统计学的贡献：
信息科学技术概论课程报告 姓名: 葛坤 专业: 11级电子信息工程A班 学号: 1115102016 日期2013年3月1日—2013年4月26日
一、研究内容 信息科学 信息科学是以信息为主要研究对象，以信息的运动规律和应用方法为主要研究内容，以计算机等技术为主要研究工具，以扩展人类的信息功能为主要目标的一门新兴的综合性学科。 信息科学由信息论、控制论、计算机科学、仿生学、系统工程与人工智能等学科互相渗透、互相结合而形成的。 信息科学技术主要研究信息的产生、获取、存储、传输、处理及其应用。其中以微电子、计算机、软件、通信讯技术为主导，微电子是基础，计算机及通信设施是载体，而软件是核心，是计算机的灵魂。 信息，既是信息科学的出发点，也是它的归宿。具体来说，信息科学的出发点是认识信息的本质和它的运动规律；它的归宿则是利用信息来达到某种具体的目的。 信息概念 信息是人类对自然世界的了解的物化形式，信息的概念可以在两个层次上定义： 1、本体论意义的信息是事物运动的状态和状态变化的方式，即事物内部结构和外部联系的状态和方式。 2、认识论意义的信息是认识主体所感知、表达的相应事物的运动状态及其变化方式，包括状态及其变化方式的形式、含义和效用。 信息并非事物本身，而是表征事物之间联系的消息、情报、指令、数据或信号。 信息的主要特征有：可量度、可识别、可转换、可存储、可处理传递、可再生、可压缩、可利用、可共享、主客体二重性等。 信息的产生、存在和流通，依赖于物质和能量，没有物质和能量就没有能动作用。信息可以控制和支配物质与能量的流动。 数据、信息、知识和智慧 数据是未加工过的“信息”； 信息通过将事实和给定的语境关联而导出； 知识将某语境中的信息和在不同语境中得到的信息相关联； 智慧是从完全不同的知识导出的一般性原理。 信息论概念 信息论是研究信息的产生、获取、变换、传输、存贮、处理识别及利用的学科。信息论还研究信道的容量、消息的编码与调制的问题以及噪声与滤波的理论等方面的内容。信息论还研究语义信息、有效信息和模糊信息等方面的问题。 信息论有狭义和广义之分。狭义信息论即申农早期的研究成果，它以编码理论为中心，主要研究信息系统模型、信息的度量、信息容量、编码理论及噪声理论等。广义信息论又称信息科学，主要研究以计算机处理为中心的信息处理的基本理论，包括评议、文字的处理、图像识别、学习理论及其各种应用。广义信息论则把信息定义为物质在相互作用中表征外部情况的一种普遍属性，
安徽大学2011—2012学年第1学期 《信息论》考试试卷（AB 合卷） 院/系 年级 专业 姓名 学号 一、填空题 1、接收端收到y 后，获得关于发送的符号是x 的信息量是 。 2、香农信息的定义 。 3、在已知事件z Z ∈的条件下，接收到y 后获得关于事件x 的条件互信息(;|)I x y z 的表达式为 。 4、通信系统模型主要分成五个部分分别为： 。 5、研究信息传输系统的目的就是要找到信息传输过程的共同规律，以提高信息传输的可靠性、有效性、 和 ，使信息传输系统达到最优化。 6、某信源S 共有32个信源符号，其实际熵H ∞=1.4比特/符号，则该信源剩余度为 。 7、信道固定的情况下，平均互信息(;)I X Y 是输入信源概率分布()P x 的 型凸函数。 信源固定的情况下，平均互信息(;)I X Y 是信道传递概率(|)P y x 的 型凸函数。 8、当信源与信道连接时，若信息传输率达到了信道容量，则称此信源与信道达到匹配。信道剩余度定义为 。 9、已知信源X 的熵H (X )=0.92比特/符号,则该信源的五次无记忆扩展信源X 5的信息熵 5()H X = 。
10、将∞H ，6H ，0H ，4H ，1H 从大到小排列为 。 11、根据香农第一定理，对于离散无记忆信源S ，用含r 个字母的码符号集对N 长信源符号序列进行变长编码，总能找到一种无失真的唯一可译码，使每个信源符号所需平均码长满足： 。 12、多项式剩余类环[]())q F x f x 是域的充要条件为 。 13、多项式剩余类环[](1)n q F x x -的任一理想的生成元()g x 与1n x -关系为 。 14、有限域12 2F 的全部子域为 。 15、国际标准书号（ISBN ）由十位数字12345678910a a a a a a a a a a 组成（诸i a ∈11F ，满足： 10 1 0(mod11)i i ia =≡∑） ，其中前九位均为0-9，末位0-10，当末位为10时用X 表示。《Handbook of Applied Cryptography 》的书号为ISBN ：7-121-01339- ，《Coding and Information Theory 》的书号为ISBN ：7-5062-3392- 。 二、判断题 1、互信息(;)I x y 与平均互信息(;)I X Y 都具有非负性质。 （ ） 2、离散信源的信息熵是信源无失真数据压缩的极限值。 （ ） 3、对于无噪无损信道，其输入和输出有确定的一一对应关系。 （ ） 4、对于有噪无损信道，其输入和输出有确定的一一对应关系。 （ ） 5、设有噪信道的信道容量为C ，若信息传输率R C >，只要码长n 足够长，必存在一种信道编码和相应的译码规则，使译码平均错误概率E P 为任意小。反之，若R C <则不存在以R 传输信息而E P 为任意小的码。 （ ） 6、在任何信息传输系统中，最后获得的信息至多是信源所提供的信息。如果一旦在某一
信息论发展史和展望 蒲鹤升（020150802） 一、信息论定义 信息论，顾名思义是一门研究信息的处理和传输的科学；即用概率论与数理统计方法来探究信息的度量、传递和变换规律的一门学科。它主要是研究通讯和控制系统中普遍存在着信息传递的共同规律以及研究最佳解决信息的获限、度量、变换、储存和传递等问题的基础理论。信息论将信息的传递作为一种统计现象来考虑，给出了估算通信信道容量的方法，信息传输和信息压缩是信息论研究中的两大领域，这两个方面又由信息传输理论、信源－信道隔离定理相互联系。信息是系统传输和处理的对象，它载荷于语言、文字、图像、数据等之中。这就是现代信息论的出发点。 二、狭义与广义 狭义的信息论是应用数理统计方法来研究信息处理和信息传递的科学，它研究存在于通讯和控制系统中普遍存在着的信息传递的共同规体，以及如何提高各信息传输系统的有效性和可能性的一门通讯理论。狭义信息论是申农氏于1948年创立的，其主要内容就是研究信源、信宿、传递及编码问题，因此它主要应用于通讯工作。后来信息论发展很快，将申农氏信息论的观点做为研究一切问题的理论，即广义信息论。信息论是建立在信息基础上的理论，所谓信息，即人类凭借感觉器官感知的周围一切变化，都可称作信息。 三、相关人物贡献 20世纪通信技术的发展推动了信息理论的研究. 美国科学家H.Nyquist 于1924年解释了信号带宽和信息速率之间的关系 美国科学家L.V.R.Hartley 于1928年开始研究通信系统传输信息的能力，给出了信息的度量方法 美国科学家C.E.Shannon 于1948年发表的著名论文《通信的数学理论》 A Mathematical Theory of Communication奠定了信息论的理论基础 四、各发展阶段 第一阶段：1948年贝尔研究所的香农在题为《通讯的数学理论》的论文中系统地提出了关于信息的论述,创立了信息论. 第二阶段：20世纪50年代,信息论向各门学科发起冲击；60年代信息论进入一个消化、理解的时期,在已有的基础上进行重大建设的时期.研究重点是信息和信源编码问题.
一、概念简答题（每题5分，共40分） 1.什么是平均自信息量与平均互信息，比较一下这两个概念的异同？ 平均自信息为：表示信源的平均不确定度，表示平均每个信源消息所提供的信息量。 平均互信息：表示从Y获得的关于每个X的平均信息量；表示发X前后Y的平均不确定性减少的量；表示通信前后整个系统不确定性减少的量。 2.简述最大离散熵定理。对于一个有m个符号的离散信源，其最大熵是多少？ 最大离散熵定理为：离散无记忆信源，等概率分布时熵最大。 最大熵值为 3.解释信息传输率、信道容量、最佳输入分布的概念，说明平均互信息与信源的概率分布、信道的传递概率间分别是什么关系？ 信息传输率R指信道中平均每个符号所能传送的信息量。信道容量是一个信道所能达到的最大信息传输率。信息传输率达到信道容量时所对应的输入概率分布称为最佳输入概率分布。 平均互信息是信源概率分布的∩型凸函数，是信道传递概率的U型凸函数。 4.对于一个一般的通信系统，试给出其系统模型框图，并结合此图，解释数据处理定理。 数据处理定理为：串联信道的输入输出X、Y、Z组成一个马尔可夫链，且有， 。说明经数据处理后，一般只会增加信息的损失。
5.写出香农公式，并说明其物理意义。当信道带宽为5000Hz，信噪比为30dB时求信道容量。香农公式为 ，它是高斯加性白噪声信道在单位时间内的信道容量，其值取决于信噪比和带宽。 由得，则 6.解释无失真变长信源编码定理。只要，当N足够长时，一定存在一种无失真编码。 7.解释有噪信道编码定理。答：当R＜C时，只要码长足够长，一定能找到一种编码方法和译码规则，使译码错误概率无穷小。 8.什么是保真度准则？对二元信源，其失真矩阵，求a>0时率失真函数的和？答：1）保真度准则为：平均失真度不大于允许的失真度。 2）因为失真矩阵中每行都有一个0，所以有，而。 二、综合题（每题10分，共60分） 1.黑白气象传真图的消息只有黑色和白色两种，求： 1）黑色出现的概率为0.3，白色出现的概率为0.7。给出这个只有两个符号的信源X的数学模型。假设图上黑白消息出现前后没有关联，求熵；