《信息论基础》教学大纲

第３４卷第３期　２０１２年６月　电气电子教学学报　ＪＯＵＲＮＡＬ　ＯＦ　ＥＥＥ　Ｖｏ１．３４　Ｎｏ．３　Ｊｕｎ．２０１２　

“信息　Ｉ口　＿、　论＂教学内容和方法的改革　

杨晓萍，钱志鸿，高　博　

（吉林大学通信工程学院，吉林长春１３００２５）　

摘要：本文分析了“信息论”课程的重要性，以及该课程的特点和研究生教学中存在的问题，提出了适合研究生阶段的“信息论”教学大纲。为　灵活课堂教学，结合自己的教学经验，笔者提出了深化概念理解、弱化公式推导，侧重离散信息的概念与编码、带动连续信息的分析与处理等具　体方法，对辅助教学手段的使用给出了一些见解。　关键词：信息论；教学方法；教学改革；课程体系　中图分类号：ＴＮ９１１．２；Ｇ６４２．４　文献标识码：Ａ　文章编号：１００８－０６８６（２０１２）０３－００３６－０３　

Ｒｅｆｏｒｍ　ｏｆ　Ｔｅａｃｈｉｎｇ　Ｃｏｎｔｅｎｔｓ　ａｎｄ　Ｔｅａｃｈｉｎｇ　Ｍｅｔｈｏｄｓ　

ｉｎ　ｔｈｅ　Ｃｏｕｒｓｅ　ｏｆ　Ｉｎｆｏｒｍａｔｉｏｎ　Ｔｈｅｏｒｙ　

ＹＡＮＧ　Ｘｉａｏ－ｐｉｎｇ，ＱＩＡＮ　Ｚｈｉ－ｈｏｎｇ，ＧＡＯ　Ｂｏ　（Ｃｏｌｌｅｇｅ　ｏｆ　Ｃｏｍｍｕｎｉｃａｔｉｏｎ　Ｅｎｇｉｎｅｅｒｉｎｇ，Ｊｉｌｉｎ　而ｅ　，Ｃｈａｎｇｃｈｕｎ　１３００２５，Ｃｈｉｎａ）　

Ａｂｓｔｒａｃｔ：Ｓｉｇｎｉｆｉｃａｎｃｅ，ｃｈａｒａｃｔｅｒｉｓｔｉｃｓ　ａｎｄ　ｄｉｆｉｃｕｌｔｉｅｓ　ｏｆ　ｔｈｅ　ｃｏｕｒｓｅ　ｏｆ　Ｉｎｆｏｒｍａｔｉｏｎ　Ｔｈｅｏｒｙ　ｆｏｒ　ｇｒａｄｕａｔｅｄ　ｓｔｕｄｅｎｔｓ　

ａｒｅ　ｄｉｓｃｕｓｓｅｄ．Ｔｈｅ　ｔｅａｃｈｉｎｇ　ｏｕｔｌｉｎｅ　ｏｆ　Ｉｎｆｏｒｍａｔｉｏｎ　Ｔｈｅｏｒｙ　ｆｏｒ　ｇｒａｄｕａｔｅｄ　ｓｔｕｄｅｎｔｓ　ｉｓ　ｐｒｏｐｏｓｅｄ．Ｉｎ　ｏｒｄｅｒ　ｔｏ　ｂｒｉｓｋ　ｔｈｅ　ｃｏｕｒｓｅ　ｌｅｃｔｕｒｅｓ，ｗｅ　ｓｕｍｍａｒｉｚｅ　ｔｅａｃｈｉｎｇ　ｅｘｐｅｒｉｅｎｃｅ　ｏｆ　ｏｕｒｓｅｌｖｅｓ，ａｎｄ　ｐｒｅｓｅｎｔ　ｔｈｅ　ｍｅｔｈｏｄｓ　ｏｎ　ｄｅｅｐｅｎｉｎｇ　ｃｏｎｃｅｐｔ　

《机器学习》课程教学大纲

课程中文名称：机器学习

课程英文名称：Machine Learning

适用专业： 计算机应用技术，管理科学与工程

总学时： 36 （讲课： 28 ，实验：8 ） 学分：2

大纲撰写人： 大纲审核人：

编写日期：

一、 课程性质及教学目的：

本课程是面向计算机与信息工程学院研究生开设的专业基础课。其教学重点是使学生掌握常见机器学习算法，包括算法的主要思想和基本步骤，并通过编程练习和典型应用实例加深了解；同时对机器学习的一般理论，如假设空间、采样理论、计算学习理论，以及无监督学习和强化学习有所了解。

二、对选课学生的要求：

要求选课学生事先受过基本编程训练，熟悉C/C++或Matlab编程语言，具有多元微积分、高等代数和概率统计方面基本知识。

三、课程教学内容和要求（200字左右的概述，然后给出各“章”“节”目录及内容简介）

1. 决策论与信息论基础：

a) 损失函数、错分率的最小化、期望损失的最小化等

b) 相对熵、互信息

2. 概率分布：

a) 高斯分布、混合高斯分布、Dirichlet分布、 beta分布等

b) 指数分布族：最大似然估计、充分统计量、共轭先验、无信息先验等

c) 非参数方法：核密度估计、近邻法

3. 回归的线性模型：

a) 线性基函数模型

b) 贝叶斯线性回归

c) 贝叶斯模型比较

4. 分类的线性模型：

a) 判别函数：二分类和多分类的Fisher线性判别

b) 概率生成模型：连续输入、离散特征

5. 核方法：

a) 对偶表示 b) 构造核函数

c) 径向基函数网络：Nadaraya-Watson模型

d) 高斯过程：高斯过程模型用于回归和分类、Laplace逼近、与神经网络的联系

6. 支持向量机：

a) 最大边缘分类器：历史回顾

b) 用于多分类和回归的支持向量机：几何背景、各种变种

c) 统计学习理论简介：Vapnik等人的工作

信息论基础

适用专业名称：电子信息（电子与通信工程）、信息与通信工程（信号与信息处理）

参考书目：

《信息论与编码》（第3版）曹雪虹、张宗橙编著 清华大学出版社 2016年

一、考试目的与要求

测试考生掌握信息论基础的基本原理和基本方法，以及应用信息论基本原理与方法解决实际问题的能力。考生应全面了解信息论基础的基本内容、最新技术和发展方向，理解单符号离散信源、单符号离散信道、离散信道的信道容量、多符号离散信源、多符号离散信信道、无失真信源编码和有噪信道编码等相关内容的基本原理。

二、试卷结构（满分50分）

题型比例： 1．名词解释 约20%

2．简答题 约25%

3．计算题 约25%

4．综合题 约30%

三、考试内容与要求

（一）绪论

信息与信息科学,通信系统的基本模型,信息论发展史,信息科学与通信的关系（了解）

（二）单符号离散信源

单符号离散信源的数学模型（了解，核心）

自信息和信息函数（了解，核心）

信息熵（理解，核心）

《高等数学基础》教学大纲

第一部分 大纲说明

一、课程的作用与任务

“高等数学基础”课程是中央广播电视大学建筑施工与管理专业的一门必修的重要基础理论课，是为培养社会主义建设需要的大专工程技术和工程管理人才服务的。

通过本课程的学习，使学生系统地获得一元函数微分学、积分学的基本知识，掌握必要的基础理论和常用的计算方法，使学生初步受到用数学方法解决实际问题的能力训练。

通过各个教学环节，逐步培养学生的抽象概括问题的能力、逻辑推理能力、自学能力，较熟练的运算能力和综合运用所学知识分析问题、解决问题的能力。为学生学习后续课程和进一步获得近代科学技术知识奠定必要的数学基础。

二、课程的教学基本要求

1．微积分是研究变量变化的一门科学，它所研究的对象是事物运动、变化过程中变量间相互依赖的函数关系。使学生建立变量的思想，认识到学好函数关系的重要性。 2．使学生对极限的思想和方法有初步认识，对静止与变化、量变与质变以及有限与无限等辩证关系有初步的了解。使学生初步掌握微积分的基本知识、基本理论和基本技能，培养学生辩证唯物主义观点，受到运用变量数学方法解决一些较简单的实际问题的初步训练，为学习其它课程和今后工作的需要，打下必要的基础。

3．通过无穷级数的学习，使学生对有限与无限、合成与分解的辩证关系有一个初步的了解。掌握一些有关的基本知识。

三、课程的教学要求层次

教学要求中，有关定义、定理、性质、特征等概念的内容按“知道、了解和理解”三个层次要求；有关计算、解法、公式和法则等方法的内容按“会、掌握、熟练掌握”三个层次要求。

第二部分 学时、教学安排、教材与教学环节

一、学时分配

本课程共3学分，课内学时54，其中电视课学时53，VCD学时17，学时分配如下：

项目 内容 课内

学时 电视

学时 VCD

学时 非电视

学时

一元函数微分学

第1章 函 数 6 4 1 1

第2章 极限与连续 10 6 3 2

第3章 导数与微分 12 10 4 3