2.贝叶斯决策理论(3学时)
- 格式:ppt
- 大小:3.61 MB
- 文档页数:74


教学大纲
《机器学习理论(双语)》教学大纲
课程编号:111103A
课程类型:□通识教育必修课 □通识教育选修课
□专业必修课 ■专业选修课
□学科基础课
总学时:48 讲课学时:32 实验(上机)学时:16
学 分:3
适用对象:投资学专业
先修课程:金融计算机语言、金融计量学、量化金融学(双语)
一、教学目标
当代投资学越来越多的采用人工智能技术解决复杂投资决策问题。人工智能的理论和技术在当代投资中的地位越来越重要,甚至已有取代传统投资决策和方法技术之趋势,因此投资学专业学生需要系统的学习人工智能理论在金融投资中的应用。人工智能的理论和技术主要来自于机器学习理论。本课程系统的向学生讲授机器学习理论。机器学习理论与计算机编程、统计学以及计量经济学有密切的联系,因此学生在学习本课程前需要有足够的背景知识。本课程将通过介绍机器学习理论,让学生了解如何利用机器学习理论以及人工智能技术进行金融问题研究和进行量化投资决策。该课程是专业必修课中的一门重要课程,是一门跨学科的复合型课程,因此需要学生对各先修学科有扎实的基础,本课程突出学习前沿人工智能理论知识与应用相结合,重点培养学生综合运用跨学科知识进行量化投资。学生在学好本课程后,将对其后续课程以及毕业论文设计帮助巨大,也将增强学生在大数据人工智能时代的就业竞争优势。
目标1:掌握主流和前沿的机器学习理论
目标2:熟练运用机器学习理论结合投资学知识解决具体问题
目标3:融会贯通投资学、统计学、计量经济学、计算机编程以及机器学习理论,提升处理复杂投资决策问题的能力。
目标4:充分了解投资学发展的前沿,了解人工智能与投资学发展逻辑联系。
二、教学内容及其与毕业要求的对应关系
(一)教学内容
《机器学习理论》涉及三大板块知识。即基础理论知识介绍、上机实习和综合运用。在基础知识模块主要介绍和讲授机器学习理论的主要知识框架,包括:监督学习、无监督学习和强化学习,其中监督学习中的若干模型属于精讲内容,无监督学习属于细讲的内容,而强化学习属于粗讲的内容。上机环节主要采用Python、Matlab以及R语言,结合学理论知识,熟练运用计算机语言调用相关理论模型。因为这是一门跨学科复合型课程,在课程的后半段,教学内容将突出综合应用,采取在给定适当投资场景的前提下,以案例分析的形式,让学生构建模型,提升综合能力。案例包括(但不限于):量化投资与智能选股、人工智能与衍生品定价、机器学习理论在股票预测中的应用、强化学习与投资决策、监督学习与信用风险识别等。此外,课程还会从行业发展与产业经济学视角,引导学生了解智能投资以及科技金融行业发展前景与趋势,引导学生思考新兴智能技术对金融投资行业职业的道德操守伦理冲击等前沿前瞻型问题。
《贝叶斯统计(双语)》教学大纲
课程编号:120872B
课程类型:□通识教育必修课 □通识教育选修课
□专业必修课 □√专业选修课
□学科基础课
总 学 时:32 讲课学时:32 实验(上机)学时:0
学 分:2
适用对象:经济统计学
先修课程:微积分、概率论与数理统计学
毕业要求:
1. 应用专业知识,解决数据分析问题
2. 可以建立统计模型,获得有效结论
3. 掌握统计软件及常用数据库工具的使用
4. 关注国际统计应用的新进展
5. 基于数据结论,提出决策咨询建议
6. 具有不断学习的意识
一、课程的教学目标
贝叶斯统计是上世纪50年代后,才迅速发展起来的一门统计理论。目前,在欧美等西方国家,贝叶斯统计已经成为了与经典统计学派并驾齐驱的当今两大统计学派之一;随着贝叶斯理论和方法的不断发展和完善,以及相应的计算软件的研制,贝叶斯方法在实践中获得了日趋广泛的应用;特别是,贝叶斯决策问题在统计应用中占有越来越重要的地位。在商业经济预测、政府宏观经济管理、国防工业中对武器装备系统可靠性评估、生物医学研究;知识发现和数据挖掘技术等都获得了广泛应用。 本课程通过贝叶斯统计的教学使学习过传统的数理统计课程的学生了解贝叶斯统计的基本思想和基本观点,了解贝叶斯统计与传统的数理统计在理论和处理方法上的区别,了解贝叶斯统计的最新进展,能够系统的掌握贝叶斯统计的基本理论、基本方法,特别是贝叶斯统计极具特色的一些处理方法,引进一个效用函数(utility function)并选择使期望效用最大的最优决策,这样就把贝叶斯的统计思想扩展到在不确定时的决策问题。很好的将统计学与最优化的思想方法和技术很好的进行了结合。贝叶斯统计理论和方法技术的学习,不仅能够提高学生分析和解决实际问题的能力,还能够更进一步提高对经典数理统计的深入理解。
二、教学基本要求
根据贝叶斯统计课程的教学内容,本课程将重点介绍贝叶斯统计推断理论,贝叶斯决策理论。并且注重贝叶斯统计处理方法和基本观点与传统数理统计相应内容对比的讲授方式。注重案例教学,安排学生课后查阅文献资料,以及课堂研讨等方式,了解贝叶斯统计理论和应用最新成果及前沿研究进展。对最新贝叶斯网络和贝叶斯统计的方法除了传统讲授方式外,适当的安排上机实验,了解贝叶斯统计相关软件的使用方法。课程的考核方式:期末开卷 + 论文方式,卷面60%,平时和论文40%。
科技视界Science&TechnologyVision
Science&TechnologyVision科技视界1贝叶斯理论的发展总体来说袁贝叶斯理论的发展经历了以下几个阶段院1736年ThomasBayes提出了重要的贝叶斯定理袁1763年其遗著叶论有关机遇问题的求解曳被他的朋友RichardPrice整理发表袁贝叶斯理论的价值才被世人认识袁贝叶斯理论开始莫基遥随后袁Laplace等作了进一步的工作袁目前以他姓名命名的定理的现代形式实际上归功于Laplace遥进入到20世纪50年代袁贝叶斯理论得到了充分发展袁60尧70年代以来袁其发展达到鼎盛时期遥许多专家学者投身于贝叶斯理论的研究和应用推广中来袁力图从不同的角度对贝叶斯理论进行进一步的探讨和研究袁形成了具有多分支的理论系统遥2贝叶斯决策理论贝叶斯理论系统中的另一个重要分支就是贝叶斯决策理论遥贝叶斯决策渊BayesianDecisionTheory冤就是在不完全情报下袁对部分未知的状态用主观概率估计袁然后用贝叶斯公式对发生概率进行修正袁最后再利用期望值和修正概率做出最优决策遥贝叶斯统计理论与最优决策的结合袁首先在商业和社会科学中得到了很大的成功袁其次是在物理尧化学尧生物等学科领域得到了广泛的应用袁如今其概念和方法在社会许多领域得到了广泛应用袁如在工程技术尧管理科学尧系统运筹尧医疗诊断等遥3贝叶斯决策方法简介贝叶斯决策方法主要包括经验贝叶斯决策尧两阶段贝叶斯决策和序贯贝叶斯决策三种方法遥3.1经验贝叶斯(EmpiricalBayes袁简称EB)决策经验贝叶斯决策的主要工具是经验贝叶斯方法袁该方法由VonMises提出袁被Robbins所广泛发展遥其基本思想是在已知状态参数向兹=渊兹1袁兹2袁噎袁兹p冤各分量之间结构关系的前提下袁使用当前抽样数据及有关历史数据对先验分布的一些数字特征进行统计推断遥它在未知兹是低维还是高维时袁处理问题特别有效遥这种方法一般又分为两种:一种是假设兹的先验分布属于某一含有未知超参数的分布族袁通过利用观测数据来估计其中的未知参数袁这种方法称为参数经验贝叶斯方法袁简称PEB方法遥3.2两阶段贝叶斯决策两阶段贝叶斯决策是以先验两阶段确定理论为基础的遥在第一阶段袁记仔1渊兹渣姿冤为参数的未知先验分布袁其中姿为一超参数袁这儿我们不直接对参数兄作估计袁而是代之以元有第二阶段的先验分布仔2渊姿冤袁它可以是一个合适的正常先验袁但常常是选择一个合适的无信息先验遥类似于经验贝叶斯决策袁这种方法也可以分为野可交换冶和野一般意义下的冶两种情况遥3.3序贯贝叶斯决策序贯决策是一种多级决策的方法遥该决策过程是序贯进行的袁类似于序贯概率比检验遥它是在每次试验(或抽样观测)之后袁进行一次统计推断袁看能否决定采取某种行动袁若能袁则做出决策袁否则袁则再进行一次试验遥因此袁序贯决策的目的是在试验次数随机的情况下袁尽可能利用较小的样本进行统计推断遥序贯贝叶斯决策根据不同情况又分为三种院渊1冤最佳固定容量的序贯贝叶斯决策曰渊2冤序贯贝叶斯因子检验法曰(3)决策树法遥决策树用一些标记符号表示决策者所能采取的各种行动路径袁通过树枝状展开袁并利用概率表达其中的可能状态袁经运算得知采取每种行动路径后能够获得的期望值遥4贝叶斯理论与方法的研究进展贝叶斯方法属于风险性决策方法袁决策者虽不能控制客观因素的变化袁但却掌握其变化的可能状况及各种状况的分布概率袁并利用期望值即未来可能出现的平均状况作为决策准则遥不确定性是生活中的常态袁贝叶斯方法不是使决策问题完全无风险袁而是通过其他途径增加信息量使决策中的风险减小遥关于贝叶斯理论与方法的研究以深入到各个方面遥4.1数量遗传学中QTL作图的贝叶斯方法研究在许多复杂情况下.贝叶斯统计方法比经典数理统计方法能更直接解决问题.且可有效整合部分先验信息.但其需要高强度计算的特性曾限制了其广泛应用近几十年来.随着高速计算机的发展以及MCMC算法的不断提出.贝叶斯方法已被用于群体遗传学尧分子进化尧连锁作图和数量遗传学等研究领域.已有许多学者研究了数量遗传学中QTL作图的贝叶斯方法从简单到复杂的遥4.2贝叶斯网络的研究进展贝叶斯网络在经济和医学等领域越来越多的应用日益显示出其发展前途袁这些应用通过正在建成许多应用模型用于预测石油和股票价格尧控制太空飞船和诊断疾病等等不断地渗人我们的社会和经济生活中遥除此之外贝叶斯网络还被应用于信息恢复诊断与故障检测尧工业方面尧电讯通信业尧交通管理尧文化教育和国防系统等各个领域遥在解决许多实际问题中袁我们可以使用贝叶斯网络这样的概率推理技术从不完全的尧不精确的或不确定的知识和信息中做出推理遥4.3贝叶斯数据挖掘算法在反垃圾邮中的研究进展随着互联网络的发展袁垃圾邮件越来越多地充斥着人们的邮箱袁部分学者开始研究现在反垃圾邮件的技术袁研究了用来评价垃圾邮件分类方法的语料库和评价体系袁着重对贝叶斯理论和贝叶斯参数估计理论进行研究袁并取得以下的研究成果院渊1冤在贝叶斯分类器的工作原理基础上袁设计了基于朴素贝叶斯反垃圾邮件模型曰渊2冤在贝叶斯分类器的工作原理基础上袁提出一种新的邮件分类方法要要要贝叶斯参数估计邮件分类袁设计实现了基于贝叶斯参数估计的反垃圾邮件模型曰渊3冤通过对以上两种方法进行邮件过滤实验比较袁证明在邮件分类中基于贝叶斯参数估计分类方法比朴素贝叶斯分类方法具有更高的召回率尧正确率和F值遥基于贝叶斯参数估计的邮件分类算法为解决目前困扰人们的垃圾邮件问题提供了一种新的解决方法和途径遥4.4基于贝叶斯方法的水文模型不确定性研究进展水文过程的发生与发展取决于气象因素和地理因素袁是一个复杂的动态过程;水文模型接受水文尧气象等多种输入袁运用了许多水文模型与参数袁依赖于对输入尧输出信息进行解释的专家们的判断袁这些复杂的因素导致了水文预报必然存在不确定性遥水文模型不确定性是水文预报不确定性的重要来源之一袁该不确定性始终存在并制约着防洪决策的正确性遥水文学家很早就认识到了这一问题袁并试图通过多方面的努力来消除或减少该不确定性遥贝叶斯概率水文预报突破了常规确定性水文模型在信息利用方面的局限性遥经美国国家气象局的实际应用表明:不管水文预报的不确定性有多大袁总可以保证从概率水文预报中获得正的经济效益遥概率水文预报是水文预报发展的必然趋势袁作为预报决策系统的重要组成部分袁必将引起国内外水文界的兴趣和关注遥5结语从1736年出现贝叶斯理论至今袁贝叶斯理论已经发展的较为成熟并被广泛应用于各个领域遥虽然贝叶斯理论在某些领域的研究中还存在一些局限性和风险性袁但是人们越来越感受到贝叶斯理论和方法的重要性遥渊下转第349页冤贝叶斯理论与方法的研究进展高莹1曹宁1雒晓东2渊1援西京学院工程技术系袁陕西西安710123曰2.西安市政设计研究院有限公司袁陕西西安710000冤揖摘要铱本文阐述了贝叶斯理论的发展阶段尧贝叶斯决策理论和贝叶斯决策方法的基本内容袁通过阅读大量的书籍和期刊从中总结出贝叶斯理论与方法在各个领域的研究进展情况袁贝叶斯决策在不完全情报下袁凭借对部分未知的状态用主观概率估计袁然后用贝叶斯公式对发生概率进行修正袁最后再利用期望值和修正概率做出最优决策使贝叶斯技术越来越受到人们的关注遥揖关键词铱贝叶斯理论曰决策理论曰决策方法曰进展
模式识别
课程编码:
课程英文译名:Pattern Recognition
课程类别:学位课
开课对象:模式识别与智能系统开课学期:第2学期
学分: 3 学分;总学时: 48 学时;理论课学时:48 学时;
实验学时:0 学时;上机学时:
先修课程:学习本课程之前,应先学习《概率论》、《线性代数》课程。
教材:《模式识别》清华大学出版社,2000年1月,第二版
参考书:【1】《数字图像处理》 Kenneth.R.Castleman著,朱志刚等译,电子工业出版社 1998年9月
一、课程的性质、目的和任务
《模式识别》是模式识别与智能系统硕士生一门学位课。模式识别就是利用计算机对某些物理现象进行分类,在错误概率最小的条件下,使识别的结果尽量与事物相符。本课程的任务是使学生掌握模式识别的基本原理和方法,了解模式识别在实际系统中的应用。
二、课程的基本要求
通过本课程的学习,要求重点掌握统计模式识别的基本理论和应用。掌握统计模式识别方法中的特征提取和分类决策。掌握特征提取和选择的准则和算法,掌握监督学习的原理以及分类器的设计方法。基本掌握非监督模式识别方法。了解应用人工神经网络和模糊理论的模式识别方法。掌握模式识别的应用和系统设计。
三、教学方式
课程采用教师课堂讲授和学生课外自学相结合的教学方式。教师课堂讲模式识别方面的核心内容,学生通过阅读参考书和文献资料,进一步深入了解课程的最新研究成果。
四、课程的主要教学内容和学时分配
授课时数:48学时
主要内容:
第一章绪论
1.1 模式和模式识别的概念
1.2 模式识别系统
1.3 关于模式识别的一些基本问题
第二章贝叶斯决策理论
2.1 几种常用的决策规则
2.2 正态分布时的统计决策
2.3 分类器的错误率分析
第三章概率密度函数的估计
3.1 参数估计的基本原理
3.2 监督参数估计