系统辨识研究生期末结课作业-中北大学-余红英老师
- 格式:docx
- 大小:135.98 KB
- 文档页数:15
互动反馈系统IRS在课堂教学中的应用研究以《教育传播学》为例分类号密级U D C编号 10736硕士学位论文互动反馈系统(IRS )在课堂教学中的应用研究?? 以《教育传播学》为例硕士研究生:杨冠英指导教师:王卫军副教授专业名称: 教育技术学研究方向: 信息技术与教育二○一三年六月硕士学位论文M.D. Thesis互动反馈系统(IRS )在课堂教学中的应用研究 ??以《教育传播学》为例The Research on Application of Interactive ResponseSystem in Classroom Instruction:take Educational Communication for instance杨冠英Yang Guanying西北师范大学Northwest Normal University二○一三年六月June, 2013西北师范大学研究生学位论文作者信息论文题目姓名学号专业名称答辩日期 E-mail通信地址邮编 : 备注:目录摘要IAbstract II第 1 章引言11.1 研究背景及问题的提出 11.1.1 课程改革的迫切需求11.1.2 学习环境的巨大变革. 21.1.3 传统课堂教学信息反馈存在的问题. 31.2 研究目的和意义61.2.1 研究目的 61.2.2 研究意义 71.3 相关研究综述 81.3.1 互动反馈系统的相关理论研究 81.3.2 互动反馈系统的教学实践研究. 101.4 研究思路与方法 111.4.1 研究思路. 111.4.2 研究方法. 12第 2 章互动反馈系统(IRS )在课堂教学中应用的理论基础13 2.1 相关概念界定132.1.1 互动反馈技术132.1.2 1 ∶1 数字学习132.1.3 互动反馈教学142.2 关于互动反馈系统(IRS ). 142.2.1 IRS 的内涵. 142.2.2 IRS 的技术特性152.2.3 IRS 的教学功能162.3 理论基础. 182.3.1 反馈理念182.3.2 互动理念. 182.3.3 教育传播理论 19第 3 章互动反馈系统(IRS )在课堂教学中的应用实践. 20 3.1 研究设计. 203.1.1 研究目的203.1.2 活动设计203.1.3 资源设计223.2 组织实施. 253.2.1 活动组织253.2.2 活动实施263.2.3 活动总结反思 333.3 调查结果 333.3.1 学习能力的发展333.3.2 学习方式的变化393.3.3 学习态度的转变423.4 小结 47第 4 章互动反馈系统(IRS )在课堂教学中的应用策略. 48 4.1 IRS 的使用策略. 484.1.1 IRS 的阶段使用策略. 484.1.2 信息反馈优化策略. 494.2 IRS 的问题设计策略514.2.1 “激发兴趣、主动参与”的问题设计 524.2.2 “反馈测验、评价调控”的问题设计 534.2.3 “思维引导、构建新知”的问题设计 544.3 IRS 的教学操作策略554.3.1 对于高通过率问题,开展课堂对话 554.3.2 对于中通过率问题,开展课堂辩论 564.3.3 对于低通过率问题,进行分步引导 574.4 IRS 的教学评价策略574.4.1 利用 IRS 测验,开展形成性评价. 584.4.2 利用反馈数据,生成形成性评价. 58第 5 章总结与展望 605.1 研究认识. 605.2 研究不足与进一步研究方向615.2.1 IRS 教学应用方面. 615.2.2 IRS 系统自身技术与功能方面 62参考文献..IV附录VII攻读硕士学位期间的研究成果 VIII后记.IX图目录图 1-1 CATAALYST 的理论模型 8图 1-2 互动反馈系统(IRS )在课堂教学中的应用研究思路及流程图12 图 2-1 IRS 基本体系结构. 15图 3-1 IRS 课堂教学应用实践的活动设计结构图 21图 3-2 必答题中的单选题23图 3-3 必答题中的多选题23图 3-4 抢答题开始界面 24图 3-5 抢权活动开始界面25图 3-6 必答题题干和选项 27图 3-7 学生利用遥控器回答问题 27图 3-8 超过答题规定时间显示“pause ”28图 3-9 IRS 统计显示学生的答题情况28图 3-10 抢答提示画面 29图 3-11 抢答成功后的提示画面29图 3-12 抢权提示画面30图 3-13 抢权成功后的提示画面. 30图 3-14 选择活动模式31图 3-15 淘汰赛开始提示画面32图 3-16 淘汰学生的编号在屏幕下方消失. 32图 3-17 恢复被淘汰学生作答权的提示画面 32图 3-18 被淘汰学生的作答权已恢复33图 3-19 学生在 IRS 课堂中的学习注意力 34图 3-20 学生在 IRS 课堂中的学习理解力 35图 3-21 学生在 IRS 课堂中的学习记忆力 36图 3-22 学生在 IRS 课堂中的学习反思力 37图 3-23 学生对 IRS 课堂中探究学习的认识39图 3-24 学生对 IRS 课堂中自主学习的认识40图 3-25 学生对 IRS 课堂中协作学习的认识41图 3-26 学生对利用 IRS 开展教学的态度 42图 3-27 利用 IRS 开展教学后对《教育传播学》的兴趣 43 图 3-28 学生使用 IRS 开展教学的心理感受44图 3-29 学生对于 IRS 使用方式的认识. 45图 4-1 学生答题各选项统计图 49图 4-2 “激发兴趣、主动参与”的问题 52图 4-3 “反馈测验、评价调控”的问题 53图 4-4 预设的 IRS 问题 54图 4-5 补充选项及统计结果. 54图 4-6 “教育传播环境”的相关测试题及统计结果55图 4-7 “教育传播符号”的相关测试题及统计结果56图 4-8 “教育传播效果”的相关测试题及统计结果57图 4-9 2010 级教育技术学 1 班的活动成绩统计报表. 58图 4-10 “个人成绩追踪表”截图. 59图 4-11 个人历次成绩统计折线图. 59表目录表 1-1 互动反馈技术与认知学习结构模型9表 1-2 本研究中采用的研究方法及用途 12表 3-1 IRS 的教学应用为学生学习带来的变化. 20表 3-2 “教育传播效果”单元的内容分析. 22表 3-3 平时课堂与 IRS 课堂观察表. 39表 3-4 学生的课堂表现 46表 4-1 互动反馈技术对传统课堂中信息反馈的优化. 50摘要本研究以互动反馈系统 (IRS ) 的课堂教学应用为主要研究对象, 以理论指导实践、实践完善理论的方式开展研究。
论文系统辨识姿态角控制1.系统辨识概述辨识、状态估计和控制理论是现代控制理论三个相互渗透的领域。
辨识和状态估计离不开控制理论的支持,控制理论的应用又几乎不能没有辨识和状态估计技术。
随着控制过程复杂性的提高,控制理论的应用日益广泛,但其实际应用不能脱离被控对象的数学模型。
然而在大多数情况下,被控对象的数学模型是不知道的,或者在正常运行期间模型的参数可能发生变化,因此利用控制理论去解决实际问题时,首先需要建立被控对象的数学模型。
系统辨识正是适应这一需要而形成的,他是现代控制理论中一个很活跃的分支。
社会科学和自然科学领域已经投入相当多的人力去观察、研究有关的系统辨识问题。
系统辨识是建模的一种方法,不同的学科领域,对应着不同的数学模型。
从某种意义上来说,不同学科的发展过程就是建立他的数学模型的过程。
辨识问题可以归结为用一个模型来表示可观系统(或将要改造的系统)本质特征的一种演算,并用这个模型吧对客观系统的理解表示成有用的形式。
当然可以刻有另外的描述,辨识有三个要素:数据,模型类和准则。
辨识就是按照一个准则在一组模型类中选择一个与数据拟合得最好的模型。
总而言之,辨识的实质就是从一组模型类中选择一个模型,按照某种准则,使之能最好地拟合所关心的实际过程的静态或动态特性。
通过辨识建立数学模型的目的是估计表征系统行为的重要参数,建立一个能模仿真实系统行为的模型,用当前可测量的系统的输入和输出预测系统输出的未来演变,以及设计控制器。
对系统进行分析的主要问题是根据输入时间函数和系统的特性来确定输出信号。
对系统进行控制的主要问题是根据系统的特性设计控制输入,使输出满足预先规定的要求。
而系统辨识所研究的问题恰好是这些问题的逆问题。
通常,预先给定一个模型类{}M(即给定一类已知结构的模型),一类输入信号u和等价准则(,)JLyyM(一般情况下,J是误差函数,是过程输出y和模型输出yM的一个泛函);然后选择是误差函数J达到最小的模型,作为辨识所要求的结果。
1、系统辨识——连续系统传递函数——脉冲传递函数function h=Continuous_system_transferFcn(N,G,dt)% N——系统阶数% G——采样数据(个数大于等于2N+1)% G为一维行向量% dt——采样间隔if nargin<3errordlg('not enough input varibles','error hint');elseg_NN=zeros(N,N);for i=1:Ng_NN(i,:)=G(i+1:i+1+N-1);endg_N=-G(1:N)';a=inv(g_NN)*g_N;%% x的求解syms xfor i=1:NX(i)=x^i;endf=X*a+1;x=double(solve(f));%%极点的求解p=log(x)/dt;c_NN=zeros(N,N);for i=1:Nc_NN(i,:)=x.^(i-1);endc_N=G(1:N)';%%增益求解k=inv(c_NN)*c_N;pkz=zeros(1,N);p=p';k=k';Continuous_TransferFcn=0;for i=1:NContinuous_TransferFcn=Continuous_TransferFcn+zpk(z(i),p(i),k(i)); endContinuous_TransferFcnendend例题 3.1(P32)>>G=[0 0.1924 0.2122 0.1762];>> N=2;>> dt=1;>> Continuous_system_transferFcn(N,G,dt) p =-0.4934-0.7085k =1.6280-1.6280Continuous_TransferFcn =0.35024 s---------------------(s+0.4934) (s+0.7085)Continuous-time zero/pole/gain model.习题3.2(P34)>> G=[0 0.196 0.443 0.624 0.748 0.831]; >> N=3;>> dt=0.2;>> Continuous_system_transferFcn(N,G,dt) p =-0.0633-1.7846-11.1860k =1.1249-1.33990.2150Continuous_TransferFcn =-0.08507 s (s-253.1)-------------------------------(s+0.06329) (s+1.785) (s+11.19) Continuous-time zero/pole/gain model.2 系统辨识——离散系统传递函数——脉冲传递函数function h=Discrete_system_transferFcn(N,G,dt)% N——系统阶数% G——采样数据(个数大于等于2N+1)% G为一维行向量% dt——采样间隔if nargin<3errordlg('not enough input varibles','error hint');elseg_NN=zeros(N,N);for i=1:Ng_NN(i,:)=G(i+1:i+1+N-1);endg_N=-G(N+2:2*N+1)';a1=inv(g_NN)*g_N;a=zeros(N,1);for j=1:Na(j,1)=a1(N+1-j,1);endB=zeros(N+1,N+1);B=diag(linspace(1,1,N+1));for i=1:N+1for j=1:N+1if (i==j)&(i<N+1)&(j<N+1)B(i+1:N+1,j)=a(1:N+1-i,1);endendendg__N=G(1:N+1)';b=B*g__N;abnum=b';den=[1 a'];Discrete_TransferFcn=tf(num,den,dt);Discrete_TransferFcnendend例题 3.2(P33)>> G=[0 7.157039 9.491077 8.563839 5.930506 2.845972 0.144611]; >> N=3;>> dt=0.05;>> Discrete_system_transferFcn(N,G,dt)a =-2.23001.7606-0.4950b =7.1570-6.4691-0.0009Discrete_TransferFcn =7.157 z^2 - 6.469 z - 0.0008933--------------------------------z^3 - 2.23 z^2 + 1.761 z - 0.495Sample time: 0.05 secondsDiscrete-time transfer function.习题3.3(P34)>> G=[10 6.989 4.711 3.136 2.137 1.559 1.252 1.096 0.938 0.860]; >> N=3;>> dt=0.1;>> Discrete_system_transferFcn(N,G,dt)a =-2.19191.7166-0.4794b =10.0000-14.92956.55810.0139Discrete_TransferFcn =10 z^3 - 14.93 z^2 + 6.558 z + 0.01389--------------------------------------z^3 - 2.192 z^2 + 1.717 z - 0.4794Sample time: 0.1 secondsDiscrete-time transfer function.。
第46卷 第1期2024年1月系统工程与电子技术SystemsEngineeringandElectronicsVol.46 No.1January 2024文章编号:1001 506X(2024)01 0237 08 网址:www.sys ele.com收稿日期:20221024;修回日期:20230418;网络优先出版日期:20230703。
网络优先出版地址:https:∥kns.cnki.net/kcms2/detail/11.2422.TN.20230703.1351.004.html 通讯作者.引用格式:邵松世,刘海涛,袁昊稢,等.多状态系统任务成功性仿真评估[J].系统工程与电子技术,2024,46(1):237 244.犚犲犳犲狉犲狀犮犲犳狅狉犿犪狋:SHAOSS,LIUHT,YUANHJ,etal.Simulationevaluationformissionsuccessofmulti statesystem[J].SystemsEngineeringandElectronics,2024,46(1):237 244.多状态系统任务成功性仿真评估邵松世1,刘海涛2,袁昊稢2, ,张志华1(1.海军工程大学舰船与海洋学院,湖北武汉430033;2.海军工程大学基础部,湖北武汉430033) 摘 要:针对多状态系统任务成功性评估问题,通过对系统运行规则进行分析,将其状态分为成功态和失败态两类。
在计算系统状态持续时间分布和不同状态之间转移概率的基础上,利用半马尔可夫过程,建立系统运行的状态转移模型。
通过分析使用、维修和保障资源约束的作用机理,对多状态系统任务成功性评估进行仿真设计。
最后,结合示例验证了所提方法的可行性和有效性。
关键词:多状态系统;任务成功性;状态转移;仿真模型中图分类号:E92 文献标志码:A 犇犗犐:10.12305/j.issn.1001 506X.2024.01.27犛犻犿狌犾犪狋犻狅狀犲狏犪犾狌犪狋犻狅狀犳狅狉犿犻狊狊犻狅狀狊狌犮犮犲狊狊狅犳犿狌犾狋犻 狊狋犪狋犲狊狔狊狋犲犿SHAOSongshi1,LIUHaitao2,YUANHaojie2, ,ZHANGZhihua1(1.犆狅犾犾犲犵犲狅犳犖犪狏犪犾犃狉犮犺犻狋犲犮狋狌狉犲牔犗犮犲犪狀犈狀犵犻狀犲犲狉犻狀犵,犖犪狏犪犾犝狀犻狏犲狉狊犻狋狔狅犳犈狀犵犻狀犲犲狉犻狀犵,犠狌犺犪狀430033,犆犺犻狀犪;2.犇犲狆犪狉狋犿犲狀狋狅犳犉狌狀犱犪犿犲狀狋犪犾狊,犖犪狏犪犾犝狀犻狏犲狉狊犻狋狔狅犳犈狀犵犻狀犲犲狉犻狀犵,犠狌犺犪狀430033,犆犺犻狀犪) 犃犫狊狋狉犪犮狋:Toevaluatethemissionsuccessofmulti statesystem,throughananalysisoftheprincipleofsystemoperating,thesystemstateisclassifiedintosuccessfulstateandfailstate.Bygivingthedurationdistributionofsystemstatesandtransitionprobabilitybetweendifferentstates,usingsemi Markovprocess,thesystemrunningstatetransfermodelisestablished.Byanalyzingthemechanismofuse,maintenanceandsupportresourceconstraints,simulationdesignformissionsuccessevaluationofmulti statesystemispresented.Finally,thefeasibilityandeffectivenessoftheproposedmethodareverifiedthroughexamples.犓犲狔狑狅狉犱狊:multi statesystem;missionsuccess;statetransition;simulationmodel0 引 言任务成功性是描述装备/系统性能的一项重要指标,主要反映装备/系统在开始时处于可用状态的情况下,在规定的任务剖面中完成规定功能的能力[15],常用任务成功概率(missionsuccessprobability,MSP)来度量。
Journal of N anning College for V ocational T echnology 2021年第29卷第2期2021V o l.29N o.2高职毕业生就业能力模型构建及实践研究章雁峰,杨芬(浙江育英职业技术学院商务贸易分院,浙江杭州310018)1幸商要]2020年新冠肺炎疫情导致高职毕业生就业困难,如何提升高职毕业生就业能力受到社会的广泛关注。
其中高职院校的培养环节是影响高职毕业生就业能力的重要因素。
文章在USEM就业能力模型的基础上构建了 适合高职毕业生的“高职毕业生就业能力模型”,包括心理素质、知识迁移能力、职业素养、职业技能四个维度。
对 浙江省4所高职院校430名学生的就业能力进行回归分析,实证研究的结果表明,教师水平、学生学习参与、专业 设置、参与社会实践、校企合作、就业指导是提升毕业生就业能力的关键性因素。
结合研究结果,本文提出高职院 校拓宽高职毕业生就业通路、深化产教融合、优化网络招聘平台、引导毕业生转变就业观念、精准开展就业指导 等建设性意见。
[关键词]就业能力模型;高职毕业生;就业能力[中图分类号]G434 [文献标识码]A[文章编号]1009-3621 (2021 >02-0032-06—、弓I言《2020年大学生就业力报告》(以下简称《报 告》)显示,2020年我国大学毕业生人数预计将达到 874万人,比2019年增加40万人。
其中,高职毕业生 约为385万人。
如果算上往年未就业人数,这个数字 预计将达到900万%受新冠肺炎疫情影响,企业的用工需求下降,高职毕业生就业形势日益严峻。
就业市场上毕业生 供给和企业需求之间的“就业鸿沟”不断加深。
高职 毕业生就业难的原因除了企业对高校毕业生需求 总量下降之外,高职毕业生自身的知识储备、专业 技能和自身素养与企业对高职毕业生的要求之间 存在着差异。
不少学者认为,大学生找不到合适工作的重要 原因是自身的就业能力严重不足。
电力系统及其自动化学报Proceedings of the CSU-EPSA Vol.31No.2 Feb.2019第31卷第2期2019年2月实现全程质量评价与盲评的“我问你答”教学活动的设计余晓丹1,2,贾宏杰1,2,李桂丹2(1.天津大学智能电网教育部重点实验室,天津300072;2.天津大学电气自动化与信息工程学院,天津300072)摘要:为改进学生自拟题目这一作业形式的不足,设计了“我问你答”系列教学活动。
活动设计包括了角色与任务设计、环节与流程设计、评价机制设计和活动工作页设计,并将拟题、答题、评分和讨论修正环节统合一体,将质量盲评嵌入各关键环节,从而形成全程以学生为主体的问-答-评一体化的系列教学活动。
通过在天津大学电路课程的实践表明,该方法能让学生对所学知识进行充分整合和深化,在减少教师工作量的同时,其教学效果非常显著。
关键词:教学活动设计;全程质量评价;盲评;工作页;电路课程中图分类号:G642.4文献标志码:B文章编号:1003-8930(2019)02-0144-07DOI:10.3969/j.issn.1003-8930.2019.02.022Design for Teaching Project of“Answer My Question”with Process Evaluation andDouble-blind Peer ReviewYU Xiaodan1,2,JIA Hongjie1,2,LI Guidan2(1.Key Laboratory of Smart Grid of Ministry of Education,Tianjin University,Tianjin300072,China;2.School of Electrical and Information Engineering,Tianjin University,Tianjin300072,China)Abstract:To overcome the disadvantages in the form of self-designed assignment by students,a teaching project named“Answer my question”is designed in this paper.The design activities include design for character and task,links and flowchart,evaluation mechanism,and worksheet.Moreover,the links of question formulation,answering,evaluation,discussion,and correction are integrated,with double-blind peer review embedded into every key link.In this way,a series of teaching activities are formed with the integration of questioning-answering-evaluation,in which students work as the main body.Through the teaching practices of an electrical circuit course at Tianjin University,it is indicated that this teaching project can provide opportunities for students to fully integrate and deepen the knowledge they have learned while reducing teachers’workload,showing a significant teaching effect.Keywords:teaching project design;process evaluation;double-blind peer review;worksheet;electrical circuit course伴随着信息技术、人工智能技术等新技术的发展,很多高校教师都在尝试为教学引入新工具和新手段,即使是企业,在进行员工教育和技术培训时,也需要创新性的方法。
钱梦龙的教育理念对我国语文课程改革的借鉴价值作者:聂鸿英来源:《吉林省教育学院学报·上旬刊》 2017年第10期聂鸿英(延边大学,吉林延边 133002)摘要:“三主四式” 是上个世纪80年代,由钱梦龙提出的语文教育理论和实践教学法,不仅在那个时代引起广泛重视和好评,就是对目前的语文课程改革也有较大的借鉴价值。
关键词:钱梦龙;教育理念;语文课程改革;借鉴价值doi:10.16083/ki.1671—1580.2017.10.023中图分类号: G420 文献标识码: A 文章编号: 1671—1580 (2017) 10—0071—03收稿日期: 2017—04—11作者简介:聂鸿英(1966—),女,吉林延吉人,延边大学,副教授,硕士。
研究方向:学科语言教学。
一、钱梦龙主要教育理念钱梦龙,1931年生,江苏省人,特级教师。
他对我国语文教学和语文课程改革做出杰出贡献。
最具代表性的是他的“三主” “四式” 语文教学理念。
(一)“三主” 即以“学生为主体,教师为主导,训练为主线”1.以学生为主体。
钱先生认为在教学中必须发挥学生的主观能动性,学生是我们教学的主体,必须做到心中有学生,语文教师的“教” ,必须是以学生的“学” 为根本出发点。
把学习的主动权还给学生,学生只有把自己当成学习的主人,主动去探索求知,才能更好地完成教学目的,达到最好的教学效果。
在80年代,这种提法可谓极具先见之明。
新一轮的教学改革,新课程标准中就明确提出,语文教学中要确定学生的主体地位。
联合国教科文组织在《学会生存——教育世界的今天和明天》中也指出:“未来的学校必须把教育的对象变成自我教育的主体;受教育者将依靠自己征服知识而获得教育。
” 这应该是当下每个教育者工作者的追求——以学生为主体。
2.以教师为主导。
这里的主导,绝不标志老师在教学中是绝对的权威,不顾学生的认识规律。
教师的主导,是引导,在确定学生主体地位同时,根据学生的心理、发展特点,正确引导学生掌握所学知识,变知识为能力。
BP神经网络(一)定义误差反向传播的BP算法简称BP算法,其基本思想是梯度下降法。
它采用梯度搜索技术,以期使网络的实际输出值与期望输出值的误差均方值为最小。
(二)BP网络特点1)是一种多层网络,包括输入层、隐含层和输出层;2)层与层之间采用全互连方式,同一层神经元之间不连接;3)权值通过δ学习算法进行调节;4)神经元激发函数为S函数;5)学习算法由正向传播和反向传播组成;6)层与层的连接是单向的,信息的传播是双向的。
(三)BP主要应用回归预测(可以进行拟合,数据处理分析,事物预测,控制等)、分类识别(进行类型划分,模式识别等),但无论那种网络,什么方法,解决问题的精确度都无法打到100%的,但并不影响其使用,因为现实中很多复杂的问题,精确的解释是毫无意义的,有意义的解析必定会损失精度。
(四)BP网络各种算法的应用范围1)Traingd:批梯度下降训练函数,沿网络性能参数的负梯度方向调整网络的权值和阈值;2)Traingdm:动量批梯度下降函数,也是一种批处理的前馈神经网络训练方法,不但具有更快的收敛速度,而且引入了一个动量项,有效避免了局部最小问题在网络训练中出现;3)Trainrp:有弹回的BP算法,用于消除梯度模值对网络训练带来的影响,提高训练的速度(主要通过delt_inc和delt_dec来实现权值的改变);4)Trainlm:Levenberg-Marquardt算法,对于中等规模的BP神经网络有最快的收敛速度,是系统默认的算法.由于其避免了直接计算赫赛矩阵,从而减少了训练中的计算量,但需要较大内存量.;5)traincgb:Plwell-Beale算法:通过判断前后梯度的正交性来决定权值和阈值的调整方向是否回到负梯度方向上来;6)trainscg:比例共轭梯度算法:将模值信赖域算法与共轭梯度算法结合起来,减少用于调整方向时搜索网络的时间。
一般来说,traingd和traingdm是普通训练函数,而traingda,traingdx,traingd,trainrp,traincgf,traincgb,trainsc g,trainbgf等等都是快速训练函数.总体感觉就是训练时间的差别比较大,还带有精度的差异。
BP神经网络(一)定义误差反向传播的BP算法简称BP算法,其基本思想是梯度下降法。
它采用梯度搜索技术,以期使网络的实际输出值与期望输出值的误差均方值为最小。
(二)BP网络特点1)是一种多层网络,包括输入层、隐含层和输出层;2)层与层之间采用全互连方式,同一层神经元之间不连接;3)权值通过δ学习算法进行调节;4)神经元激发函数为S函数;5)学习算法由正向传播和反向传播组成;6)层与层的连接是单向的,信息的传播是双向的。
(三)BP主要应用回归预测(可以进行拟合,数据处理分析,事物预测,控制等)、分类识别(进行类型划分,模式识别等),但无论那种网络,什么方法,解决问题的精确度都无法打到100%的,但并不影响其使用,因为现实中很多复杂的问题,精确的解释是毫无意义的,有意义的解析必定会损失精度。
(四)BP网络各种算法的应用范围1)Traingd:批梯度下降训练函数,沿网络性能参数的负梯度方向调整网络的权值和阈值;2)Traingdm:动量批梯度下降函数,也是一种批处理的前馈神经网络训练方法,不但具有更快的收敛速度,而且引入了一个动量项,有效避免了局部最小问题在网络训练中出现;3)Trainrp:有弹回的BP算法,用于消除梯度模值对网络训练带来的影响,提高训练的速度(主要通过delt_inc和delt_dec来实现权值的改变);4)Trainlm:Levenberg-Marquardt算法,对于中等规模的BP神经网络有最快的收敛速度,是系统默认的算法.由于其避免了直接计算赫赛矩阵,从而减少了训练中的计算量,但需要较大内存量.;5)traincgb:Plwell-Beale算法:通过判断前后梯度的正交性来决定权值和阈值的调整方向是否回到负梯度方向上来;6)trainscg:比例共轭梯度算法:将模值信赖域算法与共轭梯度算法结合起来,减少用于调整方向时搜索网络的时间。
一般来说,traingd和traingdm是普通训练函数,而traingda,traingdx,traingd,trainrp,traincgf,traincgb,trainsc g,trainbgf等等都是快速训练函数.总体感觉就是训练时间的差别比较大,还带有精度的差异。
(五)实例及其仿真分析(BP网络底层代码的实现)1)程序%% 读入数据xlsfile='student.xls';[data,label]=getdata(xlsfile);%% 划分数据[traind,trainl,testd,testl]=divide(data,label);%% 设置参数rng('default')rng(0)nTrainNum = 60; % 60个训练样本nSampDim = 2; % 样本是2维的%% 构造网络net.nIn=2;net.nHidden = 3; % 3个隐含层节点net.nOut = 1; % 一个输出层节点w = 2*(rand(net.nHidden,net.nIn)-1/2); % nHidden * 3 一行代表一个隐含层节点b = 2*(rand(net.nHidden,1)-1/2);net.w1 = [w,b];W = 2*(rand(net.nOut,net.nHidden)-1/2);B = 2*(rand(net.nOut,1)-1/2);net.w2 = [W,B];%% 训练数据归一化mm=mean(traind);% 均值平移fori=1:2traind_s(:,i)=traind(:,i)-mm(i);end% 方差标准化ml(1) = std(traind_s(:,1));ml(2) = std(traind_s(:,2));fori=1:2traind_s(:,i)=traind_s(:,i)/ml(i);end%% 训练SampInEx = [traind_s';ones(1,nTrainNum)]; expectedOut=trainl;eb = 0.01; % 误差容限eta = 0.6; % 学习率mc = 0.8; % 动量因子maxiter = 2000; % 最大迭代次数iteration = 0; % 第一代errRec = zeros(1,maxiter);outRec = zeros(nTrainNum, maxiter);NET=[]; % 记录% 开始迭代fori = 1 : maxiterhid_input = net.w1 * SampInEx; % 隐含层的输入hid_out = logsig(hid_input); % 隐含层的输出ou_input1 = [hid_out;ones(1,nTrainNum)]; % 输出层的输入ou_input2 = net.w2 * ou_input1;out_out = logsig(ou_input2); % 输出层的输出outRec(:,i) = out_out'; % 记录每次迭代的输出err = expectedOut - out_out; % 误差sse = sumsqr(err);errRec(i) = sse; % 保存误差值fprintf('第%d 次迭代误差: %f\n', i, sse);iteration = iteration + 1;% 判断是否收敛ifsse<=ebbreak;end% 误差反向传播% 隐含层与输出层之间的局部梯度DELTA = err.*dlogsig(ou_input2,out_out);% 输入层与隐含层之间的局部梯度delta = net.w2(:,1:end-1)' * DELTA.*dlogsig(hid_input,hid_out);% 权值修改量dWEX = DELTA*ou_input1';dwex = delta*SampInEx';% 修改权值,如果不是第一次修改,则使用动量因子ifi == 1net.w2 = net.w2 + eta * dWEX;net.w1 = net.w1 + eta * dwex;elsenet.w2 = net.w2 + (1 - mc)*eta*dWEX + mc * dWEXOld;net.w1 = net.w1 + (1 - mc)*eta*dwex + mc * dwexOld; end% 记录上一次的权值修改量dWEXOld = dWEX;dwexOld = dwex;end%% 测试% 测试数据归一化fori=1:2testd_s(:,i)=testd(:,i)-mm(i);endfori=1:2testd_s(:,i)=testd_s(:,i)/ml(i);end% 计算测试输出InEx=[testd_s';ones(1,260-nTrainNum)];hid_input = net.w1 * InEx;hid_out = logsig(hid_input); % output of the hidden layer nodes ou_input1 = [hid_out;ones(1,260-nTrainNum)];ou_input2 = net.w2 * ou_input1;out_out = logsig(ou_input2);out_out1=out_out;% 取整out_out(out_out<0.5)=0;out_out(out_out>=0.5)=1;% 正确率rate = sum(out_out == testl)/length(out_out);%% 显示% 显示训练样本train_m = traind(trainl==1,:);train_m=train_m';train_f = traind(trainl==0,:);train_f=train_f';figure(1)plot(train_m(1,:),train_m(2,:),'bo');hold on;plot(train_f(1,:),train_f(2,:),'r*');xlabel('身高')ylabel('体重')title('训练样本分布')legend('男生','女生')figure(2)axis onhold ongrid[nRow,nCol] = size(errRec);plot(1:nCol,errRec,'LineWidth',1.5);legend('误差平方和');xlabel('迭代次数','FontName','Times','FontSize',10);ylabel('误差');% 正确率:87%%将样本逐个输入,由于样本输入的随机性,可以在一定程度上避免出现局部最优。
%% 清理clear allclc%% 读入数据xlsfile='student.xls';[data,label]=getdata(xlsfile);%% 划分数据[traind,trainl,testd,testl]=divide(data,label);%% 设置参数rng('default')rng(0)nTrainNum = 60; % 60个训练样本nSampDim = 2; % 样本是2维的M=2000; % 迭代次数ita=0.1; % 学习率alpha=0.2;%% 构造网络HN=3; % 隐含层层数net.w1=rand(3,HN);net.w2=rand(HN+1,1);%% 归一化数据mm=mean(traind);fori=1:2traind_s(:,i)=traind(:,i)-mm(i);endml(1) = std(traind_s(:,1));ml(2) = std(traind_s(:,2));fori=1:2traind_s(:,i)=traind_s(:,i)/ml(i);end%% 训练for x=1:M % 迭代ind=randi(60); % 从1-60中选一个随机数in=[traind_s(ind,:),1]; % 输入层输出net1_in=in*net.w1; % 隐含层输入net1_out=logsig(net1_in); % 隐含层输出net2_int = [net1_out,1]; % 下一次输入net2_in = net2_int*net.w2; % 输出层输入net2_out = logsig(net2_in); % 输出层输出err=trainl(ind)-net2_out; % 误差errt(x)=1/2*sqrt(sum(err.^2)); % 误差平方fprintf('第%d 次循环,第%d个学生,误差 %f\n',x,ind, errt(x));% 调整权值fori=1:length(net1_out)+1for j=1:1ipu1(j)=err(j); % 局部梯度% 输出层与隐含层之间的调整量delta1(i,j) = ita.*ipu1(j).*net2_int(i);endendfor m=1:3fori=1:length(net1_out)% 局部梯度ipu2(i)=net1_out(i).*(1-net1_out(i)).*sum(ipu1.*net.w2);% 输入层和隐含层之间的调整量delta2(m,i)= ita.*in(m).*ipu2(i);endend% 调整权值if x==1net.w1 = net.w1+delta2;net.w2 = net.w2+delta1;elsenet.w1 = net.w1+delta2*(1-alpha) + alpha*old_delta2;net.w2 = net.w2+delta1*(1-alpha) + alpha*old_delta1;endold_delta1=delta1;old_delta2=delta2;end%% 测试% 测试数据归一化fori=1:2testd_s(:,i)=testd(:,i)-mm(i);endfori=1:2testd_s(:,i)=testd_s(:,i)/ml(i);endtestd_s = [testd_s,ones(length(testd_s),1)];net1_in=testd_s*net.w1;net1_out=logsig(net1_in);net1_out=[net1_out,ones(length(net1_out),1)]; net2_int = net1_out;net2_in = net2_int*net.w2;net2_out=net2_in;% 取整net2_out(net2_out<0.5)=0;net2_out(net2_out>=0.5)=1;rate=sum(net2_out==testl')/length(net2_out); %% 显示figure(1);plot(1:M,errt,'b-','LineWidth',1.5);xlabel('迭代次数')ylabel('误差')title('BP网络串行训练的误差')% 正确率:88.5%2)仿真结果。