自然语言理解LP精品PPT课件

交流展示
交流展示
交流展示
梳理归纳
·本文可以分为哪几个部分？每个部分讲了什么内容？
第一部分（1—3）：引出什么叫物候和物候学。第二部分（4—5）：说明物候观测对农业的重要性。第三部分（6—10）：说明决定物候现象来临的因素。第四部分（11—12）：说明研究物候学的意义。
学习任务二
理顺序
1.课文所写的内容能否调换顺序？为什么？
八年级下册语文课件
大自然的语言
激趣导入
“一九二九不出手，三九四九冰上走，五九和六九，沿河看杨柳，七九河冻开，八九燕子来，九九加一九，耕牛遍地走。”——《九九歌》
在没有天气预报的中国古代，富有智慧的劳动人民已早已洞悉自然的奥秘，创造出了一个人与自然和谐相处的美好世界。而这一切的缘起，皆因——自然会说话。自然是如何说话的呢？她都说了些什么？请同学们带着一双发现的眼睛和老师一起走进今天的课文——《大自然的语言》。
物候观测的数据反映气温、湿度等气候条件的综合，也反映气候条件对于生物的影响，比较简便，容易掌握。可以广泛地运用在农业生产上。
快速浏览第三部分，指出第6—10段的说明对象，并列出其说明顺序。
说明对象：决定物候现象来临的因素。 说明顺序：从空间差异写到时间差异，由主到次的逻辑顺序，即纬度（南北）差异——经度（东西）差异——高下差异——古今差异。对物候的影响因素纬度最大，经度次之，高下差异又次之，古今差异最次。
文体知识
说明顺序：时间顺序、空间顺序、逻辑顺序。
说明方法：举例子、打比方、作比较、列数字、下定义、 画图表、摹状貌、引用等。
学习任务一
知内容
自学任务单
1.学习1、2段，文中都写了大自然的哪些语言？2.默读课文，请快速准确地筛选出课文中与物候相关的信息：（1）物候观测对农业有什么重要意义？（2）决定物候现象来临的因素有哪些？（3）研究物候学有什么意义？

用口语语音输入，使计算机“听懂”语音信号，用文字或语音合成输出 应答。
用口语对计算机讲话 计算机识别语音输入，把语音流变换为文字流 然后按书面语理解 最后利用语音合成将回答转换成声音输出
对外经贸大学中文学院.对外汉语
语言信息处理的学科定位
交叉学科：语言学、计算机科学、认知科学、
数学、哲学和逻辑学
因此，语言信息处理处于文科、理科和工科的交叉点 上，是建立在语言学、数学和计算机科学这三门学科基础 上的边缘性学科。
对外经贸大学中文学院.对外汉语
语言信息处理的目标----理解的定义
最终目标：让电脑像人一样理解语言 “目前学界对于‘理解’的理解、有关‘概念’的概念、赋
予‘语义’的语义、界定‘知识’的知识都可能是各不相同 甚或互不搭界的。” （张普）
计算机对自然语言的处理一般应经过三个方面： 形式化 编写算法 程序实现
对外经贸大学中文学院.对外汉语
人工智能的分支 AI, Artificial Intelligence
NLU是人工智能的重要内容。自然语言的信息处理是 跟计算机的诞生几乎同时开始的一个多学科交叉研究领域。 来自计算机科学、语言学、数学等不同学科的研究人员构 成了目前这一领域的主要研究力量。随着计算机应用的日 益普及，其功能也从主要是数值计算发展到以非数值信息 处理为主。
对外经贸大学中文学院.对外汉语
对外经贸大学中文学院.对外汉语
本章内容
语言信息处理的方向 语言信息处理的对象 语言信息处理的学科定位 语言信息处理的目标 语言信息的理解处理所需的知识 自然语言处理的根本问题 语言理解处理系统的评价 自然语言处理的研究方法 自然语言处理的发展历史 自然语言处理系统的总体构成
2009-2010学年 For 对外汉语方向本科生

2.语法分析歧义：
“那只狼咬死了猎人的狗” “咬死了猎人的狗失踪了”
3.语义分析歧义：
机器翻译句子 “At last, a computer that understands you like your mother” 可以有多种含义，如下： “计算机会像你的母亲那样很好的理解你（的语言） ” “计算机理解你喜欢你的母亲” “计算机会像很好的理解你的母亲那样理解你”
Party May 27 add

基本解决：词性标注、命名实体识别、Spam识别

取得长足进展：情感分析Sentiment analysis、共指消 解Coreference resolution、词义消歧Word sense disambiguation 、句法分析Parsing、机器翻译Machine translation (MT )、信息抽取Information extraction (IE)

包括查询资料、解答问题、摘录文献、汇编资料以 及一切有关自然语言信息的加工处理。 例如，如果有一台机器既能理解中文又能理解英文 ，那么，这台机器就可以为人类充当翻译；如果电 视能理解中文，那么，用户就可以不用按钮，而是 通过说话来遥控电视


语言究竟是怎样组织起来传输信息的？人又是怎样 从一连串的语言符号中获取信息的？
3.情感分析（Sentiment Analysis，SA）：又称倾向 性分析和意见挖掘，它是对带有情感色彩的主观性文 本进行分析、处理、归纳和推理的过程，如从大量网 页文本中分析用户对“数码相机”的“变焦、价格、 大小、重量、闪光、易用性”等属性的情感倾向； 4.机器翻译（Machine Translation，MT）：将文本从 一种语言转成另一种语言，如中英机器翻译。

• Perhaps I could learn to get along with my mother. （也许我可以学会如何和 我母亲相处。）
• My mother takes care of me.（我母亲照顾我。）
• My father.（我父亲。） • You are like my father in
层次。
例如：
She read me a story 和 A story was read to me
的表层结构不一样，但它们的深层结构则是一样的。再如，主动句和被动句
也只是表层结构不同，其深层结构则是相同的。
在变换文法中，句子深层结构和表层结构之间的变换是通过变换规则实
现的。 句子
句子
名词短语1 动词短语
发展时期
• 20世纪60年代和70年代，对自然语言理解对话系 统的研究取得进展。
• 60年代：拉法勒（B.Raphael）在麻省理工学院完 成的信息检索系统SIR；韦森鲍姆在麻省理工学院 的ELIZA。
• 70年代：伍兹(Woods)的LUNAR系统、威诺甘德 (Winogand)的SHRDLU系统和香克(Schank)的 MARGIE系统等。
book
句法规则的表示方法——上下文无关法
上下文无关文法(Context-free Grammars)是乔姆斯基提出的一种对自 然语言语法知识进行形式化描述的方法。在这种文法中，语法知识是 用重写规则表示的。作为例子，下面给出了一个英语的很小的子集。
语句 → 句子 终标符
句子 → 名词短语 动词短语
动词短语 → 动词 名词短语
名词短语 → 冠词 名词
名词短语 → 专用名词
冠词 → the
名词 → professor

7
自然语言理解的一般问题(6)
• 语言学的研究－理解的层次 – 语音分析：找出最小可独立的声音单元----音素 – 词法分析：找出词汇的各个词素（词根），从中获得语 言学信息 例：我们研究所有东西;把手放在桌上 我们--研究所--有--东西 （交叉歧义） 我们--研究--所有--东西 把--手--放在--桌上 （组合歧义） 把手--放在--桌上
10
自然语言理解的一般问题(9)
• 研究目标
– 建立一个足够精确的语言数学模型使计算机通过编程来 完成自然语言的相关任务。如：听、读、写、说，释义 ，翻译，回答问题等。通过语言索取信息，由此能力则 说明该系统对语言已理解了 。
11
自然语言理解的一般问题(10)
自然语言的层次划分及对应技术
理论 模板匹配、基于规则
9
自然语言理解的一般问题(8)
• 语言学的研究－理解的层次
– 语义分析：通过分析找出词义，结构意义及其结合意义，从而确定 语言所表达的真正（实际）含义或概念。在语言自动理解中，语义 越来越成为一个重要的研究内容。（尤其是对话系统）
你打我 我打你
– 语用分析：研究语言所在的外界环境对语言使用所产生的影响。描 述语言的环境知识、语言与语言使用者在某个给定语言环境中的关 系。为确定真正含义，对表达的结构重新加以解释。（故宫、一块 ）
14
自然语言理解的一般问题(13)
• 自然语言理解的研究大体上经历了三个 时期
– 萌芽时期 – 发展时期
• 早期: 60年代以关键词匹配为主流 • 中期: 70年代以句法－语义分析为主流 • 近期: 80年代以来开始走向实用化和工程化
6
自然语言理解的一般问题(5)
• 语言学的研究

语料库示例
北京大学计算语言所富士通人民日报标注语料库样例： 历史/n 将/d 铭记/v 这个/r 坐标/n ：/w 北纬/b ４１．１ /m 度/q 、/w 东经/b １１４．３/m 度/q ；/w 人们/n 将/d 铭记/v 这/r 一/m 时刻/n ：/w １９９８年/t １月 /t １０日/t １１时/t ５０分/t 。/w ……

解决办法：理性主义方法与经验主义方 法的融合。 符号智能＋ 计算智能 理性主义研究方法— 符号处理系统 经验主义研究方法— 基于语言数据的计 算方法 理性主义与经验主义的合谋— 融合方法
二、形式语法


2.1 概述 形式语法理论的目的是试图用精确的数 学模型（形式语言）来刻画自然语言。 与统计语言模型不同的是，对于一个形 式语法体系来说，一个句子是否属于一 种语言，只存在“是”“否”两种答案， 不存在中间状态（概率）


语义学(Semantics)问题：研究如何从 一个语句中词的意义，及这些词在该语 句的句法结构中的作用来推导出该语句 的意义。 语用学(Pragmatics)问题：研究在不同 上下文中语句的应用，以及上下文对语 句理解所产生的影响。
1.4 自然语言理解研究的基本方法

理性主义（规则方法）1960 – 1980中期 基本信念：有限语言规则覆盖无限语言现象。 然而： （1）语言现象无限丰富和动态开放，“规则有 限性和封闭性”受到质疑 （2）随着规则数量增多，可能经常产生规则之 间的矛盾冲突 （3）人工提取规则费时费事，机器提取规则的 质量还难以保证
一切的智能领域里竞争起来。但是，以哪一点作为竞争的出发点呢？
这是一个很难决定的问题。许多人以为可以把下棋之类的极为抽象的 活动作为最好的出发点，不过，我更倾向于支持另一种主张，这种主 张认为，最好的出发点是制造出一种具有智能的、可用钱买到的机器， 然后，教这种机器理解英语并且说英语。这个过程可以仿效小孩子说 话的那种办法来进行。” Turing提出，检验计算机智能高低的最好办 法是让计算机来讲英语和理解英语。他天才地预见到计算机和自然语 言将会结下不解之缘。

依存关系
词语之间的依赖关系，包括主谓关系、 动宾关系等。
语义分析
语义分析
理解句子所表达的实际意义，涉 及词义消歧、句义理解等方面。
词义消歧
确定多义词在具体语境中的意义。
句义理解
理解整个句子的意义，涉及句子的 主旨、意图等。
语境理解
语境理解
结合上下文信息，理解当前词语 或句子的意义。
上下文信息
当前词语或句子之前的文本信息， 用于推断当前词语或句子的意义。
自然语言理解的重要性
提高人机交互的效率和体验
自然语言理解技术使得人机交互更加自然、便捷，提高了用户体 验。
推动人工智能技术的进步
自然语言理解技术的发展对于人工智能技术的进步具有重要意义， 是人工智能技术发展的重要方向之一。
促进跨语言交流
自然语言理解技术可以帮助不同语言和文化背景的人们进行交流， 促进跨文化交流和理解。
语境效应
上下文信息对当前词语或句子意 义的改变效果。
04 自然语言理解的技术挑战 与解决方案
数据稀疏性问题
总结词
数据稀疏性是指训练数据不足或数据分布不均匀，导致模型难以学习到有用的特征和模式 。
详细描述
在自然语言处理任务中，数据稀疏性是一个常见问题。由于语言本身的复杂性和多样性， 很难收集到足够丰富和多样的训练数据。此外，不同领域和场景的数据分布也可能存在很 大差异，导致模型在某些情况下表现不佳。
语境理解问题
总结词
语境理解问题是指模型需要理解句子或段落之间的逻辑关系和语义联系，以推断出正确的意义。
详细描述
在自然语言处理中，语境理解是非常重要的。一个词或句子的含义往往需要结合上下文才能确定。例如，“他是一名 医生”这句话在不同的语境下可能有不同的含义，可能是指他是医生这个职业，也可能是指他正在扮演医生的角色。

4、研究物候学有什么意义？
首先是为了预报农时，选择播种日期； 安排农作物区划，确定造林和采集树木 种子的日期；引种植物到物候条件相同 的地区；避免或减轻害虫的侵害；便利 山区的农业发展。
理清说明顺序
思 路 清
引出物候和物候学 1-3 物候观测对农业生产的重要性。4-5
晰
纬度
， 决定物候现象来临的因素 6-10 层 次 研究物候学的意义。11-12
1.什么叫物候和物候学？ 2.物候观测对农业有什么重要性？ 3.物候现象的来临决定于因素有哪些？ 4、研究物候学有什么意义？
1、什么叫物候和物候学？
什么叫物候: 草木荣枯、候鸟去来等自然 现象，我国古代劳动人民称它为物候。
什么叫物候学： 利用物候知识来研究农 业生产的这一门科学，就是物候学。
2、物候观测对农业有什么重要意义
作业本P33 预学三
翩然归来 秋天树叶纷纷飘落的动态 深秋草木凋零的荒凉 风雪载途
举例子 列数字 作比较
物候现象南北差异的日数因季节的差别而不同
作业本P33 导学一
（1）赶快耕地 赶快种谷子 “布谷鸟开始唱歌” （2）经度的差异 高下的差异古今的差异 （3）时间 影响程度的大小（或：由主要到次要）
竺可桢
以‘大自然的语言’为题，显得心意别 致，引人入胜。语言是人们交流思想，传 递信息的工具，大自然怎们会有语言呢？
作业本P32 预学一
［示例］ 浙江人——他是浙江人的骄傲
气象学家、地理学家——博学 一生致力于.......最后一息......端正.....— —他对科学的献身精神令人感动。
作业本P32 预学二 读题画重点：
经度差异 高下差异
古今差异
分
明 。

7.3 句法分析
7.3.2 递归转移网络与扩充转移网络
1、有限状态转移网络 扩充转移网络的概念来源于有限状态转移网络。我们曾指出，
自然语言理解的进展 自然语言过程的层次
7.2 词法分析 设置哪些寄存器完全取决于句法分析的需要，并没有硬性的规定。
自然语言理解是指机器能够执行人类所期望的某些语言功能。
(2)每条弧上除了用句法范畴(如词类和短语标记)来标注以外，可以附加任意的测试，只有当弧上的这种溯试成功之后才能通过这条弧； 翻译(VtrahslaVtioVn)：机器具有把一种语言(源语)翻译成为另一种语言(目标语)的能力。 它表明必须在输入句子中找到这样一个词，才可以进行这条弧所规定的转移；
LFG对句子的描述分为两部分：直接成分结构(Constituent Structure,简称C-Structure)和功能结构(Functional Structure,简称F-structure)，Cstructure是由上下文无关语法产生的表层分析结果。 一个有限状态转移网络由一组状态(即结点)和一组弧(用来把一种状态连向另一种状态)所组成：
（具体内容请参照P257---P262） 显然，如果计算机能够理解自然语言，人机间的信息交流能够以人们所熟悉的本族语言来进行，那将是计算技术的一项重大突破。
2、词汇功能语法对句子的分析过程 每条产生式具有如下的形式：
a→b 其中a∈V+，b∈V*，且a≠b； LFG用一种结构来表达特征、功能、词汇和成分的顺序。 在对一个句子进行分析的过程中，如果把分析句子各成分间关系的推倒过程用树形表示出来的话，那么，这种图称做句法分析树。
7.3 句法分析
7.3.1 短语结构语法理论与乔姆斯基语法体系
3、句法分析树 在对一个句子进行分析