自然语言处理-第13章 自然语言理解
- 格式:ppt
- 大小:227.50 KB
- 文档页数:70


7.1 概述
自然语言是指人类语言集团的本族语,如汉语、英语、日语等,以及人类用与交流的非发声语言,如手语、旗语等。自然语言是相对于人造语言而言的。人造语言是指世界语或计算机的各种程序设计语言。
众所周知,语言是思维的载体,是人际交流的最重要工具。
在人类历史上以语言文字形式记载和流传的知识占到知识总量的80%以上。就计算机的应用而言,据统计用于数学计算的仅占10%,用于过程控制的不到5%,其余85%左右都是用于语言文字的信息处理。在信息化社会中,语言信息处理的技术水平和每年所处理的信息总量已成为衡量一个国家现代化水平的重要标志之一。
在社会发展需求下,自然语言理解作为语言信息处理技术的一个高层次的重要方向,一直是人工智能界所关注的核心课题之一。显然,如果计算机能够理解自然语言,人-机间的信息交流能够以人们所熟悉的本族语言来进行,那将是计算技术的一项重大突破。另一方面,由于创造和使用自然语言是人类高度智能的表现,因此对自然语言理解的研究也有助于揭开人类智能的奥秘,深化我们对语言能力和思维本质的认识。
那么什么叫"自然语言理解"?正如什么是"智能"一样,对于"理解"这个术语也存在着各式各样的认识。在人工智能界,或者语言信息处理领域中,人们普遍认为可以采用著名的图灵(Turing)试验来判断计算机是否"理解"了某种自然语言。
相比较人工智能其它领域,自然语言理解是难度大,进展小的。至今为止未能达到很高的水平。
Turing提出的智能实验,参加者是计算机、被实验的人以及主持实验的人。由主持人提出问题,计算机和被实验的人来回答,被实验者在回答问题时尽可能的向主持人表示他是"真正"的人,计算机也尽可能逼真的模仿人的思维。如果主持人通过听取对问题的回答分辨不出哪个是人的回答,哪个是机器的回答时,便可认为被试验的计算机是有智能的了。有人对这样设计的实验提出了疑义,他们认为这种实验只反映了结果的比较而没有涉及思维的过程,而且也没明确此人是个孩子还是有良好素质的成年人参加了实验。当一个计算机系统能给出有关问题的正确答案或有用的建议、而解决问题所用的概念和推理与人相当、还能解释推理过程时,便可说这样的计算机系统是有智能的了。
自然语言理解
1.分词(只针对中文,英文等西方字母语言已经用空格做好分词了):将文章按词组分开
2.词法分析:对于英文,有词头、词根、词尾的拆分,名词、动词、形容词、副词、介词的定性,多种词意的选择。比如DIAMOND,有菱形、棒球场、钻石3个含义,要根据应用选择正确的意思。
3.语法分析:通过语法树或其他算法,分析主语、谓语、宾语、定语、状语、补语等句子元素。
4.语义分析:通过选择词的正确含义,在正确句法的指导下,将句子的正确含义表达出来。方法主要有语义文法、格文法。
但是以上的分析,仅适用于小规模的实验室研究,远不能应用到实际语言环境中,比如说语法,我们能总结出的语法是有限的,可是日常应用的句子,绝大部分是不遵守语法的,如果让语法包罗所有可能的应用,会出现爆炸的景象。
自然语言处理的应用方向主要有:
以上已经回答了自然语言发展方向的问题。我认为机器翻译是最有前途的方向,其难点在于机器翻译还不具备人类智能,虽然翻译已经达到90%以上的正确程度,然而还是不能象人类翻译那样,可以准确表达。为什么存在这样的难点?关键是自然语言处理做不到人类对自然语言的理解,“处理”和“理解”是天差地别的两个概念。“处理”好比控制眼睛、耳朵、舌头的神经,他们将接收的信息转化成大脑可以理解的内部信息,或者反过来,他们的功能就是这么多。而“理解”则是大脑皮层负责语言理解那部分,多少亿的脑细胞共同完成的功能。一个人因为其自身家庭背景、受教育程度、接触现实中长期形成的条件反射刺激、特殊的强列刺激、当时的心理状况,这么多的因素都会影响和改变“理解”的功能,比如我说“一个靓女开着BMW跑车”,有人心里会想这是二奶吧?有人心里会仇视她,联想到她会撞了人白撞;做汽车买卖的人则会去估量这部车的价值;爱攀比的人也许会想,我什么时候才能开上BWM?所以“理解”是更加深奥的东西,涉及更多神经学、心理学、逻辑学领域。
还有上下文理解问题,比如这句:“我们90平方米以后会占的分量越来越大,那么这样他的价格本身比高档低很多,所以对于整体把这个价格水平给压下来了,这个确实非常好的。”你能理解么?估计很难或者理解出多种意思,但是我把前文写出来:“去年国家九部委联合发布了《建设部等部门关于调整住房供应结构稳定住房价格意见的通知》,对90平方米以下住房须占总面积的70%以上作出了硬性规定,深圳市经过一年的调控,目前已做到每个项目的75%都是90平方米以内。深圳市国土资源和房产管理局官员说”看了后面的你才能知道是根据国家的通知,深圳做了相应的调整。
5期 张引兵等:短语结构树库向句式结构树库的自动转换研究 4l 出版社.2006. [26] 郭冬冬.句本位树库构建中的动态词及其结构模式分 析[D].北京:北京师范大学硕士学位论文,2016. [27]Dongdong Guo,Shuqin Zhu,etc.Construction of the dynamic word structural mode knowledge base for the 张引兵(1979一),博士研究生,主要研究领域为 中文信息处理。
彭炜明(1985一),通信作者。博士.讲师.主要研 究领域为中文信息处理、词汇语义学。 E—mail:pengweiming @bnu.edu.c'n international Chinese teaching[c]//Proceedings 0f the 16th Chinese Lexical Semantics Workshop (CI SW2016),2016:251-260. [28] 王东波,谢靖.基于清华汉语树库的有标记联合结构 统计分析[J].现代图书情报技术,2010(04):12—1 7. 宋继华(1963一),教授,博士生导师,主要研究领 域为语言信息处理、计算机教育应用。 E—mail:SOn鲥h@bnu.edu.cn
, 平{代氍代’ - 串}· 第十五届全国自然语言处理青年学者研讨会在南京成功举行 2O18年5月4日至5日,第十五届全国自然语言处理青年学者研讨会(YSSNI P 2018会议)在南京召 开。本次研讨会由中国中文信息学会主办,计算机软件新技术国家重点实验室(南京大学)承办。 本次研讨会的主题为“关注学科交叉,增进产学交流”.旨在促进自然语言处理领域国内外学者间的学术 互动,加强学术研究和产业发展的交流对话,共同促进整个自然语言处理领域的进步。本次研讨会由南京大 学戴新宇、黄书剑担任组织主席,清华大学刘知远担任程序主席。 开幕式上,南京大学计算机科学与技术系副主任高阳教授、中国中文信息学会副理事长孙乐研究员、南 京大学自然语言处理教研室主任陈家骏教授分别致辞。开幕式由南京大学自然语言处理教研室戴新宇教授 主持。 研讨会邀请了京东AI研究院常务副院长何晓冬博士和中国科学院自动化所研究员余山博士做特邀报 告。何晓冬探讨了深度学习对自然语言理解的驱动作用,介绍了如何让AI通过NI P技术理解人类以及如 何让AI的结果能被人类理解接受两方面的最新研究进展。余山报告了语言的脑内表征及有效交流的神经 机制,介绍了近年来脑科学在理解人类信息交流的神经机制方面的进展。 研讨会设置了前沿论坛、NSFC基金项目论坛、产业论坛、新会员论坛四场专题论坛。在这些论坛中。与 会的国内自然语言处理领域的青年学者,对自然语言处理领域的前沿技术、不同场景下的应用、以及目前所 面临的机遇与挑战等方面展开热烈深入的讨论。 本次研讨会上还召开了学会青工委全委会,第二届执委会主任、清华大学刘洋老师做本届工作报告:在 第二届执委任内青工委从76人扩充为130人,委员组成兼顾了年龄、性别、校企等方面的平衡,较好地代表 了国内自然语言处理青年学者群体;青工委持续开展了全国自然语言处理青年学者研讨会、顶会会议论文预 讲会、学术沙龙、学术交流、学术专栏、论文访谈间等特色学术活动,在国内NI P学者具有较大影响力;青工 委还致力于完善组织条例,增进内部文化建设,积极参与学会和各专委服务工作,获得广泛好评。本次全委 会选举产生了第三届青工委执委会委员,他们是(按姓名拼音排序)车万翔、黄书剑、贾珈、兰艳艳、廖祥文、刘 康、刘知远、邱锡鹏、汤步洲、肖桐、张家俊。执委会委员推选中国科学院自动化所刘康担任主任,哈尔滨工业 大学车万翔、清华大学刘知远、东北大学肖桐担任副主任。
期末考试知识点复习
第七章自然语言理解
1.1 自然语言及其理解
1.自然语言概述
自然语言是音、形、义结合的词汇和语法体系,是人类实现思维活动的物质表现形式。词汇和语法体系是构成自然语言的两大要素,两者缺一不可。词是构成自然语言的最基本单位,语法则是用来支配和控制词以构成有意义的、可理解的语句,进而再由语句按照一定的逻辑构成篇章的规则。
词汇分为词和熟语。熟语就是一些词的固定组合,如汉语中的成语。词又由词素构成,词素是构成词的最小的、有意义的单位。例如,在汉语中的“工人”这个词,就是由“工”和“人”这两个词素构成的,“工”有工作和做工的意义,而“人”则包含了有能力工作的自然人的意义。由词素构成词的规则称作构词法,如工+人→工人。而构造词形的规则称为构形法,如教师+们→教师们,teacher+s →teachers。构词法和构形法统称为词法。
除了词法之外,语法中的另一部分就是句法。句法就是利用词构造语句的规则,它由两部分构成,一部分称作词组构造法,另一部分称作造句法。词组构造法就是将词搭配成词组的规则,如蓝+帽子→蓝帽子。造句法则是将词或词组搭配成语句的规则。
2.自然语言理解
自然语言理解是指机器能够执行人类所期望的某些语言功能。这些功能包括:
①回答有关提问。计算机能正确理解人们用自然语言输入的信息,并能正确回答输入信息中的有关问题。
②摘要生成。对于输入的文本信息,计算机能够产生相应的摘要。
③文本释义。能用不同词语和句型对输入的信息进行复述或解释。
④不同语言间的翻译。计算机能把用某一种自然语言表示的信息自动地翻译为另一种自然语言。例如,把英语翻译成汉语,或把汉语翻译成英语,等等。
无论计算机具有的什么样的特性,无论程序设计采用什么样的算法,只要具有上述功能之一,它就可以在机器翻译或机助翻译、文本理解、文本生成、自然语言接口等场合得到广泛的应用。
3.自然语言理解过程的层次