自然语言处理

浅谈自然语言处理--马笑笑

1 浅谈自然语言处理

摘要

主要阐述了自然语言处理的定义，发展历史，并对其研究内容，以及目前相关领域的应用加以讨论。最后对自然语言处理的未来发展趋势做简单的介绍。

关键词

自然语言处理

Abstract

The definition and the development history of Natural Language Processing(NLP) are

explained,the research content and the applications in interrelated areas of NLP are discussed.And

the develop direction of NLP in the future are simply introduced.

Key Words:

Natural Language Processing(NLP)

浅谈自然语言处理--马笑笑

2 0.引言

早在计算机还未出现之前，英国数学家A.M.Turing便已经预见到未来计算机将会对自然语言处理研究提出新的问题。他指出，在未来我们可以“教机器英语并且说英语。”同时他觉得“这个过程可以仿效教小孩子说话的那种办法进行”。这便是最早关于自然语言处理概念的设想。

人类的逻辑思维以语言为形式，人类的多种智能都与语言有着密切的联系。所以用自然语言与计算机进行通信是计算机出现以来人们一直所追求的目标。

1.什么是然语言处理

美国计算机科学家Bill Manaris(马纳瑞斯)在1999年出版的《计算机进展》（Advances Computers）第47卷的《从人—机交互的角度看自然语言处理》一文中，曾经给自然与然处理提出了如下定义：“自然语言处理可以定义为研究在人与人交际中的语言问题的一门学科。自然语言处理要研制表示语言能力（linguistic competence）和语言应用（linguistic performance）的模型，建立计算框架来实现这样的语言模型，提出相应的方法来不断地完善这样的语言模型，根据这样的语言模型设计各种实用系统，并探讨这些实用系统的评测技术。”这个定义被广泛的接受，它比较全面的地表达了计算机对自然语言的研究和处理。

龙源期刊网

自然语言处理技术综述

作者：妮鲁帕尔·艾山江

来源：《商情》2013年第39期

【摘要】自然语言处理技术的发展，最终导致计算机拥有了客观的信息处理功能。本文主要介绍了自然语言处理与中文信息处理发展情况。介绍了自动分词技术的发展概况，一些常用的中文自动分词方法以及目前已经实现的一些分词系统。探讨了自然语言处理技术，特别是自动分词技术，在对外汉语教学的实践中应用的可能性。

【关键词】语言处理；自动分词技术；信息技术

一、自然语言处理

自然语言处理（Natural Language Processing，简称NLP）是主要研究人与计算机交际中的语言问题的一门学科。“自然语言处理要研制表示语言能力（linguistic competence）和语言应用（linguistic performance）的模型，建立计算机框架来实现这样的语言模型，提出相应的方法来不断完善这样的语言模型，根据这样的语言模型设计各种实用系统，并探讨这些实用系统的评测技术。”（Manaris， 1999）更简单直观的说法，就是采用计算机技术来研究和处理自然语言。

自然语言是指人们口常使用的语言，如汉语、英语、口语、法语等，它是人类进行学习和互相交流的工具。“在人类历史上以语言文字形式记载和流传的知识占到知识总量的80%以上。就计算机的应用语言，据统计用于数学计算仅占10%，用于过程控制的不到5%，其余85%左右都是用于语言文字的信息处理。

所谓语言信息处理，是指用计算机对自然语言的形、音、义等信息进行处理，即对字、词、句、篇章的输入、输出、识别、分析、理解、生成等的操作和加工。采用计算机技术来研究和处理自然语言是20世纪40年代末，50年代初才开始的，经过50多年的发展，这项研究取得了长足的进展，形成了计算机学科中一门重要的新兴学科—自然语言处理。

自然语言处理的关键技术

自然语言处理技术是所有与自然语言的计算机处理有关的技术的统称，其目的是使计算机理解和接受人类用自然语言输入的指令，完成从一种语言到另一种语言的翻译功能。自然语言处理技术的研究，可以丰富计算机知识处理的研究内容，推动人工智能技术的发展。下面我们就来了解和分析自然语言处理的关键技术。

一、 常用技术分类

1、 模式匹配技术

模式匹配技术主要是计算机将输入的语言内容与其内已设定的单词模式与输入表达式之间的相匹配的技术。例如计算机的辅导答疑系统，当用户输入的问题在计算机的答疑库里找到相匹配的答案时，就会完成自动回答问题的功能。但是不能总是保证用户输入的问题能得到相应的回答，于是很快这种简单匹配式答疑系统有了改进。答疑库中增加了同义词和反义词，当用户输入关键词的同义词或反义词时，计算机同样能完成答疑，这种改进后的系统被称为模糊匹配式答疑系统。

2、 语法驱动的分析技术 语法驱动的分析技术是指通过语法规则，如词形词性、句子成分等规则，将输入的自然语言转化为相应的语法结构的一种技术。这种分析技术可分为上下文无关文法、转换文法、ATN文法。上下文无关文法是最简单并且应用最为广泛的语法，其规则产生的语法分析树可以翻译大多数自然语言，但由于其处理的词句无关上下文，所以对于某些自然语言的分析是不合适的。转换文法克服了上下文无关文法中存在的一些缺点，其能够利用转换规则重新安排分析树的结构，即能形成句子的表层结构，又能分析句子的深层结构。但其具有较大的不确定性。ATN文法扩充了转移网络，比其他语法加入了测试集合和寄存器，它比转移文法更能准确地分析输入的自然语言，但也具有复杂性、脆弱性、低效性等缺点。

3、 语义文法

语义文法的分析原理与语法驱动相似，但其具有更大的优越性。语义文法中是对句子的语法和语义的共同分析，能够解决语法驱动分析中单一对语法分析带来的不足。它能够根据句子的语义，将输入的自然语言更通顺地表达出来，除去一些语法正确但不合语义的翻译。但是语义文法分析仍然有不容忽视的缺点，其分析的语句中有时会出现不合语法的现象，并且这类分析较为复杂，语义类难以确定，语义的规则太多……因此，语义文法技术仍需要改进措施。

什么是自然语言处理？

自然语言处理（Natural Language Processing，NLP）是一门人工智能技术领域中的一个分支，其主要研究计算机与人类语言之间的交互关系，即如何让计算机“理解”人类语言，并自己能够处理和产生语言信息。自然语言处理涉及语音识别、语音合成、文本分析、语言生成等方面，在信息检索、智能对话等领域具有广泛的应用，能够帮助人们更加高效地处理语音和语言信息。

自然语言处理的难点在于人类语言的复杂性和多样性，不同的语言、方言和语境中表达出的意思也会有所不同。NLP技术要求具备深厚的语言学、计算机科学、数学等多方面的知识，需要掌握文本分析、机器研究、深度研究、神经网络等多种算法方法，以及大量的数据支撑。因此，目前实际应用场景仍然有限，但是随着技术的不断迭代，自然语言处理的应用前景非常广阔。

近年来，随着互联网、智能移动设备等技术的发展，人们愈加依赖于语音和文字交流，自然语言处理的意义也变得越来越重要。可以预见，自然语言处理技术将会在金融、医疗、客服、智能家居等领域得到广泛应用，带来颠覆性的变化和巨大的经济效益。