基于最大熵模型的中文词与句情感分析研究*
董喜双，关毅，李本阳，陈志杰，李生
哈尔滨工业大学，哈尔滨，150001
dongxishuang@https://www.doczj.com/doc/3215598195.html,, guanyi@https://www.doczj.com/doc/3215598195.html,, libenyang012566@https://www.doczj.com/doc/3215598195.html,, ruoyu_928@https://www.doczj.com/doc/3215598195.html,,
lisheng@https://www.doczj.com/doc/3215598195.html,
摘要：本文将研究焦点对准喜、怒、哀、惧四类情感分析问题，重点解决中文词、句的情感分析问题。将词的情感分析处理为候选词情感分类问题。首先通过词性过滤获得候选词，进而根据特征模板获取候选词情感特征，然后应用最大熵模型判断候选词情感类别，最后应用中性词典、倾向性词典、复句词表、否定词表过滤候选情感词分类错误得到情感词集合。句的情感分析首先根据情感词典和倾向词典提取词特征，并采用规则提取词序列特征，然后采用最大熵模型对句子进行情感分类。在COAE2009评测中词与句情感分析取得较好结果。
关键词：情感分析；情感极性；最大熵；分类；
Sentiment Analysis on Chinese Words and Sentences Based on Maximum Entropy Model
Dong Xi-Shuang, Guan Yi, Li Ben-Yang, Chen Zhi-Jie, Li Sheng
Harbin Institute of Technology, Harbin 150001
dongxishuang@https://www.doczj.com/doc/3215598195.html,, guanyi@https://www.doczj.com/doc/3215598195.html,, libenyang012566@https://www.doczj.com/doc/3215598195.html,, ruoyu_928@https://www.doczj.com/doc/3215598195.html,,
lisheng@https://www.doczj.com/doc/3215598195.html,
Abstract: This paper presents a method to analyze sentiments on Chinese words and sentences, where the sentiments include happy, angry, sad, and fear. In the case of words, sentiment analysis was processed as the sentiment classification of candidate words. The candidate words were firstly obtained by POS filtering, then Maximum Entropy (ME) model was adopted to judge sentiment categories of the words, which sentiment features were gained with feature templates. Finally, errors in the word classification would be removed through filtering with a neutral lexicon, a sentiment polarity lexicon, a connective word list of complex sentences, and a negative word list. In the case of sentences, word features in sentences were extracted on the basic of the sentiment lexicon and the sentiment polarity lexicon, and word sequence features were extracted by rules while processing sentiment analysis on sentences, then ME model was used to classify the sentences. Good performance of sentiment analysis was gained in COAE 2009.
Keywords: Sentiment Analysis, Sentiment Polarity, Maximum Entropy, Classification
1 引言
情感分析的主要任务为识别文本对某一事物的观点[1]。情感包含两方面信息：情感极性与情感强度。情感极性指情感要素（词、短语、句子以及篇章）表达的情感倾向。情感强度指情感要素表达情感的强弱程度。情感分析包含四方面研究内容：词级情感分析、短语级情感分析、句级情感分析以及篇章级情感分析。词级情感分析包括识别候选情感词、判断候选情感词情感极性与强度以及构建情感字典[2]。短语级情感分析为根据情感词识别
*董喜双，1981年出生，男，黑龙江省哈尔滨市，博士研究生。本项研究受到国家自然科学基金项目支持，项目批准号：60975077，60736044
情感短语并判定情感极性与强度[3]。句级情感分析为识别句级观点持有人、评价对象以及判断句子的情感倾向[2][4]。篇章级情感分析为识别篇章对某一事物的观点[5-6]。文本情感分析可用来决定获取何种信息并且如何呈现和组织信息。例如信息检索系统可应用情感分析过滤、获取支持某一特定政治倾向的文本[7]。问答系统可根据观点扩展查询，获得更加全面、精准的答案[8]。
本文主要涉及情感分析两方面：词级情感分析和句级情感分析。词级情感分析要求在一定的上下文环境中抽取出能够明确表达作者情感的词，并判断该情感词所属的类别。句级情感分析要求在一定的上下文环境中抽取出能够明确表达作者情感的句子，并判断该情感句所属的类别。其中情感类别包括：喜（happy）、怒（angry）、哀（sad）和惧（fear）。两方面问题难点在于情感类别增至四类使分类更加困难。因而本文将这一困难作为研究重点。
本文结构组织如下：第二部分介绍相关研究工作；第三部分简介最大熵模型；第四部分重点描述词、句级情感分析的方法及优缺点；第五部分分析实验结果；最后给出结论与展望。
2 相关研究
词级情感倾向分析主要任务是判断候选词情感。当前方法主要有两种：（1）基于电子词典的候选词情感分析；（2）基于机器学习的候选词情感分析。
利用电子词典判断候选词的情感相关工作包括：文献[9]利用WordNet和General Inquirer(GI)[10]的同义词集和反义词集获取候选词的情感倾向信息；文献[11]利用HOWNET提供的语义相似度方法计算词与基准情感词集的语义相似度值，以此推断该候选词的情感倾向；文献[12]利用《同义词词林》中的同义词词群扩展基准情感词集。这些方法缺点在于对已有的电子词典具有较强的依赖性。
基于机器学习的候选词情感分析方法包括基于无监督学习和基于有监督学习的候选词情感分析。文献[3]计算词与种子情感词的点互信息(Pointwise Mutual Information, PMI)，以此推断该词的情感倾向。文献[13]则在PMI方法的基础上结合文本中连接上下文的关联词处理，进一步挖掘文本中的情感词。无监督的机器学习方法依赖于处理语料的领域范围，同样存在着对基准情感词的依赖性问题，而且正确率较低。基于有监督学习方法如：文献[14]利用词语搭配模式发现在主观性文本中的倾向性词语及其搭配关系；文献[15]利用从情感标注语料中抽取的上下文模板，统计词与上下文模板之间的关系，进而判断该词的情感倾向。基于有监督学习方法精度较高，但缺陷是人工标注语料库的缺乏以及语料库标注的不一致性。
句级情感倾向分析主要任务是判别句子的情感倾向性。文献[2]通过获取特定区域（窗口1：句子内部；窗口2：句中评论人与评价对象之间；窗口3：窗口2前后两个词；窗口4：窗口2到句尾）内的情感特征，分别利用情感倾向累乘模型、情感强度调和平均模型以及情感强度几何平均模型判断句子情感倾向性。实验表明在窗口4区域内识别特征并结合情感倾向累乘模型准确度达到81%。该方法主要缺陷在于需正确标注评价人和评价对象，同时情感累乘模型无法准确判断否定句情感倾向。文献[7]将观点句分析处理为分类问题，并利用朴素贝叶斯分类模型达到90%精度。该方法难点在于精准的提取情感特征。文献[16]将情感句分析类比为句子的情感序列化标注问题。该方法不仅从句子本身的情感分析角度出发，还考虑其临近句子对其情感倾向的影响以及整个篇章对其情感倾向影响。该方法明显优点是考虑了不同级别情感分析之间的相互影响，但其缺点在于复杂的编码和解码过程。
本文解决词级情感分析问题时首先构建情感词典，然后借鉴文献[17]思想，采用情感
词分类方法，通过提取候选词周围的不同特征，利用最大熵模型判断候选词的情感极性，并以类别概率作为结果的置信度。句级情感分析在文献[7]的基础上，采用情感分类方法判别句的情感极性。首先介绍本文使用的分类模型。
3 最大熵模型
文献[18]基于信息熵理论建立了最大熵模型。在一定的限制条件下，选择一个系统的最优分布时，如果这些限制条件无法确定唯一的系统分布，那么最好的分布就是在满足所有限定条件下，系统信息熵最大的分布。
给定H 代表特征集合，最大熵模型的目标是寻找最优的标记T （使条件概率)|(H T p 的条件熵最大）。由最大熵的独立性假设，不考虑标记之间影响，以 t 代表一个特定的状态，h 代表该状态的上下文观测值，条件熵可被定义为：
∑∈∈?
=H h T t h t f h t p h p p H ,~),()|()()(
(1) 其中，)(~h p 为特征h 的先验概率，),(h t f 为特征函数，)|(h t p 为状态t 的条件概率。由于最大熵模型的解是存在的且唯一，因此可通过运算得到：
)()
),(exp()|(h Z h t f h t p i i i ∑=λ (2)
其中，i f 为特征i 的特征函数，∑∑=t i i i h t f h Z )),(exp()(λ
为归一化因子。i λ是
特征i 的权重，训练过程就是用数值算法求每个i λ值的过程。最大熵模型在自然语言处理领域应用广泛，其中文献[19]最早在自然语言处理领域使用最大熵模型。本文在词、句情感分析中采用最大熵模型作为分类器并取得较好效果，下面详细描述词、句情感分析过程。 4 词句情感分析
4.1 词级情感分析
首先通过三种模型构建情感词典。然而情感词典中情感词数量有限，因此采用最大熵分类模型进一步挖掘情感词。本文在搜狗实验室[20]提供的互联网语料库(SogouC)以及聚友网[21]上的博客、论坛文章上构建情感词典，语料规模有近15000篇文章，大小近70M 。应用如下三种模型构建情感词典：
(1)字符情感分值计算方法
Ku 在NTUSD[22]词典的基础上引入了字符情感分值计算方法。字符情感分值计算方法的基本思想是以构成词的字符的情感倾向表征词的情感倾向。
(2)语义相似度计算方法
词语的语义相似度反映了文本中词语的可替换程度。两个词语，如果在不同的上下文中可以互相替换且不改变文本的句法语义结构的可能性越大，二者的相似度就越高，否则相似度就越低。通过计算未知情感的候选词与基准情感词集的语义相似度，进而判断该词
的情感倾向。
(3)点互信息计算方法
点互信息是用来计算分布中两个特定样本点之间的互信息，即衡量两个元素之间的关联程度。通过计算未知情感的候选词和基准情感词集的点互信息，进而判断该词的情感倾向。
情感词典构建具体流程如图1所示。
图1 中文情感词典构建流程图
Fig.1 the Flow Chart of Constructing the Chinese Sentiment Lexicon 图1中，模型1表示字符情感分值计算方法，模型2表示语义相似度的计算方法，模型3表示点互信息计算方法。中文情感词典的构建流程如下：
中文情感词典的构建流程如下：
(1) 对语料进行分词、词性标注等预处理，并依据初始情感词典发现文本中未知情感的候选词语。
(2) 将候选词语及其上下文送入到模型中，判别候选词语的情感倾向。
(3) 对各个模型的判别结果进行人工校正，形成情感词典。
由于情感词典是一个有限集合，不能保证最大程度识别语料中的情感词，因此借鉴文献[17]思想通过选择3大类特征，采用最大熵模型挖掘情感词。
(1) 词性特征
本文采用LMR情感词模板[17]获取词性特征。LMR设定为三个词，符号L、M、R分别表示左一词、待测定词和右一词。所使用的特征为三个词的词性信息。如待预测词“欣然”。
例如：李明/n 欣然/d 接受/v 任务/n 。/w
则获取的词性特征为n_d_v。
(2) 句型特征
通过观察评测数据发现部分句型影响情感词表达情感，因而选择句型信息明显的问句、感叹句以及表示祝愿的祈使句作为句型特征。
(3) 字特征
将预测词拆成单字作为统计特征。例如“欣然”拆成“欣”与“然”分别作为统计特征。
当获取候选情感词特征后，使用最大熵模型挖掘情感词，流程如图2所示。
图2 识别情感词流程图
Fig.2 the Flow Chart of Recognition of Sentiment Words
经上述流程获得候选情感词情感类别，但观察发现候选情感词中存在错误，因而使用中性词典、否定词表、复句词表以及倾向性词典过滤部分错误得到最终情感词集合。
4.2句级情感分析
本文主要采用分类的方法判断句子情感。分类的方法能够很容易的融入更多的有用的特征，同时也可获得较高的准确率[3]。但分类方法需要情感标注语料作为训练语料，因此首先人工构造四类情感标注语料作为训练语料。
本文对比了最大熵和支持向量机分类模型，实验结果发现两者F值差别在1%-2%之间，但处理情感分类时最大熵模型具有更好的表现，最终采用最大熵模型。具体流程如图3所示。
图3 识别情感句流程图
Fig.3 the Flow Chart of Recognition of Sentiment Sentences
1. 情感句过滤
由于情感句在句子集合中所占比例小而导致语料不平衡，对于分类结果影响较大。另一方面情感句大部分含有情感词，因此使用情感词典过滤不含有情感词的句子，并可有效的减少语料不平衡造成的影响。同时书名号里面是作品名，对于情感分析没有帮助，因此去掉书名号中的内容。
2. 特征获取
选取的特征主要包括三类：
(1)词和词序列
除了识别情感词语倾向词特征外，否定词也会对情感句分析产生影响，而且单纯使用词汇无法体现出词语的顺序关系，因此对于含有情感词、否定词的一定距离内的词序列进行了提取。根据实验选定词间距离为6的词序列。
(2)情感词强度累加值
在简单句中，通常某一类比重大的情感词决定该句情感，因此情感词的数量以及情感词强度对句子情感分析有较大影响。因此将不同类别的情感词强度累加值以及强度最大的类别作为特征。强度累加值特征函数如式3所示。
?????????≥≥>≥>>>==11
47103472
04100)(x x x x x x C (3) 其中，x 表示情感词强度累加值。
(3)其他
句型信息有助于判断情感类别，选择问句与感叹句作为句型特征；通常句子越长出现情感词等特征就会越多，所以句长也作为特征。句长的特征函数如式4所示。
300
100300241002443
21)(≥≥>≥>
5 实验与分析
5.1数据
采用C OAE2009评测提供的dataset1数据集，文件格式是简体中文的txt 文本文件。dataset1语料集由4万篇文本构成，主观文本与客观文本混合，主观文本不少于20%，包括真实用户评论和新闻报道评论等，涉及财经、娱乐、影视、教育、房地产、电脑、手机等领域，文章长度从几个句子到上百个句子不等。
5.1实验结果与分析
词级情感分析实验结果如表1所示。
表1词级情感分析
Tab.1 Sentiment Analysis on Words
Precision P@1000 Recall F1 R-accuracy HITLTRTask1-angry-1.txt 0.4862390.1060.1141010.184830.114101 HITLTRTask1-fear-1.txt 0.5602840.0790.1166910.1931540.116691 HITLTRTask1-happy-1.txt 0.5698920.1590.1029130.1743420.102913 HITLTRTask1-sad-1.txt 0.4655650.1690.1372870.2120450.137287 AVG 0.5204950.1280.1177480.19109280.117748
MEDIAN 0.4794250.142630.12549970.17757750.1254997
MAX 0.6191840.1920.17951650.20787150.166954其准确度好于平均值并且F1值略低于最大值，但其P@1000值、召回率、以及R-accuracy值要低于平均值，其原因主要在于在挖掘情感词时过滤了部分单字词以及三字词，另一方面，分词错误也会影响最终情感词识别结果。
句级情感分析结果共两组，结果分别如表2和3所示。
表2句级情感分析1
Tab.2 Sentiment Analysis on Sentences 1
Precision P@1000Recall F1 R-accuracy HITLTRTask2-angry-1.txt 0.3746180.2450.1492990.2135080.149299 HITLTRTask2-fear-1.txt 0.4041240.3920.2382980.2998090.238298 HITLTRTask2-happy-1.txt 0.2123080.4140.2018530.2069480.182838 HITLTRTask2-sad-1.txt 0.1545570.3510.1822430.1672620.136033 AVG 0.286401750.35050.192923250.221881750.176617
MEDIAN 0.1584070.3660.2012230.12465220.15746
MAX 0.3706620.68050.3740710.2324050.189788
表3句级情感分析2
Tab.3 Sentiment Analysis on Sentences 2
Precision P@1000 Recall F1 R-accuracy HITLTRTask2-angry-2.txt 0.3018220.2650.1614870.2104010.161487 HITLTRTask2-fear-2.txt 0.4223110.4240.2577510.3201210.257751 HITLTRTask2-happy-2.txt 0.2424390.4970.2423210.242380.210629 HITLTRTask2-sad-2.txt 0.1409030.340.1765320.1567180.129283 AVG 0.276868750.38150.209522750.2324050.1897875
MEDIAN 0.1584070.3660.2012230.12465220.15746
MAX 0.3706620.68050.3740710.2324050.189788从表2数据可观察到，准确度、P@1000以及召回率较大的低于最大值，但F1值以及R-accuracy已接近最大值，这主要是模型在准确率和召回率方面表现比较平衡。另一方面，
惧（fear）类准确度高于最大值近10%，这主要是由于这类情感特征明显、易提取。而表达喜（happy）和哀（sad）精度较低原因在于部分情感特征不易区分。表3中大体反映出与表2一致的现象，当其F1值已经达到最大值，产生这一结果的原因在使用了一个相对丰富的情感词典。
6 结论与展望
本文采用分类思想处理喜、怒、哀、惧四类情感的词、句情感分析问题。词级情感分析首先构建情感词典，然后借助情感词典中部分情感词并采用分类思想挖据语料中新情感词。句级情感分析通过选取情感特征（情感词、倾向词、否定搭配等），采用最大熵分类器对句进行情感分类并在句级情感分析中取得较好结果。
下一步工作将尝试深入挖掘情感词的各方面特征，同时在处理句级情感分析时将考虑句子间情感影响以及篇章对句子的影响。另一方面，分别以词级和句级情感分析为基础将研究扩展到短语以及篇章情感分析。
感谢
在此感谢孙慧、薛璐影、李超、张书娟、季知祥、阎于文等同学为本文工作提出的宝贵建议和付出的努力。
参考文献
[1]Bo Pang, Lillian Lee. A Sentimental Education: Sentiment Analysis Using Subjectivity Summarization
Based on Minimum Cuts. In Proceedings of the ACL, 2004, pp.271-278.
[2]Soo-Min Kim, Eduard Hovy. Determining the sentiment of opinions. In Proceedings of COLING, 2004,
pp.1367-1373.
[3]Peter D. Turney. Thumbs Up or Thumbs Down? Semantic Orientation Applied to Unsupervised
Classification of Reviews. In Proceedings of the 40th Annual Meeting of the Association for Computational Linguistics, 2002, pp.417-424.
[4]Y. Mao, G. Lebanon. Isotonic conditional random fields and local sentiment flow. In Proceedings of NIPS,
2006.
[5]Bo Pang, Lillian Lee, Shivakumar Vaithyanathan. Thumbs up? Sentiment Classification using Machine
Learning Techniques. In Proceedings of EMNLP, 2002, pp.79-86.
[6]Zhang, Y., Li, Z., Ren, F., et al. Semi-automatic emotion recognition from textual input based on the
constructed emotion thesaurus. In Proceedings of IEEE International Conference on Natural Language Processing and Knowledge Engineering, 2005, pp.571-576.
[7]Hong Yu, Vasileios Hatzivassiloglou. Towards Answering Opinion Questions: Separating Facts from
Opinions. In Proceedings of EMNLP-03, 2003, pp.129-136
[8]Cardie Claire, Janyce Wiebe, Theresa Wilson, et al. Combining low-level and summary representations of
opinions for multi-perspective question answering. In AAAI Spring Symposium on New Directions in
Question Answering, 2003, pp.20-27.
[9]Vasileios Hatzivassiloglou, Kathleen R. McKeown. Predicting the Semantic Orientation of Adjectives. In
Proceedings of the 35th Annual Meeting of the Association for Computational Linguistics and the 8th Conference of the European Chapter of the ACL, 1997, pp.174-181.
[10]General Inquirer. https://www.doczj.com/doc/3215598195.html,/~inquirer.
[11]朱嫣岚, 闵锦等. 基于HowNet的词汇语义倾向计算 [J]. 中文信息学报, 2006, V ol.20, No.1: 14-20.
[12]路斌, 万小军, 杨建武, 陈晓鸥. 基于同义词词林的词汇褒贬计算. 第七届中文信息处理国际会议,
2007: 17-23.
[13]姚天昉, 娄德成. 汉语情感词语义倾向判别的研究 [A]. 中文计算技术与语言问题研究-第七届中文
信息处理国际会议论文集[C], 2007: 221-225.
[14]Janyce Wiebe, Rebecca Brucey, Matthew Bell, et al. A Corpus Study of Evaluative and Speculative
Language. In Proceedings of the Second SIGdial Workshop on Discourse and Dialogue, 2001, pp.1-10. [15]Qi Zhang, Xi-Peng Qiu, Xuan-Jing Hung, Li-De Wu. Learning Semantic Lexicons using Graph Mutual
Reinforcement based Bootstrapping. Acta Automatica Sinica, V ol.34 (10), 2008: 1257-1261.
[16]R. McDonald, K. Hannan, T. Neylon, et al. Structured models for fine-to-coarse sentiment analysis. In
Proceedings of the 45th Association of Computational Linguistics, 2007, pp.435-439.
[17]何慧，李思，肖芬，徐蔚然，郭军. PRIS中文情感倾向性分析技术报告. 第一届中文情感分析测评. 2008:
46-55.
[18]T. Jaynes. Information Theory and Statistical Mechanics. Physics Reviews. 1957(106): 620-630
[19]Adam L. Berget, Stephen A. Della Pietra, Vincent J.Della Pietra. A Maximum Entropy Approach Natural
Language Processing. Computational Linguistics, V ol. 22, No. 1. (1996), pp. 39-71.
[20]Sogou Labs. https://www.doczj.com/doc/3215598195.html,/labs/.
[21]https://www.doczj.com/doc/3215598195.html,. https://www.doczj.com/doc/3215598195.html,/.
[22]Lun-Wei Ku, Yu-Ting Liang, Hsin-Hsi Chen. Opinion Extraction, Summarization and Tracking in News
and Blog Corpora. In Proceedings of AAAI-2006 Spring Symposium on Computational Approaches to Analyzing Weblogs, 2006, pp.100-107.
文本情感分析综述? 赵妍妍+, 秦兵, 刘挺 (哈尔滨工业大学计算机科学与技术学院信息检索研究中心, 黑龙江哈尔滨 150001) A Survey of Sentiment Analysis * ZHAO Yan-Yan+, QIN Bing, LIU Ting (School of Computer Science and Technology, Harbin Institute of Technology, Harbin 150001, China) + Corresponding author: Phn: +86-451-86413683 ext 800, E-mail: zyy@https://www.doczj.com/doc/3215598195.html, Abstract: Sentiment analysis is a novel research topic with the quick development of online reviews, which has drawn interesting attention due to its research value and extensive applications. This paper surveys the state-of-the-art research on sentiment analysis. First, three important tasks of sentiment analysis are summarized and analyzed in detail, including sentiment extraction, sentiment classification, sentiment retrieval and summarization; then the evaluation and corpus for sentiment analysis are introduced; finally the applications of sentiment analysis are concluded. This paper aims to take a deep insight into the mainstream methods and recent progress in this field, making detailed comparison and analysis. It is expected to be helpful to the future research. Key words: sentiment analysis; sentiment extraction; sentiment classification; sentiment retrieval and summarization; evaluation; corpus 摘 要: 文本情感分析是随着网络评论的海量增长而迅速兴起的一个新兴研究课题,其研究价值和应用价值受到人们越来越多的重视.本文对文本情感分析的研究现状与进展进行了总结.首先将文本情感分析归纳为三项主要任务,即情感信息抽取,情感信息分类以及情感信息的检索与归纳,并对它们进行了细致的介绍和分析;进而介绍了文本情感分析的国内外评测和资源建设情况;最后介绍了文本情感分析的应用.文本重在对文本情感分析研究的主流方法和前沿进展进行概括,比较和分析,以期对后续研究有所助益. 关键词: 文本情感分析;情感信息抽取;情感信息分类;情感信息的检索与归纳;评测;资源建设 中图法分类号: TP391文献标识码: A 随着Web2.0的蓬勃发展,互联网逐渐倡导“以用户为中心,用户参与”的开放式构架理念.互联网用户由单纯的“读”网页,开始向“写”网页、“共同建设”互联网发展,并由被动地接收互联网信息向主动创造互联网信息迈进.因此,互联网(如:博客和论坛)上产生了大量的用户参与的,对于诸如人物、事件、产品等有价值的评论信息.这些评论信息表达了人们的各种情感色彩和情感倾向性,如“喜”、“怒”、“哀”、“乐”,和“批评”、“赞扬”等.基于此,潜在的用户就可以通过浏览这些主观色彩的评论,来了解大众舆论对于某一事件或产品的看法.由于越来越多的用户乐于在互联网上分享自己的观点或体验,这类评论信息迅速膨胀,仅靠人工的方法难以应对网上海量信 ?Supported by the National Natural Science Foundation of China under Grant Nos. 60803093, 60975055 (国家自然科学基金) and the “863” National High-Tech Research and Development of China via grant 2008AA01Z144(863计划探索类专题项目)
摘要 题目：微博短文本细粒度情感分析 摘要 微博作为是移动互联网起步最早也发展最快的业务之一，在经历了最初几年的高速增长和热捧之后，一度有些沉寂。但是，伴随着4G网络、WiFi网络大规模覆盖，移动终端智能设备的极速增长，越来越多的人频繁地使用微博。移动端用户的增长，让微博有了日活跃用户超过1亿的基础。基于该庞大的用户群体，利用微博文本对用户进行情感分析，不仅有利于新生代商业模式探索、社会舆情监控与分析，而且对人工智能发展的积极意义也不容小觑。文本情感分析为人工智能在人类情感领域的探索做出了积极的贡献。 微博具有典型的网络语言特点，语法规范性差、口语化、新词汇层出不穷、大量的表情符号和文本噪声等。基于传统规范书面语言词典的微博情感分析效果差强人意。为了解决这个问题，本文一方面通过对传统情感词典进行网络语言的扩充，构建了新的适用于微博文本分析的词典，并通过实验验证了词典的有效性；另一方面，使用对特殊情感词汇依赖性小的RAE网络模型，性能得到了提高。 含有否定词的文本情感判别较为复杂，否定词的加入可能使原文本情感极性发生转变，也可能极性保持不变，程度有所削弱。传统本文传统的情感分析方法通常对文本模型进行简化，假设一个词语仅和其前一个词语有关，对含有否定词的文本的积极/消极判别较差。RNTN模型没有进行类似简化，保持了词向量之间的强相关性。本文通过对RNTN模型的训练，使其在含有否定词中文文本情感极性判别上有良好的表现。 RNTN模型对词语或短语级细粒度情感分析上表现出色，而且不需要大量的人工标注；RAE模型作为较为成熟的深度学习模型，抛弃了传统的词袋模型，利用层次结构和成分语义来进行情感分类；SVM作为传统机器学习方法，通用性强，适用范围广。结合以上方法的特点以及情感分类的任务目标，本文设计了微博短文本的双极性、细粒度情感分类方案，首先使用SVM对微博篇章进行主客观分类，RAE和RNTN对判定为主观情感的文本的每一个句子进行正负极性判断，并选出极性最强的句子，该句子的情感极性即为整个微博的情感极性。若RAE和RNTN评判结果一致，即为最终结果。并通过实
文本情感分析 赵妍妍，秦兵，刘挺- 软件学报, 2010 - https://www.doczj.com/doc/3215598195.html, 按粒度，情感分析可分为词语级、短语级、句子级、篇章级、多篇章级；按文本类别，可分为基于新闻评论和基于产品的情感分析。 情感分析的研究任务：情感信息的抽取、分类以及检索与归纳。 一、情感信息抽取(评价词语、评价对象、观点持有者) 1.评价词语的抽取：基于语料库的抽取；基于词典的抽取；基于图的方法。 2.评价对象的抽取：基于规则/模板的方法(词序列、词性、句法规则、关联规则挖掘)；评 价对象最为产品属性，考察评价对象与领域指示词的关联度来获取；多粒度的话题模型方法。 3.观点持有者抽取：命名实体识别技术(人名或机构名)、语义角色标注；分类任务，看做 序列标注问题，使用CRF融合特征抽取；名词短语作为候选，使用ME模型计算。 4.组合评价单元的抽取： 主观表达式：Wiebe的主观表达式库(抽取n元词语/词组作为候选，对比训练预料判断) 评价短语抽取(程度副词-评价词语)：情感词典的方法；依存句法解构(ADV，ATT，DE)。 评价搭配抽取(评价词语-评价对象)：基于模板的方法(8个共现模板、句法关系模板)。 二、情感信息分类 1.主客观信息分类：文本是否含情感知识方法；组合评价单元判断；情感模板识别；基于 分类器和分类特征的二元分类任务(词语特征，标点、人称代词、数字特征，基于图)； 2.主观信息情感分类(句子级、篇章级)：基于情感知识、基于特征分类的方法(n-gram词语 特征和词性特征、位置特征、评价词特征)。 三、情感信息的检索与归纳 1．情感信息检索 2．情感信息归纳 基于产品属性的情感文摘：识别评论信息中的产品属性，抽取描述产品属性的情感句，判断其倾向性。 基于情感标签的情感文摘：标签可定义为评价搭配形式，建立标签库，相似度聚类的方法聚类得到相似的情感标签，每一类视为潜在的话题(即产品属性)。 基于新闻评论的文摘 四、情感分析的评测与资源 1.情感分析的评测：TREC，NTCIR的MOAT(新闻观点检测，情感问答，跨语言情感分析)， 国内的COAE。 2.情感分析的语料：康奈尔大学的影评数据集，UIC的Hu和Liu的产品领域的评论语料， Wiebe的MPQA新闻评论深度标注语料，MIT的多角度餐馆评论语料，中科院的中文酒店评论语料。 3.词典资源：GI(general inquirer)评价词词典，NTU评价词词典(繁体中文)，主观词词典(英 文)，HowNet评价词词典(简体中文、英文) 问题：情感信息抽取忽略词语所在语境的影响；评价对象的情感分类，而非句子级或篇章级；基于情感标签的情感文摘的深入研究；
情感分析简述 分类：NLP2012-04-08 12:38 1022人阅读评论(3) 收藏举报情感classification算法测试translationmatrix 情感分析，我研究了也有半年有余了，ACL Anthology上关于情感分析的论文也基本看过了一遍，但是到目前还没有什么成就的。以下是我为一位同学毕业设计写的情感分析方面的综述，引用的论文基本上是ACL 和COLING还有EMNLP上历年关于情感分析的论文，本文应该学术性比较强一点，本文虽不打算发表，但由于将来可能还有用，以及关于学术上的原因，请大家如果要引用请务必标明出处 （https://www.doczj.com/doc/3215598195.html,/s/blog_48f3f8b10100irhl.html）。 概述 情感分析自从2002年由Bo Pang提出之后，获得了很大程度的研究的，特别是在在线评论的情感倾向性分析上获得了很大的发展，目前基于在线评论文本的情感倾向性分析的准确率最高能达到90%以上，但是由于深层情感分析必然涉及到语义的分析，以及文本中情感转移现象的经常出现，所以基于深层语义的情感分析以及篇章级的情感分析进展一直不是很大。情感分析还存在的一个问题是尚未存在一个标准的情感测试语料库，虽然Bo Pang实验用的电影评论数据集（https://www.doczj.com/doc/3215598195.html,/people/pabo/movie-review-data/）以及Theresa Wilson等建立的MPQA（https://www.doczj.com/doc/3215598195.html,/mpqa/）是目前广泛使用的两类情感分析数据集，但是并没有公认的标准加以确认。 目前情感分析的研究基本借鉴文本分类等机器学习的方法，还没有根据自身的特点形成一套独立的研究方法，当然在某种程度上也可以把情感分析看出一种特殊的文本分类。比较成熟的方法是基于监督学习的机器学习方法，半监督学习和无监督学习目前的研究不是很多，单纯的基于规则的情感分析这两年已很少研究了。既然目前很多情感分析的研究基于机器学习，那么特征选择就是一个很重要的问题，N元语法等句法特征是使用最多的一类特征，而语义特征（语义计算）和结构特征（树核函数）从文本分类的角度看效果远没有句法特征效果好，所以目前的研究不是很多的。 由于基于监督学习情感分析的研究已经很成熟了，而且在真实世界中由于测试集的数量要远远多于训练集的数量，并且测试集的领域也不像在监督学习中被限制为和训练集一致，也就是说目前情感分析所应用的归纳偏置假设在真实世界中显得太强的，为了和真实世界相一致，基于半监督学习或弱指导学习的情感分析和跨领域的情感分析势必是将来的研究趋势之一。 在情感分析的最初阶段基于语义和基于规则的情感分析曾获得了比较大的重视，但是由于本身实现的复杂性以及文本分类和机器学习方法在情感分析应用上获得的成功，目前关于这方面的研究以及很少了，但是事实上，语义的相关性和上下文的相关性正是情感分析和文本分类最大的不同之处，所以将基于语义和规则的情感分析与基于机器学习的情感分析相结合也将是未来的研究趋势之一。 以下将分别对情感分析的起源，目前基于监督学习，无监督学习，基于规则和跨领域的情感分析的一些研究工作进行简单的介绍。 起源 虽然之前也有一些相关工作，但目前公认的情感分析比较系统的研究工作开始于（Pang et al., 2002）基于监督学习（supervised learning）方法对电影评论文本进行情感倾向性分类和（Turney,2002）基于无监督学习（unsupervised learning）对文本情感情感倾向性分类的研究。（Pang et al., 2002）基于文本的N元语法（ngram）和词类（POS）等特征分别使用朴素贝叶斯（Naive Bayes），最大熵（Maximum Entropy）和支持向量机（Support Vector Machine，SVM）将文本情感倾向性分为正向和负向两类，将文本的情感进行二元划分的做法也一直沿用至今。同时他们在实验中使用电影评论数据集目前已成为广泛使用的情感分析的测试集。（Turney ,2002）基于点互信息（Pointwise Mutual Information，PMI）计算文本中抽取的关键词和种子词（excellent,poor）的相似度来对文本的情感倾向性进行判别（SO-PMI算法）。 在此之后的大部分都是基于（Pang et al., 2002）的研究。而相对来说，（Turney et al.,2002）提出的无监督学习的方法虽然在实现上更加简单，但是由于单词之间的情感相似度难以准确的计算和种子词的难以确定，继续在无监督学习方向的研究并不是很多的，但是利用SO-PMI算法计算文本情感倾向性的思想却被很多研究者所继承了。 监督学习 目前，基于监督学习的情感分析仍然是主流，除了（Li et al.,2009）基于非负矩阵三分解（Non-negative Matrix Tri-factorization），（Abbasi et al.,2008）基于遗传算法（Genetic Algorithm）的情感分析之外，使用的最多的监督学习算法是朴素贝叶斯，k最近邻（k-Nearest Neighbor，k-NN），最大熵和支持向量机的。而对于算法的改进主要在对文本的预处理阶段。 一个和文本分类不同地方就是情感分析有时需要提取文本的真正表达情感的句子。（Pang et al., 2004）基于文本中的主观句的选择和（Wilson el al.,2009）基于文本中的中性实例（neutral instances）的分析，都是为了能够尽量获得文本中真正表达情感的句子。（Abbasi et al.,2008）提出通过信息增益（Information Gain，IG）的方法来选择大量特征集中对于情感分析有益的特征。 而对于特征选择，除了N元语法和词类特征之外，（Wilson el al.,2009）提出混合单词特征，否定词特征，情感修饰特征，情感转移特征等各类句法特征的情感分析，（Abbasi et al.,2008）提出混合句子的句法（N元语法，词类，标点）和结构特征（单词的长度，词类中单词的个数，文本的结构特征等）的情感分析。 除了对于文本的预处理，对于监督学习中情感分析还进行了以下方面的研究的。（Melville et al., 2009）和（Li et al.,2009）提出结合情感词的先验的基于词典的情感倾向性和训练文本中后验的基于上下文的情感情感倾向性共同判断文本的情感倾向性。（Taboada et al.,2009）提出结合文本的题材（描述，评论，背景，解释等）和文本本身的特征共同判断文本的情感倾向性。（Tsutsumi et al.,2007）提出利用多分类器融合技术来对文本情感分类。（Wan, 2008）和（Wan, 2009）提出结合英文中丰富的情感分析资源来提高中文情感分析的效果。 基于规则/无监督学习
Web文本情感分类研究综述 王洪伟/刘勰/尹裴/廖雅国 2012-9-27 14:55:59 来源：《情报学报》(京)2010年5期【英文标题】Review of Sentiment Classification on Web Text 【作者简介】王洪伟，男，1973年生，博士，副教授／博士生导师，研究方向：本体建模和情感计算，E-mail:hwwang@https://www.doczj.com/doc/3215598195.html,。同济大学经济与管理学院，上海200092； 刘勰，男，1985年生，硕士研究生，研究方向：数据挖掘与情感计算。同济大学经济与管理学院，上海200092； 尹裴，女，1986年生，硕士研究生，研究方向：商务智能。同济大学经济与管理学院，上海200092； 廖雅国，男，1954年生，博士，教授，研究方向：人工智能与电子商务。香港理工大学电子计算学系，香港 【内容提要】对用户发表在Web上的评论进行分析，能够识别出隐含在其中的情感信息，并发现用户情感的演变规律。为此，本文对Web文本情感分类的研究进行综述。将情感分类划分为三类任务：主客观分类、极性判别和强度判别，对各自的研究进展进行总结。其中将情感极性判别的方法分为基于情感词汇语义特性的识别和基于统计自然语言处理的识别方法。分析了情感分类中的语料库选择和研究难点。最后总结了情感分类的应用现状，并指出今后的研究方向。
Analyzing the users' reviews on the Web can help us to identify users' implicit sentiments and find the evolution laws of their emotion. To this end, this paper is a survey about the sentiment classification on the Web text. We divided the process of classification into three categories:subjective and objective classification,polarity identification and intensity identification and respectively summarize the resent research achievements in these fields. We also sorted the methods of polarity identification into two types: one is based on the emotional words with semantic characteristics, while the other statistic methods of natural language processing. What is more, the choice of corpus and potential research problems are discussed. At last, this paper summarized the status quo of application and pointed out the direction of future research. 【关键词】Web文本/情感分类/综述/主观性文本Web texts/Sentiment classification/Survey/Subjective text 随着互联网的流行，Web文本成为我们获取信息、发表观点和交流情感的重要来源。特别是随着Web2.0技术的发展，网络社区、博客和论坛给网络用户提供了更宽广的平台来交流信息和表达意见。这些文章和言论往往包含有丰富的个人情感，比如对某部大片的影评，对某款手机的用户体验等，其中蕴含着巨大的商业价值。如何从这些Web文本中进行情感挖掘，获取情感倾向已经成为当今商务智能领域关注的热点。所谓情感分析(sentiment analysis)，就是确定说话人或作者对某个特定主题的态度。其中，态度可以是他们的判断或者评估，他们（演说、写作时）的情绪状态，或者有意（向受众）传递的情感信息。因此，情感分
基于深度学习的中文短文本情感分析 随着互联网不断发展,网络评论平台不断增加,用户评论数量也 爆发式增长。利用情感分析技术能够有效的挖掘文本包含的情感信息,目前已成为社会舆情监督和厂家获取反馈信息的重要途径,具有很高的研究价值。本文的研究目的是探究中文短文本中所包含的情感信息,主要解决文本情感极性褒贬义分类问题。传统的情感分析方法主要有两种:基于情感词典的方法和基于机器学习的方法。但由于文本语料简短,含有大量未登录词使得上述方法存在数据稀疏问题,且过分依 赖领域专家的标注。近年来出现的深度学习技术能够很好的解决上述问题。因此,本文采用深度学习的方法对中文短文本进行情感分析。主要研究内容如下:首先,在文本数据预处理过程,针对目前网络上存在的大量未登录词,设计了一种新词发现方法,主要是利用词语的内 部凝固度、边界自由度及语言规则对候选新词进行过滤。将识别的新词加入词库,提高分词的准确率。其次,传统的词向量仅考虑了文本中的语义语法信息,会将语义相近,情感极性却相反的词语映射到相邻 的位置,导致最终分类结果错误。为了解决此问题,本文在传统词向量的基础上融合了情感信息,提出一种情感词向量的生成方法。最后, 针对循环神经网络在处理时序信息发生的梯度消失问题,本文提出基于GRU(Gated Recurrent Unit)的情感分析模型,将循环神经网络的隐层节点替换为GRU单元,用于情感分析。本文利用Python中的Keras 深度学习库构建提出的GRU情感分析模型,通过实验,找到模型最佳 参数,并在最佳参数下进行情感分析,其分类的准确率达到92.01%。
将其与机器学习模型SVM及深度学习模型LSTM,CNN进行对比实验,结果表明,在所有指标下,本文提出的以情感词向量作为输入的情感分析模型明显优于其他模型。
情感计算综述 控制工程1102班李晓宇 2111103172 摘要：情感计算是人工智能的一个分支。情感计算的目的是通过赋予计算机识别、理解、表达和适应人的情感的能力来建立和谐人机环境，并使计算机具有更高的、全面的智能。本文分别从情感计算的研究历史、应用前景、研究内容和理论框架来阐述情感计算，以便使更多的人了解情感计算。 关键字: 情感计算；情感识别；情感理论框架 Summary of Affective Computing Abstract：Affective computing is a branch of artificial intelligence. The aim of affective computing is to give computers to recognize, understand, adapt to people's emotional expression and the ability to establish harmonious human environment, and to have higher computer, full of intelligence.This paper explain affective computing through the study of history of affective computing ,applications in the future, research content and theoretical framework, so that more people understand the affective computing. Key word: Affective computing; emotion recognition; the theoretical framework of emotional 1、引言 情感计算的概念是在1997年由MIT媒体实验室Picard教授提出，她指出情感计算是与情感相关，来源于情感或能够对情感施加影响的计算。中国科学院自动化研究所的胡包刚等人也通过自己的研究，提出了对情感计算的定义：“情感计算的目的是通过赋予计算机识别、理解、表达和适应人的情感的能力来建立和谐人机环境，并使计算机具有更高的、全面的智能”。 在较长一段时期内，情感一直位于认知科学研究者的视线以外。直到20世纪末期，情感作为认知过程重要组成部分的身份才得到了学术界的普遍认同。当代的认知科学家们把情感与知觉、学习、记忆、言语等经典认知过程相提并论，关于情感本身及情感与其他认知过程间相互作用的研究成为当代认知科学的研究热点，情感计算（ affective computing ）也成为一个新兴研究领域。 众所周知，人随时随地都会有喜怒哀乐等情感的起伏变化。那么在人与计算机交互过程中，计算机是否能够体会人的喜怒哀乐，并见机行事呢？情感计算研究就是试图创建一种能感知、识别和理解人的情感，并能针对人的情感做出智能、灵敏、友好反应的计算系统，即赋予计算机像人一样的观察、理解和生成各种情感特征的能力。 2、研究现状 让计算机具有情感能力首先是由美国MIT大学Minsky教授（人工智能创始人之一）提出的。他在1985年的专著《The Society of Mind》中指出，问题不在于智能机器能否有任何情感，而在于机器实现智能时怎么能够没有情感。从此，赋予计算机情感能力并让计算机能够理解和表达情感的研究、探讨引起了计算机界许多人士的兴趣。这方面的工作首推美国MIT 媒体实验室Picard教授领导研究小组的工作。情感计算一词也首先由Picard教授于1997年出版的专著《Affective Computing》中提出并给出了定义，即情感计算是关于情感、情感产生以
文本情感分析研究现状 机器之心专栏 作者：李明磊 作为NLP 领域重要的研究方向之一，情感分析在实际业务场景中 存在巨大的应用价值。在此文中，华为云NLP 算法专家李明磊为 我们介绍了情感分析的概念以及华为云在情感分析方面的实践和 进展。 基本概念 为什么：随着移动互联网的普及，网民已经习惯于在网络上表达意见和建议，比如电商网站上对商品的评价、社交媒体中对品牌、产品、政策的评价等等。这些评价中都蕴含着巨大的商业价值。比如某品牌公司可以分析社交媒体上广大民众对该品牌的评价，如果负面评价忽然增多，就可以快速采取相应的行动。而这种正负面评价的分析就是情感分析的主要应用场景。 是什么：文本情感分析旨在分析出文本中针对某个对象的评价的正负面，比如「华为手机非常好」就是一个正面评价。情感分析主要有五个要素，（entity/实体，aspect/属性，opinion/观点，holder/观点持有者，time/时间），其中实体和属性合并称为评价对象(target)。情感分析的目标就是从非结构化的文本评论中抽取出这五个要素。
图1 情感分析五要素 举例如下图： 图2 情感分析五要素例子 上例中左侧为非结构化的评论文本，右侧为情感分析模型分析出的五个要素中的四个（不包括时间）。其中实体「华为手机」和属性「拍照」合并起来可以作为评价对象。评价对象又可细分为评价对象词抽取和评价对象类别识别。如实体可以是实体词和实体类别，实体词可以是「餐馆」、「饭店」、「路边摊」，而实体类别是「饭店」；属性可以是属性词和属性类别，如属性词可以是「水煮牛肉」、「三文鱼」等，都对应了属性类别「食物」。实体类别和属性类别相当于是对实体词和属性词的一层抽象和归类，是一对多的关系。词和类别分别对应了不同的
开题报告（文献综述）-在线评论分析系统的情感分析本科毕业设计(论文)开题报告 论文题目在线评论分析系统的情感分析开题报告内容: 一、选题的背景及意义 近年来，在“大数据”(Big Data)时代的背景下，随着电子商务行业的蓬勃发展，网络购物平台、手机APP应用市场平台等不仅为用户提供了大量商品信息，同时还允许用户参与商品评论。它不仅为商家提供了一个信息的展示平台以发布新产品的规格数据，也为消费者提供了一个产品使用体验交流以及质量评价的平台。因此很多网络用户在购买或使用某类产品前，往往会选择先上网浏览一些该产品的相关信息，尤其是其他用户的使用体验，多方比较产品的性能，从而使自己的消费和选择更趋理性化。分析这些评论信息，蕴含着巨大的商业价值和社会价值，具有很大的现实意义。 然而，这些主观性评论文本每天以指数级的速度增长,仅靠人工方式难以进行 收集、处理和分析。因此采用计算机技术来自动地分析这些主观性文本表达的情感,成为目前数据挖掘(Data Mining)研究的一个热点,而这个热点的研究方向就是文本情感分析(Sentiment Analysis)。 文本情感分析，也称为意见挖掘(Opinion Mining)，是指通过分析和挖掘文本中的表达情感、观点和立场的主观性信息并判断其情感倾向。它涉及自然语言处理(Natural Language Processing)、计算机语言学(Computational Linguistics)、机器学习(Machine Learning)、信息检索(Information Retrieval)等众多领域，在计算机科学、管理学、政治学、经济学和社会学方向都有广泛的应用。进入21 世纪以后，情感分析这个领域变得活跃起来，吸引越来越多的学者投入其中。目前
2012年CCF自然语言处理与中文计算会议 中文微博情感分析评测结果 1.提交结果编号 本次评测共有34支队伍提交53组有效结果，提交结果编号及所属参评单位对应情况如表1所示。 表1 提交结果编号与参评单位对照表 提交结果编号参评单位 1 北京工商大学 2 北京工商大学 3 北京航空航天大学计算机学院 4 北京航空航天大学计算机学院 5 北京理工大学海量语言信息处理与云计算应用工程技术研究中心1 6 北京理工大学网络搜索挖掘与安全实验室 7 北京理工大学海量语言信息处理与云计算应用工程技术研究中心2 8 北京理工大学海量语言信息处理与云计算应用工程技术研究中心2 9 大连理工大学 10 大连理工大学 11 广东工业大学DMIR实验室 12 哈尔滨工业大学语言技术研究中心网络智能研究室 13 哈尔滨工业大学语言技术研究中心网络智能研究室 14 哈尔滨工业大学计算机科学与技术学院/机器智能与翻译研究室 15 哈尔滨工业大学计算机科学与技术学院/机器智能与翻译研究室 16 哈尔滨工业大学（威海） 17 海军工程大学信息安全系 18 黑龙江大学计算机科学技术学院 19 湖南工业大学计算机与通信学院 20 湖南工业大学计算机与通信学院 21 湖南科技大学外国语学院 22 华侨大学计算机科学与技术学院 23 华侨大学计算机科学与技术学院 24 华中科技大学 25 南京大学计算机科学与技术系自然语言处理研究组 26 南京理工大学 27 南京理工大学 28 清华大学计算机系智能技术与系统国家重点实验室信息检索组 29 清华大学计算机系智能技术与系统国家重点实验室信息检索组 1参评队伍联系人为刘全超 2参评队伍联系人为王金刚
情报学报 ＩＳＳＮ１０００－０１３５ 第２９卷第５期９３１－９３８，２０１０年１０月 ＪＯＵＲＮＡＬＯＦＴＨＥＣＨＩＮＡＳＯＣＩＥＴＹＦＯＲＳＣＩＥＮＴＩＦＩＣ ＡＮＤＴＥＣＨＮＩＣＡＬＩＮＦＯＲＭＡＴＩＯＮＩＳＳＮ１０００－０１３５Ｖｏｌ．２９ Ｎｏ．５，９３１－９３８Ｏｃｔｏｂｅｒ ２０１０ 收稿日期：２００９年６月２９日 作者简介：王洪伟，男，１９７３年生，博士，副教授桙博导，研究方向：本体建模和情感计算，Ｅ－ｍａｉｌ：ｈｗｗａｎｇ＠ｔｏｎｇｊｉ．ｅｄｕ．ｃｎ。刘勰，男，１９８５年生，硕士研究生，研究方向：数据挖掘与情感计算。尹裴，女，１９８６年生，硕士研究生，研究方向：商务智能。廖雅国，男，１９５４年生，博士，教授，研究方向：人工智能与电子商务。 １） 本文得到国家自然科学基金项目（７０５０１０２４，７０９７１０９９）；教育部人文社会科学资助项目（０５ＪＣ８７００１３）；上海市重点学科建设项目（Ｂ３１０）；香港研究资助局项目（ｐｏｌｙＵ５２３７桙０８Ｅ）资助。 ｄｏｉ：１０．３７７２桙ｊ．ｉｓｓｎ．１０００－０１３５．２０１０．０５．０２３ Ｗｅｂ文本情感分类研究综述 １） 王洪伟１ 刘 勰１ 尹 裴１ 廖雅国 ２ （１畅同济大学经济与管理学院，上海２０００９２；２畅香港理工大学电子计算学系，香港） 摘要 对用户发表在Ｗｅｂ上的评论进行分析， 能够识别出隐含在其中的情感信息，并发现用户情感的演变规律。为此，本文对Ｗｅｂ文本情感分类的研究进行综述。将情感分类划分为三类任务：主客观分类、极性判别和强度判别，对各自的研究进展进行总结。其中将情感极性判别的方法分为基于情感词汇语义特性的识别和基于统计自然语言处理的识别方法。分析了情感分类中的语料库选择和研究难点。最后总结了情感分类的应用现状，并指出今后的研究方向。 关键词 Ｗｅｂ文本 情感分类 综述 主观性文本 ＬｉｔｅｒａｔｕｒｅＲｅｖｉｅｗｏｆＳｅｎｔｉｍｅｎｔＣｌａｓｓｉｆｉｃａｔｉｏｎｏｎＷｅｂＴｅｘｔ ＷａｎｇＨｏｎｇｗｅｉ１ ，ＬｉｕＸｉｅ１ ，ＹｉｎＰｅｉ１ ａｎｄＬｉｕＮ．Ｋ．Ｊａｍｅｓ ２ （１畅ＳｃｈｏｏｌｏｆＥｃｏｎｏｍｉｃｓａｎｄＭａｎａｇｅｍｅｎｔ，ＴｏｎｇｊｉＵｎｉｖｅｒｓｉｔｙ，Ｓｈａｎｇｈａｉ２０００９２；２畅ＤｅｐａｒｔｍｅｎｔｏｆＣｏｍｐｕｔｉｎｇ，ＨｏｎｇＫｏｎｇＰｏｌｙｔｅｃｈｎｉｃＵｎｉｖｅｒｓｉｔｙ，ＨｏｎｇＫｏｎｇ） Ａｂｓｔｒａｃｔ Ａｎａｌｙｚｉｎｇｔｈｅｕｓｅｒｓ’ｒｅｖｉｅｗｓｏｎｔｈｅＷｅｂｃａｎｈｅｌｐｕｓｔｏｉｄｅｎｔｉｆｙｕｓｅｒｓ’ｉｍｐｌｉｃｉｔｓｅｎｔｉｍｅｎｔｓａｎｄｆｉｎｄｔｈｅｅｖｏｌｕｔｉｏｎ ｌａｗｓｏｆｔｈｅｉｒｅｍｏｔｉｏｎ．Ｔｏｔｈｉｓｅｎｄ，ｔｈｉｓｐａｐｅｒｉｓａｓｕｒｖｅｙａｂｏｕｔｔｈｅｓｅｎｔｉｍｅｎｔｃｌａｓｓｉｆｉｃａｔｉｏｎｏｎｔｈｅＷｅｂｔｅｘｔ．Ｗｅｄｉｖｉｄｅｄｔｈｅｐｒｏｃｅｓｓｏｆｃｌａｓｓｉｆｉｃａｔｉｏｎｉｎｔｏｔｈｒｅｅｃａｔｅｇｏｒｉｅｓ：ｓｕｂｊｅｃｔｉｖｅａｎｄｏｂｊｅｃｔｉｖｅｃｌａｓｓｉｆｉｃａｔｉｏｎ，ｐｏｌａｒｉｔｙｉｄｅｎｔｉｆｉｃａｔｉｏｎａｎｄｉｎｔｅｎｓｉｔｙ ｉｄｅｎｔｉｆｉｃａｔｉｏｎａｎｄｒｅｓｐｅｃｔｉｖｅｌｙｓｕｍｍａｒｉｚｅｔｈｅｒｅｓｅｎｔｒｅｓｅａｒｃｈａｃｈｉｅｖｅｍｅｎｔｓｉｎｔｈｅｓｅｆｉｅｌｄｓ．Ｗｅａｌｓｏｓｏｒｔｅｄｔｈｅｍｅｔｈｏｄｓｏｆｐｏｌａｒｉｔｙｉｄｅｎｔｉｆｉｃａｔｉｏｎｉｎｔｏｔｗｏｔｙｐｅｓ：ｏｎｅｉｓｂａｓｅｄｏｎｔｈｅｅｍｏｔｉｏｎａｌｗｏｒｄｓｗｉｔｈｓｅｍａｎｔｉｃｃｈａｒａｃｔｅｒｉｓｔｉｃｓ，ｗｈｉｌｅｔｈｅｏｔｈｅｒｓｔａｔｉｓｔｉｃｍｅｔｈｏｄｓｏｆ ｎａｔｕｒａｌｌａｎｇｕａｇｅｐｒｏｃｅｓｓｉｎｇ．Ｗｈａｔｉｓｍｏｒｅ，ｔｈｅｃｈｏｉｃｅｏｆｃｏｒｐｕｓａｎｄｐｏｔｅｎｔｉａｌｒｅｓｅａｒｃｈｐｒｏｂｌｅｍｓａｒｅｄｉｓｃｕｓｓｅｄ．Ａｔｌａｓｔ，ｔｈｉｓｐａｐｅｒ ｓｕｍｍａｒｉｚｅｄｔｈｅｓｔａｔｕｓｑｕｏｏｆａｐｐｌｉｃａｔｉｏｎａｎｄｐｏｉｎｔｅｄｏｕｔｔｈｅｄｉｒｅｃｔｉｏｎｏｆｆｕｔｕｒｅｒｅｓｅａｒｃｈ． Ｋｅｙｗｏｒｄｓ Ｗｅｂｔｅｘｔｓ，ｓｅｎｔｉｍｅｎｔｃｌａｓｓｉｆｉｃａｔｉｏｎ，ｓｕｒｖｅｙ，ｓｕｂｊｅｃｔｉｖｅｔｅｘｔ 随着互联网的流行，Ｗｅｂ文本成为我们获取信 息、发表观点和交流情感的重要来源。特别是随着Ｗｅｂ２畅０技术的发展，网络社区、博客和论坛给网络用户提供了更宽广的平台来交流信息和表达意见。这些文章和言论往往包含有丰富的个人情感，比如 对某部大片的影评，对某款手机的用户体验等，其中 蕴含着巨大的商业价值。如何从这些Ｗｅｂ文本中进行情感挖掘，获取情感倾向已经成为当今商务智能领域关注的热点。所谓情感分析（ｓｅｎｔｉｍｅｎｔａｎａｌｙｓｉｓ），就是确定说话人或作者对某个特定主题的 — １３９—
随着企业信息化与互联网的发展，信息以爆炸性速度飞速增长，其中包括了大量的非结构化与半结构化数据。非结构化与半结构化数据，主要是文本型数据，阐述5w问题，即who，when，where，what，Why。如何充分利用非结构化数据与半结构化数据，分析其包含的潜在信息，拥有支持决策，成为了众多企业与研究者关注的重点。尤其，针对互联网(如博客和论坛)上大量的用户参与的、对于诸如人物、事件、产品等有价值的评论信息。这些评论信息表达了人们的各种情感色彩和情感倾向性，如喜、怒、哀、乐和批评、赞扬等。基于此，潜在的用户就可以通过浏览这些主观色彩的评论来了解大众舆论对于某一事件或产品的看法。由于越来越多的用户乐于在互联网上分享自己的观点或体验，这类评论信息迅速膨胀，仅靠人工的方法难以应对网上海量信息的收集和处理，因此迫切需要计算机帮助用户快速获取和整理这些相关评价信息。因此，如何从这些Web文本中进行情感挖掘，获取情感倾向已经成为当今商务智能领域关注的热点。情感分析(sentiment analysis)技术也就应运而生(本文中提及的情感分析，都是指文本情感分析)。 文本情感分析(sentiment analysis)，又称为意见挖掘，是对带有情感色彩的主观性文本进行分析、处理、归纳和推理的过程。其中，主观情感可以是他们的判断或者评价，他们的情绪状态，或者有意传递的情感信息。因此，情感分析的一个主要任务就是情感倾向性的判断，Pang等人在文献1中将情感倾向分为正面、负面和中性，即褒义、贬义和客观评价。研究初期，大量研究者都致力于针对词语和句子的倾向性判断研究，但随着互联网上大量主观性文本的出现，研究者们逐渐从简单的情感词语的分析研究过渡到更为复杂的情感句研究以及情感篇章的研究。文本情感分析主要可以归纳为3项层层递进的研究任务，即情感信息的抽取、情感信息的分类以及情感信息的检索与归纳[2]。情感信息抽取就是将无结构的情感文本转化为计算机容易识别和处理的结构化文本。情感信息分类则是利用情感信息抽取的结果将情感文本单元分为若干类别，供用户查看，如分为褒、贬、客观或者其他更细致的情感类别。情感信息检索和归纳可以看作是与用户直接交互的接口，强调检索和归纳的两项应用。 情感分析是一个新兴的研究课题，具有很大的研究价值和应用价值，正受到国内外众多研究者的青睐。目前实现情感分析的技术主要包括基于机器学习法和基于语义方法两类。本文主要针对这两大方法的研究进展进行比较分析，接着介绍国内外现有的资源建设情况，最后介绍情感分析的几个重要应用和展望它的发展趋势。 1 基于统计机器学习法 随着大规模语料库的建设和各种语言知识库的出现，基于语料库的统计机器学习方法进入自然语言处理的视野。多种机器学习方法应用到自然语言处理中并取得了良好的效果，促进了自然语言处理技术的发展。机器学习的本质是基于数据的学习（Learning from Data）。利用机器学习算法对统计语言模型进行训练，最后用训练好的分类器对新文本情感进行识别。2002年，Pang 等人就在文献[1]中提出用机器学习的方法进行情感倾向的挖掘工作，他们以互联网上的电影评论文本作为语料，采用了不同的特征选择方法，应用朴素贝叶斯（Naive Bayes）、最大熵(Maximum Entropy)、向量机(SVM)对电影评论分别进行分类，实验表明SVM 的分类性能最好，准确率达到87.5%。该研究引起学术界的关注，之后用于倾向性判断的机器学习算法的改进被陆续提出，基本的算法有：支持向量机(SVM)、朴素贝叶斯(NB)、K-近邻(KNN)、简单线性分类器(SLC)和最大熵(ME)等。他们在另一项工作中，将文本极性分类问题转换成求取句子连接图的最小分割问题，实现了一个基于minimum-cut的分类器。[7]。Whitelaw等人[11]关注研究带形容词的词组及其修饰语(如“extremely boring”或“not really verygood”)，他们提取带形容词的词组作为特征，基于这些特征，用向量空间模型表示文
中文文本情感倾向性分析1 黄萱菁 赵 军 复旦大学 关键词：情感倾向 语料库 引言 大约在两年半前，《新华网》、《环球时报》等大众媒体纷纷转载了英国《新科学家》杂志的一则报道，英国Corpora软件公司开发了一套名为“感情色彩（Sentiment）”的软件2，它能判断报纸刊登的文章对一个政党的政策是持肯定态度还是否定态度，或者网上的评论文章是称赞还是贬低一种产品，并以此帮助政府和一些大公司全面了解公众对他们的看法。这则报道之所以引起了舆论的广泛关注，是因为它介绍了一个非常新颖而又很有价值的研究方向—文本情感倾向性分析。 所谓文本情感倾向性分析，就是对说话人的态度（或称观点、情感）进行分析，即对文本中的主观性信息进行分析。由于立场、出发点、个人状况和偏好的不同，民众对生活中各种对象和事件所表达出的信念、态度、意见和情绪的倾向性必然存在很大的差异。在论坛、博客（blog）等反应草根观点的网络媒体上，这种差异表现得尤为明显。 长期以来，要了解关于某个问题的报道是正面的还是反面的，是消极的还是中立的，往往需要求助于调查公司。这些公司的员工仔细阅读有关某个机构、个人、事件或问题的所 1 本项研究受国家自然科学基金课题资助（60673038，60673042）。 2 https://www.doczj.com/doc/3215598195.html,/products/sentiment.aspx 图1 英国Corpora软件公司的“感情色彩（Sentiment）”的软件
专题报道 有文字，然后就这些评论的态度做出反馈。这不仅耗费了大量人力和财力，而且过程相当缓慢。由此可见，文本情感倾向性的自动分析具有很好的商业应用前景。 文本情感倾向性分析属于计算语言学的范畴。以前，在计算语言学以及相关领域，研究人员普遍关注的是客观性信息的分析和提取，对主观性信息分析与提取的研究尚处于起步阶段，其中存在的很多问题都需要进行全面探索。这项研究涉及到计算语言学、人工智能、机器学习、信息检索和数据挖掘等多方面研究内容，因此文本情感倾向性分析也具有重要的学术研究价值。 总体来看，文本情感倾向性分析的研究大致可以分成词语情感倾向性分析、句子情感倾向性分析、篇章情感倾向性研究以及海量信息的整体倾向性预测等四个研究层次。接下来将首先介绍在各个层次所取得的研究进展，其次介绍情感倾向性分析标准语料库的建设和系统评测，最后是本文的结论。 词语情感倾向性分析 对词语的情感倾向进行研究是文本情感倾向分析的前提。具有情感倾向的词语以名词、动词、形容词和副词为主，包括人名、机构名、产品名、事件名等命名实体。其中，除部分词语的褒贬性（或称为极性，通常分为褒义、贬义和中性三种）可以通过查词典3的方式得到之外，其余词语的极性都无法直接获得。此外，词语的情感倾向还包括倾向性的强烈程度。例如，“谴责”的强度就远远超过了“批评”和“指责”，而这种强度很难由词典编撰者用人工的方式进行量化。另外，词语的极性往往取决于特定的上下文环境，例如，“骄傲”在表示“自豪”概念时，是褒义词；而在表示“自满”概念时，则是贬义词。 词语情感倾向分析包括对词语极性、强度和上下文模式的分析。其分析结果甚至可以写入到语义词典中，如北京大学计算语言学研究所以基于人民日报基本标注语料库的真实文本为实例，进行统计归纳得到词语的情感倾向，而后在现代汉语语法信息词典中实现形式化[1]。词语情感倾向分析目前主要有以下三种方法：1．由已有的电子词典或词语知识库扩展生成情感倾向词典。英文词语情感倾向信息的获取主要是在WordNet4和General Inquirer5的基础上进行的文献[3-4] ；而中文词语情感倾向信息的获取依据主要有HowNet[5]。这种方法的主要思想是，给定一组已知极性的词语集合作为种子，对于一个情感倾向未知的新词，在电子词典中找到与该词语义相近并且在种子集合中出现的若干个词，根据这几个种子词的极性，对未知词的情感倾向进行推断。这种方法对种子词数量的依赖比较明显。 2．无监督机器学习的方法。这种方法与第1种方法类似，也是假设已经有一些已知极性的词语作为种子词，对于一个新词，根据它和种子词的紧密程度对其情感倾向性进行推断。不同的是，第1种方法的词语紧密程度的度量是以词典信息为依据判断，而这种方法是根据词语在语料库中的同现情况判断其联系紧密程度。根据文献[6-7]的经典方法，假设以“真”、“善”、“美”作为褒义种子词，“假”、“恶”、“丑”作为贬义种子词，则任意其它词语的语义倾向定义为，将与各褒义种子词的点态互信息量（Point of Contact Information，PMI）之和，减去与各贬义种子词的点态互信息量之和后所得的结果。语义倾向的正负号就可以表示词语的极性，而绝对值 3 例如，General Inquirer [Stone,1966]，知网：heep://https://www.doczj.com/doc/3215598195.html, 4 WordNet 5 通用查询者，最早为KWIC编写的程序之一，该程序根据基于理论编写的词典给单词分类。