关键词自动抽取综述
- 格式：docx
- 大小：122.19 KB
- 文档页数：2
关键词抽取综述
1.关键词抽取综述
关键词抽取是指自动抽取关键词，也就是从一个文本中抽取重要的、局部的短语，来表示文本的主题。
Keyphrase一般由3个或以上的keywords组成。
2.语料
（1）常用语料包括：paper abstracts, scientific papers, technical reports, news articles, web pages, meeting transcripts, emails, live chats；
（2）不同语料其关键词长度不等；
（3）对结构化语料，如果存在结构化信息，对关键词提取很有帮助。
比如scientific papers 中，从abstract，introduction, conclusion这三部分可以提取到关键词。
（4）有的主题是变化的，像非正式的谈话；
（5）有些语料的关键词是相关的。
3.关键词抽取的方法
分两步：第一步，用启发式的规则，抽取得到候选关键词；
启发式的规则包括：（1）去除停用词；（2）允许词中包含词性标记信息，（3）允许n-grams 词汇作为关键词（4）抽取满足词汇句法模式的n-grams或名词短语
对候选关键词词数过多的可以进行剪枝。
第二部：使用监督或非监督的方法，从候选关键词确定哪些词是真正的关键词。
3.1有监督的方法
包括Task Reformulation 和feature design
Task Reformulation: 类似一个二分类问题，分成正例和反例。
算法包括：naïve Bayes, decision trees, boosting, maximum entropy, multi-layer perceptron, support vector machines.
缺点是：每个候选关键词都是独立的，不能比较关键词。
改进：ranking approach, 对两个候选词进行排序。
Features：两类，within-collection features 和external resource-based features
Within-collection features: 3类，从训练集中得到
Statistical features: tf-idf, the distance of a phrase, supervised keyphraseness
Structural features: 关键词出现的文本的不同位置
Syntactic features: 对网页和科技论文的关键词提取有帮助
external resource-based features：从其他资源中获得，而不是训练集（没理解）
3.2无监督的方法：
分为四类：graph-based ranking, topic-based clustering, simultaneous learning, language modeling
（1）graph-based ranking: 顶点代表关键词，边连接两个关键词，边的权重表示两个词之间语法或语义关系。
根据临边和邻居节点来决定一个节点的打分，top-ranked 的候选词作为关键词。
缺点是不能包含所有的主题。
（2）Topic-based clustering：关键词应该和主题相关，所有的关键词应该覆盖所有的主题。
包括3个代表性的系统。
keyCluster：使用Wikipedia 和联合出现为基础的统计信息聚类相似的候选集。
Topical PageRank(TPK): 对每个主题跑一遍，得到每个候选词与主题的相关性。
CommunityCluster：与TPK相似，与TPK不同点在于，该方法认为与一个重要主题相关的候选词，都应该被作为关键词。
（3）Simultaneous Learning：文本摘要和关键词抽取可以相互作用。
（4）Language Modeling：基于phraseness（一个词序列可以被看做短语）和informattiveness （一个词序列获取文本的中心思想），得分高的有很大可能被当做关键词。
这两个特征使用语言模型估计，从foreground corpus 和background corpus训练得到。
（还不太理解此处的语言模型）
4.评价
典型的方法是：（1）精确地匹配，也就是把系统输出的关键词与标准的关键词进行匹配，分别计算P、R、F值。
这是非常严格的条件，因为一个正确关键词的变体（形态上的变化可以处理），该匹配都认为是错误的。
（2）人工评价是可行的，但是耗时并且花费代价大。
于是研究者尝试了两种类型的两种评价度量。
a. 使用部分匹配，解决了精确匹配的问题。
b. 对预测结果进行排序。
关于评价方法的两点说明：a. 当文本长度越长时，预测结果越不准。
b. 无监督的方法在性能上已接近有监督的方法。
5.错误分析
（1）Overgeneration errors: 把关键词的同意词也认定为关键词。
解决办法；使用背景知识库Freebase，投影到Freebase中，如果相关则认定为同义，如果不相关，则排除掉。
（2）infrequency errors: 关键词在文本中出现的次数太少。
解决办法：不能通过共同出现窗口来做，因为窗口大小不好调，而且出现在同一个窗口中的词语，并不一定词义相近。
只能使用背景知识，Freebase来做，也是根据主题相关。
（3）redundancy errors：冗余错误，系统同时产生两个关键词：Olympics 和Olympic games 解决办法：把词语映射到Freebase中，如果他们对应同一个主题，则输出其中的一个作为关键词。
（4）evaluation errors：产生了一个和最佳的关键词语义相等的关键词。
解决办法：人工注解、标记。
6.总结和将来的方向
（1）关键词抽取系统需要更深层次的理解文档，可以使用背景知识解决。
（2）处理长文本，可以使用更加复杂、精密的特征，尤其是那些表示背景知识的。
（3）提高评价方案。
现在了解了常用语料和关键词抽取的过程，但具体实现还不清楚，正在看一些参考文献，深入了解下监督和无监督的方法。
