知识图谱表示学习与推理方法综述

知识图谱⽂献综述（第⼆章知识表⽰学习）

第⼆章 知识表⽰学习

1. 任务定义、⽬标和研究意义

知识表⽰是知识获取与应⽤的基础，因此知识表⽰学习问题，是贯穿知识库 的构建与应⽤全过程的关键问题。⼈们通常以⽹络的形式组

织知识库中的知识， ⽹络中每个节点代表实体（⼈名、地名、机构名、概念等），⽽每条连边则代表 实体间的关系。然⽽，基于⽹络形式

的知识表⽰⾯临诸多挑战性难题，主要包括 如下两个⽅⾯：

（1）计算效率问题。基于⽹络的知识表⽰形式中，每个实体均⽤不同的节 点表⽰。当利⽤知识库计算实体间的语义或推理关系时，往

往需要⼈们设计专门 的图算法来实现，存在可移植性差的问题。更重要的，基于图的算法计算复杂度 ⾼，可扩展性差，当知识库规模达到

⼀定规模时，就很难较好地满⾜实时计算的 需求。

（2）数据稀疏问题。与其他类型的⼤规模数据类似，⼤规模知识库也遵守 长尾分布，在长尾部分的实体和关系上，⾯临严重的数据稀

疏问题。例如，对于 长尾部分的罕见实体，由于只有极少的知识或路径涉及它们，对这些实体的语义 或推理关系的计算往往准确率极低。

近年来，以深度学习[Bengio, et al., 2009]为代表的表⽰学习[Bengio, et al., 2013]技术异军突起，在语⾳识别、图像分析和⾃然语⾔处理

领域获得⼴泛关注。 表⽰学习旨在将研究对象的语义信息表⽰为稠密低维实值向量。在该低维向量空 间中，两个对象距离越近，则说明其

语义相似度越⾼。 知识表⽰学习，则是⾯向知识库中的实体和关系进⾏表⽰学习。知识表⽰学 习实现了对实体和关系的分布式表⽰，它具

有以下主要优点：

（1）显著提升计算效率。知识库的三元组表⽰实际就是基于独热表⽰的。 如前所分析的，在这种表⽰⽅式下，需要设计专门的图算法

计算实体间的语义和 推理关系，计算复杂度⾼，可扩展性差。⽽表⽰学习得到的分布式表⽰，则能够 ⾼效地实现语义相似度计算等操

作，显著提升计算效率。

墨　ＳＰＥＣｌＡＬ　ＡＲＴｌＣＬＥＳｄｏｉ：ｌ　０３７２／ｊ　ｉｓｎ２０９５—９１　５ｘ　２０１７　０１　０３　

规则增强的知识图谱表示学习方法　

浙江大学计算机科学与技术系杭州３　１　００２７　陈曦陈华钧张文　

知识图谱（Ｋｎｏｗｌｅｄｇｅ　Ｇｒａｐｈ，简称ＫＧ）的表示学习方法旨在将知识图谱的实体和关系表　示为稠密低维实值向量，进而在低维向量空间中高效计算实体、关系及其之间的复杂语义关联，在知　

识图谱的构建、推理、融合、挖掘以及应用中具有重要作用。已有的知识图谱表示方法仅仅考虑了知　

识图谱中的直接事实，忽略了知识图谱中一些隐藏的语义信息，这些语义信息对于知识图谱关系和实　体的嵌入表示有着重要的影响。本文提出了一种规则增强的知识图谱表示学习方法，该方法首先通过　

知识图谱规则挖掘的方法提取一组可代表知识图谱语义信息的Ｈｏｒｎ逻辑规则，随后通过基于规则的　

物化推理方法将相应的隐藏语义信息注入到知识图谱表示学习模型中。实验结果表明，基于规则增强　的方法可以显著提升已有知识图谱表示学习模型在链接预测和定理预测上的效果和性能。　

关键词：知识图谱，表示学习，规￣．Ｕｔ２掘，推理　中图分类号：ＴＰ３９１　

Ｒｕ　ｌｅ－Ａｕｇｍｅｎｔｅｄ　ＲｅｐｒｅＳｅｎｔａｔｉｏｎ　Ｌｅａｒｎ　ｉ　ｎｇ　

Ａｐｐｒｏａｃｈ　ｉ　ｎ　Ｋｎｏｗｌｅｄｇｅ　Ｇ　ｒａｐｈ　

Ｄｅｐａｒｔｍｅｎｔ　ｏｆ　Ｃｏｍｐｕｔｅｒ　Ｓｃｉｅｎｃｅ　ａｎｄ　Ｔｅｃｈｎｏｌｏｇｙ，Ｚｈｅｊｉａｎｇ　Ｕｎｉｖｅｒｓｉｔｙ，Ｈａｎｇｚｈｏｕ　３１　００２７，Ｃｈｉｎａ　ＣＨＥＮ　Ｘｊ　ＣＨＥＮ　ＨｕａＪｕｎ　ＺＨＡＮＧ　Ｗｅｎ　

Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ　ｌｅａｒｎｉｎｇ　ｉｎ　Ｋｎｏｗｌｅｄｇｅ　Ｇｒａｐｈ（ＫＧ）ａｉｍｓ　ｔｏ　ｐｒｏｊｅｃｔ　ｔｈｅ　ｅｎｔｉｔｉｅｓ　ａｎｄ　ｒｅｌａｔｉｏｎｓ　ｉｎｔｏ　ａ　ｄｅｎｓｅ，ｒｅａｌ—ｖａｌｕｅｄ　ａｎｄ　ｌｏｗ—ｄｉｍｅｎｓｉｏｎａｌ　ｖｅｃｔｏｒｓ，ＳＯ　ａｓ　ｔｏ　ｅｆｆｉｃｉｅｎｔｌｙ　ｍｅａｓｕｒｅ　ｃｏｍｐｌｅｘ　ｓｅｍａｎｔｉｃ　ｃｏｒｒｅｌａｔｉｏｎｓ　ｂｅｔｗｅｅｎ　ｅｎｔｉｔｉｅｓ　ａｎｄ　ｒｅｌａｔｉｏｎｓ，ａｎｄ　ｐｌａｙｓ　ａ　ｉｍｐｏｒｔａｎｔ　ｒｏｌｅ　ｉｎ　ｋｎｏｗｌｅｄｇｅ　ａｃｑｕｉｓｉｔｉｏｎ，ｉｎｆｅｒｅｎｃｅ，ｆｕｓｉｏｎ，ｍｉｎｉｎｇ　ａｎｄ　ａｐｐｌｉｃａｔｉｏｎｓ　ｏｆ　ＫＧ．Ｅｘｉｓｔｉｎｇ　ｍｅｔｈｏｄｓ　ｏｆ　ｒｅｐｒｅｓｅｎｔａｔｉｏｎ　ｌｅａｒｎｉｎｇ　ｉｎ　ＫＧ　ｏｎｌｙ　ｃｏｎｃｅｒｎ　ｄｉｒｅｃｔ　ｆａｃｔｓ　ｉｎ　ＫＧ，　ｉｇｎｏｒｉｎｇ　ｓｏｍｅ　ｉｍｐｌｉｃｉｔ　ｓｅｍａｎｔｉｃ　ｉｎｆｏｒｍａｔｉｏｎ．Ｔｈｅ　ｐａｐｅｒ　ｐｒｏｐｏｓｅｓ　ｐｒｏｐｏｓｅｄ　ａ　ｒｕｌｅ—ａｕｇｍｅｎｔｅｄ　ｒｅｐｒｅｓｅｎｔａｔｉｏｎ　ｌｅａｒｎｉｎｇ　ａｐｐｒｏａｃｈ　ｉｎ　ＫＧ　Ｔｈｉｓ　ｍｅｔｈｏｄ　ｆｉｒｓｔｌｙ　ｉｍｐｌｅｍｅｎｔｅｄ　ａ　ｒｕｌｅ　ｍｉｎｉｎｇ　ａｌｇｏｒｉｔｈｍ　ｔｏ　ｅｘｔｒａｃｔ　Ｈｏｒｎ　ｒｕｌｅｓ　ｆｒ０ｍ　

知识图谱技术原理介绍

知识图谱是一种用于描述和组织知识的图形化模型，它能够帮助机器理解人类语言和语义，从而实现更智能的信息处理和应用。知识图谱技术的原理主要包括数据抽取、知识表示、知识融合和推理推断等几个方面。

首先，数据抽取是知识图谱技术的基础，它通过自然语言处理、信息抽取和实体识别等技术手段，从结构化和非结构化数据中提取出实体、关系和属性等知识元素。这些知识元素可以来自于各种文本、图像、音频和视频等多媒体数据，经过抽取和清洗之后，构成了知识图谱的基本数据。

其次，知识表示是将抽取出来的知识元素进行结构化表示和编码的过程。在知识图谱中，通常采用图的方式来表示知识，其中实体作为节点，关系和属性作为边，构成了一个复杂的图结构。这种表示方式能够清晰地展现出知识元素之间的关联和层次关系，为后续的知识融合和推理推断提供了基础。

知识融合是指将来自不同数据源和不同领域的知识进行整合和融合，以构建一个更加完整和一致的知识图谱。在知识融合过程中，需要解决实体对齐、关系对齐和知识冲突等问题，以确保融合后的知识图谱具有良好的一致性和准确性。同时，知识融合还可以通过补充和丰富知识图谱，提高其覆盖范围和知识密度。

最后，推理推断是知识图谱技术的重要应用，它通过逻辑推理、概率推断和机器学习等方法，从知识图谱中挖掘出隐藏的知识和规律。基于知识图谱的推理推断能够支持智能问答、智能推荐、智能搜索等应用，为人机交互和智能决策提供强大的支持。

总的来说，知识图谱技术的原理包括数据抽取、知识表示、知识融合和推理推断等几个方面，它为机器理解和利用知识提供了重要的技术支持，对于推动人工智能和智能化应用具有重要的意义。随着技术的不断进步和应用场景的不断丰富，知识图谱技术将在各个领域发挥越来越重要的作用。

概念图知识表示的推理方法

知识图谱推理的主要技术手段分为两大类：基于演绎的知识图谱推理和基于归纳的知识图谱推理。

演绎推理的过程需要明确定义的先验信息，所以基于演绎的知识图谱推理多围绕本体展开。演绎推理主要包括基于描述逻辑、基于逻辑编程、基于查询重写和基于产生式规则的方法。

基于描述逻辑推理：在丰富逻辑描述的知识图谱中，除了实体和关系，还包含了很多抽象的信息，比如描述实体类别的概念以及关系之间的从属信息。由于OWL是知识图谱语言中最规范、最严谨、表述能力最强的语言，而且OWL基于RDF语法，使表示出来的文档具有语义理解的结构基础，所以基于OWL的模型，可以进行一系列实用的推理，包括概念包含，概念互斥，概念可满足，全局一致，实例检索等等。

基于逻辑编程推理：逻辑编程是一族基于规则的知识表示语言，其具有较大的灵活性，其可以根据特定的场景定制规则，以实现用户自定义的推理过程。逻辑编程是一个很大的研究领域，在工业界的应用广泛。Datalog语言是一种面向知识库和数据库设计的逻辑语言，其便于撰写规则，实现推理。

基于查询重写推理：利用查询重写的方法实现知识图谱的查询。有两种情况，第一种情况是知识图谱已经存在，第二种情况是数据不以知识图谱的形式存在，而是存在外部的数据库中（例如关系型数据库）。第一种情况不过多讨论，直接是在知识图谱查询。第二种情况成为基于本体的数据访问(OBDA)，在OBDA的情况下，数据存放在一个或多个数据库中，由映射将数据库的数据映射为一个知识图谱。OBDA的主要推理任务为查询，当查询时，OBDA将底层的数据库呈现为一个知识图谱，从而掩盖底层存储的细节。

基于产生式规则推理：产生式规则系统是一种前向推理系统，可以按照一定机制执行规则并达到某些目标。该系统可以应用于自动规划和专家系统等领域。一个产生式规则系统由事实集合、产生式集合和推理引擎三部分组成。其中的推理引擎是系统核心，主要用于控制系统的执行。推理引擎中最流行的模式匹配算法是Rete算法，较为流行的三个基于产生式规则的系统Drools、Jena和GraphDB都是基于Rete算法或其改进的算法。