简介
知识图谱（Knowledge Graph，KG）自从2012年被google提出，由于其出色的表达能力，以及在节点分类、连接预测等任务上的出色表现，已经逐渐成为AI相关应用的重要一支。与此同时图神经网络（Graph Neural Network，GNN），作为近些年深度学习方面发展最为迅速的领域，在信息通讯处理上展现出其得天独厚的优势。知识图谱作为一种特殊的结构化数据，其本质也是图相关结构，因此，如何将KG与GNN相结合，成为了近几年知识图谱领域里一大热点。
1.知识图谱
KG的基础结构是传统三元组，即
a. 平移模型
将头尾实体看作空间内两个点，两点之间的矢量即为关系，头实体向量表示加上关系向量表示应等于尾实体向量表示以TransE为代表的平移模型都以此为基础。
b. 张量分解模型
张量分解模型将知识图谱看作一个大的三维张量，两维为实体表示，一维为关系表示，将每一个三元组对应的张量值都分解为实体表示和关系表示的矩阵形式，典型张量分解模型由Rescal。
c. 神经网络模型
利用CNN等神经网络模型对实体关系表示进行建模，如ConvE、ConvKB。
2.图神经网络
图由于其良好的信息交互能力，可以更好地对现实中的很多场景进行建模，如社会关系图、生物分子图等。现有的很多GNN都能对这些图模型进行拟合，如图卷积神经网络（Graph Convolutional Network，GCN）和图注意力神经网络（Graph Attention Network，GAT）。同时图又根据节点与边的种类分为同构图（Homogeneous）和异构图（Heterogeneous），异构图上的图神经网络也成为了最近人工智能领域的热点。
3.图神经网络与知识图谱的融合模型
传统的知识表达模型大多是独立学习知识库中每一个三元组，其实质更类似于NLP，这使得知识图谱中大量的邻居结构信息都被忽略，而图神经网络则充分利用了信息在节点之间的传播，因此将图神经网络的概念嵌入到知识图谱中成为有效对知识与数据进行关联的新想法。
（1）TransGCN:这个模型是发表在K-Cap2019上的文章TransGCN:Coupling Transformation Assumptions with Graph Convolutional Networks for Link Prediction所提出的模型，这也是第一个将知识图谱与图神经网络相结合的模型，其基础思路很简单，类似于GCN，主要依靠信息的聚合与传递完成实体节点与关系的更新。
在TransGCN中，考虑到对于一个中心实体会存在两种方向的关系，如v3-r1->v1，v1-r2->v4因此在信息聚合时，将以中心实体为尾节点都逆向表示为v1-r1′->v3，以中心实体相邻关系及所连尾实体表示作为每个邻居的信息，以此进行聚合。
（2）Learning Attention-based Embeddings for Relation Prediction in Knowledge Graphs：发表于ACL2019，在GCN结合到KGE问题上并得到较好表现后，作者想到另一种高效的图神经网络，GAT。
知识图谱以图结构进行考虑，最重要的环节是如何将relation的表示加入到信息的聚合中，该模型考虑直接将
3）RGHAT：由Fuzhen Zhuang团队在AAAI-20上发表的Relational Graph Neural Network with Hierarchical Attention for Knowledge Graph Completion提出，思想也是将知识图谱与GAT相结合，不过该模型提出，将关系与实体作为整体进行信息的聚合会导致关系重要性不明确的问题，因此该模型通过两层结构，对关系与实体分别进行注意力机制的处理
模型首先在头实体及邻居关系进行注意力机制，获得一阶注意力，然后再对h，r，t进行注意力机制，获得二阶注意力，最终，每个邻居的注意力即为一二阶注意力之积
参考文章：
TransGCN:Coupling Transformation Assumptions with Graph Convolutional Networks for Link Prediction
Learning Attention-based Embeddings for Relation Prediction in Knowledge Graphs
Relational Graph Neural Network with Hierarchical Attention for Knowledge Graph CompletionOriginal: https://blog.csdn.net/qq_42807120/article/details/115169493
Author: porthos_wei
Title: KG-GNN
原创文章受到原创版权保护。转载请注明出处：https://www.johngo689.com/558228/
转载文章受原作者版权保护。转载请注明原作者出处！