Rescal 和 Distmult,知识图谱嵌入(KGE)论文阅读

主要思想:三维张量分解

参考:
双线性模型(一)(RESCAL、LFM、DistMult)
知识图谱嵌入(KGE):方法和应用的综述

张量是多维数组,其中零阶张量是标量(scalar),一阶张量是一个向量(vector),二阶的张量是矩阵(matrix),三阶及三阶以上的就是我们通常所说的张量,也叫高阶张量。数据的的维度被称为张量的阶。它可以看成是向量和矩阵在多维空间中的推广。如下图定义一个的三维张量,m 代表关系数,n 代表实体数

Rescal 和 Distmult,知识图谱嵌入(KGE)论文阅读

三维张量分解思想: 每个关系对应于 张量(三维) 中的一个 切片(二维),即一个矩阵,如下图,其实相当于表示图的邻接矩阵,存储各对实体是否有这样的关系,有则表示为 1,没有则表示为 0

Rescal 和 Distmult,知识图谱嵌入(KGE)论文阅读
对三维张量(下图左式,这个 n×n 的矩阵如上图,代表实体与实体中有无指定关系的存在)进行分解(下图右式):

分解后的 A 是每个实体的潜在语义表示,每行代表一个实体, r指定关系的维度,也即语义表示。 矩阵 Rk(r × r) 建模 指定关系中 的实体间的语义的交互。如此,三维张量就能一片片(每个关系都照顾到)进行分解

Rescal 和 Distmult,知识图谱嵌入(KGE)论文阅读
示意图:

Rescal 和 Distmult,知识图谱嵌入(KGE)论文阅读

总共有多少个关系,和式中的 k 就从1累加到多少,因此有下式:

论文中通过最小化函数来求得 Rk 和 A

Rescal 和 Distmult,知识图谱嵌入(KGE)论文阅读

其实等价转化为最小化如下函数来进一步求解:

Rescal 和 Distmult,知识图谱嵌入(KGE)论文阅读

基于Rescal模型进行的改进,个人理解如下,欢迎批评指正

Rescal 和 Distmult,知识图谱嵌入(KGE)论文阅读
Rescal 和 Distmult,知识图谱嵌入(KGE)论文阅读
Rescal 和 Distmult,知识图谱嵌入(KGE)论文阅读
Rescal 和 Distmult,知识图谱嵌入(KGE)论文阅读

Original: https://blog.csdn.net/qq_40506723/article/details/122889173
Author: 白白净净吃了没病
Title: Rescal 和 Distmult,知识图谱嵌入(KGE)论文阅读

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/554894/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球