知识表征学习必读论文
总结性论文
- 论文标题: Representation Learning: A Review and New Perspectives;
- 作者:Yoshua Bengio, Aaron Courville, and Pascal Vincent. TPAMI 2013.
- 论文地址.
- 论文标题:知识表示学习研究进展;
- 作者:刘志远,孙茂松,林衍凯,谢若冰.计算机研究与发展2016.
- 论文地址
- 论文标题: A Review of Relational Machine Learning for Knowledge Graphs;
- 作者:Maximilian Nickel, Kevin Murphy, Volker Tresp, Evgeniy Gabrilovich. Proceedings of the IEEE 2016.
- 论文地址
- 论文标题: Knowledge Graph Embedding: A Survey of Approaches and Applications.
- 作者:Quan Wang, Zhendong Mao, Bin Wang, Li Guo. TKDE 2017.
- 论文地址
期刊和会议论文
- RESCAL模型
- SE模型
- 论文标题: Learning Structured Embeddings of Knowledge Bases.
- 论文作者: Antoine Bordes, Jason Weston, Ronan Collobert, Yoshua Bengio. AAAI 2011.
- 论文地址
- 描述:SE模型假设头实体和尾实体在依赖关系子控件中是相似的,其中每个关系是由两个不同的矩阵表示的.
- LFM模型
- 论文标题:A Latent Factor Model for Highly Multi-relational Data.
- 作者:Rodolphe Jenatton, Nicolas L. Roux, Antoine Bordes, Guillaume R. Obozinski. NIPS 2012.
- 论文地址
- 描述:LFM基于双线性结构,该结构捕获数据交互作用的变异顺序,并在不同关系之间共享稀疏的潜在因素.
- NTN模型
- 论文标题:Reasoning With Neural Tensor Networks for Knowledge Base Completion.
- 作者:Richard Socher, Danqi Chen, Christopher D. Manning, Andrew Ng. NIPS 2013.
- 论文地址
- 描述:NTN是一个神经网路,允许通过张量介导实体矢量的交互.NTN模型可能是迄今为止最具有表现力的模型,但是处理大型KG的方法还不够简单和有效
- TransE模型
- TransH模型
- TransR & CTransR模型
- 论文标题: Learning Entity and Relation Embeddings for Knowledge Graph Completion.
- 作者: Yankai Lin, Zhiyuan Liu, Maosong Sun, Yang Liu, Xuan Zhu. AAAI 2015.
- 论文地址,论文源码:KB2E,OpenKE
- 描述: 一个实体可能会有多个方面,各种关系可能几种在实体的不同方面,TransR首先将实体从实体空间投影到对应的关系空间,然后在投影的实体之间构建转换.CTransR通过将不同的首位实体聚类,并为每个组学习不同的关系向量来扩展TransR,这是对每种关系类型内部相关性进行建模的初步探索.
- TransD模型
- TransA模型
- 论文标题:An Adaptive Approach for Knowledge Graph Embedding.
- 作者:Han Xiao, Minlie Huang, Hao Yu, Xiaoyan Zhu. arXiv 2015.
- 论文地址
- 描述:应用椭圆等势超曲面并为关系加权特定的特征尺寸,TransA模型可以对复杂的实体和关系建模.
- KG2E模型
- DistMult模型
- PTransE模型
- RTransE
- 论文标题: Composing Relationships with Translations.
- 论文作者: Alberto García-Durán, Antoine Bordes, Nicolas Usunier. EMNLP 2015.
- 论文地址
- 描述:RTransE学习通过添加关系的相应翻译向量来显式地建模关系的构成.此外,实验还包括一个新的评估协议,其中该模型直接回答与关系构成有关的问题.
- ManifoldE模型
- 论文标题: From One Point to A Manifold: Knowledge Graph Embedding For Precise Link Prediction.
- 论文作者: Han Xiao, Minlie Huang and Xiaoyan Zhu. IJCAI 2016.
- 论文地址
- 描述:ManifoldE模型将基于评议原理的点式建模扩展为流形式建模,克服了几何形状过高的问题,并为精确链接预测实现了显著改进.
- TransG模型
- ComplEx模型
- ComplEx extension模型
- HolE模型
- KR-EAR模型
- TranSparse模型
- TKRL模型
- 论文标题:Representation Learning of Knowledge Graphs with Hierarchical Types.
- 论文作者:Ruobing Xie, Zhiyuan Liu, Maosong Sun. IJCAI 2016.
- [论文地址]http://www.thunlp.org/~lzy/publications/ijcai2016_tkrl.pdf),论文源码
- 描述:实体应具有不同类型的多种表示形式,TKRL是捕获分层类型信息的首次尝试,这对于KRL具有重要意义.
- TEKE模型
- 论文标题:Text-Enhanced Representation Learning for Knowledge Graph.
- 论文作者:Zhigang Wang, Juan-Zi Li. IJCAI 2016.
- 论文地址
- 描述:TEKE合并了丰富的文本内容信息,以扩展知识图的语义结构.因此使得每个关系能够针对不同的头实体和尾实体拥有不同的表示,以便于更好地处理1-N,N-1,N-N关系.TEKE处理1-N,N-1,N-N关系的低性能和KG稀疏的问题.
- STransE模型
- GAKE模型
- DKRL模型
- ProPPR模型
- 论文标题:Learning First-Order Logic Embeddings via Matrix Factorization.
- 论文作者:William Yang Wang, William W. Cohen. IJCAI 2016.
- 论文地址
- 描述:ProPPR模型是第一个研究从头开始学习低维一阶逻辑embeddings,同时将基于公式embeddings的概率逻辑推理扩展到大型知识图的问题的形式研究.
- SSP模型
- 论文标题: Semantic Space Projection for Knowledge Graph Embedding with Text Descriptions.
- 论文作者: Han Xiao, Minlie Huang, Lian Meng, Xiaoyan Zhu. AAAI 2017.
- 论文地址
- 描述:SSP模型通过针对最新技术水平的基线进行embedding改进来对三元组和文本相关性之间的强相关进行建模.
- ProjE模型
- ANALOGY模型
- IKRL模型:
- ITransF模型
- 论文题目: An Interpretable Knowledge Transfer Model for Knowledge Base Completion.
- 论文作者: Qizhe Xie, Xuezhe Ma, Zihang Dai, Eduard Hovy. ACL 2017.
- 论文地址
- 描述:配置了稀疏注意力机制的ITransF发现了隐藏的关系概念,并通过概念共享来传递统计强度.此外,可以轻松地解释由稀疏注意力向量表示的关系和概念之间的学习关联.
- RUGE模型
- ConMask模型
- 论文题目: Open-World Knowledge Graph Completion.
- 论文作者: Baoxu Shi, Tim Weninger. AAAI 2018.
- 论文地址
- 描述:ConMask模型是一种新颖的开放世界知识图谱补全模型,该模型使用依赖关系内容的mask,完全卷积神经网络和语义平均从KG中的实体和关系的文本特征中提取依赖关系的嵌入.
- TorusE模型
- 论文标题:Knowledge Graph Embedding on a Lie Group.
- 论文作者:Takuma Ebisu, Ryutaro Ichise. AAAI 2018.
- 论文地址
- TorusE模型模型在李群上定义了TransE模型,可以将紧凑型李群之一的torus选择作为embeddings,以避免规则化.TorusE是第一个将对象嵌入到实数或者复数向量空间以外的对象的模型,并且是第一个正是讨论TransE模型的正则化问题的模型.
- 一种基于双向模型的多种链接预测模型
- 论文题目: On Multi-Relational Link Prediction with Bilinear Models.
- 论文作者: Yanjie Wang, Rainer Gemulla, Hui Li. AAAI 2018.
- 论文地址:暂无,论文源码:暂无
- 描述:主要目的是探索文献中提出的用于指示图谱嵌入的各种双线性模型的表达性和它们之间的联系.这篇论文中还提供了证据,表明多个双线性模型的关系级合奏可以实现最新的预测性能.
- 一种2D卷积神经网络的模型
- 一种精确文本增强型知识图谱表示学习
- 论文题目: Accurate Text-Enhanced Knowledge Graph Representation Learning.
- 论文作者: Bo An, Bo Chen, Xianpei Han, Le Sun. NAACL-HLT 2018.
- 论文地址
- 描述:这篇论文提出了一种精确的文本增强型知识图谱表示框架,该框架可以利用精确的文本信息来增强三元组的知识表示,并可以通过提及的关系和实体描述之间的相互关注模型有效地处理关系和实体之间的歧义.
- KBGAN模型
- ConvKB模型
- 使用图卷积网络的模型
- 使用简单约束增强图embeddings的方法
- 实例与概念区分下的知识图谱的embeddings
- SimplE模型
- RotatE模型
- TuckER模型
- 论文题目: Tensor Factorization for Knowledge Graph Completion.
- 论文作者: Ivana Balazˇevic ́, Carl Allen, Timothy M. Hospedales. arxiv 2019.
- 论文地址,论文源码
- 描述:TuckER模型是一个相对简单但是功能强大的线性模型,基于知识图谱三元组的二元张量表示的TuckER分解.TuckER模型是一个完全表达的模型,它推导了其实体和关系embeddings维度的界限,以实现完全表达,它比以前的ComplEx和SimplE模型的界限要小几个数量级.此外,TuckER模型达到了最先进的性能.
- CrossE模型
- 论文题目: Interaction Embeddings for Prediction and Explanation in Knowledge Graphs.
- 论文作者: Wen Zhang, Bibek Paudel, Wei Zhang. WSDM 2019.
- 论文地址
- 描述: CrossE模型是一种新颖的知识图谱embeddings,可明确模拟交叉交互.它不仅像大多数以前的方法一样为每个实体和关系学习一个通用embeddings,而且还为这两个实体和关系生成多个三重特定的embeddings,称之为交互embeddings.
- 基于注意力基础的embeddings
- RSN模型
- DihEdral模型
- 论文标题: Relation Embedding with Dihedral Group in Knowledge Graph.
- 论文作者: Canran Xu, Ruijiang Li. ACL 2019.
- 论文地址
- 描述:DihEdral模型用二面体组的表示来建模知识图谱中的关系.它是一个双线性模型,由于二面体基团的特性,它支持关系对称,倾斜对称,反演,阿贝尔群和非阿贝尔群.
- CapsE模型
- CaRe模型
本文由作者按照 CC BY 4.0 进行授权