Conventional entity typing approaches are based on independent classification paradigms, which make them difficult to recognize inter-dependent, long-tailed and fine-grained entity types. In this paper, we argue that the implicitly entailed extrinsic and intrinsic dependencies between labels can provide critical knowledge to tackle the above challenges. To this end, we propose \emph{Label Reasoning Network(LRN)}, which sequentially reasons fine-grained entity labels by discovering and exploiting label dependencies knowledge entailed in the data. Specifically, LRN utilizes an auto-regressive network to conduct deductive reasoning and a bipartite attribute graph to conduct inductive reasoning between labels, which can effectively model, learn and reason complex label dependencies in a sequence-to-set, end-to-end manner. Experiments show that LRN achieves the state-of-the-art performance on standard ultra fine-grained entity typing benchmarks, and can also resolve the long tail label problem effectively.


翻译:常规实体打字方法基于独立的分类模式,这使得它们难以识别独立、长尾和细细的实体类型。在本文中,我们争辩说,标签之间隐含的外部和内在依赖性可以为解决上述挑战提供关键知识。为此,我们提议采用 emph{标签理由网络(LRN ),这依次是发现和利用数据中包含的标签依赖性知识,从而细化实体标签的缘故。具体地说,LRN利用自动反向网络进行推理和双方属性图,在标签之间进行推理,这可以有效地模拟、学习和解释复杂的标签依赖性,以序列到设定、终端到终端的方式。实验显示,LRN在标准的超细度实体打字基准上达到了最先进的性能,还可以有效解决长尾标签问题。

12
下载
关闭预览

相关内容

【知识图谱@EMNLP2020】Knowledge Graphs in NLP @ EMNLP 2020
专知会员服务
43+阅读 · 2020年11月22日
【ST2020硬核课】深度学习即统计学习,50页ppt
专知会员服务
67+阅读 · 2020年8月17日
因果图,Causal Graphs,52页ppt
专知会员服务
253+阅读 · 2020年4月19日
内涵网络嵌入:Content-rich Network Embedding
我爱读PAMI
4+阅读 · 2019年11月5日
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
Unsupervised Learning via Meta-Learning
CreateAMind
43+阅读 · 2019年1月3日
Human Attention in Fine-grained Classification
Arxiv
0+阅读 · 2021年11月2日
Arxiv
6+阅读 · 2020年2月15日
Multi-Grained Named Entity Recognition
Arxiv
6+阅读 · 2019年6月20日
VIP会员
相关VIP内容
【知识图谱@EMNLP2020】Knowledge Graphs in NLP @ EMNLP 2020
专知会员服务
43+阅读 · 2020年11月22日
【ST2020硬核课】深度学习即统计学习,50页ppt
专知会员服务
67+阅读 · 2020年8月17日
因果图,Causal Graphs,52页ppt
专知会员服务
253+阅读 · 2020年4月19日
相关论文
Human Attention in Fine-grained Classification
Arxiv
0+阅读 · 2021年11月2日
Arxiv
6+阅读 · 2020年2月15日
Multi-Grained Named Entity Recognition
Arxiv
6+阅读 · 2019年6月20日
Top
微信扫码咨询专知VIP会员