转载

Classifying Relations via Long Short Term Memory Networks along Shortest Dependency Paths

Classifying Relations via Long Short Term Memory Networks along Shortest Dependency Paths

概述

论文提出了一种SDP-LSTM模型用于实体关系分类,SDP(the shortest dependency path),在句法依存树中,两实体到公共祖先节点的最短路径。在实体关系分类中,SDP富含多种信息,可以让模型更专注相关信息,忽略无关信息。典型的最短依赖路径如下(红色路径)。模型的总体结构如下。

模型细节

在模型的架构图中,左边是总体的结构,右边是一个通道的LSTM结构。下面分别介绍

  • 模型总体

    在模型的总体架构中,首先通过Standford parser得到SDP,然后得到SDP作为模型中四个通道的基础

    每个LSTM通道会有一个输出,将四个通道的输出连接起来,作为隐层的输出,最后通过softmax层

    得到最后的输出。

  • 单个通道LSTM

    单个通道LSTM如框架图的右边所示,SDP中,有两个路径,分别是两个节点到公共祖先的路径。

    分别对两个路径进行如下处理,

    1. 路径节点表示成向量。
    2. 进过LSTM前向传播,每个节点有一个输出。
    3. 堆叠每个节点的输出,进行一次池化操作,得到单条路径的输出。

    最后连接两条路径上的输出,得到一个单个通道LSTM输出。

    前面过程中提到了路径节点表示成向量,论文中分别利用词的四种特性,将节点表示成向量,

    包括词本身,词性信息,依存句法关系,WordNet上位词。所以会有四个通道LSTM

细节

论文地址

Classifying Relations via Long Short Term Memory Networks
along Shortest Dependency Paths

正文到此结束
本文目录