融合多任務學習和實體遮掩的關系三元組抽取模型

【摘要】：針對流水線式三元組抽取模型中，命名實體識別任務里實體識別和實體分類兩個子任務之間存在干擾，關系抽取任務中實體提及詞對關系分類也存在干擾的問題，提出一種融合多任務學習和實體遮掩的關系三元組抽取模型。在命名實體識別任務中，先利用預訓練模型對輸入句子進行特征編碼表示，然后利用首尾指針標注進行實體識別，最后利用注意力機制融入實體類型信息進行實體分類。在關系抽取任務中，提出了一種實體遮掩的方法，先利用實體類型信息替換實體提及詞，并在其前后插入實體標記，之后利用預訓練模型對輸入句子進行特征編碼表示，最后利用頭尾實體的特征表示進行關系分類。在SCIERC和SKE兩個數據集上進行大量實驗，實驗結果表明，所提模型相較于基于實體標記方法的PURE模型整體性能提升了2.5和 1.5個百分點。充分驗證了在三元組抽取任務中，分解命名實體識別任務以及在關系抽取中用實體類型信息替換實體提及詞的有效性。