关系抽取论文 PTR: Prompt Tuning with Rules for Text Classification

年份：2021

作者：Xu Han, Weilin Zhao, Ning Ding, Zhiyuan Liu, Maosong Sun

机构：Department of Computer Science and Technology, Tsinghua University, Beijing

数据集：TACRED，TACREV，ReTACRED，SemEval 2010 Task 8

TRCRED：通过众包的方式产生的，包含42个关系类别。

TACREV：纠正了 TACRED 的原始验证集和测试集中的错误，而训练集却保持不变。

ReTACRED：TACRED 的另一个版本，解决了原始 TACRED 数据集的一些缺点，并对其训练集、开发集和测试集进行了重构。 ReTACRED 还修改了一些关系类型。

motivation：

pretrain 和 fine-tuning 之间存在着明显的差距，即 pretrain 时采用预测 mask 单词的方法，而在 fine-tuning 时可能做的是多分类任务。这一差距将阻碍预训练模型中的知识对下游任务的适应，prompt 的提出就是为了解决这种差距。

目前 prompt 适用于少量分类的场景，对于 many-class 的分类任务依然具有挑战性。

pretrain 和 fine-tuning 之间存在着明显的差距，即 pretrain 时采用预测 mask 单词的方法，而在 fine-tuning 时可能做的是多分类任务。这一差距将阻碍预训练模型中的知识对下游任务的适应，prompt 的提出就是为了解决这种差距。

并且，目前 prompt 适用于少量分类的场景，如情感分析或者自然语言推理：

对于情感分析，一个典型的 template 可以是 <S1> was [MASK]，将 label words 作为 MASK 预测的候选集，将预测出的单词映射到相应的情感中，如 great 映射到正面情感、terrible 映射到负面情感，将二分类问题转化为预测下一个单词问题。
对于自然语言推理，一个典型的 template 是 <S1>. [MASK], <S2>，label words 可以是 {yes, maybe, no} 来表示两个句子之间的关系。

论文提出了 prompt tuning with rules（PTR），可以应用于 many-class 的多分类任务中，PTR 的优势如下：

Prior Knowledge Encoding：PTR 可以应用 logic rules 将任务和分类的先验知识编码到 prompt funing 中，预测的结果与实体类型和关系都相关。如对于关系 person:parent 和关系 organization:parent 应用两个 sub-prompt，第一个 sub-prompt 用于确定实体是人还是组织，第二个 sub-prompt 用于确定是否有 parent-child 关系。
Efficient Prompt Design：根据 logic rules 可以很容易的设计几个简单的 sub-prompt，并且组合这些 sub-prompt 用于形成 task-specific prompt。