PaperWeekly原创

2020/11/13 12:11

张琨作者中国科学技术大学博士生学校自然语言处理研究方向

基于课程学习（Curriculum Learning）的自然语言理解

论文标题：

Curriculum Learning for Natural Language Understanding

论文作者：

Benfeng Xu, Licheng Zhang , Zhendong Mao, Quan Wang, Hongtao Xie and Yongdong Zhang

论文链接：

https://www.aclweb.org/anthology/2020.acl-main.542/

一、动机

伴随着 Bert 等预训练模型在自然语言处理领域的全面铺开，在预训练模型上进行 fine-tune 已经成为当前自然语言处理各种研究的一个标配。在微调阶段，目标数据会被一股脑的抛给模型，用于训练一个在具体任务上的模型。

但数据集中的数据之间是存在难易程度的，有些例子很容易被区分，有些例子就很难被区分，例如下图展示的 SST-2 情感分类任务上的一个数据样例，简单的例子可以直接利用一些词进行分类，例如 easy，comfortable 等，但一些比较困难的例子就需要模型能够对句子中的具体片段内容进行语义理解和分析了。

如果把这些样例不加区分直接扔给模型，那么就可能出现模型在简单例子上用力过猛，在复杂例子上不够用力，从而导致模型难以训练，同时难以取得更好的效果。而人在学习过程中基本上是从易到难的，先学简单的，在学复杂的，这称之为课程学习（Curriculum Learning）。

因此，本文的一个 motivation 就是将课程学习的思路应用到自然语言理解的相关任务中。

二、方法

通过从易到难的形式实现对模型更好的训练不是一个新的 idea，从 CV 到 NLP 都有一些研究，主流的研究方案是两阶段的，第一阶段，对问题进行分类，构建从易到难的数据集，第二阶段，利用第一阶段得到的数据进行第二阶段的训练。

本文的优势在于，本文并不是针对某一种特定的任务进行优化的，而是提出了一种更 general 的方案，然后在阅读理解，句子分类，句子对相似度分析三个任务上进行了验证。接下来，我们就来看一下本文是如何完成这两个阶段的。

2.1 第一阶段：难度评估

传统的方法使用上下文的长度，非常见词的频率，学习目标的尺度等方案对数据进行困难评估，但作者认为，既然是针对任务的，那么这些难度评估也是需要是跟对应的任务以及对应的评价目标相关的，因此，作者将整个训练数据通过如下步骤进行困难评估，相关的图例如下图所示：

将整个训练数据分为 N 份，称之为 meta-set，然后利用每一份数据训练一个 teacher 模型。N 份数据之间不重叠。
在所有的 teacher 模型训练好之后，假设从第 k 个 meta-set 中选出一个例子，然后利用剩余的 N-1 个模型对这个例子进行预测，预测的结果就是每个模型对这个例子的困难度评估（通过这种形式，难度评估就和模型以及评价标准联系起来了）。
最后将得到的 N-1 个结果相加，就得到了这个例子的难度。

作者称这个过程为交叉评估。

2.2 课程安排

在得到每个训练例子的难度之后，作者对数据集进行划分，然后根据划分之后的例子对模型进行多阶段的学习，具体而言，首先根据难度对样例进行排序，然后分为 N 份，这样就得到了 N 份从易到难的训练集，该过程可以表示为如下形式：

然后对于每阶段的训练，作者分别从每一个难度类（buckets）里调出 1/N 个例子，然后组成短拳对应的训练集，对模型进行训练，从而让保证模型对各种数据都能看到，该过程可以表示为如下形式：

作者称这种方法为退火方法（Annealing method）。

三、Experiments

为了验证模型的有效性，作者在多个数据集和多个任务上进行了验证，主要针对的 BERT 模型，以下是在 GLUE 上的表现：

除此之外，作者还对比了其他一些课程学习的放下的效果，具体结果如下：

还有对数据集进行划分时，不同 N 对整个模型效果的影响：

除此之外，作者还对不同难度划分下的子集中数据的具体情况进行分析，相关结果如下图所示：

这些实验都充分证明了本文提出的方法的有效性。

四、总结

本文通过课程学习的形式，将数据集从易到难进行分类，在此基础上对模型进行训练，从而进一步提高了预训练模型在 fine-tune 阶段的效果，思路非常有意思。而且关于数据难度的定义和评估是这种课程学习方法的难点所在，如何提出更好的学习方法是进一步提升模型效果的关键所在。而且也不需要复杂的结构，是一个非常有意思的研究方向。

PaperWeekly

推荐、解读、讨论和报道人工智能前沿论文成果的学术平台。

入门自然语言理解

相关数据

自然语言理解技术

自然语言理解是人工智能的核心课题之一，也被广泛认为是最困难和最具标志性的任务。最经典的两个人工智能思想实验——图灵测试和中文房间，都是围绕自然语言理解来构建的。自然语言理解在人工智能技术体系中的重要性不言而喻，它一方面承载着机器和人的交流，另一方面直达知识和逻辑。自然语言理解也是人工智能学者孜孜以求的圣杯，机器学习的巨擘 Michael I. Jordan 就曾经在 Reddit 上的 AMA（Ask Me Anything）栏目中畅想用十亿美元建立一个专门用于自然语言理解的实验室。

来源：机器之心

自然语言处理技术

自然语言处理（英语：natural language processing，缩写作 NLP）是人工智能和语言学领域的分支学科。此领域探讨如何处理及运用自然语言；自然语言认知则是指让电脑“懂”人类的语言。自然语言生成系统把计算机数据转化为自然语言。自然语言理解系统把自然语言转化为计算机程序更易于处理的形式。

来源：维基百科

情感分类技术

情感分类是对带有感情色彩的主观性文本进行分析、推理的过程，即分析对说话人的态度，倾向正面，还是反面。

来源：知乎

句子分类技术

句子分类是文本分类的子任务，是指在句子层面的文本分类任务。

来源：MonkeyLearn