Auto Byte

专注未来出行及智能汽车科技

微信扫一扫获取更多资讯

Science AI

关注人工智能与其他前沿技术、基础学科的交叉研究与融合发展

微信扫一扫获取更多资讯

不做数值运算、纯靠嘴炮也能机器学习?基于自然语言的全新ML范式来了

图片
AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年,机器之心AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术交流与传播。如果您有优秀的工作想要分享,欢迎投稿或者联系报道。投稿邮箱:liyazhou@jiqizhixin.com;zhaoyunfeng@jiqizhixin.com

本文作者肖镇中是德国马克思普朗克-智能系统研究所和图宾根大学的博士生,Robert Bamler 是图宾根大学机器学习方向的教授,Bernhard Schölkopf 是马克思普朗克-智能系统研究所的所长,刘威杨是马普所剑桥大学联合项目的研究员。

图片

论文地址:https://arxiv.org/abs/2406.04344

在传统的机器学习场景如分类和回归问题中,给定训练数据图片,我们通过优化参数图片学到一个函数模型图片来准确描述训练集和测试集中图片图片的关系。其中图片是基于数值的函数,它的参数图片通常是连续空间中的数值向量或矩阵,优化算法通过计算数值梯度迭代更新图片从而达到学习的效果。

与其用数值,我们是否能用自然语言来表示一个模型?这种基于自然语言的非数值模型又该如何做推理和训练

Verbalized Machine Learning (VML;言语化的机器学习) 回答了这些问题,并提出了一种基于自然语言的机器学习全新范式。VML 把大语言模型 (LLM) 当作自然语言空间中的通用近似函数 (universial function approximator)图片,数据图片参数图片都是自然语言空间中的字符串。在做推理时,我们可以将给定的输入数据图片参数图片提交给 LLM,LLM 的回答就是推理的答案图片

对于任意任务和数据图片,我们如何得到图片?在基于数值的传统机器学习中,我们通过计算损失函数的梯度,将现有的模型参数往损失下降的方向更新,从而得到图片的优化函数:

图片

其中图片图片分别为学习率损失函数

在 VML 的设定中,由于数据图片参数图片都是字符串且 LLM 被当作是黑箱的推理引擎,所以我们无法通过数值计算来优化图片。但既然我们已经将 LLM 用作自然语言空间中的通用近似函数去近似模型函数,而图片优化器图片也是一个函数,我们为何不也用 LLM 去近似它?因此,言语化的图片优化函数可写作

图片

其中图片为一个数量为图片批次的训练数据和模型预测结果,图片为优化函数的参数(同为自然语言)。

图片

                                                                                  图 1:VML 的训练算法。

图片

                            图 2:VML 中模型和优化器的自然语言模版样例。

图 1 显示了 VML 的完整算法。可以看见其跟传统机器学习算法基本相同,唯一的区别是数据和参数是在自然语言空间里的字符串, 以及模型图片优化器图片都是通过 LLM 在自然语言空间中进行推理。图 2 为回归任务中模型图片优化器图片的具体模板样例。

跟传统机器学习比,VML 的优势包括:(1)用自然语言简单的描述就可以对模型加入归纳偏置 (inductive bias);(2)由于不需要预设模型的函数族 (function family),优化器图片可以在训练过程中自动对模型的函数族进行选择;(3)优化函数对模型参数的每一步更新都会提供自然语言的解释,同时模型的描述和推理也是自然语言且可解释的。

实验展示

多项式回归

如图 3 所示,模型的初始参数图片线性回归的定义。在第一步优化时,优化器说它发现图片图片有更大的值域,且它们似乎存在正相关性,所以它决定将模型更新为简单的线性回归模型。

在第二步优化时,优化器说当前模型的不良表现让它意识到线性模型的假设过于简单了,同时它发现图片图片之间存在非线性关系, 因此它决定将模型更新为二次函数。

第三步优化时,优化器的关注点从函数族选择转换成二次函数的参数修改。最终模型学到了真实函数很接近的结果。

图片

                                   图 3: VML 在多项式回归任务中的训练过程记录。

非线性二维平面分类

如图 4 所示,模型的初始参数图片为二维平面二分类的定义,同时用了一句话「决策边界是个圆」加入归纳偏置。在第一步优化中,优化器说它基于提供的先验,将模型更新为了一个圆方程。接下来的优化步骤中,优化器都在根据训练数据调整圆方程的圆心和半径。直到第四十一步,优化器说当前模型似乎拟合得很好了,于是停止了对模型的更新。

同时,我们也可以看见在不加归纳偏置的情况下,VML 也能学到一个基于决策树的不错的模型,但相比之下训练损失的波动更大。

图片

                               图 4: VML 在非线性二维平面分类任务中的训练过程记录。

医疗图像二分类

如果大模型接受多模态输入,如图片和文字,那 VML 也可以用在图片任务上。这个实验中,我们使用了 GPT-4o 和 PneumoniaMNIST 数据集,做了一个 X 光片肺炎检测的任务。

如图 5 所示,我们初始化了两个模型,模型的初始参数图片都为图片二分类的定义, 但其中一个添加了一句话「输入是用于肺炎检测的 X 光图片」的归纳偏置作为先验。在训练了五十步后,两个模型都达到了 75% 左右的准确度,其中有先验的模型准确度要稍微高一点点。

仔细观察第五十步后的模型参数,我们可以看到加了归纳偏置的模型描述中包含了很多与肺炎相关的医学词汇,比如「感染」、「发炎」;而没有加归纳偏置的模型描述中只有对肺部 X 光片的特征描述,比如「透明度」、「对称」。

同时,这些模型所学到的描述,都是可以被具备专业知识的医生验证的。这种可解释和人工检验的机器学习模型在以安全为重的医疗场景下十分有价值。

图片

                               图 5: VML 在 PneumoniaMNIST 图片二分类上的训练记录。
结语

该文章介绍了一种基于大语言模型机器学习新范式 Verbalized Machine Learning (VML; 言语化的机器学习),并在回归和分类任务上展示了 VML 的有效性和可解释性的特点。
工程VML机器学习
2
相关数据
机器学习技术

机器学习是人工智能的一个分支,是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。因为学习算法中涉及了大量的统计学理论,机器学习与推断统计学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。

参数技术

在数学和统计学裡,参数(英语:parameter)是使用通用变量来建立函数和变量之间关系(当这种关系很难用方程来阐述时)的一个数量。

学习率技术

在使用不同优化器(例如随机梯度下降,Adam)神经网络相关训练中,学习速率作为一个超参数控制了权重更新的幅度,以及训练的速度和精度。学习速率太大容易导致目标(代价)函数波动较大从而难以找到最优,而弱学习速率设置太小,则会导致收敛过慢耗时太长

损失函数技术

在数学优化,统计学,计量经济学,决策理论,机器学习和计算神经科学等领域,损失函数或成本函数是将一或多个变量的一个事件或值映射为可以直观地表示某种与之相关“成本”的实数的函数。

线性回归技术

在现实世界中,存在着大量这样的情况:两个变量例如X和Y有一些依赖关系。由X可以部分地决定Y的值,但这种决定往往不很确切。常常用来说明这种依赖关系的最简单、直观的例子是体重与身高,用Y表示他的体重。众所周知,一般说来,当X大时,Y也倾向于大,但由X不能严格地决定Y。又如,城市生活用电量Y与气温X有很大的关系。在夏天气温很高或冬天气温很低时,由于室内空调、冰箱等家用电器的使用,可能用电就高,相反,在春秋季节气温不高也不低,用电量就可能少。但我们不能由气温X准确地决定用电量Y。类似的例子还很多,变量之间的这种关系称为“相关关系”,回归模型就是研究相关关系的一个有力工具。

决策边界技术

在具有两类的统计分类问题中,决策边界或决策曲面是一个超曲面,它将底层的向量空间分成两组,每组一个。分类器会将决策边界一侧的所有点分为属于一个类,而另一侧属于另一个类。也即二元分类或多类别分类问题中,模型学到的类别之间的分界线。

多项式回归技术

研究一个因变量与一个或多个自变量间多项式的回归分析方法,称为多项式回归。

推理引擎技术

推理机是实施问题求解的核心执行机构,常见于专家系统。它是对知识进行解释的程序,根据知识的语义,对按一定策略找到的知识进行解释执行,并把结果记录到动态库的适当空间中去。

批次技术

模型训练的一次迭代(即一次梯度更新)中使用的样本集。

优化器技术

优化器基类提供了计算梯度loss的方法,并可以将梯度应用于变量。优化器里包含了实现了经典的优化算法,如梯度下降和Adagrad。 优化器是提供了一个可以使用各种优化算法的接口,可以让用户直接调用一些经典的优化算法,如梯度下降法等等。优化器(optimizers)类的基类。这个类定义了在训练模型的时候添加一个操作的API。用户基本上不会直接使用这个类,但是你会用到他的子类比如GradientDescentOptimizer, AdagradOptimizer, MomentumOptimizer(tensorflow下的优化器包)等等这些算法。

语言模型技术

语言模型经常使用在许多自然语言处理方面的应用,如语音识别,机器翻译,词性标注,句法分析和资讯检索。由于字词与句子都是任意组合的长度,因此在训练过的语言模型中会出现未曾出现的字串(资料稀疏的问题),也使得在语料库中估算字串的机率变得很困难,这也是要使用近似的平滑n元语法(N-gram)模型之原因。

机器之心机构

机器之心,成立于2014年,是国内最具影响力、最专业、唯一用于国际品牌的人工智能信息服务与产业服务平台。目前机器之心已经建立起涵盖媒体、数据、活动、研究及咨询、线下物理空间于一体的业务体系,为各类人工智能从业者提供综合信息服务和产业服务。

https://www.jiqizhixin.com/
推荐文章
暂无评论
暂无评论~