2024/10/31 10:18

大模型已过时，小模型SLM才是未来？苹果正在研究这个

手机还是更适合小模型

大模型虽然好，但我的笔记本和手机都跑不动呀。就算勉强能跑起来，也是奇慢无比。而与此同时，对适合移动和边缘设备的小模型的需求却在不断增长，因为这些模型似乎才能真正满足人们的日常需求。正因为此，有不少研究者和应用开发者都认为小模型才是 AI 的未来。

事实上，Meta 和 Mistral 等都已经发布了自己的 SLM，比如 Llama 3.2 的 1B 和 3B 版本以及 Ministral 3B。另外还有一些社区开发的 SLM，比如 BabyLlama 系列（不到 1B 参数）、 TinyLLaMA（1.1B 参数）。

为了打造出真正好用的小型语言模型（SLM），AI 研究社区想出了各种各样的方法，像是对大模型进行蒸馏或量化或者就直接去训练性能优异的小模型。

实际上， SLM 正在逐渐成为一个研究热门方向，简单检索 arXiv 上的关键词也能大致看见这一趋势：9 和 10 月份，SLM 相关研究论文的数量有了明显增长。

今天，我们就来看看苹果的一篇相关论文，其探讨了训练小型语言模型的计算瓶颈。

论文标题：Computational Bottlenecks of Training Small-scale Large Language Models
论文地址：https://arxiv.org/pdf/2410.19456

首先，多小的模型才能算是小型语言模型，或按苹果的说法 —— 小规模大型语言模型？

这个苹果团队给出的指标是「参数量 ≤ 2B」。当然，这并非人们公认的标准，也有人认为 Ministral 3B 和 Llama 3.2 3B 等 3B 参数量的模型也算是 SLM。总之，大与小是一个会随着计算基础设施的演进而动态变化的标准，昨天的大模型可能就会成为明天的小模型。

尽管 SLM 规模很小，但其表现并不一定很差，并且已经展现出了自己的巨大潜力。很多借助剪枝、蒸馏和量化等技术得到的 SLM 的性能并不比大得多的模型差，甚至有时候还能更胜一筹。举个例子，Gemma-2B 的性能就优于大得多的 OPT-175B，这就挑战了大多数人的一个固有观念：模型大小是有效性的主导决定因素。

另外，也有采用互相验证等其它新颖方法提升 SLM 能力的研究思路，比如机器之心曾报道过的《两个小模型互相验证，直接比肩大模型？微软的 rStar 甚至没用 CoT 和微调》。事实上，随着 OpenAI ο1 系列模型的发布，通过优化推理时间计算也成了提升 SLM 性能的重要途径。

性能足够好的 SLM 具有很大的好处，最基本的就是速度快、效率高、性价比高。因此，SLM 对计算资源有限的组织（如小型企业和学术机构）非常有吸引力。

苹果的这项研究关注的是 SLM 的训练动态。事实上，在训练方面，LLM 和 SLM 的差距很大。LLM 的计算需求和基础设施需求并不一定适用于 SLM。考虑到云平台可用的硬件配置多种多样（包括 GPU 类型、批量大小和通信协议），有必要对这些影响 SLM 训练效率的因素进行系统性的分析，尤其是要考虑一些符合实际的指标，比如每美元的损失和每秒 token 数。

该团队的研究结果表明，对于更小型的模型，可以使用 A100-40GB GPU 和分布式数据并行（DDP）等更低成本选择，同时不会对性能产生负面影响。对于更大型的模型，就必需更高级的配置了（例如 A100-80GB 和 H100-80GB GPU 搭配 Flash Attention（FA）和完全分片式数据并行（FSDP）），这样才能处理更大的数据批以及防止内存相关的问题。

SLM 领域的最近研究进展表明，扩展 AI 系统不仅是要追求先进的性能，也要考虑实际应用。目前这股研发 SLM 的趋势表明，重新评估硬件和计算策略是非常重要的。

苹果这项研究为此做出了贡献，他们系统性地研究了在不同的云基础设施和设置上，训练最多 2B 参数大小的 SLM 的计算瓶颈和成本效率。他们发现：

1. 相比于 LLM，FlashAttention 对 SLM 来说更重要；

2. H100-80GB 和 A100-80GB 等昂贵硬件对 SLM 训练来说不一定具有成本效益；

3. DDP 是 SLM 的最佳分布式训练方案；

4. 对 SLM 训练来说，最大化 GPU 内存利用率并不是成本最优的。

模型和参数

该团队研究的是 LLaMa 架构，毕竟不管是 LLM 还是 SLM，这都是当今最流行的架构。

LLaMa-2 和 3 最小的版本分别是 7B 和 8B，但这对大多数移动硬件来说还是太大了。为此，该团队进行了一番操作：为了定义他们自己的模型，他们通过在 Llama 模型上拟合一条曲线而提取了模型的解码器模块和参数数量。见下图 5。

他们评估了四种不同的模型大小：100M、500M、1B 和 2B。

值得注意的是，他们最大化了图中 x 轴或图例中未显示的所有配置参数。也就是说，他们对下面列出的所有配置参数组合进行大型网格搜索，并且每个图中的每个点都是给定图中指定的所有参数的最佳配置。

这样，他们找到了最佳的 Token/Dollar 比值，并假设可以通过调整优化超参数（例如学习率）来实现与硬件最佳配置的最佳收敛。

接下来，给出这些配置参数的定义

GPU 类型：他们评估了三种英伟达 GPU：A100-40GB、A100-80GB 和 H100-80GB。所有 GPU 使用的数据类型都是 BFloat16。
GPU 数量和通信：每种 GPU 类型都有三种主要训练配置，包括：单节点单 GPU（1 台 GPU）、单节点多 GPU（2、4 和 8 台 GPU）和多节点多 GPU（16、32 和 64 台 GPU）。当 GPU 超过 1 台时，还会评估分布式数据并行（DDP）和完全分片式数据并行（FSDP）这两种通信方法。对于分片，他们也研究了两种策略：1) 完全分片，即对所有梯度、优化器状态和权重进行分片；2) grad_op 分片，即仅对梯度和优化器状态进行分片（但权重不分片）。他们使用了 RDMA/EFA。
样本数量：他们还评估了训练期间适合单个 GPU 的各种样本数量。他们将序列长度固定为 1028，并迭代适合单台设备的批量大小。由于即使在最小（100M）的模型中也无法将 128 个样本放入单个 GPU 内存中，因此他们研究了每台设备的批量大小为 4、8、16、32 和 64 的情况。这里不使用梯度累积
Flash Attention：他们研究了在注意力模块中使用 Flash Attention 的影响。

实验结果

该团队展示了 SLM 在 A100-40GB、A100-80GB 和 H100-80GB 上运行的结果。他们在 HuggingFace 中部署了模型，没有附加任何额外的框架，batch size=1024，并使用 PyTorch 运行了如下表数值设置的实验。

通过多次实验，研究团队得出了以下观察：

Q1：在 SLM 训练中使用 FlashAttention 有多重要？

图 1 比较了不同 batch size 下 FlashAttention2 与普通注意力的区别。首先，使用 FlashAttention 显著提高了 SLM 的 Token/Dollar 效率，用同样的钱（Dollar）能处理更多数据（Token）。

对于较小的模型，FA 对 Token/Dollar 的提升更为显著。这是因为注意力机制的成本会随上下文长度变长以平方的速度增长。当模型的隐藏层维度减少时，这个因素变得尤为重要。这样的 SLM，其性能受限于数据处理能力，其中数据在 CPU/GPU、GPU/GPU 之间传输是主要瓶颈。最后，可以看到对于较大的模型（1B 和 2B），FA 能够训练更大的 batch size（1024），而普通注意力会导致内存溢出（OOM）。

Q2：GPU 数量一定，哪类 GPU 最适合训练 SLM？

图 2 展示了使用 A100-40GB 和 A100-80GB GPU 训练模型的效果。尽管不同模型间没有统一的趋势，但当使用用大量 GPU 训练 1B、2B 参数规模的模型时，A100-80GB GPU 表现更佳。这种 GPU 适合处理更大的 batch size。对于更小的模型，则可以选择成本更低的 40GB GPU。

Q3：在不同节点数量下，哪种通信方案最适合训练 SLM？

该团队探讨了不同并行策略对 SLM 训练的影响，分布式数据并行（DDP）、完全分片数据并行（FSDP-Full）、还是 FSDPGrad+Optimizer，那种方法更优秀？图 3 展示了在 A100-80GB GPU 上，这些并行策略训练模型的效果。

结果显示，对于小型模型，对通信需求最小的 DDP 更优。但对于 2B 参数的模型，FSDP 由于能处理更大的 batch size，表现超越了 DDP。此外，FSDP-Grad+Optimizer 因其较低的通信开销，表现优于 FSDP-Full。简而言之，选择合适的并行策略可以优化 SLM 的训练效率。

Q4：对于不同的全局 batch size，训练 SLM 的最佳通信方案是什么？

图 4 显示了使用 DDP、FSDP-Full 和 FSDP-Grad+Optimizer 在不同 batch size 下训练 SLM 的结果。

可以看到，batch size 较小时，通信方案的差异不大。然而，与上个问题类似，对于 2B 模型和 batch size，FSDP 方案的性能优于 DDP，并且能够处理比 DDP 更大的批量大小，而 DDP 在这种情况下会导致内存溢出。

更多研究细节，请访问原论文。

^{参考链接：https://arxiv.org/pdf/2410.19456}

理论苹果SLM

相关数据

网格搜索技术

网格搜索是一项模型超参数优化技术，常用于优化三个或者更少数量的超参数，本质是一种穷举法。对于每个超参数，使用者选择一个较小的有限集去探索。然后，这些超参数笛卡尔乘积得到若干组超参数。网格搜索使用每组超参数训练模型，挑选验证集误差最小的超参数作为最好的超参数。

来源：Deep Learning Book

权重技术

线性模型中特征的系数，或深度网络中的边。训练线性模型的目标是确定每个特征的理想权重。如果权重为 0，则相应的特征对模型来说没有任何贡献。

来源：Google AI Glossary

参数技术

在数学和统计学裡，参数（英语：parameter）是使用通用变量来建立函数和变量之间关系（当这种关系很难用方程来阐述时）的一个数量。

来源：维基百科

剪枝技术

剪枝顾名思义，就是删去一些不重要的节点，来减小计算或搜索的复杂度。剪枝在很多算法中都有很好的应用，如：决策树，神经网络，搜索算法,数据库的设计等。在决策树和神经网络中，剪枝可以有效缓解过拟合问题并减小计算复杂度；在搜索算法中，可以减小搜索范围，提高搜索效率。

来源：Wikipedia

收敛技术

在数学，计算机科学和逻辑学中，收敛指的是不同的变换序列在有限的时间内达到一个结论（变换终止），并且得出的结论是独立于达到它的路径（他们是融合的）。通俗来说，收敛通常是指在训练期间达到的一种状态，即经过一定次数的迭代之后，训练损失和验证损失在每次迭代中的变化都非常小或根本没有变化。也就是说，如果采用当前数据进行额外的训练将无法改进模型，模型即达到收敛状态。在深度学习中，损失值有时会在最终下降之前的多次迭代中保持不变或几乎保持不变，暂时形成收敛的假象。

来源：Wikipedia Google ML glossary

学习率技术

在使用不同优化器（例如随机梯度下降，Adam）神经网络相关训练中，学习速率作为一个超参数控制了权重更新的幅度，以及训练的速度和精度。学习速率太大容易导致目标（代价）函数波动较大从而难以找到最优，而弱学习速率设置太小，则会导致收敛过慢耗时太长

来源：Liu, T. Y. (2009). Learning to rank for information retrieval. Foundations and Trends® in Information Retrieval, 3(3), 225-331. Wikipedia

超参数技术

在机器学习中，超参数是在学习过程开始之前设置其值的参数。相反，其他参数的值是通过训练得出的。不同的模型训练算法需要不同的超参数，一些简单的算法（如普通最小二乘回归）不需要。给定这些超参数，训练算法从数据中学习参数。相同种类的机器学习模型可能需要不同的超参数来适应不同的数据模式，并且必须对其进行调整以便模型能够最优地解决机器学习问题。在实际应用中一般需要对超参数进行优化，以找到一个超参数元组（tuple），由这些超参数元组形成一个最优化模型，该模型可以将在给定的独立数据上预定义的损失函数最小化。

来源：Wikipedia

注意力机制技术

我们可以粗略地把神经注意机制类比成一个可以专注于输入内容的某一子集（或特征）的神经网络. 注意力机制最早是由 DeepMind 为图像分类提出的，这让「神经网络在执行预测任务时可以更多关注输入中的相关部分，更少关注不相关的部分」。当解码器生成一个用于构成目标句子的词时，源句子中仅有少部分是相关的；因此，可以应用一个基于内容的注意力机制来根据源句子动态地生成一个（加权的）语境向量（context vector）, 然后网络会根据这个语境向量而不是某个固定长度的向量来预测词。

来源：机器之心

优化器技术

优化器基类提供了计算梯度loss的方法，并可以将梯度应用于变量。优化器里包含了实现了经典的优化算法，如梯度下降和Adagrad。优化器是提供了一个可以使用各种优化算法的接口，可以让用户直接调用一些经典的优化算法，如梯度下降法等等。优化器（optimizers）类的基类。这个类定义了在训练模型的时候添加一个操作的API。用户基本上不会直接使用这个类，但是你会用到他的子类比如GradientDescentOptimizer, AdagradOptimizer, MomentumOptimizer（tensorflow下的优化器包）等等这些算法。

来源：维基百科

机器之心机构

机器之心，成立于2014年，是国内最具影响力、最专业、唯一用于国际品牌的人工智能信息服务与产业服务平台。目前机器之心已经建立起涵盖媒体、数据、活动、研究及咨询、线下物理空间于一体的业务体系，为各类人工智能从业者提供综合信息服务和产业服务。

https://www.jiqizhixin.com/