大模型的模型融合方法
大家好，今天来讲一下大模型中的模型融合，并给出大模型融合的有效方法的原理和实现。
模型融合大家以前用的很多，特别是在判别模型里，属于永远都能稳定提升的那一类方法。但是生成语言模型，因为解码的过程存在，并不像判别模型那样直观。
另外，由于大模型的参数量增大，在参数规模更大的场景，简单的集成学习可以考量的方法相比低参数的机器学习更受限制，比如经典的stacking，boosting等方法，因为堆叠模型的参数问题，无法简单拓展。因此针对大模型的集成学习需要仔细考量。
下面我们讲解五种基本的集成方法，分别是 模型整合、概率集成、嫁接学习、众包投票、MOE。
一、模型整合
模型整合较为简单，即大模型在输出的文字层次进行融合，如简单的使用3个不同的LLama模型的输出结果，作为prompt输入到第四个模型中进行参考。在实际中，信息通过文字传递可以作为一种通信方法，其代表性的方法为EoT，来自于文章《Exchange-of-Thought: Enhancing Large Language Model Capabilities through Cross-Model Communication》，EoT提出了一个新的思想交流框架，即“交换思想”（Exchange-of-Thought），旨在促进模型之间的交叉通信，以提升问题解决过程中的集体理解。通过这一框架，模型可以吸收其他模型的推理，从而更好地协调和改进自身的解决方案。用论文中的图示表示为：
如图所示，作者统一地将CoT和自纠正方法同以来看，EoT允许多个模型分层次传递消息，通过跨模型通信，模型可以借鉴其他模型的推理和思考过程，从而更好地解决问题。这可以提高模型的性能和准确性。
二、概率集成
概率集成与传统的机器学习融合相似，比如将模型预测的logit结果进行平均，形式化的可以表示为类似地，大模型的概率集成可以在transformer的词表输出概率层次进行融合。要注意的是，这样的操作需要其融合的多个原始模型的词表保持一致。
下面我们给出一个简单伪代码的实现。
kv_cache = None
While True：
input_ids = torch.tensor([[new_token]], dtype=torch.long, device='cuda')
kv_cache1, kv_cache2 = kv_cache
output1 = models[0](input_ids=input_ids, past_key_values=kv_cache1, use_cache=True)
output2 = models[1](input_ids=input_ids, past_key_values=kv_cache2, use_cache=True)
kv_cache = [output1.past_key_values, output2.past_key_values]
prob = (output1.logits + output2.logits) / 2
new_token = torch.argmax(prob, 0).item()
三、嫁接学习
嫁接学习的概念来自于国内Kaggle Grandmaster的plantsgo，最早源自于数据挖掘竞赛。其本质上是一种迁移学习，一开始是用来描述将一个树模型的输出作为另一个树模型的输入的方法。此种方法与树的繁殖中的嫁接类似，故而得名。在大模型中，也有嫁接学习的应用，其模型名字为SOLAR，文章来源于 《SOLAR 10.7B: Scaling Large Language Models with Simple yet Effective Depth Up-Scaling》，文中提出了一个模型嫁接的一种思路，与机器学习中的嫁接学习不同的是，大模型并不直接融合另外一个模型的概率结果，而是将其中的部分结构和权重嫁接到融合模型上，并经过一定的继续预训练过程，使其模型参数能够适应新的模型。具体的操作为，复制包含n层的基础模型，以便后续修改。然后，从原始模型中移除最后的m层，并从其副本中移除最初的m层，从而形成两个不同的n-m层模型。最后将这两个模型连接起来，形成一个具有2*(n-m)层的缩放模型。
如图所示，需要构建一个48等的目标模型时候，可以分别从两个32层的模型取前24层和后24层连接到一起，组成一个全新的48层的模型，将组合后的模型进行继续预训练即可，通常继续预训练耗费的的数据量和计算资源要小于完全从头开始训练的消耗。在继续预训练之后，还需要进行对齐操作，包含两个过程，分别是指令微调和DPO。指令微调采用开源instruct数据并改造出一个数学专用instruct数据，以增强模型的数学能力。DPO是传统的RLHF的替代，最终形成了SOLAR-chat版本。
四、众包投票
众包投票在今年的WSDM CUP第一名方案里上有所应用，在过往的国内生成比赛中大家也实践过。其核心思想是：如果一个模型生成的句子，与所有模型的结果最像，那这个句子可以认为是所有模型的平均。这样就把概率意义上的平均，变成了生成token结果的上的平均。假设给定一个测试样本，我们有个候选回答需要聚合，对于每一个候选，我们计算和）（之间的相关性分数并将它们加在一起作为的质量分数（）。同样地，相关性量化来源可以是嵌入层余弦相似度（表示为emb_a_s）、词级ROUGE-L（表示为word_a_f）和字符级ROUGE-L（表示为char_a_f）。这里就是一些人工构造的相似度指标，包括字面上的和语义上的。
代码地址：https://github.com/zhangzhao219/WSDM-Cup-2024/tree/main
五、MoE
最后，也是最重要的大模型混合专家模型（Mixture of Experts，简称MoE），这是一种结合多个子模型（即“专家”）的模型架构方法，旨在通过多个专家的协同工作来提升整体的预测效果。MoE结构能够显著增强模型的处理能力和运行效率。典型的大模型MoE体系结构包含了一个门控机制（Gating Mechanism）和一系列专家网络。门控机制负责依据输入数据动态调配各个专家的权重，以此来决定每个专家对最终输出的贡献程度；同时，专家选择机制会根据门控信号的指示，挑选出一部分专家来参与实际的预测计算。这种设计不仅降低了整体的运算需求，还使得模型能够根据不同的输入选择最适用的专家。
混合专家模型（Mixture of Experts，MoE）并不是最近才有的新概念，混合专家模型的概念最早可以追溯到1991年发表的论文《Adaptive Mixture of Local Experts》。这种方法与集成学习有着相似之处，其核心是为由众多独立专家网络构成的集合体创立一个协调融合机制。在这样的架构下，每个独立的网络（即“专家”）负责处理数据集中的特定子集，并且专注于特定的输入数据区域。这个子集可能是偏向于某种话题，某种领域，某种问题分类等，并不是一个显示的概念。
面对不同的输入数据，一个关键的问题是系统如何决定由哪个专家来处理。门控网络（Gating Network）就是来解决这个问题的，它通过分配权重来确定各个专家的工作职责。在整个训练过程中，这些专家网络和门控网络会被同时训练，并不需要显示的手动操控。
在2010年至2015年这段时间里，有两个研究方向对混合专家模型（MoE）的进一步发展产生了重要影响：
组件化专家：在传统的MoE框架中，系统由一个门控网络和若干个专家网络构成。在支持向量机（SVM）、高斯过程以及其他机器学习方法的背景下，MoE常常被当作模型中的一个单独部分。然而，Eigen、Ranzato和Ilya等研究者提出了将MoE作为深层网络中一个内部组件的想法。这种创新使得MoE可以被整合进多层网络的特定位置中，从而使模型在变得更大的同时，也能保持高效。
条件计算：传统神经网络会在每一层对所有输入数据进行处理。在这段时期，Yoshua Bengio等学者开始研究一种基于输入特征动态激活或者禁用网络部分的方法。
这两项研究的结合推动了混合专家模型在自然语言处理（NLP）领域的应用。尤其是在2017年，Shazeer和他的团队将这一理念应用于一个137亿参数的LSTM模型（这是当时在NLP领域广泛使用的一种模型架构，由Schmidhuber提出）。他们通过引入稀疏性来实现在保持模型规模巨大的同时，加快推理速度。这项工作主要应用于翻译任务，并且面对了包括高通信成本和训练稳定性问题在内的多个挑战。如图所示《Outrageously Large Neural Network》 中的MoE layer架构如下：
传统的MoE都集中在非transfomer的模型架构上，大模型时代的transfomer模型参数量达百亿级，如何在transformer上应用MoE并且把参数扩展到百亿级别，并且解决训练稳定性和推理效率的问题，成为MoE在大模型应用上的关键问题。谷歌提出了代表性的方法Gshard，成功将Transformer模型的参数量增加至超过六千亿，并以此提升模型水平。
在GShard框架下，编码器和解码器中的每个前馈网络（FFN）层被一种采用Top-2门控机制的混合专家模型（MoE）层所替代。下面的图示展现了编码器的结构设计。这样的设计对于执行大规模计算任务非常有利：当模型被分布到多个处理设备上时，MoE层在各个设备间进行共享，而其他层则在每个设备上独立复制。其架构如下图所示：
为了确保训练过程中的负载均衡和效率，GShard提出了三种关键的技术，分别是损失函数，随机路由机制，专家容量限制。
辅助负载均衡损失函数：损失函数考量某个专家的buffer中已经存下的token数量，乘上某个专家的buffer中已经存下的token在该专家上的平均权重，构建这样的损失函数能让专家负载保持均衡。
随机路由机制：在Top-2的机制中，我们总是选择排名第一的专家，但是排名第二的专家则是通过其权重的比例来随机选择的。
专家容量限制：我们可以设置一个阈值来限定一个专家能够处理的token数量。如果两个专家的容量都已经达到了上限，那么令牌就会发生溢出，这时token会通过残差连接传递到下一层，或者在某些情况下被直接丢弃。专家容量是MoE架构中一个非常关键的概念，其存在的原因是所有的张量尺寸在编译时都已经静态确定，我们无法预知会有多少token分配给每个专家，因此需要预设一个固定的容量限制。
需要注意的是，在推理阶段，只有部分专家会被激活。同时，有些计算过程是被所有token共享的，比如自注意力（self-attention）机制。这就是我们能够用相当于12B参数的稠密模型计算资源来运行一个含有8个专家的47B参数模型的原因。如果我们使用Top-2门控机制，模型的参数量可以达到14B，但是由于自注意力操作是专家之间共享的，实际在模型运行时使用的参数量是12B。
整个MoeLayer的原理可以用如下伪代码表示：
M = input.shape[-1] # input维度为(seq_len, batch_size, M)，M是注意力输出embedding的维度
reshaped_input = input.reshape(-1, M)
gates = softmax(einsum("SM, ME -> SE", reshaped_input, Wg)) #输入input，Wg是门控训练参数，维度为(M, E)，E是MoE层中专家的数量，输出每个token被分配给每个专家的概率，维度为(S, E)
combine_weights, dispatch_mask = Top2Gating(gates) #确定每个token最终分配给的前两位专家，返回相应的权重和掩码
dispatched_expert_input = einsum("SEC, SM -> ECM", dispatch_mask, reshaped_input) # 对输入数据进行排序，按照专家的顺序排列，为分发到专家计算做矩阵形状整合
h = enisum("ECM, EMH -> ECH", dispatched_expert_input, Wi) #各个专家计算分发过来的input，本质上是几个独立的全链接层
h = relu(h)
expert_outputs = enisum("ECH, EHM -> ECM", h, Wo) #各个专家的输出
outputs = enisum("SEC, ECM -> SM", combine_weights, expert_outputs) #最后，进行加权计算，得到最终MoE-layer层的输出
outputs_reshape = outputs.reshape(input.shape) # 从(S, M)变成(seq_len, batch_size, M)
关于在MoE的架构改进上，Switch Transformers设计了一种特殊的Switch Transformer层，该层能够处理两个独立的输入（即两个不同的token），并配备了四个专家进行处理。与最初的top2专家的想法相反，Switch Transformers 采用了简化的top1专家策略。如下图所示：
与之区别，国内知名大模型DeepSeek MoE的架构设计了一个共享专家，每次都参与激活，其设计基于这样一个前提：某个特定的专家能够精通特定的知识领域。通过将专家的知识领域进行细粒度的分割，可以防止单一专家需要掌握过多的知识面，从而避免知识的混杂。同时，设置共享专家能够确保一些普遍适用的知识在每次计算时都能被利用。
往期精彩回顾
交流群
欢迎加入机器学习爱好者微信群一起和同行交流，目前有机器学习交流群、博士群、博士申报交流、CV、NLP等微信群，请扫描下面的微信号加群，备注：”昵称-学校/公司-研究方向“，例如：”张小明-浙大-CV“。请按照格式备注，否则不予通过。添加成功后会根据研究方向邀请进入相关微信群。请勿在群内发送广告，否则会请出群，谢谢理解~（也可以加入机器学习交流qq群772479961）