多任务微调里，最危险的不是任务多，而是比例随意
在很多多任务微调项目中，任务比例往往是这样定下来的：
-
这个任务数据多，就多一点
-
这个任务重要，就多一点
-
实在不知道，就先平均
当时大家心里想的是：
“反正模型会自己学平衡。”
但等模型训完，你往往会发现一些奇怪的变化：
-
某些任务表现异常好
-
某些任务明显退化
-
模型的整体行为风格，发生了变化
这时候你才意识到一个问题：
**任务比例不是“数据权重”，
而是模型行为偏好的塑造器。**
一个必须先摆出来的结论（非常重要）
在正式拆之前，我先把这篇文章的核心判断写出来：
**在多任务微调中，
任务比例决定的不是“模型学多少”，
而是“模型更愿意成为什么样子”。**
如果你还把任务比例理解成“样本多少”，
那后面几乎每一步都会踩坑。
第一层误解：把任务比例当成“公平分配”
很多人第一次做多任务微调时，会有一种朴素的公平感：
“每个任务都很重要，那就 1:1:1 吧。”
从直觉上看，这似乎很合理。
但在模型眼里，这个“公平”完全不是你想的那样。
一个非常现实的事实
不同任务，对模型的“梯度强度”是完全不同的。
即使：
-
样本数一样
-
loss 函数形式一样
由于任务本身的差异：
-
输出空间不同
-
约束强度不同
-
容错程度不同
模型在反向传播时，
接收到的“行为指引力度”并不对等。
于是：
**1:1:1 的比例，
并不意味着 1:1:1 的行为影响。**
第二层：任务比例如何“悄悄决定主任务”
在很多多任务项目中，嘴上说的是“多任务”，
但模型最后一定会表现得像：
-
某一个任务是“主任务”
-
其他任务像是“附加条件”
问题是：
这个“主任务”，往往不是你嘴上说的那个。
它更可能是：
-
梯度更稳定的
-
loss 更容易下降的
-
数据分布更集中的
而任务比例，正是放大这种倾向的关键因素。
当某个任务在比例上稍微占优时，模型就会更频繁地：
-
在这个任务的语境下更新参数
-
调整输出分布
-
固化相应的行为模式
久而久之：
模型开始“以这个任务的视角理解世界”。
主任务吸附效应示意图
第三层：任务比例如何影响模型的“风险偏好”
这是一个非常少被讨论、但极其重要的点。
不同任务，往往隐含着不同的风险取向：
-
有的任务鼓励确定回答
-
有的任务鼓励保守拒答
-
有的任务鼓励多角度解释
当你调整任务比例时，
你其实在做一件事：
决定模型在不确定情况下，更倾向于哪一种行为。
举个非常真实的例子：
- 问答任务比例高
* 模型更爱“直接给结论”
- 安全/合规任务比例高
* 模型更爱“模糊表达、兜圈子”
这不是 bug，
而是模型在学习你提供的行为偏好统计。
第四层：为什么次要任务总是“悄悄退化”
这是几乎所有多任务项目都会遇到的现象。
你会发现：
-
主任务效果很好
-
某些任务“好像也还行”
-
但单独拉出来一测，就明显不行
原因在于：
**任务比例不仅影响学习强度，
还影响“遗忘速度”。**
在训练过程中：
-
高比例任务不断被强化
-
低比例任务的梯度更新间隔变长
于是模型会：
-
更快适应主任务
-
对次要任务逐渐“失去敏感度”
这就是所谓的：
隐性灾难性遗忘。
第五层：任务比例如何改变“模型的语言风格”
这是一个非常直观、但经常被忽略的影响。
你可能会发现：
-
模型语气变得更像客服
-
或更像百科
-
或更像对话助理
哪怕你并没有显式训练“风格”。
原因很简单：
语言风格，本身就是任务统计的副产物。
如果某一类任务：
-
句式固定
-
语气一致
-
输出长度稳定
而它在比例上占优，
模型就会：
把这种风格，当成“默认说话方式”。
第六层：代码层面，任务比例到底是怎么生效的
我们用一段极简伪代码，把机制说清楚。
# 多任务训练的一个极简示意
tasks = {
"task_a": dataset_a,
"task_b": dataset_b,
"task_c": dataset_c,
}
task_weights = {
"task_a": 0.6,
"task_b": 0.3,
"task_c": 0.1,
}
def sample_task():
return random.choices(
population=list(tasks.keys()),
weights=list(task_weights.values())
)[0]
for step in training_steps:
task = sample_task()
batch = sample_batch(tasks[task])
loss = compute_loss(model, batch)
loss.backward()
optimizer.step()
注意这里的关键点：
-
每一步，模型只为一个任务服务
-
比例决定的是：
> 哪一类行为被更频繁地强化
而不是：
- 模型“记住了多少样本”
第七层：为什么“后期调比例”，效果特别明显
很多人会发现：
“模型快训完的时候，
稍微调一下任务比例，
行为变化特别大。”
这是因为：
-
后期模型已经形成稳定行为模式
-
梯度更新更多是在“微调边界”
这时候哪怕是：
-
10% 的比例变化
-
都可能导致行为偏好发生明显迁移
于是你会看到：
**任务比例，
在训练后期变成了“性格旋钮”。**
训练阶段 × 任务比例 敏感度变化
第八层：为什么平均比例，往往是最危险的选择
这是一个反直觉结论。
“平均”看起来最公平，
但在多任务微调中，它往往意味着：
-
没有明确主线
-
行为约束相互拉扯
-
模型学会“折中表达”
结果是：
-
每个任务都“还行”
-
但没有一个任务真的稳
工程上，这通常是最难用的状态。
一个非常真实的任务比例演化路径
一开始：平均分配，求稳
中期：主任务拉高比例
后期：靠比例修行为
最后：模型像被“拽”来拽去
注意：
**问题不是“调比例”，
而是“用比例解决本该由系统解决的问题”。**
一个非常实用的自检问题（强烈建议）
在你准备再调一次任务比例之前，可以问自己一句话：
**我现在希望模型在“不确定时”，
更像哪一个任务？**
-
如果答得很清楚 → 比例调整有意义
-
如果答不上来 → 调了也只会更乱
很多团队在多任务微调中反复调整任务比例，却很难解释模型行为变化的来源。用LLaMA-Factory online对不同任务比例下的模型版本进行并行对照，更容易看清：行为偏好是如何随着比例变化被逐步塑造的，而不是凭感觉试错。
总结：任务比例不是参数，是价值选择
我用一句话，把这篇文章彻底收住：
**在多任务微调中，
你调的从来不是“训练配比”，
而是模型在世界面前，
更愿意扮演哪一种角色。**
当你开始：
-
把任务比例当成行为偏好
-
而不是数据比例
-
把“像谁”放在“准不准”之前
你才真正开始工程化地做多任务微调。
