这项由清华大学与蚂蚁集团、清华中国人民大学合作完成的蚂蚁模型研究，于2026年7月1日以预印本形式发布，集团论文编号为arXiv:2607.01104，联手感兴趣的破解读者可通过该编号查询完整论文。

训练一个强大的训练大语言模型，本质上与培养一名全能型学生无异。难题你需要向这个“学生”灌输各类知识：数学题、不再编程练习、靠猜阅读理解、清华安全常识……但核心痛点在于——如何确定各类内容的蚂蚁模型喂食比例，才能让“学生”取得最佳成绩？集团这一看似简单的问题，长期困扰着人工智能研究者。联手

大型语言模型的破解训练伴随着巨大的计算资源消耗，犹如经营一家顶级餐厅，训练食材成本高昂。研究者无法通过逐一尝试或穷举所有菜单组合来寻找最优解，否则将面临资源枯竭。因此，业界一直在寻求一种高效策略，旨在通过少量“试验”推算出最佳的“食材配比”。

现有主流方法（如RegMix）通常采用“小号练习模型”策略：使用不同数据比例训练小规模模型，观察表现后推导至大模型。然而，该方法存在致命缺陷：它假设数据质量和特性是静态固定的。现实中，数据批次间质量差异显著——数学题有深浅之分，代码注释有优劣之别。当数据批次更换时，既往的“最佳配比”往往失效，导致研究者需重新投入大量资源进行实验。

针对这一瓶颈，研究团队提出了CAUSALMIX框架，从根本视角重构了数据配比优化的逻辑。

一、从“猜配方”到“看病情开药方”——因果推断视角的引入

现有方法的逻辑类似于厨师记录“加盐量与得分”的历史数据，并据此预测下次加盐量。其隐含假设是食材质量和厨房条件恒定。一旦食材批次变更，历史记录便失去参考价值。

CAUSALMIX借鉴中医思维：不仅记录结果，更先诊断每批食材的“体质”（难度、质量、风格），进而探究在特定体质下，调整哪类数据比例能带来最大收益。

在学术定义中，研究团队将每次训练实验视为一次“治疗”（treatment），将数据统计特征视为“病人体质”（covariates），将模型最终表现视为“治疗效果”（outcome）。核心问题转化为：针对特定体质的数据，不同“治疗方案”（数据配比）产生的因果效应是多少？这对应医学中的“条件平均治疗效应”（CATE）框架。

为何选择因果推断而非普通统计预测？
二者存在关键区别。普通统计预测易混淆“数据本身质量”与“配比调整效果”。例如，某批次数学数据质量高且占比高，导致模型表现好，但无法厘清是数据质量高所致，还是高占比所致。若混淆二者，在新数据批次中套用旧配比，效果将大打折扣。

核心技术：双重机器学习（DML）
DML旨在解决“去混淆”问题。其逻辑类似从照片中去除背景光干扰以还原物体本色。具体而言：
1. 利用机器学习模型分别预测当前数据体质下的模型表现基准线和数据配比基准线。
2. 计算实际观测值与基准线的差值，得到两个“残差”。
3. 分析残差关系，剥离数据质量影响，单独评估配比调整带来的纯因果效应。

这一过程称为“正交化”，确保了配比建议的准确性。

二、量化数据“体质”——三个关键指标的选择

为将数据“体质”转化为计算机可理解的数字，研究团队从包含30个维度的大型数据集（OpenDataArena-scored-data-2603）中筛选出三个核心指标：

1. HES（高熵熵和）：衡量数据“思维复杂度”。
2. 计算方法：使用大语言模型（Qwen3-8B）对文本进行推理，统计模型在关键决策点的不确定程度总和。

3. 意义：反映数据对模型推理能力的挑战程度。数值越高，复杂度越高。

4. Normalized Loss（归一化损失）：衡量数据“学习难度”。

5. 计算方法：使用同一模型（Qwen3-8B）计算文本交叉熵并归一化。

6. 意义：反映模型预测下一步动作的难度。数值越高，学习价值越大。

7. Writing Style（写作风格）：评估文本质量、清晰度与连贯性。

8. 计算方法：使用专用评估模型（QuRater-1.3B）打分。
9. 意义：反映学习材料的规范性。质量越高，对模型的正向影响越稳定。

指标组合验证：
研究团队通过系统性实验验证了该组合的有效性。在64组历史实验记录的验证集中，这三个指标的组合达到了最高的斯皮尔曼秩相关系数（0.7557），显著优于单一指标或更多指标的组合。引入过多指标会导致“维度诅咒”，因512组历史实验记录有限，高维数据难以被因果模型准确学习。

三、从因果效应到实际配比——将“诊断结果”转化为“处方”

经过正交化处理，研究团队采用因果森林双重机器学习（CausalForestDML）算法估计各数据领域的因果边际回报。该算法源自经济学，擅长捕捉复杂交互效应和局部异质性，不假设“增加某类数据的效果恒定”，而是根据数据体质提供个性化估计。

模型训练：
使用512组历史代理模型实验数据训练因果模型。每组实验使用Qwen2.5-0.5B（5亿参数）小模型，在10万条数据上按随机配比训练，评估其在知识、推理、数学、编程、指令遵循、安全性六个维度的表现。

配比生成策略：
当新数据输入时，计算其三个体质指标并输入因果模型，获得各领域的“边际因果回报”估计值（即增加该领域比例带来的平均性能提升）。转化方式有两种：

1. 解析推导（解析版）：
2. 基于KKT最优性条件推导闭合形式解。
3. 规则：因果回报为负的领域，比例设为0；回报为正的领域，比例与回报值成正比。

4. 优势：数学上严格最优，经完整KKT条件验证。

5. 搜索加融合（搜索版）：

6. 从Dirichlet分布中随机抽取10万个候选配比。
7. 将对数形式输入因果模型预测得分，选取前100名候选配比取平均。
8. 优势：通过“局部集成”降低单一解偏差，结果更稳健。

四、跨规模迁移验证——用小模型指导大模型

CAUSALMIX的核心优势之一是其跨规模迁移能力。研究团队使用Qwen2.5-0.5B训练因果模型，直接将最优配比应用于Qwen2.5-7B大模型，无需为大模型重新进行代理实验。

实验结果：
在80万条数据规模下，CAUSALMIX指导的7B模型在开发集综合得分（AvgDev）上达到61.84分（解析版）和62.28分（搜索版），显著优于RegMix（60.14分）、DMO（60.35分）及等量混合基线（60.02分）。尤其在编程能力单项上，CAUSALMIX表现突出。

在10万、40万、80万条数据的多规模对比中，CAUSALMIX均稳定优于现有基线，特别是相比SFT领域最新方法DMO优势一致。这验证了“排名不变性假设”：在小模型上表现优异的配比策略，在大模型上通常同样有效。

五、跨数据集迁移实验——在长链式推理数据上的验证

研究团队进一步验证了CAUSALMIX在完全不同数据分布下的迁移能力：将在tulu-3-sft-mixture（通用指令遵循数据）上训练的因果模型，直接迁移至AM-Thinking-v1-Distilled（专注数学/编程的长链式推理数据），指导Qwen3-4B-Base模型训练。

实验难度：
新数据在风格、领域分布和格式上与原始数据存在根本差异，且模型系列从Qwen2.5切换至Qwen3。

实验结果：
CAUSALMIX在数学和编程领域的综合平均分（66.66分）显著优于所有对比方法：
* 等量混合：63.80分
* Grid搜索（次优）：64.74分
* DMO：63.47分
* RegMix：61.40分

在高难度数学基准MATH上，CAUSALMIX取得60.58分，虽略低于Grid方法的61.20分，但整体综合表现领先。

结论：
CAUSALMIX学习的并非“特定数据的固定配比”，而是“数据体质与配比效果之间的底层规律”。只要准确刻画新数据体质，因果模型即可给出合理建议，无需昂贵的新实验。

六、消融实验——关键组件的重要性验证

为厘清各组件贡献，研究团队进行了拆解实验：

1. 移除数据体质指标（协变量X）：
2. 模型退化为类似RegMix的方法，仅根据配比预测效果。
3. 结果：综合得分33.29分，低于CAUSALMIX-A（33.94分）。

4. 原因：忽略数据体质导致模型无法适应数据分布变化，性能下滑。

5. 移除正交化处理：

6. 直接将协变量X与配比T拼接，使用普通监督学习预测绝对效果。
7. 结果：综合得分32.66分，甚至低于移除协变量的变体。
8. 原因：普通监督学习混淆“数据质量影响”与“配比调整影响”，导致方向性错误。“有错误的先验不如没有先验”，有力证明了正交化的核心作用。

七、因果模型解读——“哪些数据在什么条件下有价值”

通过“树状解释器”可视化，研究团队揭示了不同数据领域在不同体质下的因果边际回报：

• 指令遵循（IF）数据：
• 表现：在几乎所有体质条件下均呈现强烈正向因果效果。

• 结论：最可靠的“通用增益”来源，无论数据简单或复杂，增加IF数据比例通常提升性能。

• 知识类数据：

• 表现：在归一化损失高（难度大）且HES高（推理复杂）的条件下，增加知识类数据反而显著拉低模型表现（边际回报为负，有时低于-5分）。

• 结论：印证了“技能冲突”现象。高难度推理任务与大量事实记忆争夺模型“注意力资源”，导致负迁移。

• 数学、编程、安全类数据：

• 表现：高度依赖数据质量。
• 低质量条件（写作风格评分低、HES低）：增加此类数据带来负向效果，引入噪声。
• 中等质量条件（写作风格中等、HES适中）：产生强烈协同增益，甚至抵消安全类数据的性能代价。

核心洞察：不存在“普适最优”的数据配比。最优配比始终相对于特定数据集的特定体质状态而言。

八、模型选择实验——工具箱里的其他选择

研究团队系统评估了不同因果估计器和第一阶段预测模型的性能，使用R分数（基于Robinson正交化的无偏评估指标）进行比较：

1. 因果估计器：
2. CausalForestDML（R分数0.1683）排名第一。
3. 优于线性模型（LinearDML，0.1445）及其他变体。

4. 优势：非参数树状结构，无参数形式假设，能自然捕捉多维协变量与配比空间的复杂交互及局部异质性。

5. 第一阶段预测模型：

6. LightGBM（同时预测效果和配比，R分数0.1683，耗时12.9秒）表现最佳。
7. 优于随机森林（-0.0556）、岭回归（-0.1408）、梯度提升（-0.1686）等组合。
8. 优势：高效梯度提升框架，平衡变量交互捕捉与过拟合风险，计算效率高。

总结

CAUSALMIX解决了一个看似简单实则棘手的工程问题：大语言模型数据配比的合理性。其核心答案并非提供万能配方，而是建立一套“基于数据体质的个性化处方系统”。

通过引入因果推断，该框架成功剥离了“数据质量影响”与“配比调整效果”，使优化建议真实反映配比价值。这使得因果模型能在无需重新实验的前提下，迁移至新数据集和大模型，从根本上解决了现有方法对数据分布变化敏感的问题。

对于行业而言，更高效的大模型训练意味着同等算力下更强模型；更可迁移的配比策略意味着研究者无需每次换数据从零开始。随着大模型在教育、医疗、编程等领域的深入应用，训练效率的提升将转化为更优质、更普惠的AI工具。

感兴趣的研究者可通过arXiv编号2607.01104查阅包含完整数学证明、超参数配置及实验数据的完整论文。

Q&A

Q1：CAUSALMIX和RegMix的核心区别是什么？
A：RegMix将数据混合视为普通回归问题，假设数据质量固定，换数据需重新训练。CAUSALMIX额外考量每批数据的“体质”（复杂度、难度、质量），利用因果推断剥离数据质量影响，实现跨数据和新模型的迁移，无需重新进行代理实验。

Q2：双重机器学习（DML）在CAUSALMIX里具体做了什么？
A：DML的作用是“去混淆”。它先分别预测当前数据条件下效果和配比的基准值，计算真实值与基准值的残差，再分析残差关系。此举剥离了数据本身质量带来的效果，仅评估配比调整本身的因果效应，避免方向性错误。

Q3：CAUSALMIX为什么说知识类数据在某些条件下有害？
A：因果分析显示，当训练数据推理复杂度高（HES高）且难度大（归一化损失高）时，增加知识类数据（事实性信息）比例会拉低模型表现，边际回报为负。这印证了“技能冲突”：模型同时学习复杂推理和大量事实记忆时，两者争夺模型容量，导致推理能力受损。