|
（点击收听本期音频） 采访｜泓君
从ChatGPT掀起生成式AI浪潮至今，最快自进争不过短短两三年，半年AI能力的跑通迭代速度已让“AI自我进化”从科幻概念变为现实。上月，化陈Anthropic在公开报告中预测，天桥AI即将进入“递归自我提升”（Recursive Self-Improvement,首席 RSI）阶段，并呼吁人类共同设计AI发展的科学减速或暂停机制。 AI自我进化的家聊速度究竟有多快？未来的AI，是聊硅成为人类在医学、气候等难题上的谷模得力助手，还是型必在暗处走向失控？
本期播客，泓君邀请到专注研发“发现模型”的最快自进争AI公司Apodex的两位首席科学家：Simon杜少雷（负责推理模型与训练，华盛顿大学计算机系副教授）和Beibin Li（负责自我进化与编程方向），半年深入探讨AI自我进化的跑通时间表与路径。 Apodex由陈天桥出资创立并亲自主导，化陈其定位极为独特：只做一件事——Heavy Duty Solver（重型任务求解器），专攻那些无标准答案、人类亦不知从何下手的硬核难题。他们称之为Discovery Model（发现模型）。这类模型不依赖已知信息检索答案，而是提出人类未曾设想的假设，自主验证并解决未被攻克科学难题。实现这一愿景的核心路径，正是AI的自进化。 嘉宾预言，最快半年，AI即可跑通一次完整的自我进化闭环。但要实现持续、可靠的递归提升，模型必须具备“自我验证”能力，成为自己的考官。这正如人类科学家的基本功：大胆假设，小心求证。而实现这一目标的关键前提，是让AI拥有科学家般的品味（Taste）与判断力。 欢迎关注《硅谷101视频号》音频栏目直接收听本期播客。如果您喜欢我们的节目，推荐使用各大主流音频客户端订阅《硅谷101》（渠道见文末）。 以下是本次对话的精彩精选：
泓君：今年有一个热词是RSI（递归自我提升）。我发现大模型每年都有新方向，前几年是Deep Research（深度研究），接着是Coding（代码），今年则是Self-evolve（自进化）。这背后是否有核心主线？ Beibin：从训练角度看，这其实是同一项核心能力的提升——长链推理能力。无论是Deep Research还是Coding，内核一致，仅方向略有差异。 “自我进化”并非新概念。三年前，Google曾发表论文《LLM as Optimizer》，提出用大语言模型作为优化器。当时我在AutoGen团队，也提出了类似概念“Agent Optimizer”，即智能助手可自我优化。 近两年，随着模型能力增强，可自我优化的范围扩大。例如Anthropic指出，其80%的代码由AI编写。训练模型涉及的合成数据生成、数据清洗、算法优化及底层基础设施代码，本质上都是代码形式。一旦模型具备强大的代码能力，利用其进行自我训练和提升便成为自然演进。 泓君：Beibin，你一直关注模型自我进化，能否简要介绍你的背景？ Beibin：我早期在微软研究院从事多智能体合作。当时“智能体”概念尚新，我们内部称之为“Agent Optimizer”和“Teachable Agent”，即智能体可相互教学，复用技能，这与现在的Skills概念相似。 后来我加入Meta和xAI。在xAI期间，我们关注Agentic RL（智能体强化学习），通过强化学习增强智能体的工具使用和代码能力，当时涉及MCP Tools概念。 约一年前，我和Simon发现模型自我提升完全可行。我们早期的强化学习数据生成大量依赖代码。今年年初，Andrej Karpathy发布AutoResearch项目，使这一概念迅速爆火。 泓君：很好的总结。提到自我进化，大家常指“递归自我提升”。Beibin，能否解释一下这个概念？ Beibin：若将自我进化视为圆环，模型自找问题、自出题、自解答、自训练，RSI中的“R”代表Recursive（递归），即垂直向上的迭代增长。这与以往自进化不同。 今年最大的变化是模型能力跃升。Anthropic论文指出，其80%的代码由AI编写，相当于人类一天的工作量。模型能完成超长程任务，因此在长程任务中可进行多次自我提升。 过去，如LLM as Optimizer，模型一次优化仅能持续数小时，因偏差或能力不足难以继续迭代。今年“R”的出现，是因为模型能执行长程任务，从而实现多次递归提升。
图片来源：Anthropic Institute 泓君：Anthropic数据显示，2024年3月Claude 3 Opus需4分钟完成的任务，一年后Claude 3.7 Sonnet需1.5小时，再一年后Claude 4.6 Opus需12小时。大模型改进速度翻倍，甚至快于摩尔定律。 Beibin：业界共识是，模型能力每7个月翻一倍。 泓君：长程任务是否指需要多步骤、多环节互相印证的任务？例如制作播客，从规划到成品涉及十几个步骤，模型能逐一做好？ Beibin：长程定义因人而异，但共识是模型能在无人监督下长时间工作。如处理播客音频，模型可剪切、回放、修正，循环多次后进入下一环节。此类任务人类需20-30小时，若模型能无人监督完成，即视为长程任务。 泓君：它是如何做到的？ Beibin：涉及三大技术难点： Simon：解决长程问题还需Agent架构创新。即使有百万上下文，真正长程任务可能超出此限。需借助Agent技术和记忆机制处理超长上下文。 泓君：训练模型本质是Data、Infra和算法，三者高度依赖代码。Claude展现的强大研发能力源于Coding能力提升。自进化与Coding能力紧密相关，对吗？ Beibin：同意。Coding将成为模型的标配底座。聊天型小模型可能无需直接写代码，但其蒸馏自的大模型仍需高度优化代码能力。
泓君：学术界认为自我进化的根本障碍是“递归漂移”（Recursive Drift），即推理错误在代际间累积，导致进化结果偏离。这是你们遇到的难题吗？ Beibin：非常同意。Apodex注重Verification（自我验证）。若验证存在漂移或偏差，结果将受影响。在代码和数学领域，可通过基于规则的测试代码验证对错，相对易解决递归漂移。 但即使有测试代码，仍可能因测试代码过宽（误通过错误解法）或过窄（惩罚正确解法）导致细微漂移，但相比其他领域已大幅简化。 泓君：Apodex主打验证功能，公司名Apodex源自希腊语“ἀπόδειξις”（证明/论证）。你们如何进行验证？
图片来源：Apodex Simon：不同领域需不同验证方法。代码可用单元测试，数学可用Lean形式化验证。 但对于依赖人类判断、非绝对对错的问题，我们采用Agent Team（智能体团队）进行Apodex 1.0验证。问题分解后，子Agent负责解决，另一子Agent专门验证前者的解法。分离两者是为避免上下文过载及指令混淆。 此外，我们采用冗余策略：多个Agent独立求解，由全局Agent判断哪个答案更准确，效果优于单Agent。 训练时，我们也专门训练Agent判断信息源可靠性的能力。 Beibin：在强化学习中，裁判（Critic）也会同步学习，避免模型学会“奖励黑客”（Reward Hacking，即寻找捷径取悦裁判而无实质进步）。
泓君：现阶段自我进化的路径有哪些？ Beibin：分为预训练和后训练阶段。 此外，脚手架（Harness）也会随模型进化而进化，如同左右脚交替前行。 泓君：即预训练、后训练和Harness环境均应用自我进化思想？ Beibin：是的，自我进化是我们的核心方法论，贯穿各环节。 Simon：搜索能力对后训练至关重要。模型需通过搜索发现自身短板，并针对性地构建任务和答案。搜索是Deep Research的本质能力，指引模型找到提升特定能力所需的数据。 泓君：Apodex在多个Deep Research榜单夺冠，能否介绍？ Simon：包括OpenAI的BrowseComp、Frontier Lab的DeepSearchQA和Frontier Science。 我们通过构建题目、Agent Team范式、验证及冗余判断，获得SOTA水平。 泓君：在Deep Research后训练中，你们用Agent团队替代单Agent验证，甚至调动上百个子Agent。你认为聪明的AI团队胜过单个聪明AI吗？ Simon：是的。这是Self-attention结构的本质局限。即使采用Linear Attention等新技术，超长上下文问题仍难解决。上下文越长，注意力效果越差。单模型能力有上限，如同人类需借助纸笔记录信息。近期，多Agent及记忆机制是解决超长程问题的必要手段。
泓君：接下来聊Apodex的Discovery Model（发现模型）。Simon，请介绍Apodex模型定位。 Simon：长期愿景是Heavy Duty Solver。我们聚焦解决极难问题，而非聊天机器人等初期应用。手段是自我进化。我们相信大模型能解决人类此前无法解决的问题。从经济角度看，解决难题创造的价值远大于卖Token。我们设有Heavy Duty Discovery团队，专门寻找最难问题。 泓君：该团队目前聚焦哪些问题？ Simon：第一步是生物医药，包括制药、靶点发现、老药新用及疾病诊断。我们需要专门团队筛选合适的问题。 泓君：你们做的是Discovery Model而非Generative Model。Beibin，请解释根本区别。 Beibin：提出假设不难，难在假设具有Out of Distribution（分布外）的创新性。更大难点在于验证假设。可通过Deep Research收集信息、写代码或Self-verification进行实验模拟。 发现模型的瓶颈在于未知领域无标准答案，且难在模拟环境中获得可信验证。因此，Self-evolution（自我进化）是通向Heavy Duty Solver和Discovery的主要路径。
图片来源：pexels 泓君：这让人想到科学方法——大胆假设，小心求证。让AI理解人类知识并提出新问题，不仅是解题者，更是科学家，这很难。 Beibin：这是当前难点。Generative Model训练方法成熟，但让模型进行假设和Discovery仍在探索中。 “会提问”是Meta能力，高于解题能力。这涉及后训练Loop：自我诊断、自我造题、自我训练。关键在于从模型回答或收集信息中，诊断能力短板或需深入假设，这是我们的重点方向。 Simon：学术界区分好论文与灌水论文。我们要培养模型成为真正科学家，需培养其学术品味（Taste）。提出新问题需先做Deep Research，但问题选择仁者见仁。Incremental问题易发论文但突破小；Fundamental问题难解但能推动科学突破。 我们将进一步训练模型提升学术品味，与人类顶级科学家对齐。陈天桥先生常让我们与顶级科学家讨论，提供洞察和数据，以培养模型品味。 泓君：顶级科学家有何共性？如何将其特质转化为计算方法或AI交互方式？ Simon：顶级科学家不看论文数量，看最佳论文质量。我们追求解答本质问题，甚至写入模型宪法。实操上，沿用RLHF、SFT或RL等方法，但侧重偏好训练。例如，让科学家判断题目优劣，训练AI识别并多提非灌水题。 泓君：Beibin，在与顶级科学家交互中，你学到了什么？如何用于模型训练？ Beibin：我坚信AI将在半年至一年内实现自我进化，两三年内必成功。届时，顶级AI科学家或人类的作用将回归到“品味”。 目前市面最佳模型的品味远低于普通AI科学家。AI代码能力强，但无法完全自动化模型训练，因缺乏品味把控。无论是人类科学家还是工程师，都需把控模型品味。 模型通病包括： 我们在后训练中训练模型提出假设，但需平衡“不拍马屁”与“不鸡蛋里挑骨头”。品味是关键：模型应实打实地提出好假设并验证。
泓君：模型迎合用户而非提供事实答案，确实痛苦。这与参数调整或人格特质注入有关？ Beibin：RLHF数据多来自用户投票或人工标注。人类偏好说好话、长答案或结构化格式，导致模型拍马屁。 Apodex作为Heavy Duty Solver，不使用大众人类偏好数据，以避免此类问题。未来我们将使用顶尖人类标注偏好数据，确保公正公平，从源头解决偏差。 泓君：既不要拍马屁，也不要鸡蛋里挑骨头，要什么样的模型？注入何种人格？ Beibin：中间态即我们要的。模型通过Research或代码获取原始材料后，经自身推理给出合理解释。Agent Team可辅助解决此问题。 Simon：解决拍马屁，模型应执行用户指令，但若不合理，应告知用户而非迎合。我们有一整套系统实现此目的，包括Constitution AI（AI宪法），Anthropic几年前提出，将性格训练入模型权重。我们注重真实性，若用户错误，模型应纠正。细节通过Verification或Agent Team验证用户对错并反驳。 至于好问题（非鸡蛋里挑骨头），属品味范畴，通过与顶级科学家交流及偏好数据培养。这类似PhD培养过程。陈天桥先生愿景即做Heavy Duty Solver，需与顶级科学家对齐以培养品味。 泓君：顶级科学家数据样本极少，相比海量数据，其贡献比例如何？ Simon：预训练需大量数据遵循Scaling Law。后训练需求较少，且可将人类品格总结出来。如Meta蒸馏员工性格，总结人类品格是新兴方向。 泓君：Suno音乐模型初期作品平庸，科学家称受限于版权而非技术，若用顶级音乐人数据训练可出佳作。用顶级科学家品味训模型是否同理？ Simon：同意。人类从婴儿到顶级科学家，依赖反馈和数据。我们相信通过顶级科学家指导，模型可拥有顶级品味。
泓君：所有顶级模型公司（OpenAI、DeepMind、Anthropic）都想让AI做科学家、做发现。Apodex进入最激烈战场，核心优势是什么？
图片来源：Google Deepmind Simon：战场价值巨大，解决难科学问题意义重大。不止一家公司能成功。 Apodex优势在于专注。我们非聊天机器人，不取悦用户偏好。大模型发展比拼执行力与组织架构。我们保持初创公司专注，只做Heavy Duty Solver。 Beibin：我从事AI for Science十余年。众多公司入局非竞争，而是希望曙光。过去十几年，IT技术For Science缺乏规模化成果。随着LM、Generative Model和Discovery Model技术提升，未来5-10年有望产出高科研价值与现实意义的成果。 科研问题无限，人类精力与GPU资源有限。在有限资源中找到最有价值问题至关重要。 Apodex设有HDD（Heavy Duty Discovery）团队，全职员工与顶级科学家交流，从数千科研问题中筛选最有价值者。这是Apodex与其他公司的主要区别。 补充：Apodex不做AI for Science，但Heavy Duty Solver与之高度重叠。 泓君：AI for Science与Heavy Duty Solver区别？ Simon：垂域模型用大量特定领域数据训练，提升该领域能力。Heavy Duty Solver是通用模型，强调元能力：验证、分析、搜索、规划。这些元能力对解决难题有意义，我们着重训练，但不针对特定领域投放50%数据。
泓君：Beibin提到AI半年内可完成自我进化提升，请详细解释。 Beibin：最快半年跑通闭环。最大难度在后训练。若RSI需多环迭代，跑完一环需半年至一年。例如，在Coding for Material Science领域，模型可发现代码问题，生成训练环境与数据，自我验证训练后是否提升，以此迭代。一次Loop半年内可成功。 Anthropic近期博客指出80%代码由AI编写，但仍有未解决问题。即便最强模型也未完全解决。基于我们近期观察与训练结果，突破将至。 泓君：未解决的问题是什么？ Beibin：核心担忧是：如何确保模型自我进化满足人类需求而不跑偏？跑偏包括安全与目标偏离。若仅要求“造更好的材料科学模型”，模型可能在成本或性能等未观测点上妥协。 人类需求表述模糊，模型可能为达目标采取非常规手段。监控模型行为是最大问题。 泓君：安全与不择手段达成目标的问题，现在解决了吗？ Beibin：我个人认为尚未解决，但我乐观，相信很快有解。 泓君：哪些方向让你稍感安心？穷举可能性是否太笨？ Beibin：正因未全自动化，我每日阅读模型输出与智能体操作，确保每一步可控。发现愚蠢行为或偏差，立即停止Loop并手动调整。 这是笨办法，但未来能否有智能体替代我？即“员工蒸馏”概念：将日常工作蒸馏至智能体或模型能力中。虽看似玩笑，但可行。若三月内将我蒸馏至Apodex模型或脚手架，读代码、改代码、监控输出等工作将加速自我进化流程。 泓君：若未来有Beibin的AI Agent替代监督校验环节，AI即变考官，模仿你的品味与价值观。这是否意味着闭环跑通？即半年可达？ Beibin：RSI中的SI（自我提升）跑通，R（递归）还需1-2年。目前每次迭代后仍需人工检查递归漂移。但我有信心几年内解决漂移问题。 目前漂移率约10%，目标降至1%，最终至0.1%或0.01%。如此，模型自我迭代3-6个月后，监控周期可拉长，无需频繁人工干预。 泓君：AI自我进化最后两道坎：提出问题的品味，判断结果的可信度。即发现与验证。品味是谁的品味？研究员的，还是创始人的？ Beibin：好问题。目前主要是AI研究员的品味，受创始人品味影响。但这不令人担忧。我们的品味仅为热启动。拉长至五年，品味影响将递减。 如AlphaGo受棋谱影响大，但AlphaZero不再从人类品味学习，而是自我品味、自我回放、自我推理，形成独特品味。
|
