4万Agent协同、多模型组队,Agent基础设施开始重构

时间:2026-07-17 07:29:01来源:沃创动力资讯网 作者:热点

编辑 | 泽南

AI 智能体时代,协同型组专属算力底座正式确立。多模队

上周四,基础在 2026 开放计算技术大会(OCTS26)上,设施浪潮信息重磅发布业界首款 CPU 原生液冷整机柜服务器元脑 SD200 超节点 AI 服务器等核心基础设施产品。开始

随着产业共识从“做大模型”向“用智能体”转移,重构针对应用范式变革的协同型组 AI 工作负载,浪潮信息完成了算力体系的多模队底层重构,标志着 Agent 基础设施进入全新阶段。基础

Agent 时代:算力分工与架构重塑

2025-2030 年被视为智能体(Agent)规模化应用的设施关键窗口期。IDC 预测,开始全球智能体市场年复合增长率将达 139%;Gartner 指出,重构今年 40% 的协同型组企业应用将集成智能体,至 2028 年超三成企业应用将深度嵌入智能体能力。多模队

从“单次问答”到“群智协同”

技术落地正呈现双向渗透趋势:
1. 模型端:Kimi、基础DeepSeek、GLM 等先进大模型加速原生化升级,强化任务规划、工具调用与自主执行能力。
2. 应用端:ChatGPT Work、Workbuddy 等企业级框架深入办公、研发场景,推动 AI 应用从“单次模型调用”转向“数百上千智能体后台协同”的群智工作模式

如果说传统大模型是大脑,那么原生智能体应用则是为机器人装上了手脚,具备了直接执行任务的完备形态。

CPU 算力地位显著提升

这种进化对算力提出了极高要求。从单次对话到端到端交付,Token 消耗呈指数级增长,单一用户请求可能触发数百个子任务,意味着背后数百个芯片内核的高频调用。

传统“CPU 调度、GPU 计算”的分工被打破,底层逻辑发生根本变化:
* Agent 本质是 CPU 沙箱:智能体核心承载逻辑管理、流程调度与系统协同,非 GPU 擅长的并行矩阵运算,而是更适合 CPU 处理的任务。
* 延迟瓶颈在 CPU:研究显示,智能体执行链路中,CPU 处理环节占端到端延迟比例最高可达 90.6%

结论:GPU 决定模型能力上限,而 CPU 驱动的多智能体协同通过工程化手段提升 AI 输出的完整性与可靠性。面向 Agent 时代,数据中心将新增大量独立纯 CPU 算力集群。传统 AI 服务器 CPU:GPU 配比约为 1:4~1:8,而在智能体时代,CPU 服务器需承担智能体主机负载。国内头部互联网企业今年的 CPU 服务器采购几乎全部投向智能体业务,Agent Infra(智能体基础设施)成为行业共同探索方向。

CPU 原生液冷整机柜:高密度群智协同载体

7 月 9 日,浪潮信息发布两大核心成果,从 CPU 算力底座与 GPU 推理引擎两端,给出智能体规模化落地的开放架构方案。

为什么需要 CPU 原生液冷?

  1. 群智协同的算力需求:智能体常态化为分工协作(规划、调用、检索、执行、汇总),需海量 CPU 支撑。公有云场景中,每个智能体实例需占用 2 个 CPU 核心,亿级用户规模对应海量持续运行的 CPU 算力池。
  2. 企业管控与安全:分散部署存在权限混乱、审计缺失风险,企业亟需统一、可管控、可规模化的运行底座。
  3. 功耗密度突破极限:传统风冷单机柜功率极限约 40-50kW,而 2026 年底高密度 AI 机柜功率将突破 300kW,增长 10-50 倍,远超风冷及风液混合散热上限,原生液冷成为必然选择。

技术突破:重新定义 CPU 计算系统

浪潮信息推出的业界首款 CPU 原生液冷整机柜服务器,基于开放 OCM 架构打造:
* 超高密度:单机柜最高支持 384 颗多元 CPU 处理器,支撑 4 万+ 个智能体同时协同运行。
* 兆瓦级功耗:单柜功耗最高可达兆瓦级,是传统通用 CPU 机柜数倍。

区别于传统风液混合方案,该服务器采用原生液冷架构,通过计算与散热协同设计,对内存、光模块、网卡等发热部件解耦并平面化重构,依托一体化冷板实现零软管、零线缆、零风扇的极致散热形态,从硬件底层解决高密度 CPU 散热瓶颈。

三大核心技术突破:
1. CPU 计算系统重构:协同设计散热与计算架构,打造 0.5U 超薄算力节点,实现 2U 空间内部署 16 颗 CPU 的高密度架构。
2. 标准化算力模组:基于液冷 OCM 架构,兼容 X86、ARM 等多元 CPU,灵活衍生不同形态节点,兼顾高负载性能稳定性与大内存、高带宽需求。
3. 全域部件液冷重构:突破仅覆盖 CPU 的局限,将内存、网卡、光模块纳入液冷体系,无线缆设计,支持热维护,保障业务零中断,整机柜运维效率提升 100% 以上

此外,该架构适配 800V 高压进机柜供电趋势,解决传统 380V 在百千瓦级场景下铜缆过粗、运维难的问题,为下一代供电标准预留空间。

元脑 SD200 超节点:低延迟智能输出引擎

如果说液冷服务器解决了“规模化运行”问题,升级后的 元脑 SD200 超节点 AI 服务器则提供了高质量、低延迟的“智能输出引擎”。

性能突破:单 Token 生成延迟低至 4.77ms

浪潮信息率先完成对 Kimi K2.6、DeepSeek V4、GLM 5.2、MiniMax M3等主流开源大模型的高性能优化。
* 迭代历程:2025 年首发时实现 8.9ms 单 Token 生成速度(国内首个突破 10ms 大关)。
* 最新实测:在 Kimi K2.6 万亿参数模型上,单 Token 生成时间仅需 4.77ms,首 Token 延迟较优化前降低 35%,充分支撑智能体高频调用、多轮交互及并行协作需求。

优化来源
* 硬件层:优化超节点内部 Fabric 互联架构,提升卡间通信路由确定性,降低通信耗时。
* 软件层:引入多 Token 预测、JIT 等推理优化技术。

多模融合:突破单一模型边界

面对长文本、代码生成、逻辑推理等复杂需求,“多模融合”成为提升智能体智能水平的核心路径。通过多个模型并行生成、评审比对与融合,突破单一模型能力局限。

  • 验证数据:在 DRACO 基准测试中,融合模型获 53.9% 最优成绩;在 AIME 2026 数学推理(97.2%)和 GPQA 通用高难问答(90.8%)中领先单一模型。

系统能力
* 元脑 SD200 单机最大承载 4 万亿参数大模型,支持多模型并行部署。
* 结合 元脑企智 EPAI 平台,用户一次 API 调用即可分发任务至多款大模型,经评审融合后输出完整可靠答案。

企业版:降低高性能部署门槛

面向本地部署需求,浪潮信息推出 元脑 SD200 超节点企业版
* 架构优势:延续原生内存语义开放互联架构,构建 16 卡统一 Scale-up 计算域,实现统一寻址与低时延跨卡通信,首 Token 延迟降低 40% 以上
* 显存能力:单机支持 TB 级统一显存,完整承载主流万亿参数开源模型。
* 业务价值:从千亿参数的“辅助编码/写作”浅度应用,跃升至万亿参数的“完整代码生成/复杂方案输出”生产级应用,大幅降低企业部署门槛。

开放协同:加速 Agent 落地与智能化转型

从大模型到智能体,AI 基础设施正从硬件升级走向系统级协同重构

清晰算力分工

  • GPU 超节点:负责“思考”,输出低延迟、高质量 Token。
  • CPU 原生液冷整机柜:负责“行动”,承载海量智能体调度、编排与协同。
  • 元脑企智 EPAI 平台:统一管控。

三者共同构成 “群智协同 + 多模融合”完整技术体系。

未来展望

2026 年下半年将是超节点方案规模化落地节点,国内头部互联网客户已批量部署。在开放计算生态推动下,单位 Token 生成成本与智能体运行成本将持续降低,推动 AI 走向全企业、全流程规模化落地。

长远来看,Token 生产将如工业流水线般精细化拆分:Prefill 阶段与 Decode 阶段分离,注意力计算、前馈网络等环节匹配最适配芯片架构,实现全链路效率最优。这与浪潮信息融合架构底层逻辑相通——通过高速互联实现算力、内存、存储池化,让资源自由连接、按需组合。预计未来 2-3 年,GW 级智算中心将逐步落地,支撑 AI 从技术创新全面走向大规模应用。

相关内容