从训练到生产:NVIDIA 与 CoreWeave 合力闭合智能体 AI 的闭环
CoreWeave 在 Fully Connected 大会上宣布 NVIDIA Vera Rubin NVL72 上线,Cognition 成为首个生产客户,实测 SWE-2 推理总 token 吞吐最高达 GB200 NVL72 的 4.8 倍。Vera CPU 单机架 11,264 核,沙箱启动快 3 倍以上,Forge 则连接训练与评估闭环。
2026 年 9 月 30 日,NVIDIA 在官方博客发文宣布,CoreWeave 在旧金山举行的 Fully Connected 大会上,正式推出搭载 NVIDIA Vera Rubin NVL72 系统与 Spectrum-X 102.4T 以太网的云服务。开发 Devin AI 软件工程师的应用 AI 实验室 Cognition,成为第一家在 Vera Rubin 上运行生产负载的客户。与此同时,CoreWeave 还将提供 NVIDIA Vera,这是 NVIDIA 称之为首款为 AI 智能体打造的 CPU,并发布了 CoreWeave Forge,一个用于在 NVIDIA 加速计算上训练、评估和改进模型与智能体的连接环境。三项发布合在一起,描绘出一条从训练、推理到沙箱执行再到评估回流的完整链路。需要先说明信息来源:本文主要依据 NVIDIA 官方博客,文中的性能数字均为厂商与客户披露的早期测试结果,尚无独立第三方复现,读者应当把它们当作方向性信号,而不是最终定论。
先看最受关注的数字。Cognition 在 CoreWeave 上同时运行 Devin 的训练、强化学习与生产推理,并在九个月内把规模扩展到数千块 GPU,用于支撑推理负载。本月早些时候,CoreWeave 收到首批 Vera Rubin NVL72 生产机架,不久之后 Cognition 就以 GB200 NVL72 为基线,对 Vera Rubin 的推理性能做了对比。测试负载取自真实的软件工程场景:团队从 FrontierCode 中抽取一部分任务,部署 AI 智能体去解决。结果显示,在 SWE-2 推理负载上,Vera Rubin NVL72 的总 token 吞吐量最高达到 GB200 NVL72 的 4.8 倍。这里有几个细节值得注意。其一是「最高」二字,说明 4.8 倍是上限而非平均;其二是基线为上一代 GB200 NVL72,而不是旧得多的 Hopper;其三是负载为智能体编码,而不是聊天或单轮问答。Cognition 创始团队成员 Silas Alberti 的解释很直接:智能体编码是复杂负载,上下文长、并发高、token 量大,每个 token 的成本决定了他们能交付什么产品。对 Devin 而言,更高吞吐意味着更快的实时代码生成和更灵敏的多步推理。另一个事实同样重要:CoreWeave 在几天之内就为 Cognition 搭起了生产级 Vera Rubin 集群。NVIDIA 把这归因于双方从基础设施到 token 输出的全栈协同设计。对用户而言,新硬件从到货到上线的时间,往往和峰值算力同样重要。
第二条线索是 CPU。NVIDIA 的判断是,智能体 AI 从两个方向给基础设施施压:一边是服务智能体需要大规模的低延迟算力,另一边是通过后训练改进智能体,需要同时运行成千上万个相互隔离的环境。后者正是 GPU 之外的 CPU 问题。按照博客所述,一个关键指标是能同时运行多少隔离的智能体环境,以及环境数量增长时每个环境能否保持稳定、一致的性能。CoreWeave 部署的 Vera 在单个机架中放入 128 颗 CPU、共 11,264 个核心,按每个环境一个核心计算,可同时承载超过 11,000 个并发环境。把这两个总数相除,每颗 CPU 约为 88 核,这是推算值,并非博客明说。这些环境通过 CoreWeave Sandboxes 以硬件隔离方式运行,并与它们所服务的训练任务并排部署,由 Spectrum-X 以太网交换机和 BlueField-4 DPU 保障智能体之间安全、低延迟、高性能的通信。测试中,CoreWeave 在 Vera CPU 上取得超过 3 倍的沙箱启动速度提升;在 Terminal-Bench 上,所有通过的任务整体性能提升 1.7 倍。沙箱是强化学习、智能体工具调用和模型评估的执行层,允许团队在隔离环境中运行代码。启动速度之所以关键,是因为强化学习的每一次采样,都可能意味着拉起一个全新的环境。
第三条线索是 Forge。博客指出,模型和智能体靠一个循环变好:生产环境中的行为指导下一轮训练,每一次评估都让下一个版本更锐利。过去这个循环被拆散在不同厂商的工具之中,每一次交接都会丢失信号。CoreWeave Forge 的定位,就是把这些环节连接到同一个环境里,让生产反馈回到训练。需要坦率指出,我们所依据的博客文本在介绍 Forge 的部分被截断,因此 Forge 的具体组件、接口和定价,本文无法确认,读者应当查阅 CoreWeave 的原始发布。能够确认的是软件栈一侧:Vera Rubin 容量可通过 CoreWeave Kubernetes Service、SUNK、CoreWeave Mission Control、CoreWeave Sandboxes 和 CoreWeave Inference 来运营。也就是说,从调度、集群管理,到沙箱和推理服务,CoreWeave 试图让同一套容量既跑训练,也跑评估,也跑线上推理。这种「同池多用」的思路,与 Cognition 在同一平台上完成训练、强化学习和生产推理的做法互相印证。
最后看这件事的产业含义。NVIDIA 副总裁 Ian Buck 强调的重点,是跨代价值:CoreWeave 的 NVIDIA V100 GPU 在 Volta 发布近十年之后,仍在运行客户负载,而 CoreWeave 同时把 Vera Rubin NVL72 带入生产。在 AI 基础设施动辄以数百亿美元计的投资背景下,资产能否在多代硬件周期里持续创造收益,直接决定回报率和融资成本,这也是博客副标题里「耐用、可替换」的含义。Buck 还提到要把合适的 GPU 放在合适的负载上,即新旧代际并存、按负载分层。我们的判断是,这篇发布有三层信息。第一,推理经济学正在从峰值算力转向每 token 成本和并发能力。第二,智能体让 CPU 重新成为瓶颈候选,沙箱密度成为新的采购指标。第三,训练、评估与生产的闭环,正在成为云厂商的产品差异点。仍需观察的是:独立基准能否复现 4.8 倍和 3 倍这类数字,Vera Rubin 的供货与功耗成本如何,以及 Forge 在真实客户中的采用情况。在这些问题有答案之前,最稳妥的读法是:方向清晰,数字待验。对正在规划算力采购的团队来说,更实际的做法是用自己的真实负载做小规模对比,重点看每 token 成本、并发上限和环境启动时间这三项,而不是直接引用厂商的峰值倍数。
Sources
FAQ
Cognition 测得的 4.8 倍提升到底是什么意思?
这是 Cognition 在早期测试中,用 FrontierCode 抽样任务驱动的 SWE-2 推理负载,对比 Vera Rubin NVL72 与 GB200 NVL72 得到的总 token 吞吐量,最高为 4.8 倍。它是厂商与客户披露的上限值,基线是上一代 GB200,尚无独立复现,不应直接外推到所有负载。
为什么智能体 AI 需要专门的 CPU?
智能体后训练需要同时运行成千上万个相互隔离的环境,用于强化学习、工具调用和评估。这些环境主要消耗 CPU。博客称 Vera 单机架有 128 颗 CPU、11,264 核,可按每环境一核承载超过 11,000 个并发环境,沙箱启动快 3 倍以上,Terminal-Bench 提升 1.7 倍。
CoreWeave Forge 解决什么问题?
Forge 是在 NVIDIA 加速计算上训练、评估和改进模型与智能体的连接环境,目标是把生产行为反馈到下一轮训练,避免信号在不同厂商工具的交接中丢失。我们所依据的博客文本在 Forge 细节处被截断,具体功能请以 CoreWeave 官方发布为准。