從訓練到生產,NVIDIA與CoreWeave閉環智能體AI

Published · AI Daily — AI-assisted deep research, methodology & disclosure

基於近十年的聯合工程,CoreWeave將NVIDIA的計算、網絡和軟件整合到專為AI打造的雲中,該雲在多代部署中持續帶來投資回報。現在,CoreWeave正將下一代NVIDIA基礎設施引入生產環境。

NVIDIA与CoreWeave近日宣布,将基于近十年的深度联合工程,把下一代NVIDIA基础设施全面引入生产环境,从而完成从模型训练到智能体推理的闭环。这一合作并非一蹴而就,CoreWeave自成立之初便专注于将NVIDIA的GPU计算、高速网络和软件栈整合为面向AI工作负载的云服务,其基础设施已历经多代GPU架构的迭代,从早期的Kepler、Pascal到如今的Hopper和Blackwell,并持续为客户带来可量化的投资回报。此次升级的核心是引入基于NVIDIA最新架构的算力集群,包括专为大规模智能体工作负载优化的网络和软件层,使得企业能够直接在CoreWeave云上完成大模型的训练、微调、部署以及智能体应用的推理,无需在异构环境间迁移。这一闭环的打通,意味着AI开发从“训练-部署分离”的模式转向一体化、低延迟的流水线,显著缩短了从模型到产品的周期。

从技术层面看,这一闭环的实质是将NVIDIA的全栈能力——从底层的GPU、DPU和Quantum InfiniBand网络,到中层的CUDA、AI Enterprise软件套件,再到上层的NIM推理微服务和NeMo框架——以云原生的方式交付。CoreWeave的独特价值在于其基础设施并非通用云改造而来,而是从芯片级开始为AI训练和推理进行的定制化设计。例如,其服务器采用液冷散热和超高密度部署,网络拓扑针对大规模分布式训练中的all-reduce通信模式进行了优化,存储层则通过自研的分布式文件系统实现了对海量小文件随机读取的高吞吐支持,这些设计直接解决了大模型训练中常见的通信瓶颈和IO等待问题。在智能体场景下,系统需要同时处理多个模型的串联调用、工具调用和记忆检索,对延迟和并发的要求极为苛刻。CoreWeave通过将NVIDIA的Triton推理服务器与自研的调度系统深度集成,实现了对混合负载的细粒度资源分配,使得一个智能体请求可以在毫秒级内完成对语言模型、视觉模型和检索增强生成模型的多次调用,并将结果实时聚合。这种端到端的优化能力,是传统公有云厂商难以在短期内复制的。

这一合作对AI基础设施行业的竞争格局将产生直接影响。首先,它进一步强化了NVIDIA在AI算力生态中的中心地位,通过扶持CoreWeave这类“AI原生云”,NVIDIA正在构建一个独立于传统云巨头的新型算力分发网络。CoreWeave作为NVIDIA的紧密合作伙伴,能够优先获得最新GPU的分配,并深度参与硬件与软件的协同设计,这使得它在服务需要极致性能的AI客户时具备明显优势。对于微软Azure、AWS和Google Cloud而言,虽然它们也提供NVIDIA GPU实例,但其基础设施架构需要兼顾通用计算,在AI专用优化上往往滞后。CoreWeave的崛起可能迫使传统云厂商加速推出更专用的AI基础设施方案,或通过自研芯片来减少对NVIDIA的依赖。其次,对于AI应用企业,尤其是正在构建智能体系统的公司,这一闭环意味着他们可以在单一平台上完成从数据准备到生产推理的全流程,避免了跨平台带来的数据迁移成本、延迟和兼容性问题。这可能会加速智能体在企业客服、自动化流程、代码生成等场景的落地,因为基础设施的复杂性被大幅降低。此外,CoreWeave的商业模式——通过长期合同锁定算力,再以按需方式提供给客户——正在重塑AI算力的消费方式,使得中小型AI公司也能获得类似超大规模用户的资源保障,从而降低创新门槛。

展望未来,有几个信号值得密切关注。一是NVIDIA下一代GPU架构Rubin的量产时间表及其在CoreWeave上的部署进度,这将决定智能体推理的成本和效率能否实现数量级的提升。二是CoreWeave的IPO进程和财务状况,作为AI基础设施新势力的代表,其营收增长和利润率将验证AI原生云模式的商业可行性。三是传统云厂商的反击策略,例如AWS的Trainium芯片和Google的TPU能否在智能体工作负载上展现出竞争力,以及它们是否会通过降价或捆绑服务来争夺客户。四是智能体应用生态的成熟度,随着基础设施闭环的完善,我们可能会看到更多面向垂直行业的智能体平台涌现,这些平台将进一步抽象底层算力,让开发者专注于业务逻辑。最后,地缘政治因素对GPU供应链的影响也不容忽视,CoreWeave的数据中心布局和芯片获取渠道将直接影响其服务全球客户的能力。总体而言,NVIDIA与CoreWeave的深度绑定正在定义AI基础设施的新范式,其影响将远超技术本身,波及整个AI产业的权力结构和创新速度。

Sources