從訓練到生產：NVIDIA 與 CoreWeave 合力閉合智慧體 AI 的閉環

2026 年 9 月 30 日，NVIDIA 在官方部落格發文宣佈，CoreWeave 在舊金山舉行的 Fully Connected 大會上，正式推出搭載 NVIDIA Vera Rubin NVL72 系統與 Spectrum-X 102.4T 乙太網的雲服務。開發 Devin AI 軟體工程師的應用 AI 實驗室 Cognition，成為第一家在 Vera Rubin 上執行生產負載的客戶。與此同時，CoreWeave 還將提供 NVIDIA Vera，這是 NVIDIA 稱之為首款為 AI 智慧體打造的 CPU，併發布了 CoreWeave Forge，一個用於在 NVIDIA 加速計算上訓練、評估和改進模型與智慧體的連線環境。三項釋出合在一起，描繪出一條從訓練、推理到沙箱執行再到評估迴流的完整鏈路。需要先說明資訊來源：本文主要依據 NVIDIA 官方部落格，文中的效能數字均為廠商與客戶披露的早期測試結果，尚無獨立第三方復現，讀者應當把它們當作方向性訊號，而不是最終定論。

先看最受關注的數字。Cognition 在 CoreWeave 上同時執行 Devin 的訓練、強化學習與生產推理，並在九個月內把規模擴充套件到數千塊 GPU，用於支撐推理負載。本月早些時候，CoreWeave 收到首批 Vera Rubin NVL72 生產機架，不久之後 Cognition 就以 GB200 NVL72 為基線，對 Vera Rubin 的推理效能做了對比。測試負載取自真實的軟體工程場景：團隊從 FrontierCode 中抽取一部分任務，部署 AI 智慧體去解決。結果顯示，在 SWE-2 推理負載上，Vera Rubin NVL72 的總 token 吞吐量最高達到 GB200 NVL72 的 4.8 倍。這裡有幾個細節值得注意。其一是「最高」二字，說明 4.8 倍是上限而非平均；其二是基線為上一代 GB200 NVL72，而不是舊得多的 Hopper；其三是負載為智慧體編碼，而不是聊天或單輪問答。Cognition 創始團隊成員 Silas Alberti 的解釋很直接：智慧體編碼是複雜負載，上下文長、併發高、token 量大，每個 token 的成本決定了他們能交付什麼產品。對 Devin 而言，更高吞吐意味著更快的實時程式碼生成和更靈敏的多步推理。另一個事實同樣重要：CoreWeave 在幾天之內就為 Cognition 搭起了生產級 Vera Rubin 叢集。NVIDIA 把這歸因於雙方從基礎設施到 token 輸出的全棧協同設計。對使用者而言，新硬體從到貨到上線的時間，往往和峰值算力同樣重要。

第二條線索是 CPU。NVIDIA 的判斷是，智慧體 AI 從兩個方向給基礎設施施壓：一邊是服務智慧體需要大規模的低延遲算力，另一邊是透過後訓練改進智慧體，需要同時執行成千上萬個相互隔離的環境。後者正是 GPU 之外的 CPU 問題。按照部落格所述，一個關鍵指標是能同時執行多少隔離的智慧體環境，以及環境數量增長時每個環境能否保持穩定、一致的效能。CoreWeave 部署的 Vera 在單個機架中放入 128 顆 CPU、共 11,264 個核心，按每個環境一個核心計算，可同時承載超過 11,000 個併發環境。把這兩個總數相除，每顆 CPU 約為 88 核，這是推算值，並非部落格明說。這些環境透過 CoreWeave Sandboxes 以硬體隔離方式執行，並與它們所服務的訓練任務並排部署，由 Spectrum-X 乙太網交換機和 BlueField-4 DPU 保障智慧體之間安全、低延遲、高效能的通訊。測試中，CoreWeave 在 Vera CPU 上取得超過 3 倍的沙箱啟動速度提升；在 Terminal-Bench 上，所有透過的任務整體效能提升 1.7 倍。沙箱是強化學習、智慧體工具呼叫和模型評估的執行層，允許團隊在隔離環境中執行程式碼。啟動速度之所以關鍵，是因為強化學習的每一次取樣，都可能意味著拉起一個全新的環境。

第三條線索是 Forge。部落格指出，模型和智慧體靠一個迴圈變好：生產環境中的行為指導下一輪訓練，每一次評估都讓下一個版本更銳利。過去這個迴圈被拆散在不同廠商的工具之中，每一次交接都會丟失訊號。CoreWeave Forge 的定位，就是把這些環節連線到同一個環境裡，讓生產反饋回到訓練。需要坦率指出，我們所依據的部落格文字在介紹 Forge 的部分被截斷，因此 Forge 的具體元件、介面和定價，本文無法確認，讀者應當查閱 CoreWeave 的原始釋出。能夠確認的是軟體棧一側：Vera Rubin 容量可透過 CoreWeave Kubernetes Service、SUNK、CoreWeave Mission Control、CoreWeave Sandboxes 和 CoreWeave Inference 來運營。也就是說，從排程、叢集管理，到沙箱和推理服務，CoreWeave 試圖讓同一套容量既跑訓練，也跑評估，也跑線上推理。這種「同池多用」的思路，與 Cognition 在同一平臺上完成訓練、強化學習和生產推理的做法互相印證。

最後看這件事的產業含義。NVIDIA 副總裁 Ian Buck 強調的重點，是跨代價值：CoreWeave 的 NVIDIA V100 GPU 在 Volta 釋出近十年之後，仍在執行客戶負載，而 CoreWeave 同時把 Vera Rubin NVL72 帶入生產。在 AI 基礎設施動輒以數百億美元計的投資背景下，資產能否在多代硬體週期裡持續創造收益，直接決定回報率和融資成本，這也是部落格副標題裡「耐用、可替換」的含義。Buck 還提到要把合適的 GPU 放在合適的負載上，即新舊代際並存、按負載分層。我們的判斷是，這篇釋出有三層資訊。第一，推理經濟學正在從峰值算力轉向每 token 成本和併發能力。第二，智慧體讓 CPU 重新成為瓶頸候選，沙箱密度成為新的採購指標。第三，訓練、評估與生產的閉環，正在成為雲廠商的產品差異點。仍需觀察的是：獨立基準能否復現 4.8 倍和 3 倍這類數字，Vera Rubin 的供貨與功耗成本如何，以及 Forge 在真實客戶中的採用情況。在這些問題有答案之前，最穩妥的讀法是：方向清晰，數字待驗。對正在規劃算力採購的團隊來說，更實際的做法是用自己的真實負載做小規模對比，重點看每 token 成本、併發上限和環境啟動時間這三項，而不是直接引用廠商的峰值倍數。