Vom Training zur Produktion: NVIDIA und CoreWeave schließen den Kreislauf der agentischen KI

Am 30. September 2026 hat NVIDIA in seinem Blog bekanntgegeben, dass CoreWeave auf der Konferenz Fully Connected in San Francisco NVIDIA-Vera-Rubin-NVL72-Systeme mit Spectrum-X-102.4T-Ethernet in seiner Cloud verfügbar macht. Cognition, das angewandte KI-Labor hinter dem KI-Softwareingenieur Devin, ist der erste Kunde, der Produktions-Workloads auf Vera Rubin betreibt. CoreWeave wird außerdem NVIDIA Vera anbieten, die laut NVIDIA erste CPU für KI-Agenten, und hat CoreWeave Forge vorgestellt, eine verbundene Umgebung zum Trainieren, Evaluieren und Verbessern von Modellen und Agenten auf NVIDIA-beschleunigtem Rechnen. Zusammen zeichnen die drei Ankündigungen eine durchgehende Kette: Training, Inferenz, Ausführung in Sandboxes und eine Evaluierung, die wieder ins Training zurückfließt. Ein Wort zur Quellenlage vorab. Diese Analyse stützt sich vor allem auf NVIDIAs eigenen Blog. Alle genannten Leistungszahlen sind frühe Testergebnisse, die ein Hersteller oder sein Kunde veröffentlicht hat, und keine wurde unabhängig nachgemessen. Sie sind als Richtungssignale zu lesen, nicht als gesicherte Tatsachen.

Zuerst die Schlagzeilenzahl. Cognition betreibt Training, Reinforcement Learning und Produktionsinferenz für Devin auf CoreWeave und ist dort innerhalb von neun Monaten auf Tausende GPUs gewachsen, um seine Inferenz-Workloads zu tragen. Anfang dieses Monats erhielt CoreWeave die ersten Vera-Rubin-NVL72-Produktionsracks. Kurz darauf verglich Cognition die Inferenzleistung von Vera Rubin mit einer GB200-NVL72-Basis, und zwar mit einer realistischen Softwareentwicklungs-Last: Das Team zog eine Teilmenge von Aufgaben aus FrontierCode und ließ KI-Agenten sie lösen. In diesen frühen Tests lieferte Vera Rubin NVL72 bei SWE-2-Inferenz bis zu 4,8-fachen Gesamt-Token-Durchsatz gegenüber GB200 NVL72. Drei Details sind wichtig. Erstens bedeutet „bis zu“, dass 4,8 eine Obergrenze ist und kein Durchschnitt. Zweitens ist die Vergleichsbasis die Vorgängergeneration GB200 NVL72, nicht ein deutlich älteres Hopper-Produkt. Drittens ist die Last agentisches Coding, nicht Chat oder einzelne Frage-Antwort-Runden. Silas Alberti aus dem Gründungsteam von Cognition beschreibt die Logik schlicht: Agentisches Coding bedeutet lange Kontexte, hohe Parallelität und Token-Volumen, bei denen die Kosten pro Token darüber entscheiden, was das Unternehmen ausliefern kann. Für Devin heißt mehr Durchsatz schnellere Codegenerierung in Echtzeit und reaktionsfähigeres mehrstufiges Schlussfolgern. Eine weitere Tatsache verdient Gewicht: CoreWeave hat in wenigen Tagen einen produktiven Vera-Rubin-Cluster für Cognition aufgebaut, was NVIDIA auf das gemeinsame Design über den gesamten Stack zurückführt, von der Infrastruktur bis zu den ausgelieferten Tokens. Für Kunden ist die Zeit von der Lieferung bis zur Produktion oft so wertvoll wie die Spitzenleistung.

Der zweite Strang ist die CPU. NVIDIAs These lautet, dass agentische KI die Infrastruktur aus zwei Richtungen unter Druck setzt. Das Bereitstellen von Agenten verlangt latenzarme Rechenleistung in großem Maßstab, während ihre Verbesserung durch Post-Training Tausende gleichzeitig laufende, voneinander isolierte Umgebungen erfordert. Der zweite Bedarf ist überwiegend ein CPU-Problem, kein GPU-Problem. Laut Blog ist die zentrale Messgröße, wie viele isolierte Agentenumgebungen gleichzeitig laufen können und wie konsistent und leistungsfähig jede bleibt, wenn ihre Zahl wächst. CoreWeaves Vera-Einsatz packt 128 CPUs und 11.264 Kerne in ein einziges Rack, genug für mehr als 11.000 parallele Umgebungen bei einem Kern pro Umgebung. Teilt man die beiden Summen, ergeben sich etwa 88 Kerne pro CPU; das ist unsere Rechnung, keine Angabe des Blogs. Die Umgebungen laufen über CoreWeave Sandboxes, hardwareseitig isoliert und neben den Trainingsjobs, die sie unterstützen, wobei Spectrum-X-Ethernet-Switches und BlueField-4-DPUs die Kommunikation zwischen Agenten sicher und mit geringer Latenz halten. In Tests maß CoreWeave auf Vera-CPUs einen mehr als dreimal schnelleren Start der Agent-Sandboxes und auf Terminal-Bench einen Leistungsgewinn von 1,7-fach über alle bestandenen Aufgaben. Sandboxes sind die Ausführungsschicht für Reinforcement Learning, Werkzeugnutzung von Agenten und Modellevaluierung und erlauben es Teams, Code in isolierten Umgebungen auszuführen. Die Startzeit zählt, weil jeder Rollout im Reinforcement Learning eine frische Umgebung brauchen kann; langsame Starts lassen teure Beschleuniger warten.

Der dritte Strang ist Forge. Der Blog sagt, Modelle und Agenten verbessern sich in einem Kreislauf: Das Verhalten in der Produktion bestimmt den nächsten Trainingslauf, und jede Evaluierung schärft die nächste Version. Dieser Kreislauf war bisher auf Werkzeuge verschiedener Anbieter verteilt, und an jeder Übergabe ging Signal verloren. CoreWeave Forge soll diese Stufen in einer Umgebung verbinden, damit Produktionsfeedback ins Training zurückfließt. Wir sollten offen sein: Der uns vorliegende Blogtext bricht mitten im Abschnitt über Forge ab, daher können wir weder Komponenten noch Schnittstellen oder Preise bestätigen; Leser sollten die Originalankündigung von CoreWeave prüfen. Bestätigen lässt sich die Softwareseite: Vera-Rubin-Kapazität lässt sich über CoreWeave Kubernetes Service, SUNK, CoreWeave Mission Control, CoreWeave Sandboxes und CoreWeave Inference betreiben. Von Scheduling und Cluster-Verwaltung bis zu Sandboxes und Serving versucht CoreWeave, aus einem Kapazitätspool Training, Evaluierung und Live-Inferenz bedienen zu lassen. Das passt dazu, wie Cognition die Plattform nutzt, nämlich für Training, Reinforcement Learning und Produktionsinferenz an einem Ort.

Zuletzt die Bedeutung für die Branche. NVIDIAs Ian Buck betont den Wert über Generationen hinweg: CoreWeaves NVIDIA-V100-GPUs führen fast ein Jahrzehnt nach dem Start von Volta noch immer Kundenlasten aus, während CoreWeave Vera Rubin NVL72 in die Produktion bringt. Wenn KI-Infrastruktur mit zweistelligen Milliardenbeträgen finanziert wird, bestimmt die Fähigkeit eines Anlageguts, über mehrere Hardwarezyklen Erträge zu liefern, die Rendite und die Kapitalkosten. Das meint der Untertitel des Blogs mit Infrastruktur, die produktiv, langlebig und austauschbar (fungible) bleibt. Buck spricht außerdem davon, die richtige GPU auf die richtige Last zu setzen, was ein Nebeneinander alter und neuer Generationen nahelegt, gestaffelt nach Aufgabe. Unsere Lesart: Die Ankündigung trägt drei Botschaften. Die Ökonomie der Inferenz verschiebt sich von der Spitzenleistung zu Kosten pro Token und Parallelität. Agenten machen die CPU wieder zum Engpasskandidaten, und Sandbox-Dichte wird zu einer neuen Einkaufskennzahl. Und ein geschlossener Kreislauf aus Training, Evaluierung und Produktion wird zum Unterscheidungsmerkmal zwischen Clouds. Offen bleibt, ob unabhängige Benchmarks Zahlen wie 4,8-fach und 3-fach bestätigen, wie Verfügbarkeit und Energiekosten von Vera Rubin aussehen und wie breit Kunden Forge einsetzen. Bis dahin ist die vorsichtigste Lesart: Die Richtung ist klar, die Zahlen müssen noch geprüft werden.