Sam Altman fordert KI-Sicherheit im UN-Sicherheitsrat

Hintergrund

Am 23. September 2026 sprach OpenAI-CEO Sam Altman als erster KI-Industrieführer vor dem UN-Sicherheitsrat über die Auswirkungen von KI auf Frieden und Sicherheit. Der Auftritt erfolgte vier Monate nach der Veröffentlichung von GPT-5 und weniger als ein halbes Jahr vor dem vollständigen Inkrafttreten des EU-KI-Gesetzes.

Altman warnte, dass innerhalb weniger Jahre AGI-Systeme mit Selbstverbesserung entstehen könnten, deren Risiken der Verbreitung von Massenvernichtungswaffen glichen. Er forderte eine internationale Behörde mit Verifikationsbefugnis, die Sicherheitsbewertungen für Modelle oberhalb einer Rechenleistungsschwelle vorschreibt und menschliche Kontrolle sichert. OpenAI werde technische Unterstützung für Prüfstandards und einen Risikorahmen leisten.

Tiefenanalyse

Technisch: Große Sprachmodelle zeigen emergente Fähigkeiten, die bei Skalierung unvorhersehbar werden und herkömmliche Tests umgehen. OpenAIs „automatisierte Alignment-Forschung“ birgt rekursive Risiken. Altmans Regulierungsvorschlag macht Sicherheitskosten durch verpflichtende Red-Teaming-Tests, Erklärbarkeitsberichte und Vorabgenehmigungen zu Markteintrittsbarrieren.

Kommerziell: Google DeepMind integriert Gemini in Suche und Office, Anthropic gewinnt mit „Constitutional AI“ Regierungskunden, Metas Open-Source-Llama erodiert Entwicklermärkte. Eine globale Regulierung würde Wettbewerber durch Open-Source oder Cloud-Dienste einschränken und OpenAIs Sicherheitspraktiken als internationale Standards festschreiben – ein Regelsetzervorteil. Altman deutete an, dass nur zertifizierte Modelle Zugang zum Internet-Backbone erhalten könnten – ein KI-„Nichtverbreitungsvertrag“ mit OpenAI als Torwächter.

Branchenwirkung

Für den US-China-Wettbewerb wird die UN zur neuen Arena. China bevorzugt souveräne Aufsicht und steht supranationalen Prüfungen zurückhaltend gegenüber. Bei Umsetzung von Altmans Vorschlägen drohen chinesischen Firmen wie Baidu, Alibaba und ByteDance doppelte Compliance-Lasten, was eigene Sicherheitsstandards beschleunigt. Das Open-Source-Ökosystem würde durch verpflichtende Audits verteuert, Innovationen könnten sich auf unternehmenstolerierte „Sicherheitszonen“ beschränken, doch ein neuer Sektor für „Safety Audit as a Service“ (SAaaS) könnte entstehen.

Für Unternehmen verlängert Compliance die Beschaffungszyklen, reduziert aber rechtliche Risiken bei Black-Box-Modellen. Altmans Betonung menschlicher Aufsicht beschleunigt Human-in-the-Loop-Lösungen, was Anbietern von Datenkennzeichnung, Expertenfeedback und RLHF-Diensten zugutekommt.

Ausblick

Die weitere Entwicklung hängt von Schlüsselsignalen ab. Erstens, ob der UN-Generalsekretär einen KI-Sonderbeauftragten ernennt und Verhandlungen über ein KI-Sicherheitsprotokoll im Globalen Digitalpakt startet. Zweitens, der Fortschritt der US-Gesetzgebung: Ein Scheitern vor den Zwischenwahlen 2027 würde die US-Führungsrolle schwächen.

Drittens könnte die EU-Hochrisikoeinstufung für allgemeine KI mit Altmans Rechenleistungsansatz konvergieren und eine transatlantische Standardsallianz formen. Viertens beeinflussen OpenAIs Governance-Spannungen und Microsofts Haltung die Glaubwürdigkeit als Regulierungsbefürworter. Schließlich wächst die Sorge vor „Safety-Washing“: Beschleunigt OpenAI die Kommerzialisierung, während es Regulierung fordert, droht eine Vertrauenskrise. Altmans Rede hat KI-Sicherheit politisch gehoben, doch die Herausforderung bleibt, die Vision in durchsetzbare, innovationsfreundliche Institutionen zu übersetzen.