OpenAI und Anthropic sagen britischen Abgeordneten: „Reguliert uns“; Google DeepMind und Meta lehnen ein neues Gesetz ab

Am 13. Oktober hielt der Ausschuss für Wirtschaft, Innovation, Wissenschaft und Handel des britischen Parlaments eine Anhörung ab. Laut WIRED sagten Vertreter von OpenAI und Anthropic den Abgeordneten, freiwillige Zusagen reichten für die Sicherheit nicht mehr aus, und es brauche neue Gesetze. Damit steht eine offene Spaltung mit Google DeepMind und Meta im offiziellen Protokoll des britischen Parlaments, denn beide lehnten es ab, neue Gesetze zu unterstützen. Als Zeugen traten vier Frontier-KI-Firmen auf, vier frühere Mitarbeiter dieser Firmen, die zu Whistleblowern wurden, und hohe Beamte. Ausschussvorsitzender Liam Byrne sagte WIRED danach, das Ziel sei, „die großen Meinungsunterschiede zwischen einigen der reichsten Firmen der Welt sichtbar zu machen“ und zu zeigen, „dass man sich nicht auf freiwillige Selbstregulierung verlassen kann“.

Die vier Positionen waren klar. Anthropics Europa-Chef Liam Booth-Smith sagte: „Die Regeln sollten verbindlich sein.“ Das Unternehmen sei stets der Ansicht gewesen, dass es verbindliche Regeln brauche und freiwillige Zusagen nicht genügten. OpenAI-Vizepräsident Tom Duff Gordon war vorsichtiger, unterstützte aber ebenfalls einen gesetzlichen Rahmen und ein internationales Abkommen. „Einige Elemente sollten verpflichtend sein“, sagte er, beginnend mit der Meldung von Vorfällen, und: „Wir halten es nicht für einen guten langfristigen Plan, bei Frontier-Risiken alles auf freiwillige Zusagen zu stützen.“ Direkt gefragt, ob er einen gesetzlichen Rahmen unterstütze, sagte Owen Larter von Google DeepMind nur: „Wir konzentrieren uns auf die Standards.“ Meta-Vertreter Rob Sherman sagte den Abgeordneten, in Großbritannien gebe es bereits Regulierer, „wir schreiben nicht auf ein leeres Blatt“. Am selben Tag warnte MI5-Chef Ken McCallum in seinem jährlichen Lagebild, KI könne die Lage bei Biowaffen verändern; das sei der Missbrauchsfall, dem er „das größte Gewicht“ beimesse.

Der letzte Teil der Sitzung zeigte, wie weich das heutige System ist. Das AI Security Institute testet Frontier-Modelle vor der Veröffentlichung, aber nur, wenn die Firmen sie herausgeben. Direktor Henry de Zoete räumte ein, dass es völlig auf die Mitarbeit von Firmen und ausländischen Regierungen angewiesen ist und nichts tun kann, wenn es ein Modell für zu gefährlich hält und die Firma es trotzdem veröffentlicht. „Wir vergeben kein Gütesiegel“, sagte er. „Wir sagen zu keinem Modell Ja oder Nein.“ Er fügte hinzu, die Frontier-Entwickler seien amerikanisch oder chinesisch, und Großbritannien könne nur begrenzt etwas tun. Cat Little, die ranghöchste Beamtin im Cabinet Office, wurde gefragt, ob das ganze System freiwillig sei. „Im Moment ja“, sagte sie. Der Zugang läuft auch über Washington. OpenAIs Duff Gordon sagte, die Firma gebe Modelle vor dem Einsatz an das amerikanische CAISI und das britische AISI, „und solange wir das unter der US-Regierung tun können, werden wir es weiter tun“. Anthropics Booth-Smith räumte ein, die Firma habe dem britischen Institut zunächst keinen vollen, uneingeschränkten Zugang zu Mythos 5.1 geben können, „eine Frage an die US-Regierung“, fügte aber hinzu, dass das AISI inzwischen Zugang habe.

Die vier früheren Laborforscher sprachen noch deutlicher. Daniel Kokotajlo, früher bei OpenAI, sagte, er glaube nicht, dass man den Firmen die Selbstregulierung anvertrauen könne. Steven Adler, der Ende 2024 OpenAI verließ, sagte, er habe kein Vertrauen in die Sicherheitskultur der Branche. Geoffrey Irving sagte, die Labore glaubten, in einem Wettlauf zu stecken, den Regierungen nicht unterbrechen und aus dem sie nicht aussteigen können. „Beides ist falsch“, sagte er. „Sie könnten einfach aufhören.“ Nach der Anhörung sagte Byrne, sein Ausschuss werde nun viel Zeit auf den Weg Großbritanniens als „mittlere Macht“ bei KI verwenden. Er wünscht sich, dass die Minister den kommenden britischen G20-Vorsitz, danach folgt Südkorea, nutzen, um ein internationales Abkommen zu vermitteln, das nicht vom aktuellen Weißen Haus abhängt. „Der G20-Vorsitz wird die US-Präsidentschaft von Trump überdauern“, sagte er, und: „Die Risiken wachsen schneller, als unser Sicherheitssystem sie kontrollieren kann.“

Zwei Hinweise für Leser. Erstens war es eine Anhörung, kein Gesetz. Es wurde kein Entwurf verabschiedet, und keine Firma versprach, ihr Vorgehen zu ändern; die Zeugen legten Positionen dar. Zweitens bauen und veröffentlichen die Firmen, die verbindliche Regeln fordern, weiter Frontier-Modelle: Der Ruf nach Regulierung heißt nicht, langsamer zu werden. Kritiker fragen oft, ob solche Appelle helfen sollen, Regeln zum eigenen Vorteil mitzuprägen. Der WIRED-Bericht beantwortet das nicht, hält aber die Worte beider Seiten im Protokoll fest, und das ist für die kommende Gesetzesdebatte nützlich.