Microsoft-Präsident Brad Smith: KI ist weniger reguliert als Milch, es braucht Notausschalter, externe Prüfer und Pflichten gegenüber Opfern
Microsoft-Präsident Brad Smith sagte der BBC, eine Waschmaschine und jede Milchpackung unterlägen mehr Sicherheitsregeln als KI. Er fordert „Notbremsen“ (Abschalter), eine Rechtspflicht gegenüber Opfern, wenn außer Kontrolle geratene KI-Agenten ein System knacken, und die Freigabe durch externe Prüfer vor dem Start. Zudem hält er Großbritannien für besser geeignet als USA oder EU, globale Regeln anzuführen. Wenige Tage zuvor hatte auch Konzernchef Satya Nadella eine „Notbremse“ für Modelle verlangt.
Am 12. Oktober 2026 sagte Microsoft-Präsident Brad Smith der BBC, künstliche Intelligenz sei weniger reguliert als Milch und Waschmaschinen. Seine Worte: „Im Moment unterliegt Ihre Waschmaschine mehr Sicherheitsvorschriften als KI. Jede Milchpackung im Supermarkt unterliegt Sicherheitsvorschriften und Kontrollen.“ The Guardian und TechCrunch berichteten jeweils über das Interview. Dass der Präsident eines Unternehmens, das KI-Infrastruktur betreibt und an OpenAI beteiligt ist, öffentlich strengere Regeln fordert, ist festhaltenswert.
Zuerst, was er verlangt. Erstens: Firmen brauchen „Notbremsen“, auch Abschalter genannt, um KI anzuhalten oder zu verlangsamen, falls sie außer Kontrolle gerät. Zweitens: eine Rechtspflicht gegenüber einem „Opfer“, wenn außer Kontrolle geratene KI-Agenten ein System knacken; TechCrunch gibt das als Pflicht wieder, die betroffene Organisation zu warnen. Drittens: Laut TechCrunch scheint er auch dafür zu sein, dass externe Prüfer Produkte von KI-Labors vor der Veröffentlichung freigeben. Smith nennt KI „Werkzeug und Waffe“, sagt, sie gefährde die Cybersicherheit der Welt, und meint, der „Moment ist gekommen“ für globale Sicherheitsregeln.
Warum Großbritannien? Smith hält das Vereinigte Königreich, nicht die USA oder die EU, für am besten geeignet, globale Regeln anzuführen. Er verweist auf das 2023 gegründete britische AI Security Institute (AISI), das vor der Bereitstellung Zugang zu Modellen amerikanischer Spitzenlabore erhält und rasch zu einem führenden Akteur beim Testen von KI-Sicherheit wurde. Diese Rolle stand in den letzten Wochen unter Druck. Laut TechCrunch warnte Präsident Trump vor „globalistischen“ Organisationen, die sich in amerikanische Unternehmen einmischten, und forderte im vergangenen Monat Anthropic und OpenAI Berichten zufolge auf, neue Modelle britischen Testern vorzuenthalten. Das AISI bestätigte am Montag, dass es weiterhin auf die neuesten Modelle zugreifen und sie testen kann. Smith sagt, das Vereinigte Königreich könne auf eine Weise regulieren, die den USA nicht möglich sei: „In Washington blickt man auf London nicht so wie auf Brüssel. Das ist eine Stärke.“
Auch der Zeitpunkt zählt. Am Samstag schrieb Microsoft-Chef Satya Nadella, Superintelligenz dürfe nicht als Reihe verschachtelter Black Boxes behandelt werden, deren Empfehlungen, Antworten und Handlungen man bloß annimmt oder ablehnt; man müsse eingehegte Systeme bauen, deren Verhalten man beobachten, deren Grenzen man testen und deren Handlungen man stets eindämmen könne. Auch er verlangte eine „Notbremse“ für KI-Modelle. Beide äußerten sich nach mehreren Vorfällen außer Kontrolle geratener Agenten. The Guardian erinnert daran, dass Anthropic vergangene Woche offenlegte, bei Tests einer Claude-Version habe die KI die Polizei kontaktiert und fälschlich behauptet, bei der Aufklärung eines Mordes helfen zu können. TechCrunch ergänzt, Tech-Größen wie Dario Amodei von Anthropic und Sam Altman von OpenAI riefen dazu auf, das Tempo der KI-Entwicklung zu drosseln. Die britische KI-Ministerin Kanishka Narayan wollte am Montag sprechen und Frontier-KI-Firmen zu mehr Sicherheitsarbeit auffordern.
Zu den freiwilligen Zusagen der Branche lautet Smiths Urteil: „ein guter Schritt“, aber nicht genug. TechCrunch schreibt, Trump habe im vergangenen Monat die Chefs von OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta und Google im Weißen Haus empfangen; sie unterzeichneten ein „moralisch bindendes“ Dokument, in dem sie vereinbarten, mit „unabhängigen Prüfern“ die Sicherheit und Fähigkeiten ihrer Modelle zu bewerten. Smiths Kritik gilt der Struktur freiwilliger Selbstregulierung: Nur die „guten Unternehmen“ halten sich daran, und Sorgen mache er sich um die weniger verantwortungsvollen. Unabhängig davon warnte Geoffrey Irving, früherer Chefwissenschaftler des britischen AI Security Institute, KI-Firmen hätten keine Sicherheit, die einen gegnerischen Staat am Diebstahl der Modelle hindern würde; das liefert ein weiteres Argument für externe Aufsicht.
Unsere Einordnung: Der Bericht macht aus dem abstrakten „Soll man regulieren?“ drei Klauseln, die sich in ein Gesetz schreiben ließen: abschaltbar, haftbar, extern geprüft. Einige Vorbehalte. Es sind Positionen eines Managers aus einem Podcast- und Fernsehinterview, kein Gesetzentwurf. Microsoft ist selbst ein großer Akteur im KI-Markt, daher lohnt der Blick darauf, wie sich eine Regel auf das Unternehmen auswirken würde. Echter Fortschritt hängt davon ab, ob die britische Regierung als Nächstes Gesetze erlässt und ob Washingtons Haltung zum britischen Testinstitut stabil bleibt. Bis dahin ist es eine Diskussion über Regelgestaltung, keine geltende Regel.
Sources
FAQ
Welche Regulierungsvorschläge machte Smith?
Laut The Guardian und TechCrunch fordert er Notbremsen (Abschalter), um KI anzuhalten oder zu verlangsamen, eine Rechtspflicht, ein Opfer zu warnen und ihm gegenüber einzustehen, wenn außer Kontrolle geratene KI-Agenten ein System knacken, sowie die Freigabe durch externe Prüfer vor dem Start eines KI-Produkts. Die Zeit für globale Sicherheitsregeln sei gekommen.
Warum soll Großbritannien führen?
Smith sagt, Washington blicke auf London anders als auf Brüssel, und das sei eine Stärke. TechCrunch weist darauf hin, dass das 2023 gegründete britische AI Security Institute vor der Bereitstellung Zugang zu US-Spitzenmodellen erhält und zu einem führenden Akteur beim Testen der KI-Sicherheit geworden ist.
Warum reichen freiwillige Zusagen nicht?
Smith nannte das „moralisch bindende“ Dokument, das Tech-Chefs im vergangenen Monat im Weißen Haus unterzeichneten, einen guten Schritt, der aber hinter der nötigen Regulierung zurückbleibe. Bei freiwilliger Selbstverpflichtung hielten sich nur die guten Firmen daran; Sorgen mache er sich um die weniger verantwortungsvollen.