Swisher: Gefahr geht von KI-Machern aus, nicht von der KI

Was beim Atlantic Festival gesagt wurde

The Atlantic hat ein redigiertes Interview mit der Tech-Journalistin Kara Swisher veröffentlicht, aufgezeichnet beim Atlantic Festival. Die Fragen stellte Adrienne LaFrance, Executive Editor des Magazins. Die Überschrift nennt die These: Die KI wird die Menschheit nicht zerstören, aber die Menschen, die sie bauen, könnten es.

Die Einleitung des Magazins liefert den Hintergrund. Die KI-Branche erzähle gern zwei Geschichten. In der guten heilen superintelligente Bots Krebs und beenden die Armut. In der schlechten löschen sie alle Menschen von der Erde aus. In den vergangenen Wochen, so die Einleitung, seien die existenziellen Sorgen des Silicon Valley über die Technik, die es selbst im Wettlauf baut, „explodiert“. Swisher sieht das anders. „Wir müssen aufhören zu glauben, dass KI die Menschheit töten wird“, sagte sie zu LaFrance. Wenn die KI-Zukunft aus dem Ruder laufe, argumentierte sie, seien nicht die Bots schuld, sondern Menschen: „Das sind Menschen am Steuer dieser Dinge.“

Laut der Einleitung berichtet Swisher seit mehreren Jahrzehnten über das Silicon Valley, zuerst als Reporterin beim Wall Street Journal, heute als Gastgeberin von zwei Podcasts. Es handelt sich um ein Interview, nicht um einen Nachrichtenbericht. Fast jede Aussage darin ist Swishers Meinung, Erinnerung oder Prognose, und der Text wurde gekürzt und sprachlich geglättet. Wir ordnen deshalb jede Aussage ihr zu. Der Beitrag ist von Victoria Feng gezeichnet, Assistant Editor bei The Atlantic.

Die wichtigsten Argumente, wie Swisher sie vortrug

Menschen, nicht Maschinen. Swisher verglich KI mit Schusswaffen und Autos. Nach ihrer Darstellung töten nicht Waffen Menschen, sondern Menschen, und ein Auto entscheide nicht selbst, jemanden zu überfahren. Ihr Punkt: Menschen führen diese Unternehmen und verdienen dabei viel Geld. Kernenergie als Vergleich. Am liebsten vergleiche sie KI mit der Kernspaltung: „Sie haben das Atom gespalten, und, ups, es hat geknallt.“ Oppenheimer habe gewusst, was passieren würde, und die KI-Chefs wüssten mehr, als sie zugäben. Sie bat das Publikum, sich vorzustellen, private Firmen hätten die Bombe gebaut, und nannte KI „noch mächtiger“. Tech-Leute erzählten gern, wie klug sie seien, und sagten dann „wir wissen es nicht“, sobald die Folgen da seien. Keine Leitplanken. Für diese Leute habe es „nie“ Leitplanken gegeben, sagte Swisher. Abgesehen vielleicht vom Eisenbahn- und Fabrikboom fällt ihr keine Zeit ein, in der die Bevölkerung bei einer so großen Expansion nichts mitzureden hatte. Sie scherzte, der Feinkostladen an ihrer Ecke unterliege mehr Vorschriften als die meisten Großkonzerne. Außerdem hätten die Tech-Chefs die Politik vereinnahmt; sie nannte das Urteil Citizens United. Ihr nächstes Buch beginne mit Elon Musk, Sundar Pichai, Mark Zuckerberg und Jeff Bezos, die bei der Amtseinführung neben Donald Trump stehen. Ihrer Ansicht nach hätten sie gemerkt, dass man „eine Münze in diesen Präsidenten stecken und bekommen kann, was man will“. Warum die Chefs jetzt nervös sind. Swisher glaubt, dass sie ernsthaft besorgt sind, und nannte drei Gründe. Erstens die Haftung: Klagen häuften sich wie einst gegen die Zigarettenhersteller, darunter Fälle über Chatbots und Kinder. Zweitens die Kosten: Spitzen-KI sei viel teurer als das frühe Internet, und sie sagte voraus, dass aus den heutigen sieben Spitzenfirmen zwei würden. Auf die Frage nach ihrer Wette nannte sie Google und hielt eine Fusion von Google und Anthropic für möglich. ChatGPT sei zu teuer und nicht tragfähig. Drittens die Börse: Sie hänge an sieben Unternehmen, und Swisher wundert sich, dass sie noch keinen Schlag erlitten hat. Auch den Hugging-Face-Hack hält sie für zu wenig beachtet.

Die Wirtschaft. LaFrance nannte mögliche Szenarien: eine gewöhnliche Korrektur, Bot-Schwärme, die das Internet unbrauchbar machen, einen Bank-Run, den KI-Agenten anführen. Swishers Antwort lautete: „Alles davon.“ Regulierung und Anwälte. Der Kongress habe seit Section 230 die Tech-Branche nicht wirksam reguliert, sagte sie, während Haftungs- und Fahrlässigkeitsklagen an Boden gewännen, wie einst gegen den Tabak. Das Land habe nie ein Datenschutzgesetz oder Algorithmen-Transparenz gehabt, und rund ein Dutzend Schritte würden die Geschäfte nicht schädigen. Die Wut auf Rechenzentren sei ein Stellvertreter für den breiteren Zorn darüber, was die Technik mit dem Leben der Menschen mache. China. Sie lehnte das ab, was sie das „Xi-oder-ich-Argument“ nennt, also die Behauptung, die Wahl sei China oder die USA. Nötig sei globale Zusammenarbeit, besonders mit China. Zudem habe China mehr Auflagen für KI als die USA. Was zu tun ist. Swisher riet, keine Goldbarren zu kaufen und bei den Apokalypse-Plänen der Chefs nicht mitzumachen. Sie forderte dazu auf, sich an die Parlamente zu wenden und weiter gegen Rechenzentren Widerstand zu leisten. „Die einzigen Menschen, an die ich in diesem Land glaube, sind die Wähler“, sagte sie.

Hintergrund und Bedeutung

Die Idee, dass die moralische Last der KI bei Menschen und nicht bei Maschinen liegt, ist nicht neu. Bemerkenswert an Swishers Version ist ihr Ziel. Sie sagt nicht, KI sei harmlos. Im selben Interview sagte sie, KI „kann eine Atombombe auslösen“, und „Menschen mit übermenschlicher Intelligenz werden Schlimmes tun“. Ihr Argument betrifft den Ort der Verantwortung.

Zwei allgemeine Begriffe helfen, ihre Bemerkungen einzuordnen. Die Produkthaftung ist das Recht, das Geschädigten erlaubt, Hersteller gefährlicher Produkte zu verklagen. Section 230, die LaFrance im Interview erklärte, verhindert, dass Plattformbetreiber als Herausgeber der Inhalte ihrer Nutzer behandelt werden. Nach Swishers Darstellung „konnte man sie nicht verklagen. Jetzt geht das“: Haftungsklagen beginnen, den Schutz zu bedrängen, den Section 230 bot.

Unsere Einordnung

Nach unserer Lesart verschiebt Swisher die Debatte von einer spekulativen Frage, ob sich Maschinen gegen uns wenden, zu einer gegenwärtigen: Wer haftet, und gegenüber wem? Das ist eine praktische Verschiebung. Gerichte, Landesparlamente und Wähler können heute bei der Verantwortung ansetzen. Bei einer hypothetischen Superintelligenz können sie es nicht.

Ihr Argument enthält eine innere Spannung, die man benennen sollte. Sie sagt, KI werde die Menschheit nicht töten, sagt aber auch, sie sei mächtiger als Kernenergie und alle wirtschaftlichen Katastrophenszenarien seien möglich. Wir lesen das als Aussage über Ursachen, nicht über Schwere: Schaden sei möglich und könne groß sein, käme aber aus menschlichen Entscheidungen.

Ihre Erklärung, warum die Chefs jetzt zur Vorsicht mahnen, nämlich Haftung, Kosten und Marktfragilität, ist eine Deutung von Motiven. Sie mag stimmen, doch das Interview liefert keinen Beleg von den Chefs selbst. Man liest sie am besten als Hypothese einer langjährigen Beobachterin.

Grenzen der Quelle und offene Fragen

• Die Quelle ist ein redigiertes Interview. Die Worte stammen von Swisher, die Kürzungen sind nicht sichtbar.
• Ihre Prognosen bleiben Prognosen. Die Fusion zweier Spitzenfirmen, ein Börsenschlag und eine Klagewelle sind das, was sie erwartet, nicht das, was der Text belegt.
• Einige Zahlen wirken unsicher. Sie nannte einen Facebook-Vergleich über 17 Milliarden Dollar und stellte ihn einer letzten Strafe von „5 Millionen“ gegenüber.

Die zweite Zahl könnte ein Übertragungsfehler sein, und der Text belegt keine von beiden. Sie sprach außerdem von „10 Spitzenfirmen“ und korrigierte sich dann auf sieben. Am Ende sagte sie „eine Chance von 10 Prozent“ und dann „es sind tatsächlich 14“, ohne Zusammenhang.

• Sie macht scharfe persönliche Bemerkungen über namentlich genannte Manager. Der Text enthält keine Antwort von ihnen, deshalb geben wir diese Bemerkungen nicht als Tatsachen wieder.
• Die Einleitung von The Atlantic nennt das Datum der Festival-Session nicht.

Praktische Folgerungen

Für Entwickler und Produktteams: Behandeln Sie Haftung als Designvorgabe. Swishers Warnung lautet, dass Abkürzungen bei der Sicherheit als Klagen zurückkommen können, besonders bei Produkten, die Kinder erreichen.

Für alle, die Politik beobachten: Sie verweist auf Aktivitäten auf Ebene der Bundesstaaten, Produkthaftungsverfahren und lokale Streits um Rechenzentren als Orte, an denen der Druck wächst. Außerdem nennt sie Datenschutzrecht und Algorithmen-Transparenz als Schritte, die den Geschäften ihrer Meinung nach nicht schaden würden.

Für allgemeine Leser: Lesen Sie Aussagen von KI-Managern, auch Rufe nach Regulierung, als Aussagen von Interessenten. LaFrance äußerte im Interview denselben Zweifel, als sie Mark Zuckerbergs frühere Haltung „Reguliert mich, bitte“ mit einer gewissen Skepsis beschrieb. Wenden Sie dieselbe Vorsicht auf Swishers eigene Worte an: Es sind Meinungen einer erfahrenen Journalistin, abzuwägen, aber keine geprüften Fakten.