OpenAI stoppt zwei „Scheinfassaden“-Operationen, darunter die erste Einflussoperation der Kategorie 5

Am 8. Oktober 2026 veröffentlichte OpenAI seine jüngste Bedrohungsmeldung. Das Unternehmen gab bekannt, zwei verdeckte Einflussoperationen gesperrt zu haben, die seine Modelle nutzten, um „Scheinfassaden“ zu stützen: eine aus Russland, von OpenAI „Dark Clark“ genannt, und eine aus dem Iran, genannt „Bogus Bylines“. Eine Scheinfassade ist eine Einheit, die verbirgt, wer tatsächlich spricht. Die Betreiber erschaffen oder leihen sich scheinbar unabhängige Journalisten, Think Tanks oder Nachrichtenportale und waschen über sie geopolitische und konfliktbezogene Botschaften in ein Zielpublikum hinein. OpenAI weist darauf hin, dass es seit zweieinhalb Jahren über Bedrohungsakteure berichtet: über Cyberangriffe, verdeckte Einflussoperationen, Betrug und andere Verstöße gegen seine Nutzungsrichtlinien. Der erklärte Zweck ist, Aufsichtsbehörden, Branchenkollegen und die Öffentlichkeit darüber zu informieren, wie solche Akteure KI einzusetzen versuchen und welche Schwachstellen sie ausnutzen wollen.

Beginnen wir mit der iranischen Operation. „Bogus Bylines“ unterhielt einen Stall von sieben „Journalisten“-Personas und bot unter diesen Namen kleinen und mittleren Online-Medien weltweit lange Artikel an. Ein Redakteur, der ein solches Angebot erhielt, sah einen freien Autor, keine staatsnahe Operation. Die Operation beschränkte sich nicht auf Artikel. Sie erzeugte auch ganze Pakete von Kommentaren für soziale Netzwerke, meist zu Themen rund um den Krieg zwischen den USA und dem Iran. Außerdem nutzte sie KI für interne Berichte und griff zu fragwürdigen, teils offen unwahren Methoden, um die Wirkung der Betreiber zu übertreiben. OpenAI stuft sie auf der IO Breakout Scale als Kategorie 4 ein. Ihre Inhalte blieben also nicht im eigenen Kreis, sondern erreichten reale Zielgruppen.

Nun zur russischen Operation. „Dark Clark“ zielte auf Lateinamerika. Nach Angaben von OpenAI scheint die Operation ahnungslose Menschen in der Region eingespannt zu haben, die vor Ort einen „Think Tank“ betrieben. Neben der Kontrolle über diesen Think Tank fertigten die Akteure gefälschte „geleakte“ Dokumente und Audioskripte an. OpenAI konnte einen Teil davon bei der Verbreitung im Netz identifizieren. Von allen Einsatzzwecken der KI war das Entwerfen interner Berichte der häufigste, und auch hier zeigt sich das Muster übertriebener Erfolgsmeldungen. OpenAI bewertet diese Operation mit Kategorie 5. Es ist die erste Operation dieser Stufe, die das Unternehmen seit Beginn seiner Berichte gestoppt hat.

Besonders auffällig ist, wie stark beide Operationen den komplexen Einflussoperationen der Zeit vor der KI ähnelten. Die KI erleichterte einzelne Arbeitsschritte, doch die Architektur ist alt. Die iranischen Personas haben eine Familienähnlichkeit mit „Alice Donovan“, einer erfundenen Journalistin als Fassade des russischen Militärgeheimdienstes, deren Artikel 2016 und 2017 in mehreren westlichen Medien erschienen. 2020 betrieben Personen aus dem Umfeld früherer Aktivitäten der russischen Internet Research Agency ein falsches „Nachrichtenportal“ namens „PeaceData“, das ahnungslose Journalisten weltweit zum Schreiben einspannte. Die Scheinfassade ist also keine Erfindung des KI-Zeitalters. Was die KI verändert, sind die Personalkosten und die nötigen Sprachkenntnisse.

Der Bericht liefert zudem ein Muster aus den Daten. Seit Anfang 2024 hat OpenAI 30 verdeckte Einflussoperationen aufgedeckt. Es hat sie in einer Matrix nach dem wichtigsten Verbreitungsweg (soziale Medien, betriebseigene Website, externe Publikationen) und nach dem Wert auf der Breakout Scale geordnet. Operationen mit mehreren Wegen werden nach dem Weg eingeordnet, der den Kern der Operation zu bilden scheint. Das Ergebnis: Operationen, die ihre Inhalte in echten Medien unterbringen wollen, statt auf gefälschte Verbreitung in sozialen Netzwerken zu setzen, haben tendenziell die höchste potenzielle Reichweite und Wirkung. Beide neuen Fälle taten das, auch wenn nicht alle platzierten Inhalte aus OpenAI-Modellen stammten. Das erklärt, warum sie über den meisten früheren Operationen stehen, die auf sozialen Plattformen blieben.

Aus Sicht der Verteidigung verleiht die KI solchen Operationen mehr Umfang, Effizienz, sprachliche Gewandtheit und redaktionelle Fähigkeit. Die Akteure können damit arglose Opfer wie Mitarbeiter oder Redakteure ausnutzen und Inhalte vor Publikum bringen, das nicht weiß, wer dahinter steht und was ihn antreibt. Unsere Einschätzung: Redaktionen sollten die Identitätsprüfung neuer Autoren und die Hintergrundprüfung unbekannter Think Tanks als Routine behandeln, nicht als Ausnahme. OpenAI betont außerdem, dass die Verdecktheit Scheinfassaden besonders anfällig für eine verantwortungsvolle Offenlegung macht: „Alice Donovan“ und „PeaceData“ stellten ihre Tätigkeit ein, nachdem sie enttarnt worden waren. Genau das ist das Ziel dieses Berichts: weitere Forschung und Gegenmaßnahmen zu erleichtern und die Fortführung solcher Operationen zu erschweren.