OpenAI neutralise deux opérations de « façade fictive », dont sa première opération d’influence de catégorie 5

Le 8 octobre 2026, OpenAI a publié sa dernière divulgation sur les menaces. L’entreprise y annonce avoir banni deux opérations d’influence clandestines qui utilisaient ses modèles pour soutenir des entités de « façade fictive » : l’une venue de Russie, baptisée « Dark Clark », l’autre venue d’Iran, baptisée « Bogus Bylines ». Une façade fictive est une entité qui cache l’identité de celui qui parle vraiment. Les opérateurs créent ou empruntent des journalistes, des think tanks ou des médias d’apparence indépendante, et s’en servent pour blanchir des messages géopolitiques et liés aux conflits auprès d’un public cible. OpenAI rappelle qu’elle rend compte des acteurs malveillants depuis deux ans et demi : cyberattaques, opérations d’influence clandestines, escroqueries et autres violations de ses politiques d’utilisation. Le but affiché est d’informer les régulateurs, les acteurs du secteur et le grand public sur la manière dont ces acteurs tentent d’exploiter l’IA, et sur les failles qu’ils visent.

Commençons par l’opération iranienne. « Bogus Bylines » entretenait une écurie de sept personnages de « journalistes » et s’en servait pour proposer des articles longs à des médias en ligne de taille petite ou moyenne, partout dans le monde. Le rédacteur qui recevait une telle proposition voyait un pigiste, pas une opération liée à un État. L’opération ne se limitait pas aux articles. Elle produisait aussi des lots de commentaires pour les réseaux sociaux, le plus souvent sur des sujets liés à la guerre entre les États-Unis et l’Iran. Elle recourait de plus à l’IA pour rédiger des rapports internes, et employait des méthodes douteuses, voire franchement trompeuses, pour exagérer l’efficacité de ses opérateurs. OpenAI la classe en catégorie 4 sur l’échelle IO Breakout : son contenu a donc quitté le cercle de l’opération pour atteindre de vrais publics.

Passons à l’opération russe. « Dark Clark » visait l’Amérique latine. D’après OpenAI, elle semble avoir recruté à leur insu des personnes de la région pour faire tourner un « think tank » sur le terrain. Outre le contrôle de ce think tank, les opérateurs ont fabriqué de faux documents « fuités » et des scripts audio, dont OpenAI a identifié une partie en circulation sur Internet. De tous les usages de l’IA, la rédaction de rapports internes était le plus fréquent, avec la même tendance à gonfler les résultats. OpenAI classe cette opération en catégorie 5. C’est la première de ce niveau qu’elle neutralise depuis qu’elle publie ses rapports.

Le point le plus frappant est la ressemblance étroite des deux opérations avec les opérations d’influence complexes d’avant l’IA. L’IA a facilité certains flux de travail, mais l’architecture est ancienne. Les personnages iraniens ont un air de famille avec « Alice Donovan », fausse journaliste servant de façade au renseignement militaire russe, dont les articles ont paru dans divers médias occidentaux en 2016 et 2017. En 2020, des personnes liées à d’anciennes activités de l’Internet Research Agency russe ont géré un faux média d’« information », « PeaceData », qui enrôlait à leur insu des journalistes du monde entier pour qu’ils y écrivent. La façade fictive n’est donc pas une invention de l’ère de l’IA. Ce que l’IA change, c’est le coût en personnel et en compétences linguistiques.

Le rapport dégage aussi une régularité tirée des données. Depuis début 2024, OpenAI a exposé 30 opérations d’influence clandestines. Elle les a classées dans une matrice selon le mode de diffusion principal (réseaux sociaux, site géré par l’opération, publications externes) et selon le score sur l’échelle Breakout. Les opérations employant plusieurs modes sont rangées selon celui qui semble en constituer le cœur. La conclusion est que les opérations qui cherchent à placer leur contenu dans de vrais médias, plutôt que de s’appuyer sur une fausse diffusion sociale, ont tendance à avoir la portée et l’impact potentiels les plus élevés. Les deux nouveaux cas y sont parvenus, même si tout le contenu placé n’a pas été produit par les modèles d’OpenAI. Cela explique leur rang supérieur à celui de la plupart des opérations antérieures, restées sur les plateformes sociales.

Sur le plan défensif, l’IA donne à ces opérations plus d’échelle, d’efficacité, d’aisance linguistique et de capacité éditoriale. Les opérateurs peuvent en profiter pour exploiter des victimes sans méfiance, comme des employés ou des rédacteurs, et placer leur contenu devant des lecteurs qui ignorent qui se cache derrière et pourquoi. Notre lecture : les rédactions devraient traiter la vérification d’identité des nouveaux contributeurs, et l’examen des think tanks inconnus, comme un travail courant et non comme une exception. OpenAI souligne aussi que le caractère clandestin des façades fictives les rend particulièrement vulnérables à une divulgation responsable : « Alice Donovan » comme « PeaceData » ont cessé leur activité une fois exposées. Tel est l’objectif de ce rapport : faciliter la recherche et la neutralisation, et rendre la poursuite de ces opérations plus difficile.