OpenAI neutralise deux opérations d'influence « façade » russe et iranienne, dont une première de catégorie 5

Le 8 octobre 2026, OpenAI a publié dans sa rubrique Sécurité un rapport intitulé « Disrupting AI-enabled false front operations ». L'entreprise y indique avoir récemment banni deux opérations d'influence clandestines (IO) qui utilisaient ses modèles : l'une venue de Russie, l'autre d'Iran. Les deux partagent une conception. Chacune a bâti des entités « façade » pour blanchir des messages géopolitiques et liés aux conflits auprès de son public cible. Ce rapport s'ajoute à ceux publiés depuis deux ans et demi sur les cyberattaques, les opérations d'influence clandestines, les escroqueries et d'autres violations de la politique d'utilisation. Le but affiché : informer les régulateurs, les pairs du secteur et la société sur la façon dont les acteurs malveillants tentent d'exploiter l'IA, et mettre en lumière les failles qu'ils visent. Commençons par les faits. L'opération iranienne, surnommée « Bogus Bylines », animait sept personnages de « journalistes ». Elle s'en servait pour proposer des articles longs à de petits et moyens médias en ligne du monde entier. Outre ces articles, elle produisait des lots de commentaires sur les réseaux sociaux, surtout autour de la guerre entre les États-Unis et l'Iran, et utilisait l'IA pour rédiger des rapports internes. L'opération russe, surnommée « Dark Clark », semble avoir enrôlé à leur insu des personnes d'Amérique latine pour diriger sur place un « think tank ». En plus de contrôler ce think tank, les opérateurs ont fabriqué de faux documents « fuités » et des scripts audio, dont certains ont été repérés en circulation sur internet. Les deux opérations ont beaucoup recouru à l'IA pour rédiger des rapports internes, l'opération russe plus que pour toute autre tâche. Le rapport précise que, dans les deux cas, les acteurs ont employé des méthodes douteuses ou franchement trompeuses pour exagérer l'efficacité de leurs opérateurs.

Le fonctionnement de « Dark Clark » mérite un regard plus attentif. OpenAI a banni un groupe de comptes ChatGPT originaires de Russie. Ils servaient à des activités d'influence clandestines visant des pays d'Amérique latine. Une grande partie de l'activité semblait destinée à nuire à la réputation de l'Ukraine dans la région, et une autre à influencer des résultats politiques locaux, surtout en Argentine et en Bolivie. La plupart des opérateurs écrivaient en russe. L'un écrivait en espagnol mais semblait lui aussi se trouver en Russie. OpenAI n'autorise pas l'accès à ses modèles depuis la Russie, donc les opérateurs passaient par des VPN. Ils utilisaient ChatGPT pour trois tâches principales : rédiger des rapports internes sur leurs activités et sur celles d'autres personnes dont ils pouvaient plausiblement s'attribuer le mérite, créer du contenu pour l'opération, et préparer des rapports de performance sur une « plateforme de recherche » autoproclamée en Amérique latine, le Social Research Center (SRC). Ils semblent avoir contrôlé le SRC via un faux personnage nommé « Mia Clark », d'où le surnom de l'opération. Dans leurs rapports internes, les opérateurs affirmaient avoir diffusé de fausses histoires en Amérique latine pour nuire à l'Ukraine ou à des dirigeants locaux, et des chercheurs en sources ouvertes ont attribué certaines de ces fausses informations. OpenAI a transmis les informations sur ce cas aux autorités compétentes.

Le point le plus notable du rapport est la manière dont il cadre le rôle de l'IA. OpenAI écrit que ces opérations ressemblaient beaucoup aux opérations d'influence complexes de l'ère pré-IA, et qu'elles ont utilisé l'IA pour faciliter certains flux de travail. Les personnages iraniens présentent un air de famille avec le faux journaliste « Alice Donovan », une façade du renseignement militaire russe dont les articles ont été publiés par plusieurs médias occidentaux en 2016-2017. En 2020, des personnes liées à l'activité passée de l'Internet Research Agency russe ont dirigé un faux média d'« information », « PeaceData », qui a enrôlé à leur insu des journalistes du monde entier pour qu'ils y écrivent. La méthode est ancienne. Ce qui change, c'est le coût et la vitesse. L'IA peut offrir à ces opérations plus d'échelle, d'efficacité, de fluidité linguistique et de capacité éditoriale. Les opérateurs en profitent pour piéger des victimes qui ne se doutent de rien, comme des employés ou des rédacteurs, et placer leur contenu devant des publics qui ignorent qui est derrière et pourquoi.

L'évaluation de la portée est elle aussi inhabituelle. OpenAI utilise l'échelle IO Breakout, qui note les opérations d'influence de 1 (la plus faible) à 6 (la plus forte). Elle classe l'opération d'origine russe en catégorie 5, la première de ce niveau qu'OpenAI neutralise depuis le début de ses rapports. L'opération d'origine iranienne atteint la catégorie 4. Toutes deux ont placé du contenu, qui n'était pas entièrement généré par les modèles d'OpenAI, dans des médias grand public plutôt que de le publier seulement sur les réseaux sociaux. C'est cohérent avec ce qu'OpenAI observe sur les 30 opérations d'influence clandestines exposées en deux ans et demi : celles qui cherchent à placer du contenu dans de vrais médias, plutôt qu'à s'appuyer sur une diffusion sociale factice, ont tendance à avoir la portée et l'impact potentiels les plus élevés. Le rapport inclut une matrice de ces 30 opérations, classées selon leur mode de diffusion principal (réseaux sociaux, site géré par l'opération, publications externes) et leur score sur l'échelle Breakout.

Que faut-il en retenir pour les développeurs et les défenseurs ? Pour les développeurs d'IA et les plateformes, la détection des abus ne peut pas se limiter à savoir si un modèle a produit un texte nuisible. Les requêtes individuelles de ces opérations paraissent souvent anodines : réécrire un article, peaufiner un commentaire, résumer un document, rédiger un rapport. Le signal se trouve au niveau du compte, dans la combinaison des comportements, par exemple un même groupe de comptes produisant du contenu pour plusieurs personnages, ou un accès par VPN depuis une région où l'accès est interdit. Pour les médias et les entreprises, la défense ne consiste pas à détecter si un texte est généré par IA, car une partie du contenu ne venait même pas des modèles. Elle consiste à vérifier les auteurs, contrôler les institutions et remonter aux financements et aux personnes. Pour les décideurs publics, le rapport rappelle que le levier se trouve peut-être côté diffusion : ces opérations ont atteint les catégories 4 et 5 parce que de vrais rédacteurs et de vrais médias ont publié leur matériel.

Le rapport avance aussi un argument que le secteur doit prendre au sérieux. Comme les opérations « façade » dépendent de la dissimulation, elles sont particulièrement vulnérables à une divulgation responsable. « Alice Donovan » et « PeaceData » ont cessé leur activité une fois exposés. OpenAI explique que son objectif est de faciliter les recherches et les actions ultérieures, et de rendre la poursuite de ces opérations plus difficile. La transparence devient ainsi un outil défensif concret plutôt qu'une posture de communication. Plusieurs défis demeurent. D'abord, l'usage de l'IA dans ces opérations va probablement s'approfondir, mais le cœur reste l'organisation humaine et l'infiltration d'institutions réelles : le blocage côté modèle ne suffit pas. Ensuite, les classements et attributions reposent sur la visibilité propre d'OpenAI. Ils couvrent les activités utilisant ses modèles, pas les opérations similaires sur d'autres modèles ou outils. Enfin, la difficulté tient à la coordination avec les médias et les plateformes. Les petits et moyens médias en ligne manquent souvent de moyens pour vérifier leurs contributeurs externes, et c'est précisément ce que visait l'opération iranienne. On peut s'attendre à ce que le partage de renseignements sur les menaces, la vérification d'identité des auteurs et la transparence des institutions deviennent des préoccupations communes aux équipes de sécurité de l'IA et à l'écosystème médiatique.