OpenAI、ロシアとイランの「偽装フロント」型影響工作を遮断：初のカテゴリー5を確認

2026年10月8日、OpenAIは安全性セクションで「Disrupting AI-enabled “false front” operations」と題する報告を公開した。内容は、自社モデルを使った秘密裏の影響工作（IO）を2件遮断したというものだ。1件はロシア起源、もう1件はイラン起源である。両者に共通するのは、「偽装フロント」と呼ぶ組織を作り、地政学や紛争に関するメッセージをその組織経由で洗浄し、標的の読者へ届けた点である。OpenAIはこの2年半、サイバー攻撃、秘密裏の影響工作、詐欺、その他の利用ポリシー違反について報告を続けてきた。目的は、脅威アクターがAIをどう使おうとしているかを規制当局、業界の同業者、社会に伝え、彼らが突く脆弱性を明らかにすることだ。 まず事実関係を整理する。イランの工作は「Bogus Bylines」と呼ばれ、7人の「ジャーナリスト」人格を運用していた。これらを使い、世界各地の中小オンラインメディアへ長文記事を売り込んだ。長文記事に加え、主に米イラン戦争に関する話題のSNSコメントを大量に生成し、内部報告書の下書きにもAIを使った。ロシアの工作は「Dark Clark」と呼ばれ、中南米の無自覚な人々を取り込み、現地で「シンクタンク」を運営させたとみられる。このシンクタンクを管理するだけでなく、偽の「流出」文書や音声用の台本も作り、その一部が実際にネット上で拡散されているのをOpenAIは確認した。両工作とも内部報告書の作成にAIを多用し、ロシア側ではそれが最も多い用途だった。報告書は、両者とも運営者の成果を誇張するために疑わしい、あるいは明らかに欺瞞的な手法を使ったとも述べている。

「Dark Clark」の運用を詳しく見る。OpenAIはロシア発のChatGPTアカウント群を停止した。これらは中南米諸国を狙った秘密裏の影響工作に使われた。活動の多くは地域でのウクライナの評判を損なうことを狙い、一部はアルゼンチンとボリビアを中心に現地の政治的結果への影響を狙っていたようだ。操作者の大半はロシア語で入力し、1人はスペイン語で入力したが、やはりロシアにいたとみられる。OpenAIはロシアからのモデル利用を認めていないため、彼らはVPNで接続した。ChatGPTの用途は主に3つある。自分たちの活動と、もっともらしく成果を主張できる他者の活動に関する内部報告書の作成。工作用コンテンツの作成。中南米の「研究プラットフォーム」を自称するSocial Research Center（SRC）の成果報告の下書き。彼らは架空の人物「Mia Clark」を通じてSRCを管理していたようで、OpenAIはそれにちなみ「Dark Clark」と名付けた。内部報告書で運営者は、ウクライナや現地の指導者を貶めるために中南米で偽の話を広めたと主張し、その一部はオープンソースの調査者によって帰属が示されている。OpenAIはこの件の情報を関係当局と共有した。

報告書で最も注目すべきは、AIの役割をどう位置づけたかだ。OpenAIは、これらの工作はAI以前の複雑な影響工作によく似ており、AIは一部の作業を楽にしたに過ぎないと述べる。イランの記者人格は、2016年から2017年に西側の複数メディアに記事が載った架空の記者「Alice Donovan」と似ている。後者はロシア軍の情報機関のフロントだった。2020年には、ロシアのインターネット・リサーチ・エージェンシーの過去の活動に関わった人物らが、偽の「ニュース」媒体「PeaceData」を運営し、世界各地の無自覚な記者に記事を書かせた。つまり手口は古い。変わったのはコストと速度である。AIは規模、効率、言語の流暢さ、編集能力を高める。運営者はそれを使って従業員や編集者のような無自覚な被害者を欺き、誰が背後にいて何が動機かを知らない読者へ内容を届けられる。 到達範囲の評価でも、この2件は異例だ。OpenAIはIO Breakout Scaleを用いる。これは影響工作を1（最低）から6（最高）で評価する尺度である。ロシア起源の工作はカテゴリー5と評価され、報告を始めて以来、OpenAIが遮断した初のカテゴリー5だ。イラン起源の工作はカテゴリー4に達した。どちらも、OpenAIのモデルで生成したとは限らない内容を、SNSへの投稿にとどまらず主流メディアに載せることに成功した。これは、過去2年半に明らかにした30件の秘密裏の影響工作に見られる傾向と一致する。偽のSNS拡散に頼らず実在メディアへの掲載を狙う工作は、潜在的な到達範囲と影響が最も大きい。報告書には30件を主な配布方法（SNS、工作側のウェブサイト、外部の出版物）とBreakout Scaleのスコアで分類した表も載る。複数の方法を使った工作は、中核とみられる方法で分類される。

開発者と防御側への示唆は何か。AI開発者とプラットフォームにとって、不正利用の検知は「モデルが有害な文章を出したか」だけでは足りない。これらの工作の個々のリクエストは無害に見えることが多い。記事の書き換え、コメントの推敲、資料の要約、報告書の下書きなどだ。手がかりはアカウント単位の振る舞いの組み合わせにある。たとえば、同じアカウント群が複数の人格のために内容を作り続ける、利用を認めていない地域からVPN経由で接続する、といった点だ。メディアと企業にとっての防御は、文章がAI製かどうかの判別ではない。内容の一部はモデル製ですらないからだ。著者の確認、組織の確認、資金と人員の追跡が防御の軸になる。政策立案者にとっては、配布側にテコがある可能性を示す報告だ。カテゴリー4と5に達したのは、実在の編集者と媒体が彼らの素材を掲載したからである。 報告書は、業界が真剣に受け止めるべき点も示す。偽装フロント型の工作は隠れることに依存するため、責任ある開示に特に弱い。「Alice Donovan」も「PeaceData」も、暴露後に活動を止めた。OpenAIは、これらの工作を公開する目的を、後続の研究と遮断を容易にし、工作の継続を難しくすることだと述べる。透明性が広報姿勢から実際に使える防御手段へと位置づけ直されている。 今後の課題はいくつかある。第一に、こうした工作でのAI利用は深まるだろうが、核心は人の組織化と実在機関への浸透にあり、モデル側の遮断だけでは解決しない。第二に、評価と帰属はOpenAI自身の可視範囲に依存する。同社のモデルを使った活動が対象で、他のモデルやツールでの同種の工作は含まれない。第三に、難所はメディアやプラットフォームとの連携だ。中小のオンラインメディアは外部寄稿者を検証する資源に乏しく、イランの工作はまさにそこを狙った。脅威インテリジェンスの共有、著者の身元確認、組織の透明性の要件は、AI安全の現場とメディア環境が共に向き合う課題になるだろう。