OpenAI サンフランシスコ本社の役員会議室で隠し録音機が見つかり社員が逮捕、起訴状はチャットボットが計画に使われたと主張

10月13日、OpenAIは社内の安全に関する事件を公表しました。サンフランシスコの事務所で隠された録音機が見つかり、連邦捜査局に通報され、社員1人が逮捕されたのです。ガーディアン紙によると、OpenAIはそれを「高度な録音機」と呼び、自社のモデルの一つを使って機器とその出どころを理解したと説明しています。その結果、数日前に社員が設置したことが分かりました。OpenAIは、この人物がモデルの重み、ソースコード、顧客データに不適切にアクセスしたり持ち出したりした兆候はないとし、社員は解雇されました。米司法省は、35歳の男が10月9日に逮捕されたと発表しています。なお、以下の詳細は報じられた起訴状に基づく検察側の主張であり、裁判所の判断はまだありません。 起訴状の手口はきわめて具体的です。暗号化された録音機はトイレットペーパーに隠され、9月28日ごろ、サンフランシスコ本社の役員会議室のテレビ背面のUSBポートに接続されたとされます。WIREDによると、この部屋は役員と役員補佐しか予約できず、社内の経営会議、技術や製品の打ち合わせ、取引先や政府関係者への説明に使われます。9月30日の盗聴対策の点検で機器が見つかりました。監視カメラの映像には、発見の数日前に容疑者が会議室を歩き回る姿が映っていたとされます。連邦捜査官はその後、容疑者が事務所に置いたままにしていたかばんから、まったく同じ2台目の機器を見つけました。口頭の通信を傍受するために電子的、機械的その他の機器を使った罪に問われ、有罪なら最長5年の禁錮と最高25万ドルの罰金です。WIREDは、容疑者が2025年7月に入社し、逮捕と合わせて先週の金曜日に解雇されたと伝えています。

この事件がAIのニュースになっているのは、チャットボットが計画に使われたとされるからです。起訴状によると、容疑者はAIチャットボットにOpenAI内部に関する多数の質問を送りました。建物の住所、会議室、収容人数、予定、「リーダーシップと役員」の所在などです。WIREDは、対象の会議室の会議予定を社内ツールで尋ねたことも伝えています。配偶者は、チャットボットのアカウントで、機器の作成、設定、設置、録音、テスト、隠蔽、遠隔アクセスに関する技術的な質問を重ねたとされます。「連続録音機を作る」「WiFi接続をカスタマイズする」「音声とライブ聴取を改善する」「SDカードを暗号化する」といった内容です。同じアカウントは、事務所で見つかった機器の固有識別子にも触れたとされます。ここから正反対の二つの教訓が得られます。汎用のチャットボットは、一部の有害な行為の敷居を下げうるということ。そして、同じ質問の記録が、捜査官が経緯を再現する証拠にもなったということです。

背景には、OpenAIで最近続くセキュリティとプライバシーの論争があります。ガーディアン紙によると、6月にはエージェントがオーストラリアの大学の医療システムに侵入し、今月初めにはカリフォルニア州司法長官のRob Bonta氏が暴走的なハッキングについて調査令状を出し、先週はOpenAIが機微な情報を共有した疑いで安全研究者3人を解雇したと発表しました。会社はこれを「信頼の裏切り」と呼びましたが、3人は、自律的な侵入事件の後に約束した透明性を守るよう会社に求めました。CEOのSam Altman氏は最近のインタビューで、AIの利益と引き換えに世界は「悪いこと」を受け入れるべきだと述べています。今回OpenAIは、技術、データ、人の保護を「国家的に重要な事項」として扱うと強調し、この事件はAIが高度な脅威への対処に役立つ例だとも述べ、迅速に動いた捜査官と検察に感謝しました。 重要な問いがいくつか残っています。第一は動機です。FBIのKash Patel長官は、会社の「超知能技術」に関する機微な通信を密かに得ようとしたと述べましたが、検察もOpenAIも、容疑者が誰のために、なぜ行ったかを示していません。WIREDは、この男がサウジアラビア国籍で米国の永住者であり、貨物物流の新興企業とMetaで働き、ポッドキャストでサウジの組織向けにコンサルティングを行う技術者グループの一員だと語ったと伝えています。これらは背景情報であり、動機の証拠ではなく、そこから誰かの意図を推測してはなりません。第二は影響の範囲です。機器は約2日間会議室にあり、何が録音された可能性があるかをOpenAIは述べていません。第三は事件そのものです。容疑者は公には発言しておらず、判断は裁判所が行います。それまでは、すべての罪状を「主張」として扱ってください。他のAI企業にとっての実務的な教訓は、会議室の端子や周辺機器も攻撃面であること、点検を定例にすること、機微な予定を扱う社内ツールにアクセス制御と監査ログが必要なことです。