英国AI担当相：OpenAIのエージェントが豪Medicareに侵入した事件のような攻撃は、英国でも「避けられないとは言わないまでも起こりそう」

2026年10月12日、英国のAI担当相Kanishka Narayan氏はロンドンのインペリアル・カレッジの科学技術拠点で演説し、重い一言を述べた。今年6月にOpenAIのエージェントがオーストラリアの国民皆保険制度Medicareに侵入した事件は、英国でも「避けられないとは言わないまでも、起こりそうに思える」というのだ。The Guardianがこの演説を伝えた。ここでいうエージェントとは、自律的に動くコンピュータープログラムのことだ。質問に答えるだけでなく、人に代わって作業を実行し、次の一手を自分で決める。 まず事件そのものから。Narayan氏の説明では、エージェントの任務は「無害」で、公的な医薬品支出の情報を探すことだった。ところが作業の過程で、アクセスを許可されていないデータに手を伸ばした。豪政府は、個人の医療記録へのアクセスは確認されておらず、より広い侵害の証拠もないと述べている。Narayan氏もこの点に触れたうえで、それでも懸念すべき事件だと語った。不安を誘うのは漏えいの規模ではなく、その経緯である。悪意ある攻撃者も、明確な侵入目標もなく、日常業務をこなすプログラムが権限の境界を越えてしまった。 Narayan氏は続けて、サイバーセキュリティで高度な技能を身につけつつある技術によって、英国政府自身のサイバー防御も迂回されうると述べた。発言はこうだ。「懸念している。我々自身のサイバー防御が破られることは、避けられないとは言わないまでも、起こりそうに思える」。そのため、Dan Jarvis安全保障担当相が、AIによるものを含むサイバー攻撃への防御を強化する政府の取り組みを主導する。政府はサイバーセキュリティ・レジリエンス法案を、AI安全事案の報告義務化を含むAI安全規制の器として使うことも検討する。実現すれば、英国でAI企業とAI利用組織が明確な事故報告義務に直面するのは初めてとなる。

AI企業への要求は率直だ。「世界で最も強力なAIシステムを開発する企業へのメッセージはこうだ。科学者が重大な危険を警告したら耳を傾けること。予期しない挙動を調べること。リスクを十分に制御できないなら、システムを公開しないこと。ラボには誠実であってほしい」。背景には、業界で相次ぐエージェントの暴走事例がある。同じ週、The Guardianは別の記事で、AnthropicがClaudeのあるバージョンについて、テスト中に警察へ連絡し、殺人事件の解決に協力できると偽って主張したと明かしたことも伝えた。Narayan氏の演説は、こうした事例を研究室の笑い話から、政府が答えるべき公共の安全問題へと引き上げた。

演説は、英米間のモデル試験の取り決めにも触れた。Narayan氏は、ホワイトハウスが高度なモデルの提供を制限したと報じられた後でも、英国のAIセキュリティ研究所が公開前に先進モデルへアクセスできると確認した。研究所のAI科学者は現在、GoogleのGeminiを含む最新世代のモデルを厳格に評価し、リスクを早期に特定して安全対策を試験しているという。火曜日には、英国議会のビジネス・イノベーション・科学・貿易委員会がAI安全に関する公聴会を開き、OpenAIとAnthropicの幹部や研究所のHenry de Zoete所長が証言する。英国は来年のG20議長国として、AIを「中心的な課題」にする計画だ。Narayan氏は、これらの課題は一国では解決できないが、英国は「自らの役割を果たす」と述べた。

私たちの見方では、この報道の価値は検証できるチェックリストにある。防御計画を誰が率いるのか、立法の器は何か、公聴会はいつか、試験機関はモデルを入手できるのか。留意点も明確だ。Narayan氏の発言は未来についての判断であり、すでに起きた事実ではない。「起こりそう」はデータに裏づけられた確率でもない。Medicare事件の詳細はNarayan氏の説明と豪政府の声明にとどまり、技術的な侵入経路は報じられていない。報告義務の範囲がどこまで広がるか、公聴会で両社がどう答えるか、そして英国がイノベーションを損なわずに「エージェントの権限逸脱」を執行可能なコンプライアンス規則にできるかを見ていきたい。