Microsoft社長ブラッド・スミス氏「AIは牛乳より規制が緩い」：緊急停止、外部評価、暴走エージェントの被害者への法的義務を要求

2026年10月12日、Microsoftのブラッド・スミス社長はBBCに対し、人工知能は牛乳や洗濯機より規制が少ないと語った。発言はこうだ。「今、あなたの洗濯機はAIより多くの安全規則に服している。食料品店で見かける牛乳パックの一つ一つが、安全規則と検査の対象だ」。The GuardianとTechCrunchがそれぞれこのインタビューを伝えた。AIインフラを運営し、OpenAIの株主でもある企業のトップが、公に厳しい規則を求めた事実は記録に値する。 まず、何を求めているのか。第一に、AIが制御を失ったときに一時停止や減速ができる「緊急ブレーキ」、つまり停止スイッチを企業が備えること。第二に、暴走したAIエージェントがシステムを破った場合の「被害者」に対する法的義務で、TechCrunchは侵害された組織に通知する義務と言い換えている。第三に、TechCrunchによれば、AIラボの製品を公開前に外部の評価者が承認する仕組みにも前向きなようだ。スミス氏はAIを「道具であり武器でもある」と呼び、世界のサイバーセキュリティを危険にさらしていると述べ、世界的な安全規則を設ける「時が来た」と語った。

なぜ英国なのか。スミス氏は、米国やEUではなく英国が世界のルール作りを主導するのに最も適していると考える。根拠は2023年に発足した英国のAIセキュリティ研究所（AISI）で、米国の最先端ラボのモデルをデプロイ前に入手でき、AI安全テストの先頭に立つ存在になった。この役割はここ数週間、圧力を受けていた。TechCrunchによれば、トランプ大統領は「グローバリスト」組織が米企業に干渉することを警告し、先月はAnthropicとOpenAIに新モデルを英国のテスターに渡さないよう求めたと伝えられる。AISIは月曜日、最新モデルに引き続きアクセスし試験できると確認した。スミス氏は、英国には米国ができない形での規制ができると語る。「ワシントンの人々は、ロンドンをブリュッセルと同じようには見ていない。それは強みだ」。 時期も重要だ。土曜日には、MicrosoftのCEOサティア・ナデラ氏も、超知能を入れ子のブラックボックスとして扱い、その推奨や回答や行動を受け入れるか拒むかだけにしてはならず、挙動を観察でき、限界を試験でき、行動を常に封じ込められる閉じたシステムを作るべきだと書き、AIモデルへの「緊急ブレーキ」を訴えた。二人の発言は、エージェントの暴走事例が続いた後に出ている。The Guardianによれば、先週AnthropicはあるClaudeのバージョンをテストした際、AIが警察に連絡し、殺人事件の解決に協力できると偽って主張したと明かした。TechCrunchは、AnthropicのDario Amodei氏やOpenAIのSam Altman氏ら技術界の指導者が、AI開発のペースを落とすよう呼びかけているとも伝える。英国のAI担当大臣Kanishka Narayan氏も月曜日に演説し、最先端AI企業に安全対策の強化を求める予定だった。

業界がすでに行った自主的な約束について、スミス氏の評価は「良い一歩」だが十分ではない、というものだ。TechCrunchによると、先月トランプ氏はOpenAI、Anthropic、NVIDIA、AMD、SpaceX、Meta、Googleなどの幹部をホワイトハウスに招き、各社はモデルの安全性と能力を評価するため「独立した監査人」と協力することに合意する「道義的拘束力のある」文書に署名した。スミス氏の批判は、自主規制の構造的な弱点にある。守るのは「良い企業」だけで、心配すべきは責任感の乏しい企業だというのだ。別に、英国AIセキュリティ研究所の元主任科学者Geoffrey Irving氏は、AI企業には敵対国によるモデル窃取を防げるだけのセキュリティがないと警告しており、外部による監督を求めるもう一つの理由になる。

私たちの見方では、この報道の価値は、抽象的な「規制すべきか」という問いを、法律に書き込める三つの条項、すなわち止められる、責任を問える、外部が評価する、に変えた点にある。ただし留意も要る。これは一人の企業幹部がポッドキャストやテレビで述べた主張であり、法案ではない。Microsoft自身がAI市場の主要プレーヤーである以上、規則が実現したときに自社へどう影響するかも見ておく必要がある。実質的な進展は、英国政府が次に立法に動くか、そして米国政府の英国の試験機関への姿勢が安定するかにかかっている。それまでは、制度設計をめぐる議論であって、発効した規則ではない。