OpenAIとAnthropicが英国議会で「我々を規制してほしい」、Google DeepMindとMetaは新法を支持せず
10月13日の英国議会の公聴会で、Anthropicは規則は「拘束力を持つべきだ」と述べ、OpenAIは法定の枠組みと国際条約を支持し、まず事故報告の義務化から始めるよう求めた。Google DeepMindは標準の重視を述べるにとどまり、Metaは既存の規制当局を挙げた。官僚も、英国のフロンティアモデルの安全試験は企業の協力に完全に依存していると認めた。
10月13日、英国議会のビジネス・イノベーション・科学・貿易委員会が証拠聴取の公聴会を開きました。WIREDによると、OpenAIとAnthropicの代表は議員に対し、自主的な約束はもはや安全の確保に十分ではなく、新しい法律を作るべきだと述べました。Google DeepMindとMetaはどちらも新しい立法の支持を拒んだため、この対立が英国議会の公式記録に残ることになりました。出席したのは、フロンティアAI企業4社、これらの企業で働いたあと内部告発者になった元社員4人、英国政府の幹部官僚です。委員長のLiam Byrne氏は会合の後WIREDに、目的は「世界で最も裕福な企業のいくつかの間にある大きな意見の違いを明るみに出す」ことであり、「自主規制には頼れない」ことを示すことだったと述べました。
4社の立場は明確でした。Anthropicの欧州責任者Liam Booth-Smith氏は「規則は拘束力を持つべきだ」と述べ、同社は一貫して企業に拘束力のある規則が必要だと考えており、自主的な約束では足りないと説明しました。OpenAIのTom Duff Gordon副社長はより慎重でしたが、やはり法定の枠組みと国際条約を支持しました。「義務にすべき要素がある」として事故報告から始めるよう求め、「フロンティアのリスクをすべて自主的な約束に基づかせるのは、長期的に良い計画ではないと考える」と述べました。法定の枠組みを支持するかと直接問われたGoogle DeepMindのOwen Larter氏は、「我々が重視するのは標準です」とだけ答えました。MetaのRob Sherman氏は、英国には既存の規制当局がすでにあり、「白紙に書くわけではない」と議員に述べました。同じ日、英国の情報機関MI5のKen McCallum長官は年次の脅威報告で、AIが生物兵器のリスクを変えうると警告し、これを「最も重く見る悪用の場面」と呼びました。
公聴会の最後の部分では、現行制度がどれほど緩いかが示されました。英国のAI安全研究所は公開前にフロンティアモデルを試験しますが、企業が提供したときだけです。所長のHenry de Zoete氏は、研究所は企業と外国政府の協力に完全に頼っており、危険すぎると判断したモデルを企業が公開しても止められないと認めました。「我々がやっているのは認証マークの付与ではない。どのモデルにも可とも不可とも言わない」と述べ、最前線の開発企業は米国か中国の企業なので、英国にできることには限りがあるとも付け加えました。内閣府の最高位の官僚Cat Little氏は、制度全体が自主的なのかと問われ、「今のところ、そうです」と答えました。アクセスはワシントンを経由します。OpenAIのDuff Gordon氏は、公開前にモデルを米国のCAISIと英国のAISIに渡しており、「米国政府の下でそれができる限り続ける」と述べました。AnthropicのBooth-Smith氏は、当初Mythos 5.1への完全で無制限のアクセスを英国AISIに提供できなかったことを認め、「それは米国政府に尋ねるべきことだ」としたうえで、現在はAISIがアクセスできると付け加えました。
元研究所員4人の証言はさらに率直でした。元OpenAIのDaniel Kokotajlo氏は、企業が自主規制を任せられるとは思わないと述べました。2024年末にOpenAIを離れたSteven Adler氏は、業界全体の安全文化に確信が持てないと述べました。Geoffrey Irving氏は、各社は政府が止めることのない、自分たちも抜けられない競争にいると信じているが、「どちらも誤りだ。彼らはただ止まればよい」と述べました。公聴会の後、Byrne氏は、委員会は今後、AIにおける「中堅国」としての英国の進路の検討に多くの時間を割くと述べました。彼は閣僚に、英国が次に務めるG20議長国の立場（その次の議長国は韓国）を使い、現在のホワイトハウスに依存しない国際条約をまとめるよう求めています。「G20議長国の任期は、米国のトランプ大統領の任期より長く続く」と述べ、「リスクは、私たちの安全体制が制御できる速さより速く増えている」と語りました。
読む際の注意が二つあります。一つ目は、これは公聴会であって法律ではないことです。法案が通ったわけではなく、企業が行動を変えると約束したわけでもありません。出席者は立場を述べただけです。二つ目は、拘束力のある規則を求める企業も、フロンティアモデルの開発と公開を続けていることです。規制を求めることは、速度を落とすことを意味しません。批判する人は、こうした呼びかけが自社に有利な規則づくりに使われないかと問います。WIREDの記事はそれには答えていませんが、各社自身の言葉を記録に残しており、今後の立法の議論にとって価値があります。
Sources
FAQ
公聴会で4社はそれぞれどんな立場を示しましたか。
Anthropicの欧州責任者Liam Booth-Smith氏は「規則は拘束力を持つべきだ」と述べ、自主的な約束では足りないとしました。OpenAIのTom Duff Gordon副社長は慎重ながら法定の枠組みと国際条約を支持し、「義務にすべき要素がある」として事故報告から始めるよう求めました。Google DeepMindのOwen Larter氏は直接問われて「我々が重視するのは標準です」と述べるにとどまりました。MetaのRob Sherman氏は、英国は「白紙に書くわけではない」と述べ、既存の規制当局を挙げました。
英国の現行の安全試験の仕組みには、どんな弱点がありますか。
官僚は、英国のAI安全研究所（AISI）が公開前にフロンティアモデルを試験できるのは、企業が提供したときだけだと認めました。所長のHenry de Zoete氏は、研究所が企業と外国政府の協力に完全に頼っており、危険すぎると判断したモデルの公開を止める力もないと述べました。「我々がやっているのは認証マークの付与ではない。どのモデルにも可とも不可とも言わない」とのことです。内閣府のCat Little氏は、全体が自主的なのかと問われて「今のところ、そうです」と答えました。
他に注目すべき発言はありますか。
元研究所員4人も証言しました。元OpenAIのDaniel Kokotajlo氏は、企業が自主規制を任せられるとは思わないと述べました。2024年末にOpenAIを離れたSteven Adler氏は、業界全体の安全文化に確信が持てないと述べました。Geoffrey Irving氏は、各社が政府に止められず自分たちも抜けられない競争にいると信じているが、「どちらも誤りで、彼らはただ止まればよい」と述べました。委員長のLiam Byrne氏は、英国が次のG20議長国の立場を使い、現在のホワイトハウスに依存しない国際条約をまとめることを望んでいます。