OpenAI、数学とAIの諮問グループを設立

OpenAIは、ニュージャージー州プリンストンの高等研究所(Institute for Advanced Study, IAS)を拠点とする独立した「数学と人工知能に関する諮問グループ」と連携すると発表した。このグループの役割は、AIが数学分野で生み出す新たな成果の評価と発表を支援することであり、OpenAIと数学コミュニティおよび広く一般社会との橋渡し役を担う。これにより、OpenAIが数学関連のAIに関する主張をどう進めるかについて、数学者たちが発言権を持つことになる。

具体的には、諮問グループは次の三点について助言を行う。新たに登場した成果の重要性の評価、それらの成果の発表の調整、そして数学研究にふさわしい学術的・専門的水準の維持である。初期メンバーには、ENS-PSLのフランソワ・シャルル(François Charles)、IASのカミロ・デ・レリス(Camillo De Lellis)、コレージュ・ド・フランス及びケンブリッジ大学のティモシー・ガワーズ(Timothy Gowers)、EPFL及びインペリアル・カレッジ・ロンドンのマーティン・ハイラー(Martin Hairer)、バークレー校のニキル・スリヴァスタヴァ(Nikhil Srivastava)、オックスフォード大学のウルリケ・ティルマン(Ulrike Tillmann)、スタンフォード大学のラヴィ・ヴァキル(Ravi Vakil)、IASのエドワード・ウィッテン(Edward Witten)、ハーバード大学のメラニー・マチェット・ウッド(Melanie Matchett Wood)が名を連ねる。

なぜ外部の数学者による監視が必要なのか

この取り組みの背後には、数学分野特有の検証問題がある。AIシステムがある有名な未解決問題を解いたと主張したとしても、その主張はベンチマークのスコアのように自明に真偽が定まるものではない。真の数学的証明は通常、その特定分野の専門家による行単位の精査を必要とし、数週間から数か月かかることもある。研究成果を発表したいという最も強い動機を持つ当事者自身が、その成果の真偽を判定する立場に立つのは望ましくない。OpenAIの組織から独立した9人の外部数学者にこの判断を委ねることは、審判の役割を、実際に基準が問われるコミュニティ自身へと戻すことを意味する。

無報酬でありながら独立しているという構造は、単なる後付けではなく、意図的な設計上の選択である。有償の諮問委員会であれば、報酬を支払う企業への財政的な依存関係が(たとえ間接的であっても)生じ、批判者はその判断を「買われたもの」として割り引いて見ることができてしまう。これに対し、本グループのメンバーは明示的に無報酬でありながら、求められていない助言を行う権利、公に異論を唱える権利、そして自らメンバー構成を決定する権利を保持している。金銭的な縛りがない一方で正式な諮問経路が存在するという組み合わせこそが、このグループの承認や異議申し立てに実質的な重みを与えている。ただし、OpenAI自身が明示している通り、この独立性は研究プログラムそのものを遅らせたり方向転換させたりする権限には及ばない。グループが助言するのはあくまで評価と発表の在り方であり、OpenAIが何に取り組むかではない。

フィールズ賞受賞者の公開書簡が示したもの

今回の発足は、25人のフィールズ賞受賞者が連名で発表した公開書簡を受けたものだ。この書簡は、AI研究所が十分な検証や査読を経ないまま、著名な数学問題の解決を急いで発表していると批判していた。この書簡は、二つの文化の間の実際の緊張関係を浮き彫りにした。AI研究所は数週間単位のリリースサイクルで動き、最初に発表することに報酬を与える一方、純粋数学は数世紀にわたる規範のもとで動いており、証明はコミュニティが検証するまでは証明とは見なされない。後で撤回が必要になる派手な主張は、研究所にとっては体面上の損失で済むかもしれないが、専門家の膨大な精読時間を無駄にし、その企業による以降の発表全てへの信頼を損なう恐れがある。

今回の発表の中で、今後最も具体的な影響を持つのが「発表の調整」に関する助言だろう。これは、OpenAIが特定の数学問題の解決や進展について今後主張を行う際、公表前にグループメンバーによる何らかの審査を経る可能性が高いことを示唆している。すべての数学関連ブログ投稿について事前審査が行われるのか、それとも最大級の主張に限られるのかは、これまでOpenAIが公表した内容からは明らかではない。しかし方向性ははっきりしている。今後は、OpenAIの広報チームだけでなく、数学者たちがこうした発表の時期や表現の仕方に関与することになる。