OpenAI、Astraと同じ重みのGPT-Rosalind-6を審査済み生命科学研究者へ提供

OpenAIは10月30日、GPT-Rosalind-6のシステムカード補遺を公開した。11月1日は本サイトの掲載日であり、原発表の日付とは区別する。同社は生命科学の適格な研究者向けに、審査を伴う信頼ベースのアクセスで研究版を提供する。モデルの重みはGPT-6 Astraと同じで、今回のための追加学習データや追加の後学習はないという。新たな重みを学習したという話ではなく、研究用途、利用資格、振る舞いの境界と導入管理が焦点となる。

対象分野は生物学、創薬、トランスレーショナル医療である。OpenAIは、一般向けAstraよりも一部の両用可能な生物学上の問いに対する拒否を減らし、正当な高度研究を支援すると説明する。一方で、生物兵器化を実質的に助ける依頼は引き続き拒否し、他の安全領域の拒否も残すという。拒否が減ることを無制限の支援と読み替えてはならない。通常のChatGPTで誰でも使えるという発表でもない。

能力の区分は分野ごとに異なる。OpenAIのPreparedness Frameworkでは、生物・化学能力をHighとし、Criticalの閾値より下に位置づける。サイバーセキュリティは親モデルAstraの評価を用い、Criticalとして扱う。AI自己改善はHigh未満である。同じ重みを使っても、分野別のリスク評価と運用上の制限が同じとは限らない。モデル自体の能力、モデルによる拒否、外側に設けるアクセス制御を分けて読む必要がある。

補遺の生物学評価は、Highに関する四つとCriticalに関する四つの試験を使う。前者は実験知識や問題解決、後者は重大な生物学的脅威につながり得る設計能力の一部を見る。OpenAI自身、これらは特定の能力の証拠であり、現実の危害を起こす可能性を網羅した試験ではないと記す。Criticalの閾値は専門家の判断に基づく暫定推定で、今後変わり得る。採点基準も更新されるため、古いカードと新しいカードの数値を無条件に横並びにできない。

利用前の審査は形式だけではない。非政府の申請者には事業者確認とコンプライアンス審査があり、用途と安全管理も評価される。政府向けには承認されたバイオセキュリティや公衆衛生準備などの別経路がある。承認された企業は正当な必要を持つ利用者だけに権限を与え、最小権限、導入時教育、内部リスク対策を実施する。実験、出版、重要な意思決定へ出力を用いる前には、資格ある人による審査が要求される。モデルへのアクセスとデータ保持条件は別々に承認される。

安全策は、確認済みの利用者へのアクセス、危険な生物・サイバー支援へのモデル上の境界、監視と措置、追加の契約条件から成る。OpenAIはAstraのリアルタイムのサイバー遮断も維持し、悪用には権限の制限や取消しを行えると述べる。個々の試験点数は、すべての悪用を現場で防げる確率ではない。今回の文書は選ばれた試験の結果と運用設計を示すが、臨床的有効性や創薬の成功を独立に証明しない。

研究組織にとって重要なのは、利用資格、権限の管理、専門家による出力審査、記録とデータ条件を具体的に確認することだ。数値を引用する際は表の分母や失敗した評価試行の扱いを確認し、Astraの親カードも合わせて読むべきである。本サイトは保存したOpenAIの一次資料に基づいて報じており、モデル能力や安全性を独自に再試験したものではない。