OpenAI、2027年初からの半年ごとのCommunity Safety Reportを約束、過去の大規模襲撃の詳細と十代の武器関連の質問への制限を強化

2026年10月30日、OpenAIはコミュニティの安全について二つの発表を行った。一つは新しい安全報告書を公表するという約束で、もう一つは暴力に関する情報へのChatGPTの制限の強化と、十代向けの追加制限である。投稿によると、OpenAIは2026年第3四半期に200件を超える法執行機関への通報を行い、それが暴力的な計画の阻止に役立っていると説明している。この件数はOpenAI自身の数字で、内訳は示されていない。最初の報告書は2027年初めに予定され、新しい安全対策は今後数週間で順次導入される。

まず報告書である。OpenAIは、暴力の防止やその他のコミュニティの安全の問題と、安全対策の効果についての「Community Safety Report」を公表すると約束した。報告書では、システムがこうした問題を検知・調査・対応するようにどう訓練されているかを説明し、暴力に関わる被害がどう現れるかを示す匿名化した事例を載せ、新しい緩和策と方針変更を紹介し、関連するデータを含めるという。最初の号は2026年下半期を対象に2027年初めに公表され、その後は6か月ごとに更新される。投稿は見出しでCommunity Safety Report、冒頭で一度Community Safeguards Reportという名称を使っており、名称は完全には固まっていない。報告書はまだ存在しないため中身は確かめようがなく、投稿は効果を示す数値も挙げていない。

すべての利用者に対して、OpenAIは過去の大規模襲撃とその実行者に関する制限を加える。これらの分野では、詳細がほかのオンライン情報源で入手できる場合でも、ChatGPTはより詳しくない情報を返すという。強化された方針は、過去の大規模襲撃の再現、使われた武器や装備の詳細とその入手方法、そして襲撃者の悪名を高めかねない被害規模の詳しい比較を制限する。一方、人々はこうした出来事を理解すること、被害者や地域社会への影響、警告サインの見分け方や暴力の防止についてChatGPTに助けを求めることができる。この制限は、利用者の年齢や質問の理由にかかわらず適用される。

警告サインに関わる変更がさらに二つある。5月に紹介された、ChatGPTが過去の警告サインの短い事実の要約を使える機能を土台に、OpenAIは、最近の会話に暴力の可能性を示す兆候があれば、悪用されうる情報の提供にChatGPTがより慎重に応じるようになると述べている。また、利用者が18歳未満だと予測した場合にも、会話に暴力の意図が見られなくてもその厳しい制限を適用すべく取り組んでいる。会話の中で、暴力や他人に重大な危害を加えることに執着している様子が見られる場合、ChatGPTは自動的にその会話を終了できるようになるという。そのために複数の会話を終了した場合は、アカウントを一時停止することがある。投稿はこれを継続中の取り組みとし、メンタルヘルスや暴力防止の専門家と、より早い段階で自動的に介入する方法を検討していると述べている。

十代については、質問が無害に見えても武器に関する情報を制限する。既存の規則を、暴力の実行を助けるために悪用されうる武器や警備システムの実用的な情報にまで広げ、暴力の意図の兆候がなくても適用する。十代の利用者は、暴力の防止や緩和、支援を求めること、信頼できる大人とつながることには、引き続きChatGPTを使える。OpenAIは年齢予測システムを強化したとし、18歳未満の体験に誤って振り分けられた人は、提携先のPersonaを通じて成人であることを確認できると述べている。保護者機能にはすでに安全アラートがあり、専門の訓練を受けた審査担当者が深刻な自傷の懸念や摂食障害に関連しうる行動を確認したときに送られることがある。7月には、十代のアカウントが暴力に関する利用方針違反で停止された場合にもアラートが届くよう拡張された。さらに、十代のアカウントを暴力について繰り返し話したために一時停止した場合に保護者へ通知する機能を準備しているという。

これらは発表と約束であり、対策は今後数週間かけて導入される。投稿は、新しい制限がどのくらいの頻度で作動するか、年齢予測がどの程度正確か、どれだけの会話が終了されるかといった数字を示していない。読者にとって有用なのは具体的な範囲、つまり過去の大規模襲撃、十代の武器に関する質問、暴力への執着の繰り返しである。実際の試金石は、2027年初めに予定される最初の報告書になる。