OpenAI 承诺自 2027 年初起每半年发布社区安全报告，并收紧 ChatGPT 对过往大规模袭击细节和青少年武器问题的限制

2026 年 10 月 30 日，OpenAI 就社区安全发布了两项公告：一是承诺发布一份新的安全报告，二是收紧 ChatGPT 对暴力相关信息的限制，并对青少年设置额外限制。文章称，OpenAI 在 2026 年第三季度向执法部门作出了 200 多次通报，并说这些通报有助于阻止暴力计划；这个数字是 OpenAI 自己给出的，文章没有提供细分。首份报告预计在 2027 年初发布，新的安全措施将在未来几周内陆续推出。

先说报告。OpenAI 承诺发布《社区安全报告》（Community Safety Report），内容涵盖暴力预防及其他社区安全问题，以及安全措施的实际效果。它说，报告将解释其系统如何被训练去发现、调查并应对这类问题，附上经过匿名处理的案例，说明与暴力相关的伤害是如何出现的，介绍新的缓解措施和政策调整，并提供相关数据。首期报告涵盖 2026 年下半年，预计 2027 年初发布，此后每六个月更新一次。文章的标题使用“Community Safety Report”，开头段落里则出现过一次“Community Safeguards Report”，所以名称并未完全固定。报告现在还不存在，其中的内容无从核对，文章也没有给出任何效果数字。

对所有用户，OpenAI 增加了对过往大规模袭击及其实施者的限制。它说，在这些领域，即使其他网上来源能查到细节，ChatGPT 也会提供更少的细节。收紧后的政策限制重现过往大规模袭击的经过，包括所用武器和装备的细节、它们如何获得，也限制对伤害规模的详细比较，因为这类比较可能抬高袭击者的恶名。人们仍然可以请 ChatGPT 帮助理解这些事件、受害者和社区受到的影响，以及如何识别警示信号、预防暴力。这些限制不看用户年龄，也不看提问理由。

另有两项变化与警示信号有关。5 月分享过一项功能：ChatGPT 可以使用对先前警示信号的简短事实摘要。在此基础上，OpenAI 表示，当近期对话显示可能出现暴力的迹象时，ChatGPT 在提供可能被滥用的信息时会更保守。它还在努力，在预测用户未满 18 岁时也套用这些更严格的限制，即使对话中没有暴力意图。当对话显示某人执着于暴力，或执着于严重伤害他人的想法时，OpenAI 说 ChatGPT 将能够自动结束这次对话；如果因此类原因多次结束对话，账号可能被暂时停用。文章称这仍在持续推进，并说 OpenAI 正与心理健康和暴力预防专家合作，探索更早的自动干预方式。

对青少年，OpenAI 增加了对武器相关信息的限制，即使问题看起来无害也一样。它把现有规则延伸到可能被用来协助暴力的、关于武器和安保系统的实用信息，哪怕没有任何暴力意图的迹象。青少年仍可以用 ChatGPT 帮助预防和缓和暴力、寻求支持，以及联系值得信任的成年人。OpenAI 说，它加强了年龄预测系统，被误判进未满 18 岁体验的用户，可以通过合作方 Persona 确认成年。家长控制已包含安全提醒：受过专门训练的审核人员发现严重的自伤隐患，或可能与饮食失调有关的行为时，可能发出提醒；7 月，这类提醒扩展到青少年账号因违反暴力政策而被停用的情形。OpenAI 说，它正在制定当青少年账号因反复谈论暴力而被暂停时通知家长的功能。

文章也保留了可以继续讨论的内容边界。用户仍可询问历史事件对受害者和社区的影响，或如何识别警示信号和预防暴力；被收紧的是可能帮助重现攻击或抬高实施者恶名的具体细节。对青少年的额外限制还覆盖某些看似无害的武器或安保系统实用问题，但预防与求助用途并未被整体禁止。OpenAI 将这些变化描述为分阶段上线，因此今天不能把所有承诺当作已在每个账号上生效。

这些都是公告和承诺，相关措施将在未来几周内分步推出。文章没有给出新限制多久触发一次、年龄预测有多准、会有多少对话被结束等数字。对读者来说，有用的是具体范围：过往大规模袭击、青少年的武器问题，以及对暴力的反复执着。真正的检验，是 2027 年初的首份报告。