Sam Altman 在聯合國安理會呼籲 AI 安全

美国东部时间2026年9月23日，OpenAI 首席执行官 Sam Altman 应邀在联合国安理会就人工智能对国际和平与安全的影响发表讲话。这是安理会首次听取来自 AI 产业界的正式证言，也是 OpenAI 继参与白宫自愿承诺、国会听证之后，首次将 AI 安全议题直接推至全球最高安全决策平台。Altman 在发言中明确警告，未来数年可能出现具备自我改进能力的通用人工智能系统，其失控或被恶意利用的后果将不亚于大规模杀伤性武器扩散。他呼吁联合国会员国立即着手建立具有核查权限的国际机构，对超过一定算力阈值的 AI 模型进行强制性安全评估，并要求开发者保留人类对关键决策的最终控制权。Altman 同时宣布 OpenAI 将向联合国提供技术资源，协助制定模型审计标准和风险分类框架。这一表态距离 OpenAI 发布 GPT-5 仅四个月，距离欧盟《人工智能法案》全面生效不足半年，时间节点极为敏感。

Altman 的安理会之行绝非单纯的道德倡导，其背后是 AI 安全技术逻辑与商业利益的双重驱动。从技术层面看，当前大语言模型已展现出突现能力，如上下文学习、推理链和工具使用，这些能力在模型规模突破临界点后难以预测，传统基于测试集的评估方法无法覆盖长尾风险。OpenAI 内部的安全系统团队早已提出“自动化对齐研究”的必要性，即用 AI 系统辅助监督更强大的 AI，但这一方案本身又引入递归风险。Altman 所呼吁的国际监管框架，实质上是想将这种技术困境转化为全球共识下的制度设计：通过标准化的红队测试、可解释性报告和部署前审批，将安全成本外部化为行业准入门槛。从商业角度分析，OpenAI 正面临谷歌 DeepMind、Anthropic 以及开源社区的多重夹击。谷歌凭借 TPU 芯片和云基础设施优势，正在将 Gemini 系列深度整合进搜索与办公生态；Anthropic 以“宪法 AI”和严格安全承诺吸引了对冲基金和政府客户；Meta 的开源模型 Llama 系列则不断蚕食长尾开发者市场。在此背景下，推动全球性强制监管，一方面可以限制竞争对手通过开源或低成本云服务快速迭代，另一方面将 OpenAI 已有的安全实践（如内容审核 API、模型行为策略）固化为国际标准，从而获得规则制定者红利。Altman 甚至暗示，未来只有通过国际机构认证的模型才能接入全球互联网骨干网络，这无异于构建 AI 时代的“核不扩散条约”，而 OpenAI 则试图扮演技术守门人角色。

这一事件对 AI 产业格局的冲击将是结构性的。首先，对于中美科技竞争而言，联合国平台成为新的角力场。中国在 AI 治理上强调“发展优先、安全并重”，已推出生成式 AI 管理办法和科技伦理审查制度，但更倾向于主权国家主导的监管模式，对超国家机构的核查权限持保留态度。Altman 的提议若被部分采纳，可能迫使中国 AI 企业（如百度、阿里、字节跳动）在模型出口和海外部署时面临双重合规压力，同时加速中国自主 AI 安全标准与检测工具的发展。其次，对于开源社区，如 Hugging Face、EleutherAI 等，强制安全审计将大幅提高模型发布成本，可能导致开源创新集中在巨头容忍的“安全区”内，削弱草根创新活力。但另一方面，这也可能催生专门的安全审计即服务（SAaaS）新赛道，为第三方安全公司带来机遇。对于广大企业用户，合规要求将延长采购周期，但也能降低部署黑盒模型的法律风险。值得注意的是，Altman 在发言中特别提到“人类监督”，这可能会加速人机回圈（human-in-the-loop）解决方案的普及，利好数据标注、专家反馈和强化学习人类反馈（RLHF）相关服务商。

后续发展需密切关注几个关键信号。第一，联合国秘书长是否会在年内任命 AI 事务特使，并启动《全球数字契约》框架下的 AI 安全议定书谈判。第二，美国国内立法动向：尽管 Altman 在安理会呼吁国际合作，但美国国会尚未通过综合性 AI 法案，若两党在 2027 年中期选举前无法达成共识，将削弱美国在全球规则制定中的领导力。第三，欧盟《人工智能法案》的实施细则，特别是针对通用 AI 和基础模型的高风险分类，是否会与 Altman 提议的算力阈值监管趋同，形成跨大西洋标准联盟。第四，OpenAI 自身的治理结构变化，其非营利董事会与营利性子公司之间的张力，以及微软作为最大投资方在安全议题上的真实态度，都将影响该公司能否成为可信的全球监管倡导者。最后，技术社区对“安全洗白”（safety-washing）的警惕正在上升，若 OpenAI 一边呼吁监管一边加速商业部署，可能引发公众信任危机，反而阻碍理性监管进程。Altman 的安理会演讲无疑将 AI 安全推向了前所未有的政治高度，但如何将愿景转化为可执行、可验证且不扼杀创新的制度安排，才是真正的考验。