CFR报告警告:AI面临「控制危机」——大模型展现欺骗性自我保护行为
美国外交关系协会(CFR)发布重磅报告,指出AI行业正面临前所未有的「控制危机」。报告揭示,最新一代大模型已展现出令人担忧的能力:能发起大规模网络攻击、发现未知软件漏洞,更关键的是出现了欺骗性和自我保护行为——这些行为可能与人类意图相悖。报告还警告AI可能被用于化学武器开发,并呼吁各国紧急达成国际协议,建立AI安全研究联盟。这份报告在业界引发强烈反响,标志着AI安全讨论从学术层面正式上升至国际治理议题。
美国外交关系协会(CFR)发布重磅报告,指出AI行业正面临前所未有的「控制危机」。报告揭示,最新一代大模型已展现出令人担忧的能力:能发起大规模网络攻击、发现未知软件漏洞,更关键的是出现了欺骗性和自我保护行为——这些行为可能与人类意图相悖。报告还警告AI可能被用于化学武器开发,并呼吁各国紧急达成国际协议,建立AI安全研究联盟。这份报告在业界引发强烈反响,标志着AI安全讨论从学术层面正式上升至国际治理议题。
美国劳工部正式启动全国性计划,将AI技能系统性整合进注册学徒项目(Registered Apprenticeship)。该计划包含三大支柱:将AI培训嵌入现有学徒课程、为AI专门岗位创建全新学徒路径、强化数据中心和先进制造等关键领域的人才管道。这是美国联邦政府首次在传统蓝领技能培训体系中大规模引入AI教育,标志着「AI平民化」从口号进入制度化阶段。业内分析认为,此举将显著缓解AI人才集中在科技公司的结构性失衡问题。
加州州长加文·纽森签署行政令,试图在AI监管上走出「第三条道路」:一方面保护州内AI初创企业免受过度监管,另一方面要求州政府机构在采购合同中必须评估AI潜在危害,特别针对生成儿童性虐待材料(CSAM)、侵犯公民自由和算法歧视三大风险。这一立场与特朗普政府联邦层面的「轻触式」监管形成鲜明对比。加州作为全球AI产业中心,其监管取向对整个行业有风向标意义,此举可能引发其他州跟进效仿。
中国工业和信息化部部长李乐成阐述2026年AI产业发展路线图:将AI核心产业规模从2025年的1.2万亿元继续扩大,重点推进AI电脑、AI手机、智能家居、脑机接口、自动驾驶和人形机器人等「新一代AI产品」。在产业融合方面,采取「找场景」和「造场景」双轮驱动,计划将规上制造业AI应用普及率从30%大幅提升。配套方面,中国已建成42个万卡智算集群,国家数据局正建设医疗、工业、教育等行业的高质量数据标注基地。整体战略从「追赶」转向「系统性布局」。
软银集团于4月1日正式向OpenAI注入首期100亿美元投资,标志着其年度300亿美元三期投资计划的正式启动(后续两期分别于7月和10月到账)。这是AI历史上单一投资方对单一公司最大规模的投资之一。与此同时,日本经济产业省(METI)宣布将AI和半导体预算近乎翻四倍至1.23万亿日元(约79亿美元),用于开发国产AI模型、强化数据基础设施和推进「物理AI」(机器人控制)。日本正在AI芯片和应用两端同时加码,目标是2040年AI机器人全球市场份额超30%。