斯威舍：AI不會毀滅人類，但打造AI的人可能會

大西洋节上发生了什么

《大西洋月刊》刊发了一篇经过编辑的访谈，对象是科技记者卡拉·斯威舍，场合是该刊举办的大西洋节。提问的是《大西洋月刊》执行编辑阿德里安娜·拉弗朗斯。标题已经点明主旨：AI不会毁灭人类，但打造AI的人可能会。

杂志在导语里交代了背景。它说，AI行业喜欢讲两个故事：好的一个是超级智能机器人有朝一日治愈癌症、消除贫困；坏的一个是它们抹去地球上所有人类。导语还说，近几周，硅谷对自己正在竞相打造的技术所抱有的生存性担忧「炸开了锅」。斯威舍的看法不同。她对拉弗朗斯说：「我们必须停止认为AI会杀死人类。」在她看来，如果AI的未来走偏，该负责的不是机器人，而是人：「掌舵的是人。」

按导语的介绍，斯威舍报道硅谷已有数十年，先是《华尔街日报》的记者，现在主持两档播客。这是一篇访谈，不是新闻报道。文中几乎每一条判断都是斯威舍的观点、记忆或预测，而且文字经过删节和润色。因此本文把每一项说法都归到她名下。文章署名为《大西洋月刊》助理编辑维多利亚·冯。

斯威舍的主要论点

是人，不是机器。 斯威舍拿枪和汽车作比。她的说法是，不是枪杀人，是人杀人；车撞了人，也不是车自己做的决定。她想强调的是，经营这些公司、从中赚大钱的是人。 以核能作类比。 她说自己更常用的类比是核裂变：「他们分裂了原子，哎呀，它爆炸了。」她说奥本海默知道会发生什么，AI领导者知道的也比他们承认的多。她请听众设想，如果当年造原子弹的是私人公司会怎样，并说AI「更强大」。她还说，科技人喜欢告诉别人自己有多聪明，可后果一来，他们又说「我们不知道」。 从来没有护栏。 斯威舍说，这些人身上「从来」没有护栏。她说，除了铁路和制造业扩张时期，她想不出还有哪个时代，普通人对如此规模的扩张完全没有发言权。她开玩笑说，她街角的熟食店受到的法规约束比大多数大公司还多。她还说，科技领袖已经在某种程度上俘获了政治，并提到了「联合公民」案。她说自己的新书将以马斯克、皮查伊、扎克伯格和贝索斯与特朗普一同站在就职典礼上开篇。在她看来，他们发现可以「往这位总统身上投个硬币，就得到想要的」。 领导者为什么现在紧张。 斯威舍说，她认为他们是真心担忧，并给出三点理由。第一是责任。她说诉讼正在增多，就像当年针对烟草公司的官司，其中包括涉及聊天机器人与儿童的案件。第二是成本。她说前沿AI比早期互联网贵得多，并预测今天的七家前沿公司最终会剩下两家。被问到押注时，她说谷歌会是其中之一，谷歌与Anthropic也许会合并。她还说ChatGPT成本太高，难以持续。第三是股市。她说股市依赖七家公司，她很惊讶股市至今没有受到冲击。她还认为Hugging Face被黑一事本该得到更多关注。

经济。 拉弗朗斯列出了几种可能的崩盘方式：正常的市场回调、大批机器人让互联网无法使用、由AI代理引发的银行挤兑。斯威舍的回答是：「以上全部。」 监管与律师。 她说，自Section 230以来，国会没有真正有效地监管过科技行业，而责任与过失诉讼正在积聚势头，很像当年的烟草案。她说这个国家从来没有隐私立法和算法透明度的规定，而有十几件事可以做，既不会伤害这些企业的业务，又能让大家更安全。她把对数据中心的愤怒称为一种「代理」，代表普通人对这项技术如何影响自己生活的更广泛愤怒。 中国。 她反对自己所说的「习还是我」论调，也就是认为选择只有中国或美国。她说需要全球合作，尤其要与中国合作。她还说，中国对AI的约束比美国多得多。 该怎么办。 斯威舍说，不要去买金条，也不要参与这些领导者的末日计划。她敦促大家去找立法机构，继续抵制数据中心。她说：「我在这个国家唯一相信的是选民。」

背景：为什么这场谈话值得一读

「AI的道德分量落在人身上，而不在机器身上」，这个观点并不新。斯威舍的说法值得注意之处，在于它指向谁。她并没有说AI无害。同一场访谈里，她说AI「能引爆核弹」，还说「拥有超人智能的人类会做坏事」。她的论证关心的是责任落在哪里。

有两个通用概念能帮助读者理解她的话。产品责任法让受害者可以起诉危险产品的制造商。Section 230则是拉弗朗斯在访谈中向听众解释过的那部法律：平台所有者不被视为用户内容的发布者。按斯威舍的说法，平台「不能被起诉，现在能了」：责任诉讼开始冲击Section 230给行业提供的庇护。

我们的分析

我们的解读是，斯威舍把争论从一个偏推测的问题（机器会不会反过来对付我们）挪到了眼前的问题：谁负责，对谁负责。这是一个务实的转向。法院、州立法机构和选民今天就能对问责采取行动，却无法对一个假想的超级智能采取行动。

她的论证里有一处内在张力，值得点明。她说AI不会杀死人类，却又说它比核能更强大，并说各种经济灾难情景都有可能。我们把它理解为关于原因的判断，而不是关于严重程度的判断：她的意思是，伤害可能发生，也可能很大，但它将来自人的决定。

她对领导者为何此刻呼吁谨慎的解释，即责任、成本与市场的脆弱，是对动机的推断。它可能是对的，但访谈里没有出自这些领导者本人的证据。更稳妥的读法，是把它当作一位长期观察者提出的假设。

信息来源的局限与未解问题

• 来源是一篇经过编辑的访谈。话是斯威舍说的，但删改了哪里，读者看不到。- 她的预测终究是预测。两家前沿公司合并、股市受冲击、诉讼潮到来，是她预期会发生的事，文章并未证明它们会发生。- 有些数字看上去不确定。她提到Facebook的一笔170亿美元和解，并与上一次「500万美元」的罚款作对照。

后一个数字可能是转录失误，文章对两者都没有给出出处。她还先说「十家前沿公司」，随后改口成七家。结尾处她说了「10%的概率」，又说「实际上是14%」，没有任何上下文。- 她对几位点名的高管作了尖锐的个人评论。文章没有收录他们的回应，所以我们不把这些评论当作事实转述。- 《大西洋月刊》的导语没有给出这场大西洋节对谈的日期。

给读者的实用建议

对开发者和产品团队：把责任当作设计输入。斯威舍的警告是，安全上的偷工减料可能以诉讼的形式回来，尤其是面向儿童的产品。

对关注政策的读者：她指出，州一级的行动、产品责任案件和各地围绕数据中心的争执，是压力正在积聚的地方。她还点名隐私法和算法透明度，认为这些措施不会伤害这些企业的业务。

对普通读者：把AI高管的言论，包括呼吁监管的言论，当作利益相关方的表态来读。拉弗朗斯在访谈中也表达过同样的怀疑，她以带点怀疑的口吻提起扎克伯格当年的「请监管我吧，老兄」姿态。对斯威舍本人的话也应如此：那是一位资深记者的意见，值得掂量，但不是经过核实的事实。