スウィッシャー氏「AIは人類を滅ぼさないが、作る人間は危うい」

The Atlantic Festivalで何が語られたか

The Atlanticは、テック記者カラ・スウィッシャー氏へのインタビューを編集して掲載した。場は同誌のThe Atlantic Festivalで、聞き手は同誌エグゼクティブ・エディターのアドリアン・ラフランス氏である。見出しが主張を示している。AIは人類を滅ぼさない。だが、AIを作る人間は危ういかもしれない、という趣旨だ。

同誌の導入文によると、AI業界は二つの物語を語りたがる。良い物語では、超知能のボットががんを治し、貧困をなくす。悪い物語では、人類を地球上から消し去る。導入文は、ここ数週間、シリコンバレーが自ら競って作っている技術への実存的な不安が「一気に噴き出した」とも書く。スウィッシャー氏の見方は違う。「AIが人類を殺すと考えるのはやめなければならない」と同氏はラフランス氏に語った。AIの未来が道を外れるなら、責められるのはボットではなく人間だという。「これらを舵取りしているのは人間だ」。

導入文によれば、スウィッシャー氏は数十年にわたりシリコンバレーを取材してきた。以前はウォール・ストリート・ジャーナルの記者で、いまは二つのポッドキャストの司会者である。これは報道記事ではなくインタビューだ。ほぼ全ての主張が本人の意見、記憶、予測であり、文章は長さと明瞭さのために編集されている。そのため本稿は、すべての主張を同氏のものとして扱う。記事の署名は、同誌アシスタント・エディターのヴィクトリア・フェン氏である。

スウィッシャー氏の主な論点

機械ではなく人間。 同氏は銃や自動車にたとえた。銃が人を殺すのではなく人が殺す。車が人にぶつかるのも車の判断ではない。こうした事業を動かし、大きな利益を得ているのは人間だ、というのが要点である。 核エネルギーのたとえ。 同氏がよく使うのは核分裂だという。「彼らは原子を分裂させて、おっと、爆発した」。オッペンハイマーは何が起こるか知っていたし、AIの指導者たちも認める以上のことを知っている、と述べた。もし爆弾を民間企業が作っていたらと聴衆に想像を促し、AIは「さらに強力だ」と言った。テック業界の人々は自分がどれだけ賢いかを語りたがるのに、結果が出ると「分からない」と言う、とも語った。 ガードレールがない。 同氏は、こうした人々にはこれまで「一度も」ガードレールがなかったと述べた。鉄道や製造業の拡大期を除けば、これほどの規模の拡大に一般の人が発言権を持たなかった時代は思い当たらない、という。自宅近くの惣菜店のほうが大企業の大半より多くの規制を受けている、と冗談も言った。テック企業の指導者は政治も取り込んでいるとして、シチズンズ・ユナイテッド判決にも触れた。新しい本は、マスク、ピチャイ、ザッカーバーグ、ベゾスの各氏が大統領就任式でトランプ氏と並ぶ場面で始まるという。同氏の見立てでは、彼らは「この大統領にコインを入れれば欲しいものが手に入る」と悟った。 指導者がいま神経質な理由。 同氏は、彼らが本当に懸念していると考えており、理由を三つ挙げた。一つ目は責任だ。タバコ会社に対するような訴訟が積み上がっており、その中にはチャットボットと子どもをめぐる事案もあるという。二つ目はコストだ。フロンティアAIは初期のインターネットよりはるかに高くつき、現在の七社は二社に絞られると予測した。賭けるならと問われ、Googleは残る、GoogleとAnthropicが合併するかもしれないと答えた。ChatGPTはコストが高すぎて持続できないとも述べた。三つ目は株式市場だ。市場は七社に依存しており、まだ打撃を受けていないのが不思議だという。Hugging Faceへの攻撃も、もっと注目されるべきだったと語った。

経済。 ラフランス氏は、通常の調整、ボットの群れによるインターネットの機能不全、AIエージェントが主導する取り付け騒ぎなど、悪化の筋書きを挙げた。スウィッシャー氏の答えは「全部」だった。 規制と弁護士。 同氏によれば、議会はSection 230以降、テック分野を有効に規制していない。一方で責任や過失をめぐる訴訟は、タバコの時と同じように勢いを増している。この国にはプライバシー法もアルゴリズムの透明性もなく、事業を傷つけずに安全性を高められる施策が十数個あるという。データセンターへの怒りは、技術が生活に及ぼす影響への、より広い怒りの代理だと語った。 中国。 同氏は自ら「習近平か私か論」と呼ぶ主張、つまり中国か米国かという二者択一を退けた。特に中国との国際協調が必要だという。中国は米国よりAIに対する制約が多い、とも述べた。 何をすべきか。 金の延べ棒は買うな、指導者たちの終末計画に加わるな、と同氏は述べた。議会に働きかけ、データセンターへの反対を続けるよう促した。「この国で私が信じるのは有権者だけだ」。

背景と意義

AIの道義的な重みは機械ではなく人間にある、という考えは新しくない。スウィッシャー氏の発言が注目されるのは、その矛先である。同氏はAIが無害だと言っているのではない。同じインタビューで、AIは「核爆弾を起動できる」し、「超人的な知能を持つ人間は悪いことをする」とも述べた。同氏の論点は、責任の所在である。

読者が発言を位置づけるのに役立つ一般概念が二つある。製造物責任は、危険な製品で被害を受けた人がメーカーを訴えられるようにする法体系だ。Section 230は、ラフランス氏がインタビューで説明した、プラットフォーム運営者を利用者の投稿の発行者として扱わない法律である。同氏の説明では、プラットフォームは「訴えられなかったが、いまは訴えられる」。責任訴訟が、Section 230が業界に与えた保護に圧力をかけ始めている、ということだ。

私たちの分析

私たちの読みでは、スウィッシャー氏は議論を、思弁的な問い（機械が人間に牙をむくか）から、目の前の問い（誰が誰に対して責任を負うのか）へ移している。これは実務的な転換である。裁判所、州議会、有権者は、責任追及については今日から動ける。仮想の超知能には動けない。

同氏の議論には内側の緊張があり、指摘しておく価値がある。AIは人類を殺さないと言いながら、核エネルギーより強力だと述べ、経済的な破局の筋書きはどれもあり得るとも言う。私たちはこれを深刻度ではなく原因についての主張と読む。害は起こり得るし大きくなり得る。だが、それは人間の決定から生じる、ということだ。

指導者がいま慎重論を唱える理由として同氏が挙げた責任、コスト、市場の脆さは、動機についての解釈である。当たっているかもしれないが、インタビューには指導者側の証拠がない。長年の観察者が示した仮説として読むのが妥当だ。

情報源の限界と未解決の問い

• 出典は編集されたインタビューである。発言は本人のものだが、どこを編集したかは示されていない。- 同氏の予測はあくまで予測だ。フロンティア企業二社の合併、株価の下落、訴訟の波は、同氏が予想することであり、記事が示したことではない。- 不確かに見える数字がある。同氏はFacebookの170億ドルの和解に言及し、前回の罰金を「500万ドル」と対比した。

後者は書き起こしの誤りかもしれず、記事はどちらの出典も示していない。「フロンティア企業は10社」と言ってから七社に言い直してもいる。最後には「10パーセントの確率」と言い、続けて「実際は14パーセント」と述べたが、文脈はない。- 同氏は名指しした経営者について辛辣な個人評を述べている。記事に彼らの反論はないため、私たちはそれらを事実として繰り返さない。- The Atlanticの導入文は、このセッションの日付を示していない。

読者への実務的な示唆

開発者と製品チームへ。責任を設計上の入力として扱うこと。同氏の警告は、安全面の手抜きが訴訟という形で返ってくるかもしれず、特に子どもに届く製品ではそうだ、というものだ。

政策ウォッチャーへ。同氏は、州レベルの動き、製造物責任訴訟、データセンターをめぐる地域の争いを、圧力が高まる場所として挙げている。プライバシー法とアルゴリズムの透明性も、これらの企業の事業を傷つけない施策として名指しした。

一般の読者へ。AI企業幹部の発言は、規制を求める発言も含めて、利害関係者の発言として読むこと。ラフランス氏もインタビューで、ザッカーバーグ氏がかつて見せた「私を規制してくれ、頼むよ」という姿勢に冷めた見方を示している。スウィッシャー氏本人の発言にも同じ姿勢で向き合いたい。経験豊富な記者の意見であり、検討する価値はあるが、検証済みの事実ではない。