스위셔 "AI가 인류를 멸망시키진 않지만 만드는 사람은 다르다"

애틀랜틱 페스티벌에서 나온 이야기

디 애틀랜틱은 기술 저널리스트 카라 스위셔와의 인터뷰를 편집해 실었다. 자리는 애틀랜틱 페스티벌이었고, 질문은 이 매체의 에이드리엔 라프랑스 편집장이 맡았다. 제목이 주제를 보여 준다. AI는 인류를 멸망시키지 않겠지만, 그것을 만드는 사람들은 그럴 수도 있다는 취지다.

매체의 도입부는 배경을 이렇게 설명한다. AI 업계는 두 가지 이야기를 즐겨 한다. 좋은 이야기에서는 초지능 봇이 암을 고치고 빈곤을 끝낸다. 나쁜 이야기에서는 지구에서 모든 인간을 지워 버린다. 도입부는 최근 몇 주 사이 실리콘밸리가 스스로 앞다퉈 만들고 있는 기술에 대해 품은 실존적 우려가 '터져 나왔다'고 덧붙인다. 스위셔의 시각은 다르다. 그는 라프랑스에게 "AI가 인류를 죽일 것이라는 생각을 멈춰야 한다"고 말했다. AI의 미래가 어긋난다면 책임은 봇이 아니라 사람에게 있다는 것이다. "이것들을 운전대에서 움직이는 건 사람들이다."

도입부에 따르면 스위셔는 수십 년간 실리콘밸리를 취재했다. 예전에는 월스트리트저널 기자였고 지금은 팟캐스트 두 개를 진행한다. 이 글은 뉴스 보도가 아니라 인터뷰다. 거의 모든 주장이 스위셔 본인의 의견, 기억, 전망이며, 글은 분량과 명확성을 위해 편집되었다. 그래서 이 기사는 모든 주장을 그의 것으로 돌린다. 글의 필자는 애틀랜틱의 어시스턴트 에디터 빅토리아 펑이다.

스위셔가 밝힌 주요 논점

기계가 아니라 사람. 스위셔는 AI를 총과 자동차에 비유했다. 그의 설명으로는 총이 사람을 죽이는 것이 아니라 사람이 죽이는 것이고, 자동차가 스스로 사람을 치기로 결정하는 것도 아니다. 이런 사업을 운영하며 큰돈을 버는 것은 인간이라는 점을 강조한 것이다. 핵에너지 비유. 그가 즐겨 쓰는 비유는 핵분열이다. "그들은 원자를 쪼갰고, 어이쿠, 폭발했다." 오펜하이머는 무슨 일이 벌어질지 알았고, AI 리더들도 인정하는 것보다 더 많이 안다고 했다. 폭탄을 민간 기업이 만들었다면 어땠겠느냐고 청중에게 물으며 AI는 "훨씬 더 강력하다"고 말했다. 기술 업계 사람들은 자기가 얼마나 똑똑한지 말하기를 좋아하지만, 결과가 닥치면 "우리도 모른다"고 한다는 말도 덧붙였다. 안전장치가 없었다. 스위셔는 이 사람들에게는 "단 한 번도" 안전장치가 없었다고 말했다. 철도와 제조업 팽창기를 빼면, 이만한 규모의 팽창에 일반 시민이 발언권을 전혀 갖지 못했던 시대는 떠오르지 않는다고 했다. 자기 집 모퉁이 델리가 대기업 대부분보다 더 많은 규제를 받는다는 농담도 했다. 기술 리더들이 정치까지 장악했다고 하면서 시티즌스 유나이티드 판결을 언급했다. 그의 다음 책은 머스크, 피차이, 저커버그, 베이조스가 트럼프와 함께 취임식에 서 있는 장면으로 시작한다고 한다. 그의 견해로는 이들은 "이 대통령에게 동전을 넣으면 원하는 걸 얻는다"는 것을 깨달았다. 리더들이 지금 불안한 이유. 스위셔는 그들이 진심으로 걱정한다고 보며 세 가지 이유를 댔다. 첫째는 책임이다. 담배 회사에 그랬듯 소송이 쌓이고 있고, 챗봇과 아이들을 둘러싼 사건도 포함된다고 했다. 둘째는 비용이다. 프런티어 AI는 초기 인터넷보다 훨씬 비싸며, 지금의 일곱 개 선두 기업이 둘로 줄 것이라고 예측했다. 누구에게 걸겠느냐는 질문에는 구글이 남을 것이며 구글과 앤스로픽이 합병할 수도 있다고 답했다. ChatGPT는 비용이 너무 커서 지속 가능하지 않다고도 했다. 셋째는 주식시장이다. 시장이 일곱 개 기업에 기대고 있는데 아직 타격을 받지 않은 게 놀랍다고 했다. 허깅페이스 해킹도 더 주목받았어야 한다고 말했다.

경제. 라프랑스는 일반적인 조정, 봇 떼가 인터넷을 쓸 수 없게 만드는 상황, AI 에이전트가 주도하는 뱅크런 같은 시나리오를 열거했다. 스위셔의 답은 "전부 다"였다. 규제와 변호사. 그는 의회가 섹션 230 이후 기술 업계를 제대로 규제하지 못했다고 했다. 반면 책임과 과실을 묻는 소송은 담배 때와 마찬가지로 힘을 얻고 있다는 것이다. 미국에는 개인정보 보호법도 알고리즘 투명성 규정도 없었으며, 사업을 해치지 않으면서 안전을 높일 수 있는 조치가 열두어 가지 있다고 했다. 데이터센터에 대한 분노는 기술이 삶에 미치는 영향에 대한 더 넓은 분노의 대리 표현이라고 설명했다. 중국. 그는 스스로 "시 아니면 나" 논리라고 부르는 주장, 즉 중국이냐 미국이냐의 양자택일을 거부했다. 특히 중국과의 글로벌 협력이 필요하다고 했다. 중국이 미국보다 AI에 더 많은 제약을 두고 있다고도 말했다. 무엇을 해야 하나. 스위셔는 금괴를 사지 말고 리더들의 종말 계획에 동참하지 말라고 했다. 입법기관에 목소리를 내고 데이터센터 반대를 이어가라고 촉구했다. "이 나라에서 내가 믿는 사람들은 유권자뿐이다."

배경과 의미

AI의 도덕적 무게가 기계가 아니라 사람에게 있다는 생각은 새롭지 않다. 스위셔의 발언에서 눈에 띄는 것은 그 겨냥점이다. 그는 AI가 무해하다고 말하는 것이 아니다. 같은 인터뷰에서 AI가 "핵폭탄을 터뜨릴 수 있다"고 했고, "초인적 지능을 가진 인간은 나쁜 일을 할 것"이라고도 했다. 그의 논점은 책임이 어디에 있느냐다.

독자가 그의 말을 자리매김하는 데 도움이 되는 일반 개념이 둘 있다. 제조물 책임은 위험한 제품으로 피해를 입은 사람이 제조사를 고소할 수 있게 하는 법 체계다. 섹션 230은 라프랑스가 인터뷰에서 설명했듯 플랫폼 운영자를 이용자 게시물의 발행인으로 취급하지 않는 법이다. 스위셔의 설명으로는 그들은 "고소당할 수 없었지만 지금은 당한다". 책임 소송이 섹션 230이 업계에 준 보호막을 압박하기 시작했다는 뜻이다.

우리의 분석

우리는 스위셔가 논쟁을 추측성 질문, 곧 기계가 우리에게 등을 돌릴까에서 현재의 질문, 곧 누가 누구에게 책임지는가로 옮긴다고 읽는다. 실용적인 이동이다. 법원, 주 의회, 유권자는 오늘 책임 추궁에 나설 수 있다. 가상의 초지능에는 그럴 수 없다.

그의 논증에는 내부 긴장이 있고, 짚어 둘 만하다. AI가 인류를 죽이지 않을 것이라고 하면서도 핵에너지보다 강력하다고 하고, 경제 재앙 시나리오가 모두 가능하다고 한다. 우리는 이를 심각도가 아니라 원인에 대한 주장으로 읽는다. 피해는 일어날 수 있고 클 수도 있지만, 그것은 사람의 결정에서 나온다는 뜻이다.

리더들이 지금 신중론을 펴는 이유로 그가 든 책임, 비용, 시장의 취약성은 동기에 대한 해석이다. 맞을 수 있으나 인터뷰에는 리더 본인의 증거가 없다. 오랜 관찰자가 내놓은 가설로 읽는 편이 안전하다.

출처의 한계와 남은 질문

• 출처는 편집된 인터뷰다. 말은 스위셔의 것이지만 어디를 편집했는지는 보이지 않는다.
• 그의 예측은 예측일 뿐이다. 선두 기업 두 곳의 합병, 주가 충격, 소송 물결은 그가 기대하는 일이지 기사가 입증한 일이 아니다.
• 불확실해 보이는 수치가 있다. 그는 페이스북의 170억 달러 합의를 언급하고 지난번 벌금 "500만 달러"와 대비했다. 뒤의 수치는 받아쓰기 오류일 수 있으며, 기사는 어느 쪽도 출처를 밝히지 않는다. 그는 "프런티어 기업 10곳"이라고 했다가 일곱 곳으로 고쳐 말하기도 했다. 마지막에는 "10퍼센트의 확률"이라 하고 이어 "사실은 14퍼센트"라고 했지만 맥락은 없다.
• 그는 이름을 든 경영자들에 대해 날 선 개인 평을 했다. 기사에 그들의 반론은 없으므로 우리는 그 발언을 사실로 옮기지 않는다.
• 디 애틀랜틱의 도입부는 이 세션의 날짜를 밝히지 않는다.

독자를 위한 실용적 시사점

개발자와 제품 팀에게: 책임을 설계의 입력값으로 다루자. 스위셔의 경고는 안전을 건너뛴 지름길이 소송으로 돌아올 수 있고, 특히 아이들에게 닿는 제품에서 그렇다는 것이다.

정책을 지켜보는 이에게: 그는 주 차원의 움직임, 제조물 책임 소송, 데이터센터를 둘러싼 지역 다툼을 압력이 커지는 곳으로 꼽는다. 개인정보 보호법과 알고리즘 투명성도 이들 기업의 사업을 해치지 않을 조치로 지목했다.

일반 독자에게: AI 경영진의 발언은 규제를 요구하는 말까지 포함해 이해관계자의 발언으로 읽자. 라프랑스도 인터뷰에서 저커버그가 예전에 보인 "나를 규제해 줘, 제발" 태도를 다소 냉소적으로 짚으며 같은 의심을 드러냈다. 스위셔 본인의 말에도 같은 태도가 필요하다. 경험 많은 기자의 의견이라 따져 볼 가치는 있지만, 검증된 사실은 아니다.