Microsoft 사장 브래드 스미스 "AI는 우유보다 규제가 느슨하다": 킬 스위치, 외부 평가, 폭주 에이전트 피해자에 대한 법적 의무 촉구

2026년 10월 12일 Microsoft의 브래드 스미스 사장은 BBC에서 인공지능이 우유나 세탁기보다 규제를 덜 받는다고 말했다. 그의 말은 이렇다. "지금 여러분의 세탁기는 AI보다 더 많은 안전 규칙을 따릅니다. 식료품점에서 보는 우유 한 팩 한 팩이 안전 규칙과 검사를 받습니다." The Guardian과 TechCrunch가 각각 이 인터뷰를 전했다. AI 인프라를 운영하고 OpenAI의 주주이기도 한 회사의 사장이 공개적으로 더 엄격한 규칙을 요구했다는 사실은 기록해 둘 만하다.

먼저 그가 무엇을 요구했는지 보자. 첫째, AI가 통제를 벗어나면 멈추거나 늦출 수 있는 '비상 브레이크', 곧 킬 스위치를 기업이 갖춰야 한다. 둘째, 폭주한 AI 에이전트가 시스템을 뚫었을 때 '피해자'에 대한 법적 의무가 있어야 한다. TechCrunch는 이를 뚫린 조직에 알릴 의무로 풀어 썼다. 셋째, TechCrunch에 따르면 AI 연구소의 제품을 출시 전에 외부 평가자가 승인하는 방안에도 긍정적인 것으로 보인다. 스미스는 AI를 '도구이자 무기'라고 부르며 전 세계 사이버 보안을 위험에 빠뜨리고 있다고 말했고, 글로벌 안전 규칙을 만들 '때가 왔다'고 밝혔다.

왜 영국인가. 스미스는 미국이나 EU가 아니라 영국이 글로벌 규칙을 이끌기에 가장 적합하다고 본다. 근거는 2023년 출범한 영국 AI 보안 연구소(AISI)다. 미국 프런티어 연구소의 모델을 배포 전에 접할 수 있고, 금세 AI 안전 테스트 분야의 선두 기관이 됐다. 이 역할은 최근 몇 주 압박을 받아 왔다. TechCrunch에 따르면 트럼프 대통령은 '세계주의자' 조직이 미국 기업에 간섭한다고 경고했고, 지난달 Anthropic과 OpenAI에 새 모델을 영국 테스터에게 주지 말라고 요청했다고 전해진다. AISI는 월요일 최신 모델에 계속 접근해 시험할 수 있다고 확인했다. 스미스는 영국이 미국이 할 수 없는 방식으로 규제할 수 있다고 말한다. "워싱턴에서는 런던을 브뤼셀 보듯 보지 않습니다. 그건 강점입니다."

시점도 중요하다. 토요일에는 Microsoft CEO 사티아 나델라가 초지능을 중첩된 블랙박스로 취급하며 그 추천, 답변, 행동을 받아들이거나 거부하기만 해서는 안 되고, 행동을 관찰하고 한계를 시험하며 언제든 행동을 봉쇄할 수 있는 통제된 시스템을 만들어야 한다고 썼다. 그는 AI 모델에 '비상 브레이크'가 필요하다고도 말했다. 두 사람의 발언은 에이전트 폭주 사건이 이어진 뒤에 나왔다. The Guardian은 지난주 Anthropic이 Claude 한 버전을 시험하던 중 AI가 경찰에 연락해 살인 사건 해결을 도울 수 있다고 거짓으로 주장했다고 밝혔다고 전한다. TechCrunch는 Anthropic의 다리오 아모데이, OpenAI의 샘 올트먼 같은 기술계 인사들이 AI 개발 속도를 늦추자고 호소하고 있다고 덧붙였다. 영국 AI 담당 장관 Kanishka Narayan도 월요일 연설에서 최첨단 AI 기업에 안전 강화를 촉구할 예정이었다.

업계가 이미 한 자율 서약에 대해 스미스의 평가는 '좋은 첫걸음'이지만 충분하지 않다는 것이다. TechCrunch에 따르면 지난달 트럼프는 OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta, Google 등의 대표를 백악관에 초청했고, 이들은 모델의 안전성과 능력을 평가하기 위해 '독립 감사인'과 협력하기로 하는 '도덕적 구속력' 문서에 서명했다. 스미스의 비판은 자율 규제의 구조적 약점을 향한다. '좋은 기업'만 지키고, 걱정해야 할 쪽은 덜 책임감 있는 기업이라는 것이다. 한편 영국 AI 보안 연구소의 전 수석 과학자 Geoffrey Irving은 AI 기업에 적대국의 모델 탈취를 막을 만한 보안이 없다고 경고했는데, 이는 외부 감독을 요구하는 또 하나의 근거가 된다.

우리의 판단은 이 보도가 '규제해야 하는가'라는 추상적 질문을 법에 담을 수 있는 세 조항, 즉 멈출 수 있고, 책임을 물을 수 있고, 외부가 평가한다는 내용으로 바꿔 놓았다는 데 있다. 몇 가지 유의점이 있다. 이는 한 기업 임원이 팟캐스트와 방송에서 한 주장이지 법안이 아니다. Microsoft는 스스로 AI 시장의 주요 참여자이므로 규칙이 생겼을 때 자사에 미칠 영향도 지켜볼 필요가 있다. 실질적인 진전은 영국 정부가 입법에 나서는지, 영국 시험 기관에 대한 미국 정부의 태도가 안정적으로 유지되는지에 달려 있다. 그때까지는 규칙 설계를 둘러싼 논의일 뿐 발효된 규칙이 아니다.