OpenAI와 Anthropic, 영국 의원들에게 “우리를 규제해 달라”... Google DeepMind와 Meta는 새 법 지지 거부

Published · AI Daily — AI-assisted deep research, methodology & disclosure

10월 13일 영국 의회 청문회에서 Anthropic은 규칙이 “구속력이 있어야 한다”고 말했고, OpenAI는 법적 틀과 국제 협약을 지지하며 사고 보고 의무화부터 시작하자고 했다. Google DeepMind는 표준을 강조하는 데 그쳤고 Meta는 기존 규제 기관을 언급했다. 관료들도 영국의 프런티어 모델 안전 시험이 전적으로 기업의 협조에 달려 있음을 인정했다.

10월 13일, 영국 의회의 기업·혁신·과학·무역 위원회가 증거 청문회를 열었습니다. WIRED에 따르면 OpenAI와 Anthropic 대표는 의원들에게 자발적 약속만으로는 더 이상 안전을 보장하기 어렵고 새 법을 도입해야 한다고 말했습니다. Google DeepMind와 Meta는 둘 다 새 입법 지지를 거부했기 때문에, 이 공개적인 이견이 영국 의회의 공식 기록에 남게 되었습니다. 증인으로 나온 것은 프런티어 AI 기업 네 곳, 이들 기업에서 일하다 내부 고발자가 된 전직 직원 네 명, 영국 정부의 고위 공무원들이었습니다. 위원장 Liam Byrne은 회의 후 WIRED에 목적이 “세계에서 가장 부유한 기업 몇 곳 사이의 큰 의견 차이를 드러내는 것”이며 “자발적 자율 규제에 의존할 수 없음”을 보이는 것이었다고 말했습니다.

네 회사의 입장은 분명했습니다. Anthropic 유럽 총괄 Liam Booth-Smith는 “규칙은 구속력이 있어야 한다”고 말했습니다. 회사는 기업에 구속력 있는 규칙이 필요하다고 일관되게 믿어 왔으며 자발적 약속으로는 충분하지 않다고 설명했습니다. OpenAI의 Tom Duff Gordon 부사장은 더 신중했지만 역시 법적 틀과 국제 협약을 지지했습니다. 그는 “일부 요소는 의무여야 한다”며 사고 보고부터 시작하자고 했고, “프런티어 위험을 모두 자발적 약속에 기대는 것은 좋은 장기 계획이 아니라고 본다”고 말했습니다. 법적 틀을 지지하느냐는 직접적인 질문에 Google DeepMind의 Owen Larter는 “우리는 표준에 집중한다”고만 답했습니다. Meta의 Rob Sherman은 영국에 이미 기존 규제 기관이 있으며 “우리는 백지에 쓰는 것이 아니다”라고 의원들에게 말했습니다. 같은 날 영국 MI5의 Ken McCallum 국장은 연례 위협 보고에서 AI가 생물 무기의 위험을 바꿀 수 있다고 경고하며, 이를 “가장 무겁게 보는 악용 사례”라고 불렀습니다.

청문회 마지막 부분에서는 현재 체계가 얼마나 느슨한지 드러났습니다. 영국 AI 안전 연구소는 출시 전에 프런티어 모델을 시험하지만, 기업이 제공할 때만 가능합니다. 소장 Henry de Zoete는 연구소가 기업과 외국 정부의 협조에 전적으로 의존하며, 너무 위험하다고 판단한 모델을 기업이 그래도 출시하더라도 막을 수 없다고 인정했습니다. 그는 “우리는 인증 마크를 주지 않는다. 어떤 모델에도 가부를 말하지 않는다”고 했고, 최전선 개발사는 미국 아니면 중국 기업이어서 영국이 할 수 있는 일에는 한계가 있다고 덧붙였습니다. 내각사무처의 최고위 공무원 Cat Little은 체계 전체가 자발적이냐는 질문에 “현재로서는 그렇다”고 답했습니다. 접근 권한도 워싱턴을 거칩니다. OpenAI의 Duff Gordon은 회사가 배포 전에 모델을 미국 CAISI와 영국 AISI에 제공하며 “미국 정부 아래에서 그렇게 할 수 있는 한 계속하겠다”고 말했습니다. Anthropic의 Booth-Smith는 처음에는 Mythos 5.1에 대한 완전하고 제한 없는 접근을 영국 연구소에 제공하지 못했음을 인정하며 “그것은 미국 정부에 물어볼 문제”라면서도 지금은 AISI가 접근할 수 있다고 덧붙였습니다.

전직 연구원 네 명의 증언은 더 직설적이었습니다. 전 OpenAI 직원 Daniel Kokotajlo는 기업이 자율 규제를 믿고 맡길 수 있다고 생각하지 않는다고 말했습니다. 2024년 말 OpenAI를 떠난 Steven Adler는 업계 전체의 안전 문화에 확신이 없다고 했습니다. Geoffrey Irving은 연구소들이 정부가 막지 않을, 자신들도 빠져나올 수 없는 경쟁에 갇혔다고 믿는다고 했습니다. “둘 다 틀렸다. 그들은 그냥 멈출 수 있다”고 그는 말했습니다. 청문회 후 Byrne은 위원회가 AI 분야에서 영국이 “중견국”으로서 갈 길을 검토하는 데 많은 시간을 쓸 것이라고 했습니다. 그는 장관들이 영국이 곧 맡을 G20 의장국 지위(다음 의장국은 한국)를 이용해 현 백악관에 의존하지 않는 국제 협약을 중재하기를 바랍니다. “G20 의장국 임기는 트럼프의 미국 대통령 임기보다 오래 갈 것”이라며 “위험은 우리의 안전 체계가 통제할 수 있는 속도보다 빠르게 늘고 있다”고 말했습니다.

독자가 주의할 점이 두 가지 있습니다. 첫째, 이것은 청문회이지 법이 아닙니다. 어떤 법안도 통과되지 않았고 어떤 회사도 행동을 바꾸겠다고 약속하지 않았습니다. 증인들은 입장을 밝혔을 뿐입니다. 둘째, 구속력 있는 규칙을 요구한 회사들도 프런티어 모델을 계속 개발하고 출시합니다. 규제를 요구하는 것이 속도를 늦추는 것을 뜻하지는 않습니다. 비판하는 쪽에서는 이런 호소가 자사에 유리한 규칙을 만드는 데 쓰일 수 있는지 묻습니다. WIRED 기사는 이에 답하지 않지만 각 측의 말을 기록으로 남겼고, 이는 앞으로의 입법 논의에 의미가 있습니다.

Sources

FAQ

청문회에서 네 회사는 각각 어떤 입장을 밝혔나요?

Anthropic 유럽 총괄 Liam Booth-Smith는 규칙이 “구속력이 있어야 한다”며 자발적 약속으로는 부족하다고 말했습니다. OpenAI의 Tom Duff Gordon 부사장은 더 신중했지만 법적 틀과 국제 협약을 지지했고, “일부는 의무여야 한다”며 사고 보고부터 시작하자고 했습니다. Google DeepMind의 Owen Larter는 직접 질문을 받자 “우리는 표준에 집중한다”고만 답했습니다. Meta의 Rob Sherman은 영국이 “백지에 쓰는 것이 아니다”라며 기존 규제 기관을 언급했습니다.

영국의 현재 안전 시험 체계에는 어떤 약점이 있나요?

관료들은 영국 AI 안전 연구소(AISI)가 출시 전에 프런티어 모델을 시험할 수 있는 것은 기업이 모델을 넘겨줄 때뿐이라고 인정했습니다. 소장 Henry de Zoete는 연구소가 기업과 외국 정부의 협조에 전적으로 의존하며, 너무 위험하다고 판단한 모델의 출시도 막을 수 없다고 했습니다. “우리는 인증 마크를 주지 않는다. 어떤 모델에도 가부를 말하지 않는다”는 것입니다. 내각사무처의 Cat Little은 체계 전체가 자발적이냐는 질문에 “현재로서는 그렇다”고 답했습니다.

이 청문회에서 또 눈에 띈 발언은 무엇인가요?

전직 연구소 연구원 네 명도 증언했습니다. 전 OpenAI 직원 Daniel Kokotajlo는 기업이 자율 규제를 믿고 맡길 수 있다고 생각하지 않는다고 말했습니다. 2024년 말 OpenAI를 떠난 Steven Adler는 업계 전체의 안전 문화에 확신이 없다고 했습니다. Geoffrey Irving은 연구소들이 정부가 막지 않을, 자신들도 빠져나올 수 없는 경쟁에 갇혔다고 믿지만 “둘 다 틀렸고 그들은 그냥 멈출 수 있다”고 말했습니다. 위원장 Liam Byrne은 영국이 곧 맡을 G20 의장국 지위로 현 백악관에 의존하지 않는 국제 협약을 중재하기를 바랍니다.