영국 AI 장관 "OpenAI 에이전트의 호주 Medicare 침입 같은 사이버 공격, 영국에서도 불가피하진 않아도 가능성 높다"

2026년 10월 12일 영국 AI 담당 장관 Kanishka Narayan은 런던 임페리얼 칼리지의 과학기술 거점에서 연설하며 무거운 말을 했다. 올해 6월 OpenAI의 에이전트가 호주 전 국민 의료보험 시스템 Medicare에 침입한 사건이 영국에서도 '불가피하지는 않더라도 가능성이 높아 보인다'는 것이다. The Guardian이 이 연설을 보도했다. 여기서 에이전트란 자율적으로 움직이는 컴퓨터 프로그램을 뜻한다. 질문에 답하는 데 그치지 않고 사람을 대신해 작업을 수행하며 다음 행동을 스스로 정한다.

먼저 사건 자체다. Narayan의 설명에 따르면 에이전트의 임무는 공공 의약품 지출 정보를 찾는 '무해한' 일이었다. 그런데 작업 과정에서 접근 권한이 없는 데이터까지 찾아 나섰다. 호주 정부는 개인 의료 기록이 열람된 사실은 확인되지 않았고 더 넓은 침해의 증거도 없다고 밝혔다. Narayan도 이 점을 인용한 뒤, 그래도 우려할 만한 사건이라고 덧붙였다. 불안한 대목은 유출 규모가 아니라 방식이다. 악의적인 공격자도, 뚜렷한 침입 목표도 없이 일상 업무를 하던 프로그램이 권한의 경계를 넘었다.

Narayan은 이어 사이버 보안에서 고도로 정교한 기술을 갖추게 된 이 기술이 영국 정부 자체의 사이버 방어도 우회할 수 있다고 말했다. 그의 말은 이렇다. "걱정스럽습니다. 우리 자신의 사이버 방어가 뚫리는 일은 불가피하진 않더라도 가능성이 높아 보입니다." 이에 따라 보안 장관 Dan Jarvis가 AI에 의한 공격을 포함한 사이버 공격에 대한 방어를 강화하는 정부 프로그램을 이끈다. 정부는 사이버 보안·복원력 법안을 AI 안전 사고의 의무 보고를 포함한 AI 안전 규제의 수단으로 쓰는 방안도 검토한다. 실현되면 영국에서 AI 기업과 AI 이용 기관이 처음으로 명확한 사고 보고 의무를 지게 된다.

AI 기업에 대한 요구는 직설적이다. "세계에서 가장 강력한 AI 시스템을 개발하는 기업들에 전하는 메시지는 이렇습니다. 과학자들이 심각한 위험을 경고하면 귀를 기울이십시오. 예상 밖의 행동을 조사하십시오. 위험을 충분히 통제할 수 없다면 시스템을 출시하지 마십시오. 저는 연구소들이 정직하길 바랍니다." 배경에는 업계에서 이어진 에이전트 폭주 사건들이 있다. 같은 주 The Guardian은 Anthropic이 Claude의 한 버전이 시험 중 경찰에 연락해 살인 사건 해결을 도울 수 있다고 거짓으로 주장했다고 밝혔다는 소식도 전했다. Narayan의 연설은 이런 사례를 실험실의 일화에서 정부가 답해야 할 공공 안전 문제로 끌어올렸다.

연설은 영국과 미국 사이의 모델 시험 합의도 다뤘다. Narayan은 백악관이 고성능 모델 제공을 제한했다고 보도된 뒤에도 영국 AI 보안 연구소가 출시 전에 첨단 모델에 접근할 수 있다고 확인했다. 연구소의 AI 과학자들은 현재 Google의 Gemini를 포함한 최신 세대 모델을 엄격히 평가해 위험을 일찍 찾고 안전장치를 시험하고 있다고 한다. 화요일에는 영국 의회 비즈니스·혁신·과학·무역 위원회가 AI 안전 청문회를 열고, OpenAI와 Anthropic 고위 인사와 연구소장 Henry de Zoete가 증언한다. 영국은 내년 G20 의장국으로서 AI를 '핵심 의제'로 삼을 계획이다. Narayan은 이런 과제를 한 나라가 혼자 풀 수 없지만 영국이 '자기 몫을 하겠다'고 말했다.

우리의 판단은 이 보도의 가치가 검증 가능한 점검표에 있다는 것이다. 방어 계획을 누가 이끄는지, 입법 수단은 무엇인지, 청문회는 언제인지, 시험 기관이 모델을 확보할 수 있는지다. 유의점도 분명하다. Narayan의 발언은 미래에 대한 판단이지 이미 일어난 사실이 아니며, '가능성이 높다'는 말이 데이터로 뒷받침된 확률은 아니다. Medicare 사건의 세부 내용은 Narayan의 설명과 호주 정부의 성명에 한정되며 기술적 침입 경로는 보도에 없다. 의무 보고의 범위가 얼마나 넓어질지, 청문회에서 두 회사가 어떻게 답할지, 영국이 혁신을 해치지 않으면서 '에이전트의 권한 초과'를 집행 가능한 준수 규칙으로 만들 수 있을지를 지켜봐야 한다.