OpenAI와 폴란드 NASK, AI 안전 연구 협약 체결

NASK와 OpenAI, 연구 협약 체결

OpenAI는 10월 23일 폴란드의 국립 연구기관 NASK와 AI 안전, 사이버 보안, 기술 연구에 관한 협력을 모색하는 협약을 맺었다고 발표했다. NASK의 AI 안전 연구센터는 폴란드 AI 안전 연구소 역할을 맡고 있다. 발표는 능력이 더 높은 AI 시스템을 평가하고 위험을 찾아 안전장치를 개선하는 연구 방향을 제시한다. 그러나 공동 평가가 이미 완료됐다거나 국가 기준이 만들어졌거나 제품의 안전성이 인증됐다고 말하지 않는다. 10월 26일은 이 기사의 발행일이며 협약 발표일과 다르다.

이 협력은 모델 개발회사의 안전 주장을 현지 언어와 공공 서비스의 요구에 맞춰 검증할 기회를 제공한다. 폴란드어 정보 환경과 행정 업무에서는 영어 중심 평가가 놓친 문제가 나타날 수 있다. 하지만 협약 자체가 그런 검증의 성과는 아니다. 어떤 모델 버전을 시험하고 어떤 도구를 허용하며 무엇을 실패로 판단할지, 발견한 약점을 어떻게 고쳤는지를 공개해야 실효성을 판단할 수 있다. 발표문에는 일정, 예산, 접근 규칙이나 독립적으로 채점한 결과가 없다.

이전 사이버 연구가 보여주는 범위

OpenAI는 NASK 안에서 활동하는 CERT Polska와 7월에 진행한 별도 연구를 예로 들었다. CERT Polska는 Daybreak를 통해 사이버 방어 연구에 사용할 수 있는 모델을 제공받았다. OpenAI에 따르면 이 팀은 모델을 활용해 MikroTik RouterOS 취약점 6건을 발견했다. 일부 결함을 결합하면 인증 없이 영향을 받은 장치를 제어할 수 있었다고 한다. 공급업체가 패치를 발표했으며 CERT Polska는 그 패치가 관찰된 공격을 막는지 확인했다고 OpenAI는 밝혔다. 6건은 과거의 특정 제품 연구 결과이지 새 협약에서 얻은 성과가 아니다.

이 사례는 방어팀이 통제된 조사에서 모델의 도움을 받을 수 있음을 보여준다. 같은 모델이 모든 취약점을 안정적으로 찾거나 폴란드의 모든 공공 시스템이 이미 보호된다는 뜻은 아니다. 조사한 제품 수, 보고 방법, 패치가 사용자에게 전달된 범위와 재시험 결과를 모르면 전국적인 보안 효과를 계산할 수 없다. 하나의 제품과 기간에서 나온 취약점 수를 국가 전체의 회복력 수치로 확대해서는 안 된다.

공동 안전 연구가 답해야 할 질문

유용한 공동 평가라면 시작하기 전에 모델 버전, 허용된 도구와 권한, 폴란드어를 포함한 시험 과제, 실패 기준을 정해야 한다. 모델 자체의 위험한 행동과 네트워크, 신원 확인, 사람의 승인처럼 바깥에 놓인 통제도 구분해야 한다. 이는 협력을 평가하기 위해 이 매체가 제안하는 기준이며 두 기관이 이미 그런 절차를 공개했다는 주장이 아니다.

보안 문제의 공격 방법을 책임 있게 비공개로 유지하면서도 다른 연구기관이 결론을 확인할 수 있는 방법은 제시할 수 있다. 실패가 발견되면 모델을 변경했는지, 외부 장벽을 보강했는지, 허용 업무를 줄였는지 설명하고 같은 시험을 다시 해봐야 한다. 안전 연구의 목적은 약점을 발견하고 고치는 것이므로 취약점 발견 자체가 협력 실패를 뜻하지도 않는다.

현 단계에서 확인할 수 있는 것은 협약 당사자와 연구 분야, 그리고 이전 방어 연구 사례다. 새로운 국제 기준의 완성이나 모든 위험의 해소를 의미하지 않는다. 후속 성과는 두 기관이 공개하는 실제 시험 방법과 검증 결과로 판단해야 한다.

앞으로 공동 연구가 발표된다면 회의 횟수보다 실제로 평가한 과제, 발견한 문제, 수정 후 재시험 결과가 중요하다. 공격 방법의 세부 사항을 숨겨야 하더라도 어떤 종류의 결함을 고쳤고 무엇이 여전히 남았는지 밝힐 수 있다. 특히 격리된 연구 환경에서 허용한 모델 기능을 공공 서비스의 실제 운영 환경에도 그대로 허용해도 된다고 생각해서는 안 된다. 두 환경의 권한과 책임을 분리해야 시민이 협약의 의미를 정확히 판단할 수 있다.