Senator Proposes AI Guardrails for Pentagon: Ban on Autonomous Weapons, Citizen Surveillance

배경

2026년 3월 18일, 엘리사 슬로트킨(Elissa Slotkin) 미국 상원의원이 'AI 가드레일 법안(AI Guardrails Act)'을 상정하며 국방부의 인공지능(AI) 사용에 명확한 법적 제한을 부과하는 방안을 제시했습니다. 이 법안은 국방부가 AI 시스템을 활용하는 데 있어 세 가지 핵심 금지를 명시하고 있습니다. 첫째, 인간의 승인 없이 AI가 무기를 자율적으로 발사하는 것을 금지합니다. 둘째, 미국 시민에 대한 감시를 목적으로 AI를 사용하는 것을 금지합니다. 셋째, 핵무기 발사 결정 과정에 AI가 관여하는 것을 금지합니다. 이는 미국 역사상 군사 AI 응용 분야에 대해 이처럼 명확하고 강제력 있는 법적 경계선을 제시한 최초의 사례로, 자발적인 윤리 가이드라인을 넘어 실효성 있는 법적 제약의 영역으로 논의가 전환되었음을 의미합니다.

이 법안의 제안 시점은 2026년 초의 광범위한 기술적, 경제적 배경과 맞물려 주목할 만합니다. AI 산업은 전례 없는 자본 축적과 기술 가속화를 겪고 있으며, OpenAI가 2월 1,100억 달러의 역사적인 자금 조달을 완료하고, xAI가 SpaceX와 합병하여 시가총액 1조 2,500억 달러를 달성했으며, Anthropic의 평가액이 3,800억 달러를 돌파하는 등 주요 기업들의 시장 지배력이 강화되었습니다. 이러한 거대 자본의 이동은 방위 산업계와 정부 기관이 군사 작전에 첨단 AI 능력을 통합할 압력을 가중시켰고, 이에 따라 규제 감독의 시급성이 높아졌습니다. 슬로트킨 상원의원은 기술적 우위를 유지하면서도 치명적 무력에 대한 인간의 통제를 보존하는 미묘한 균형을 모색하고자 합니다.

심층 분석

'AI 가드레일 법안'의 핵심 조항은 치명적 자율성, 국내 감시, 핵 명령이라는 세 가지 우려 사항을 다루고 있습니다. 자율 무기 발사 금지 조항은 특히 중요한데, 이는 AI 시스템이 인간의 개입 없이 표적을 식별하고 교전하는 능력을 타겟으로 하기 때문입니다. 현재의 군사 교리는 '의미 있는 인간의 통제(meaningful human control)' 원칙을 강조하지만, 머신러닝 알고리즘의 급속한 발전으로 인해 이 원칙이 실제로 유지될 수 있는지에 대한 의문이 제기되었습니다. 이 법안은 '반자율' 시스템이 사실상 발사 결정을 내릴 수 있는 구멍을 막아, 모든 치명적 교전 상황에서 인간 운영자가 최종 심판자 역할을 하도록 보장합니다.

미국 시민에 대한 AI 감시 금지 조항은 군사급 AI 기술의 확장과 함께 커진 시민 자유 우려를 다룹니다. 방위 계약업체들이 전장的情报를 위해 정교한 데이터 처리 도구를 개발함에 따라, 이러한 도구가 국내 감시에 전용될 위험이 존재합니다. 이 법안은 국방부 AI 시스템을 미국인 스파이 활동에 사용하는 것을 명시적으로 금지함으로써, 해외 군사 작전과 국내 치안 유지 간의 분리를 강화합니다. 이는 공공의 신뢰를 유지하고 군사 기술이 미국 내 사생활 권리를 침식하는 데 사용되지 않도록 하는 데 필수적입니다.

핵무기 결정 과정에 대한 AI 참여 제한은 제안의 가장 엄격한 측면일 수 있습니다. 핵 명령, 통제 및 통신(NC3) 시스템은 국가 안보에서 가장 중요한 인프라 중 하나이며, 그 무결성이 최우선입니다. 이 법안은 이러한 파국적 행위에 대한 엄격한 인간 감독을 고수하며, 핵무기 발사 결정에任何形式的 AI 지원을 금지합니다. 이 입장은 빠른 AI 기반 대응이 의도치 않은 핵 갈등으로 이어질 수 있는 자동화된 확장의 위험에 대한 전문가들의 경고와 역사적 전례에 기반합니다. 이 금지를 법제화함으로써 입법부는 향후 어떤 행정부도 이 높은 스테이크의 도메인에서 AI를 실험하는 것을 방지하고자 합니다.

산업 영향

'AI 가드레일 법안'의 도입은 AI 개발에 막대한 투자를 하고 있는 방위 산업에 즉각적인 영향을 미칩니다. 로크히드 마틴(Lockheed Martin), 레이시온(Raytheon), 노스롭 그루먼(Northrop Grumman)과 같은 주요 방위 계약업체들은 감시, 물류, 전투 지원 등을 위해 AI 기반 솔루션을 적극적으로 추구해 왔습니다. 이 법안은 이러한 회사들이 새로운 제한 사항에 준수하기 위해 제품 라인을 재설계하도록 강요할 가능성이 높습니다. 이는 소프트웨어 아키텍처의 상당한 변경, 실시간 AI 의사결정 과정을 모니터링할 수 있는 투명성 기능 강화, 그리고 강력한 인간 개입(human-in-the-loop) 메커니즘의 통합을 포함할 수 있습니다.

이 영향은 방위 섹터를 넘어 더 넓은 AI 생태계로 확장됩니다. NVIDIA와 같은 AI 인프라 제공업체는 방위 계약이 더 규제됨에 따라 수요 구조의 변화를 겪을 수 있습니다. 설명 가능한 AI와 인간 감독에 대한 요구는 군사 AI 시스템 개발의 복잡성과 비용을 증가시켜, 성능과 속도만을 중시하는 기업보다 AI 안전성과 윤리에 전문성을 갖춘 기업에게 유리한 경쟁 구도를 형성할 수 있습니다. 또한 이 법안은 미국의 동맹국들이 미국 방위 기술에 의존함에 따라 자체 조달 전략을 새로운 기준에 맞게 조정해야 할 필요성을 초래할 수 있으며, 이는 민주주의 국가들 사이에서 군사 AI 사용에 대한 사실상의 국제 표준을 생성하는 결과로 이어질 수 있습니다.

반면, 적대적 국가들은 이러한 제한을 약점으로 간주하고 자율 무기 시스템 개발을 가속화할 수 있습니다. 이는 자율 시스템의 능력보다는 인간 통제 메커니즘의 견고함에 초점을 맞춘 새로운 형태의 군비 경쟁으로 이어질 수 있습니다. 한편, AI 기업과 정부 간의 관계에 있어서도 이 법안은 명확한 법적 경계를 제공하여 파트너십에 대한 불확실성을 줄이고, 허용 가능한 사용과 금지된 사용의 선이 명확해짐에 따라 정의된 경계 내에서 더 많은 혁신을 장려할 수 있습니다.

전망

앞으로 'AI 가드레일 법안'의 통과 여부는 향후 군사 AI 입법에 선례를 남길 것입니다. 만약 통과된다면, 이는 자국의 군사 AI 프로그램을 규제하려는 다른 국가들의 모델로 작용하여, 방위 분야의 AI 거버넌스에 대한 글로벌 프레임워크로 이어질 가능성이 있습니다. 인간의 통제 강조와 치명적 자율성 금지 조항은 화학 및 생물학 무기 조약과 유사하게 국제 규범의 핵심 기둥이 될 수 있습니다. 그러나 각국의 상이한 이해관계와 능력으로 인해 이러한 글로벌 합의를 달성하는 것은 쉽지 않을 것입니다.

단기적으로 방위 산업은 새로운 규제 환경에 적응해야 합니다. 기업들은 감사 추적, 의사결정 로그, 인간-기계 인터페이스 향상 등 준수 기술에 막대한 투자를 할 것입니다. 이러한 변화는 개발자들이 기술적으로 가능한 한계를 밀어붙이는 것보다 규제 요구사항을 충족하는 데 집중함에 따라 자율 기능 측면에서 혁신 속도가 일시적으로 느려지는 시기를 초래할 수 있습니다. 그러나 이러한 조정 기간은 군인과 일반 대중 사이에서 AI 시스템에 대한 신뢰를 증진시키는 결과를 낳을 수 있으며, 이는 이러한 기술의 성공적인 통합에 필수적입니다.

장기적으로 군사 AI의 전망은 불확실하지만, 'AI 가드레일 법안'은 미국이 중요한 군사 결정에 대한 인간의 통제를 유지하겠다는 명확한 방향을 제시합니다. 이 약속은 향후 수년간 AI 기술의 개발에 영향을 미칠 것이며, 군사 응용 분야뿐만 아니라 유사한 윤리적 및 안전적 과제를 공유하는 시민용 AI 사용에도 영향을 미칠 것입니다. AI가 계속 진화함에 따라 기술적 진보와 윤리적 억제 사이의 균형은 정책 논의의 중심 주제가 될 것이며, 'AI 가드레일 법안'은 향후 논의의 중요한 참조점이 될 것입니다. 또한 이 법안은 AI가 더 보편적이고 강력해짐에 따라 잠재적 위험을 해결하기 위한 선제적 규제의 필요성을 인식하는 의회의 역할이 커지고 있음을 보여줍니다.