배경

캘리포니아주 가빈 뉴섬 주지사는 2026년 3월 30일, 미국 역사상 최초의 포괄적인 AI 보호 행정명령에 서명했습니다. 이 조치는 미국 최대의 기술 혁신 허브인 캘리포니아주가 인공지능 규제에 대해 공식적이고 강력한 입장을 취했음을 의미하며, 미국 AI 정책의 새로운 지평을 열었습니다. 행정명령은 아동 안전 프로토콜, 딥페이크 대응, 디지털 초상권 보호, 그리고 AI 투명성 기준이라는 네 가지 핵심 영역을 포괄합니다. 특히 이번 조치는 도널드 트럼프 행정부가 2025년 말 연방 차원의 AI 안전 관련 행정명령을 대거 철회하고 AI 기업에 대한 정보 공개 의무를 완화한 것에 대한 직접적인 대응으로 해석됩니다. 이로 인해 미국은 연방 정부의 규제가 느슨해지는 반면, 개별 주들이 규제를 강화하는 '연방 이완, 주별 강화'라는 이원화된 규제 환경에 진입하게 되었습니다.

뉴섬 주지사는 이번 행정명령이 단순한 상징적 조치가 아니라, 실제 법적 구속력과 집행력을 갖춘 조치임을 강조했습니다. 캘리포니아주 법무장관 로브 본타는 성명을 통해 주 법무부 산하에 'AI 컴플라이언스 집행팀'을 신설하여 기술 전문가와 법률 전문가를 배치할 것이라고 밝혔습니다. 이 팀은 위법 행위를 저지른 AI 기업에 대해 적극적으로 조사를 진행하고 소송을 제기할 예정입니다. 캘리포니아주 의회에서 민주당이 과반수를 차지하고 있는 정치적 현실을 고려할 때, 이번 행정명령이 향후 공식 주 법제로 전환될 가능성은 매우 높습니다. 이는 다음 주지사의 교체나 법원의 판결에도 불구하고 상당한 기간 동안 유효할 것으로 예상됩니다.

심층 분석

이번 행정명령의 가장 주목할 만한 조항 중 하나는 디지털 초상권 보호 규정입니다. 현재 AI 산업 전반에서는 공개된 인터넷 데이터를 스크래핑하여 얼굴 이미지 등을 모델 학습에 사용하는 것이 관행이었으나, 캘리포니아주에서는 본인의 명시적 동의 없이 개인 초상, 음성, 기타 생체 특징 데이터를 AI 모델 훈련에 사용하는 것이 금지됩니다. 이는 할리우드 배우 조합과 음악계의 오랜 요구를 반영한 것으로, AI 기술 발전과 개인의 사생활 및 권리 보호 사이의 균형을 찾는 중요한 시도로 평가됩니다. 또한, 아동 안전을 위해 AI 기업은 연령 확인 메커니즘을 도입해야 하며, 미성년자에게 심리적 피해를 줄 수 있는 AI 상호작용 콘텐츠를 제공해서는 안 됩니다. 이는 최근 몇몇 청소년이 AI 챗봇과 과도하게 정서적 유대감을 형성하며 정신 건강 문제를 겪은 사례들에 대한 직접적인 대응입니다.

딥페이크 대응 측면에서는 AI가 생성한 오디오 및 비디오 콘텐츠에 제거 불가능한 디지털 워터마크를 부착하는 것이 의무화되었습니다. 이를 통해 딥페이크 콘텐츠의 출처를 추적하고, 위반 시 민사 및 형사상 이중 책임을 물을 수 있는 법적 근거를 마련했습니다. 아울러 AI 기업은 모델 학습 데이터의 출처, 성능의 한계, 그리고 알려진 위험 요소에 대해 투명하게 공개해야 하며, AI가 생성한 모든 콘텐츠에는 강제적인 표시를 해야 합니다. 이러한 조항들은 AI 기술의 '블랙박스' 성격을 해체하고, 사용자가 AI 생성물의 진위 여부를 판별할 수 있도록 하는 것을 목표로 합니다. EU의 AI법과 비교했을 때, 캘리포니아주는 위험 등급 분류 체계를 도입하지 않고 특정 시나리오(아동, 딥페이크, 초상권)에 대한 표적 규제를 적용했으며, 2027년 완료를 목표로 하는 EU와 달리 즉시 발효되어 기업들의 대응 시간을 압축했습니다.

산업 영향

캘리포니아주는 OpenAI, Anthropic, Google DeepMind, Meta AI 등 전 세계 주요 AI 기업들의 본사나 주요 연구 개발 센터가 위치한 곳입니다. 따라서 이번 행정명령은 전 세계 AI 산업의 표준을 결정하는 데 지대한 영향을 미칠 것입니다. 특히 디지털 초상권 조항은 기존 데이터 수집 관행을 근본적으로 변화시킬 것으로 예상됩니다. 공개 데이터 스크래핑이 법적 리스크를 초래함에 따라, 합성 데이터와 라이선스 받은 데이터셋에 대한 수요가 단기적으로 급증할 가능성이 큽니다. AI 기업들은 이제 학습 데이터의 출처를 철저히 감사하고, 미승인된 캘리포니아주 주민의 생체 데이터를 즉시 제거하거나 승인을 받아야 하는 부담을 안게 되었습니다.

이러한 규제 환경은 AI 기업들의 운영 전략과 비용 구조에도 변화를 가져올 것입니다. 전미 규모로 사업을 운영하는 기업은 50개 주마다 다른 AI 규제에 대응해야 하는 복잡한 컴플라이언스 부담을 겪게 됩니다. 이는 통일된 연방 법규가 존재할 때보다 더 번거롭고 비용이 많이 들 수 있습니다. 기업들은 데이터 감사, 워터마킹 시스템 구축, 신뢰할 수 있는 연령 확인 도구 도입, 그리고 전문 AI 컴플라이언스 법률 팀 증원 등 즉각적인 조치를 취해야 합니다. 특히 소비자 대상 AI 제품, 챗봇, 창작 도구에 대해서는 연령 확인 메커니즘을 강화해야 하며, 생성된 콘텐츠에 워터마크를 적용하는 기술적 인프라를 갖춰야 합니다. 이는 단기적으로는 기업의 개발 비용과 운영 비용을 상승시키지만, 장기적으로는 AI 기술에 대한 대중의 신뢰를 회복하고 지속 가능한 성장을 도모하는 데 필수적인 단계로 간주됩니다.

전망

캘리포니아주의 이번 조치는 미국 내 다른 주들, 특히 민주당 성향이 강한 주들에게도 규제 경쟁을 촉발할 것으로 보입니다. 뉴욕주는 이미 알고리즘 감사와 영향력 평가 보고서 제출을 요구하는 더 강력한 AI 규제 법안을起草 중이며, 매사추세츠주도 캘리포니아주의 아동 안전 조항을 따를 가능성이 있습니다. 이로 인해 미국은 사실상의 '주별 규제로 구성된 AI 규제 프레임워크'를 형성하게 되는데, 이는 단편적이지만 광범위한 커버리지를 가질 수 있습니다. 이러한 '주별 규제의 패치워크'는 기업들에게는 혼란을 가중시키지만, 동시에 각 주가 혁신적인 규제 모델을 실험하는 장이 될 수도 있습니다.

글로벌 관점에서도 캘리포니아주의 영향력은 큽니다. 캘리포니아 소비자 개인정보 보호법(CCPA)이 여러 주의 프라이버시 법제와 연방 논의에 영향을 미쳤던 것처럼, 이번 AI 보호 행정명령도 다른 주와 국가들의 참고 모델이 될 것입니다. 결과적으로 캘리포니아의 AI 보호 기준은 미국의 최소 기준을 넘어, 글로벌 AI 기업들이 준수해야 할 사실상의 글로벌 최소 표준으로 자리 잡을 가능성이 높습니다. EU의 AI법과 캘리포니아주의 접근 방식은 방법론적 차이가 있지만, 둘 다 AI 기술의 책임 있는 발전을 위한 규제의 중요성을 인정하고 있다는 점에서 공명합니다. 앞으로 미국 AI 규제 환경은 연방과 주, 그리고 국제적 기준 간의 상호작용을 통해 더욱 복잡하고 다층적인 형태로 진화할 것으로 예상됩니다.