OpenAI, 2027년 초부터 6개월마다 Community Safety Report를 내겠다고 약속… 과거 대규모 공격 세부 정보와 청소년 무기 질문 제한 강화

2026년 10월 30일 OpenAI는 커뮤니티 안전에 관한 두 가지 발표를 했다. 하나는 새 안전 보고서를 공개하겠다는 약속이고, 다른 하나는 폭력 관련 정보에 대한 ChatGPT의 제한을 강화하고 청소년에게 추가 제한을 두는 것이다. 게시물에 따르면 OpenAI는 2026년 3분기에 200건이 넘는 수사기관 통보를 했고, 이것이 폭력 계획을 막는 데 도움이 된다고 설명한다. 이 수치는 OpenAI 자신의 것이며 게시물은 세부 내역을 제시하지 않는다. 첫 보고서는 2027년 초에 나올 예정이고, 새 안전 장치는 앞으로 몇 주에 걸쳐 도입되기 시작한다.

먼저 보고서다. OpenAI는 폭력 예방과 그 밖의 커뮤니티 안전 문제, 그리고 안전 장치의 효과를 다루는 ‘Community Safety Report’를 공개하겠다고 약속했다. 보고서는 시스템이 이런 문제를 탐지하고 조사하고 대응하도록 어떻게 훈련되는지를 설명하고, 폭력 관련 피해가 어떻게 나타나는지 보여주는 익명화한 사례를 싣고, 새로운 완화 조치와 정책 변경을 소개하며, 관련 데이터를 포함한다고 한다. 첫 호는 2026년 하반기를 다루며 2027년 초에 나오고, 이후 6개월마다 갱신된다. 게시물은 제목에서는 Community Safety Report를, 도입부에서는 한 번 Community Safeguards Report라는 이름을 쓰고 있어 명칭이 완전히 정해지지는 않았다. 보고서가 아직 존재하지 않으므로 내용은 확인할 수 없고, 게시물은 효과를 보여주는 수치도 제시하지 않는다.

OpenAI는 모든 이용자에 대해 과거 대규모 공격과 그 가해자에 대한 제한을 추가한다. 이 분야에서는 세부 사항을 다른 온라인 출처에서 구할 수 있더라도 ChatGPT가 덜 자세한 정보를 제공한다고 한다. 강화된 정책은 과거 대규모 공격의 재구성을 제한하는데, 여기에는 사용된 무기와 장비의 세부 사항, 그것을 어떻게 구했는지, 그리고 가해자의 악명을 키울 수 있는 피해 규모의 상세한 비교가 포함된다. 사람들은 여전히 ChatGPT에게 이런 사건을 이해하고, 피해자와 지역사회가 받은 영향을 알고, 경고 신호를 알아보고 폭력을 막는 방법을 묻는 데 도움을 받을 수 있다. 이 제한은 이용자의 나이나 질문 이유와 관계없이 적용된다.

경고 신호와 관련된 변경이 두 가지 더 있다. 5월에 공개한, ChatGPT가 이전 경고 신호의 짧은 사실 요약을 쓸 수 있는 기능을 바탕으로, OpenAI는 최근 대화에 폭력 가능성의 징후가 보이면 ChatGPT가 악용될 수 있는 정보를 더 보수적으로 제공한다고 말한다. 또한 이용자가 18세 미만이라고 예측될 때는 대화에 폭력 의도의 징후가 없더라도 이 더 엄격한 제한을 적용하도록 작업하고 있다. 대화에서 어떤 사람이 폭력이나 타인에게 심각한 해를 끼치는 생각에 집착하는 모습이 보이면 ChatGPT가 대화를 자동으로 종료할 수 있게 될 것이라고 하며, 그런 이유로 여러 대화가 종료되면 계정이 일시적으로 정지될 수 있다. 게시물은 이것을 계속 진행 중인 노력이라고 하면서, 정신 건강과 폭력 예방 전문가와 더 이른 시점에 자동으로 개입하는 방법을 함께 연구하고 있다고 밝힌다.

청소년에 대해서는 질문이 무해해 보여도 무기 관련 정보를 제한한다. 기존 규칙을 폭력을 돕는 데 악용될 수 있는 무기와 보안 시스템에 관한 실용적 정보까지 확대하며, 폭력 의도의 징후가 없을 때도 적용한다. 청소년은 여전히 폭력을 예방하고 완화하는 데, 도움을 구하는 데, 신뢰할 수 있는 어른과 연결되는 데 ChatGPT를 쓸 수 있다. OpenAI는 연령 예측 시스템을 강화했다고 하며, 18세 미만 환경에 잘못 분류된 사람은 파트너사 Persona를 통해 성인임을 확인할 수 있다. 보호자 통제에는 이미 안전 알림이 있어, 특별히 훈련된 검토자가 심각한 자해 우려나 섭식 장애와 연관될 수 있는 행동을 확인했을 때 발송될 수 있다. 7월에는 이 알림이 청소년 계정이 폭력 관련 정책 위반으로 비활성화된 경우까지 확대되었다. OpenAI는 폭력에 대해 반복해서 이야기해 청소년 계정을 정지했을 때 보호자에게 알리는 기능도 준비하고 있다고 한다.

이는 발표와 약속이며, 조치는 앞으로 몇 주에 걸쳐 도입된다. 게시물은 새 제한이 얼마나 자주 작동하는지, 연령 예측이 얼마나 정확한지, 얼마나 많은 대화가 종료될지에 관한 수치를 제시하지 않는다. 독자에게 유용한 것은 구체적인 범위, 즉 과거 대규모 공격, 청소년의 무기 질문, 폭력에 대한 반복적인 집착이다. 진짜 시험대는 2027년 초에 나올 첫 보고서다.