OpenAI s’engage à publier un Community Safety Report dès début 2027, tous les six mois, et durcit les limites de ChatGPT sur les attaques de masse passées et les questions d’adolescents sur les armes

Le 30 octobre 2026, OpenAI a fait deux annonces sur la sécurité des communautés : un nouveau rapport de sécurité qu’elle s’engage à publier, et des limites plus strictes de ChatGPT sur les informations liées à la violence, avec des limites supplémentaires pour les adolescents. L’article indique qu’OpenAI a effectué plus de 200 signalements aux forces de l’ordre au troisième trimestre 2026 et affirme qu’ils aident à déjouer des projets violents ; ce chiffre est celui d’OpenAI et l’article n’en donne aucune ventilation. Le premier rapport est attendu début 2027, et les nouvelles protections doivent commencer à être déployées dans les prochaines semaines.

Le rapport vient en premier. OpenAI s’engage à publier un Community Safety Report sur la prévention de la violence et d’autres enjeux de sécurité des communautés, ainsi que sur l’efficacité de ses protections. Selon elle, le rapport expliquera comment ses systèmes sont entraînés à détecter ces problèmes, à enquêter et à y répondre, présentera des exemples anonymisés de la manière dont les dommages liés à la violence apparaissent, mettra en avant de nouvelles mesures d’atténuation et des changements de règles, et inclura des données pertinentes. La première édition couvrira le second semestre 2026 et est attendue début 2027, avec une mise à jour tous les six mois ensuite. L’article emploie le nom Community Safety Report dans son titre de section et, une fois, Community Safeguards Report dans son introduction : le nom n’est donc pas tout à fait fixé. Rien dans ce rapport ne peut encore être vérifié, puisqu’il n’existe pas, et l’article ne donne aucun chiffre d’efficacité.

Pour tous les utilisateurs, OpenAI ajoute des limites sur les attaques de masse passées et sur leurs auteurs. Elle dit que ChatGPT donnera des informations moins détaillées dans ces domaines, même lorsque les détails sont disponibles ailleurs en ligne. La politique durcie restreint les reconstitutions d’attaques de masse passées, y compris les détails sur les armes et l’équipement utilisés et sur la manière dont ils ont été obtenus, ainsi que les comparaisons détaillées de l’ampleur des dommages, qui pourraient accroître la notoriété d’un auteur. Les gens peuvent toujours demander à ChatGPT de les aider à comprendre ces événements, l’effet sur les victimes et les communautés, et la façon de reconnaître les signes avant-coureurs et de prévenir la violence. Ces limites s’appliquent quels que soient l’âge de l’utilisateur ou la raison de sa question.

Deux autres changements concernent les signes avant-coureurs. S’appuyant sur une fonction présentée en mai, par laquelle ChatGPT peut utiliser de courts résumés factuels de signes précédents, OpenAI affirme que lorsque des échanges récents montrent des signes d’une violence possible, ChatGPT répondra plus prudemment sur les informations susceptibles d’être détournées. Elle travaille aussi à appliquer ces limites plus strictes lorsqu’elle prévoit qu’un utilisateur a moins de 18 ans, même si les échanges ne montrent aucune intention violente. Lorsqu’une conversation montre qu’une personne se fixe sur la violence ou sur l’idée de nuire gravement à quelqu’un, ChatGPT pourra, dit OpenAI, mettre fin automatiquement à la conversation ; si plusieurs conversations sont ainsi interrompues, le compte peut être suspendu temporairement. L’article parle d’un effort continu et dit qu’OpenAI collabore avec des experts de la santé mentale et de la prévention de la violence pour intervenir plus tôt de manière automatisée.

Pour les adolescents, OpenAI ajoute des limites sur les informations relatives aux armes, même lorsqu’une question semble inoffensive. Elle étend les règles existantes aux informations pratiques sur les armes et les systèmes de sécurité qui pourraient être détournées pour faciliter la violence, même en l’absence de tout signe d’intention violente. Les adolescents peuvent toujours se servir de ChatGPT pour aider à prévenir et à désamorcer la violence, chercher du soutien et joindre un adulte de confiance. OpenAI dit avoir renforcé son système de prédiction de l’âge, et toute personne placée à tort dans l’expérience des moins de 18 ans peut confirmer sa majorité via son partenaire Persona. Le contrôle parental comprend déjà des alertes de sécurité, qui peuvent être envoyées lorsque des évaluateurs spécialement formés repèrent une préoccupation sérieuse d’automutilation ou des comportements pouvant être liés à des troubles alimentaires ; en juillet, les alertes ont été étendues aux cas où le compte d’un adolescent est désactivé pour violation de la politique sur la violence. OpenAI dit travailler à prévenir les parents lorsqu’elle suspend le compte d’un adolescent qui parle de façon répétée de violence.

Il s’agit d’annonces et d’engagements, et les mesures seront déployées dans les prochaines semaines. L’article ne donne aucun chiffre sur la fréquence de déclenchement des nouvelles limites, la précision de la prédiction de l’âge ou le nombre de conversations qui seraient interrompues. Pour le lecteur, l’intérêt tient au périmètre concret : les attaques de masse passées, les questions d’adolescents sur les armes et la fixation répétée sur la violence. Le premier vrai test sera le rapport attendu début 2027.