OpenAI sagt ab Anfang 2027 einen halbjährlichen Community Safety Report zu und verschärft ChatGPT-Grenzen bei vergangenen Massenangriffen und Waffenfragen von Jugendlichen

Am 30. Oktober 2026 hat OpenAI zwei Ankündigungen zur Sicherheit von Gemeinschaften gemacht: einen neuen Sicherheitsbericht, den das Unternehmen zu veröffentlichen zusagt, und strengere ChatGPT-Grenzen bei gewaltbezogenen Informationen, mit zusätzlichen Grenzen für Jugendliche. Laut Beitrag hat OpenAI im dritten Quartal 2026 mehr als 200 Meldungen an Strafverfolgungsbehörden gemacht und beschreibt sie als Hilfe beim Verhindern gewalttätiger Pläne; die Zahl stammt von OpenAI selbst, eine Aufschlüsselung gibt der Beitrag nicht. Der erste Bericht ist für Anfang 2027 vorgesehen, die neuen Schutzmaßnahmen sollen in den nächsten Wochen anlaufen.

Zuerst der Bericht. OpenAI sagt einen Community Safety Report zu, der sich mit Gewaltprävention und anderen Fragen der Sicherheit von Gemeinschaften befasst und damit, wie gut die Schutzmaßnahmen wirken. Er soll erklären, wie die Systeme darauf trainiert werden, solche Probleme zu erkennen, zu untersuchen und darauf zu reagieren, anonymisierte Beispiele dafür zeigen, wie sich gewaltbezogener Schaden äußert, neue Gegenmaßnahmen und Richtlinienänderungen hervorheben und einschlägige Daten enthalten. Die erste Ausgabe soll das zweite Halbjahr 2026 abdecken und Anfang 2027 erscheinen, danach folgen Aktualisierungen alle sechs Monate. Der Beitrag nennt den Bericht in der Überschrift Community Safety Report und einmal in der Einleitung Community Safeguards Report, der Name ist also nicht ganz festgelegt. Am Bericht lässt sich noch nichts prüfen, weil es ihn nicht gibt, und der Beitrag nennt keine Wirksamkeitszahl.

Für alle Nutzer führt OpenAI Grenzen für vergangene Massenangriffe und ihre Täter ein. ChatGPT soll in diesen Bereichen weniger detaillierte Informationen geben, auch wenn die Einzelheiten anderswo im Netz verfügbar sind. Die verschärfte Richtlinie schränkt Rekonstruktionen vergangener Massenangriffe ein, darunter Angaben zu den verwendeten Waffen und Ausrüstungsgegenständen und dazu, wie sie beschafft wurden, sowie detaillierte Vergleiche des Ausmaßes des Schadens, die die Bekanntheit eines Täters steigern könnten. Man kann ChatGPT weiterhin bitten, solche Ereignisse zu verstehen, die Folgen für Opfer und Gemeinschaften zu erfassen und Warnzeichen zu erkennen und Gewalt zu verhindern. Die Grenzen gelten unabhängig vom Alter der Nutzer und vom Grund der Frage.

Zwei weitere Änderungen betreffen Warnzeichen. Aufbauend auf einer im Mai vorgestellten Funktion, bei der ChatGPT kurze sachliche Zusammenfassungen früherer Warnzeichen nutzen kann, sagt OpenAI: Wenn aktuelle Chats Anzeichen möglicher Gewalt zeigen, antwortet ChatGPT bei Informationen, die missbraucht werden könnten, zurückhaltender. Das Unternehmen arbeitet zudem daran, diese strengeren Grenzen auch anzuwenden, wenn es vorhersagt, dass ein Nutzer unter 18 ist, selbst wenn die Chats keine Gewaltabsicht zeigen. Zeigt ein Gespräch, dass sich jemand auf Gewalt oder darauf fixiert, jemandem schwer zu schaden, soll ChatGPT das Gespräch laut OpenAI automatisch beenden können; beendet es aus diesem Grund mehrere Chats, kann das Konto vorübergehend pausiert werden. Der Beitrag nennt das ein laufendes Vorhaben und sagt, OpenAI arbeite mit Fachleuten für psychische Gesundheit und Gewaltprävention an früheren, automatisierten Eingriffen.

Für Jugendliche führt OpenAI Grenzen bei waffenbezogenen Informationen ein, auch wenn eine Frage harmlos wirkt. Bestehende Regeln werden auf praktische Informationen über Waffen und Sicherheitssysteme ausgeweitet, die missbraucht werden könnten, um Gewalt zu erleichtern, selbst ohne Anzeichen von Gewaltabsicht. Jugendliche können ChatGPT weiterhin nutzen, um Gewalt zu verhindern und zu entschärfen, Unterstützung zu suchen und eine vertraute erwachsene Person zu erreichen. OpenAI sagt, es habe sein System zur Altersvorhersage verstärkt, und wer fälschlich in die Erfahrung für unter 18-Jährige eingeordnet wird, kann über den Partner Persona bestätigen, dass er erwachsen ist. Zur Kindersicherung gehören bereits Sicherheitswarnungen, die gesendet werden können, wenn speziell geschulte Prüfer ein ernstes Selbstverletzungsrisiko oder Verhalten erkennen, das mit Essstörungen zusammenhängen kann; im Juli wurden sie auf Fälle ausgeweitet, in denen das Konto eines Jugendlichen wegen eines Verstoßes gegen die Gewaltrichtlinie deaktiviert wird. OpenAI sagt, es arbeite an Benachrichtigungen für Eltern, wenn es das Konto eines Jugendlichen pausiert, weil dieser wiederholt über Gewalt spricht.

Das sind Ankündigungen und Zusagen, und die Maßnahmen werden in den nächsten Wochen eingeführt. Der Beitrag nennt keine Zahlen dazu, wie oft die neuen Grenzen greifen, wie genau die Altersvorhersage ist oder wie viele Chats beendet würden. Für Leser ist der konkrete Umfang der nützliche Punkt: vergangene Massenangriffe, Waffenfragen von Jugendlichen und wiederholte Fixierung auf Gewalt. Der erste echte Test ist der Bericht, der für Anfang 2027 vorgesehen ist.