OpenAI und Polens NASK vereinbaren Forschung zur KI-Sicherheit
OpenAI und das polnische Institut NASK kündigten am 23. Oktober eine Vereinbarung zur Erforschung von KI-Sicherheit, Cybersicherheit und technischen Fragen an. Sechs erwähnte MikroTik-RouterOS-Schwachstellen stammen aus einer früheren Arbeit von CERT Polska. Gemeinsame Prüfergebnisse oder eine Sicherheitszertifizierung wurden nicht vorgelegt.
NASK und OpenAI unterzeichnen Forschungsvereinbarung
Die OpenAI-Ankündigung vom 23. Oktober besagt, dass sie eine Vereinbarung mit dem NASK National Research Institute in Polen unterzeichnet hat, um KI-Sicherheit, Cybersicherheit und technische Forschung zu erforschen. Das KI-Sicherheitsforschungszentrum der NASK dient als polnisches KI-Sicherheitsinstitut. Die genannten Arbeiten umfassen die Beurteilung von fähigeren Systemen, die Suche nach Risiken und die Verbesserung der Schutzmaßnahmen. Eine Vereinbarung zur Erforschung der Zusammenarbeit ist ein Ausgangspunkt: Die Quelle kündigt kein abgeschlossenes Bewertungsprotokoll, einen eingesetzten nationalen Standard oder ein neues Gesetz an. In dieser Ausgabe vom 26. Oktober wird die Bekanntmachung nach dem ursprünglichen Datum aufgezeichnet.
Die Partnerschaft ist wichtig, weil die Sicherheitsaussagen eines Modellentwicklers auf die Bedürfnisse von Institutionen, die eine bestimmte Sprache, öffentliche Dienste und Informationsumgebung schützen, getestet werden sollten. NASK trägt diese lokalen Verantwortlichkeiten mit sich; OpenAI bringt Zugang zu Systemen und technischem Personal mit sich. Der Wert der Anordnung hängt davon ab, ob die Forscher gemeinsame Tests definieren, die Messungen offenlegen und Schwächen beheben können. Die Bekanntmachung nennt breite Forschungsbereiche, veröffentlicht jedoch keinen Zeitplan, kein Budget, keine Zugangsregeln oder unabhängig ausgewiesene Ergebnisse.
Was die frühere Cyberarbeit zeigt
Die Ankündigung von OpenAI weist auf eine separate Zusammenarbeit im Juli mit CERT Polska hin, die innerhalb der NASK tätig ist. CERT Polska erhielt durch das Daybreak-Programm von OpenAI Zugang zu Modellen für Cyberabwehr. OpenAI sagt, dass das Team seine Modelle verwendet hat, um sechs Schwachstellen in MikroTik RouterOS zu entdecken, darunter Fehler, die ohne Authentifizierung gekettet werden könnten, um die Kontrolle über betroffene Geräte zu übernehmen. Es heißt, der Anbieter habe Korrekturen ausgestellt und CERT Polska hat bestätigt, dass diese Korrekturen die beobachteten Angriffe verhindert haben. Die Zahl sechs gehört zu früheren Schwachstellenarbeiten, nicht zu den zukünftigen Ergebnissen des neuen Abkommens.
Dieses Beispiel zeigt, dass ein Verteidiger die Systeme bei einer kontrollierten Untersuchung nutzen kann. Es wird nicht festgestellt, dass das gleiche Modell jede Schwachstelle zuverlässig finden wird oder dass alle polnischen öffentlichen Dienste jetzt geschützt sind. Eine Schwachstellenzahl beschreibt Ergebnisse in einem Produkt und einer Periode. Eine Behauptung über die nationale Widerstandsfähigkeit benötigt einen breiteren Nenner: welche Systeme getestet wurden, wie Probleme gemeldet wurden, ob Patches die Benutzer erreichten und ob Regressionen überprüft wurden. Keines dieser weiteren Ergebnisse wird in dieser Ankündigung quantifiziert.
Offene Fragen für gemeinsame Sicherheitsforschung
Ein nützliches Evaluierungsprogramm würde die Modellversion, zulässige Werkzeuge, die Sprache der Anfragen und die Fehlerdefinition vor dem Beginn der Tests angeben. Polnische Sprache und Arbeitsflüsse des öffentlichen Sektors können Fehler aufdecken, die ein englischer Benchmark nicht aufdeckt. Die Forscher sollten auch schädliche Fähigkeitsprüfungen von der gewöhnlichen Einsatzüberwachung unterscheiden. Dies sind redaktionelle Kriterien für die Beurteilung der Partnerschaft, nicht die Behauptung, dass NASK und OpenAI ein solches Protokoll bereits veröffentlicht haben.
Die Partner könnten Methoden veröffentlichen, die andere Sicherheitsinstitute reproduzieren können und gleichzeitig die Details des Exploits kontrollieren, wenn die Offenlegung den Verteidiger schaden würde. Sie sollten Modellverhalten von Netzwerk-, Identitäts- und menschlichen Genehmigungskontrollen unterscheiden. Wenn ein Test fehlschlägt, muss der Leser wissen, ob das Modell geändert wurde, eine externe Sicherung hinzugefügt wurde oder die Aufgabe eingeschränkt wurde. Erfolg sollte durch wiederholbaren Schutz gemessen werden, nicht durch den Ansehen eines der Unterzeichner.
Dies ist daher eine konkrete Zusammenarbeit mit einem verweisenden Cyberbeispiel und erheblichen unbeantworteten operativen Fragen. Es handelt sich nicht um eine Zertifizierung von OpenAI-Systemen, eine Garantie gegen synthetische Inhalte oder einen vollständigen internationalen Standard. Die primäre Aufzeichnung ist die Erklärung von OpenAI vom 23. Oktober; das Veröffentlichungsdatum dieses Artikels ist der 26. Oktober.
Sources
FAQ
Was haben OpenAI und Polens NASK angekündigt?
Am 23. Oktober erklärten sie, eine Vereinbarung zur Erforschung von KI-Sicherheit, Cybersicherheit und technischen Fragen unterzeichnet zu haben. Das Forschungszentrum von NASK übernimmt die Rolle des polnischen KI-Sicherheitsinstituts. Eine abgeschlossene gemeinsame Prüfung oder Zertifizierung wurde nicht bekannt gegeben.
Stammen die sechs MikroTik-Schwachstellen aus der neuen Vereinbarung?
Nein. OpenAI verweist auf ein früheres Projekt von CERT Polska mit Modellen aus dem Daybreak-Programm. Nach Angaben des Unternehmens wurden sechs RouterOS-Schwachstellen gefunden, vom Hersteller behoben und die beobachteten Angriffe anschließend abgewehrt. Das ist kein Ergebnis der neuen Vereinbarung.
Wie lassen sich spätere Ergebnisse der Partnerschaft bewerten?
Wichtig sind festgelegte Aufgaben, Modellversionen, Tests in der Landessprache, reproduzierbare Methoden und dokumentierte Behebungen. Eine Vereinbarung und ein früheres Beispiel beweisen weder die Leistung künftiger Systeme noch den Schutz aller öffentlichen Dienste.