OpenAI gründet Beirat für Mathematik und KI

OpenAI hat bekanntgegeben, mit einer unabhängigen Beratungsgruppe für Mathematik und Künstliche Intelligenz zusammenzuarbeiten, die am Institute for Advanced Study (IAS) in Princeton, New Jersey, angesiedelt ist. Aufgabe der Gruppe ist es, neu auftretende KI-Ergebnisse in der Mathematik zu bewerten und zu kommunizieren und dabei als Brücke zwischen OpenAI, der mathematischen Gemeinschaft und der breiteren Öffentlichkeit zu dienen, damit Mathematiker eine Stimme dabei haben, wie das Unternehmen bei mathematikbezogenen KI-Behauptungen vorgeht.

Konkret wird die Gruppe zu drei Punkten beraten: der Bewertung der Bedeutung neu auftretender Ergebnisse, der Koordination ihrer Verbreitung sowie der Wahrung der akademischen und fachlichen Standards, die von mathematischer Forschung erwartet werden. Zu den ersten Mitgliedern zählen François Charles (ENS-PSL), Camillo De Lellis (IAS), Timothy Gowers (Collège de France, Cambridge), Martin Hairer (EPFL, Imperial College London), Nikhil Srivastava (Berkeley), Ulrike Tillmann (Oxford), Ravi Vakil (Stanford), Edward Witten (IAS) und Melanie Matchett Wood (Harvard), eine Liste, die einige der angesehensten Namen der zeitgenössischen reinen Mathematik vereint.

Welches Verifikationsproblem hier tatsächlich gelöst wird

Der Kern des Problems, das diese Gruppe angeht, ist eine Verifikationslücke, die für die Mathematik spezifisch ist. Wenn ein KI-System behauptet, ein berühmtes offenes Problem gelöst zu haben, ist diese Behauptung nicht so eindeutig wahr oder falsch wie ein Benchmark-Ergebnis: Ein echter mathematischer Beweis erfordert in der Regel eine zeilenweise Prüfung durch Spezialisten des genauen Teilgebiets, manchmal über Wochen oder Monate hinweg. Ein Labor, das seine eigenen Behauptungen selbst benotet, würde ausgerechnet die Partei mit dem stärksten Anreiz, einen Durchbruch öffentlich zu machen, darüber entscheiden lassen, ob dieser Durchbruch echt ist. Dieses Urteil neun externen Mathematikern zu übertragen, die unabhängig von OpenAIs Organisationsstruktur sind, verlagert die Schiedsrichterfunktion zurück in die Gemeinschaft, deren Standards tatsächlich auf dem Spiel stehen.

Die unbezahlte, aber unabhängige Struktur ist eine bedeutsame gestalterische Entscheidung, kein nachträglicher Einfall. Ein bezahlter Beirat schafft eine offensichtliche, wenn auch weiche, finanzielle Abhängigkeit von dem Unternehmen, das die Schecks ausstellt; Kritiker könnten dessen Urteile berechtigterweise als erkauft abtun. Die Mitglieder hier sind hingegen ausdrücklich unbezahlt, behalten aber das Recht, unaufgeforderten Rat zu geben, öffentlich anderer Meinung zu sein und ihre eigene Mitgliedschaft selbst zu bestimmen. Genau diese Kombination, keine finanzielle Bindung, aber ein formeller Beratungskanal, verleiht den Zustimmungen oder Einwänden der Gruppe echtes Gewicht, statt dass sie als OpenAI gelesen werden, das seine eigene Arbeit durch Stellvertreter selbst benotet. Der von OpenAI ausdrücklich benannte Kompromiss ist, dass sich diese Unabhängigkeit nicht darauf erstreckt, das zugrunde liegende Forschungsprogramm zu verlangsamen oder umzulenken: Die Gruppe berät zu Prüfung und Kommunikation, nicht dazu, woran OpenAI arbeitet.

Was der Brief der Fields-Medaillengewinner offenlegt

Die Einführung folgt auf einen offenen Brief, den 25 Fields-Medaillengewinner unterzeichnet haben und der KI-Labore dafür kritisiert, Lösungen für berühmte mathematische Probleme ohne ausreichende Verifikation oder Fachbegutachtung überstürzt zu veröffentlichen. Dieser Brief brachte eine reale Spannung zwischen zwei Kulturen ans Licht: KI-Labore arbeiten in Veröffentlichungszyklen, die in Wochen gemessen werden, und belohnen es, als Erster anzukündigen, während die reine Mathematik nach einer jahrhundertealten Norm arbeitet, wonach ein Beweis erst dann einer ist, wenn die Gemeinschaft ihn geprüft hat. Eine aufsehenerregende Behauptung, die später zurückgenommen werden muss, kostet ein Labor über die Peinlichkeit hinaus wenig, kann aber enorme Mengen an Lesezeit von Spezialisten verschwenden und das Vertrauen in jede nachfolgende Ankündigung dieses Unternehmens untergraben.

"Beratung zur Verbreitung" ist der Teil dieser Ankündigung mit den konkretesten künftigen Auswirkungen. Er deutet darauf hin, dass künftige Behauptungen von OpenAI über die Lösung oder den Fortschritt eines bestimmten mathematischen Problems wahrscheinlich eine Form der Prüfung vor der Veröffentlichung durch Gruppenmitglieder durchlaufen werden, bevor OpenAI an die Öffentlichkeit geht, statt dass das Unternehmen allein entscheidet, wann und wie laut ein Ergebnis angekündigt wird. Ob diese Prüfung vor jedem mathematikbezogenen Blogbeitrag oder nur bei den größten Behauptungen stattfindet, ist in dem, was OpenAI bislang mitgeteilt hat, nicht spezifiziert, aber die Richtung ist klar: Mathematiker, nicht allein OpenAIs Kommunikationsteam, werden künftig Einfluss auf das Tempo und die Formulierung solcher Ankündigungen haben.