OpenAI crée un groupe consultatif sur les maths et l'IA

OpenAI a annoncé collaborer avec un groupe consultatif indépendant sur les mathématiques et l'intelligence artificielle, hébergé à l'Institute for Advanced Study (IAS) de Princeton, dans le New Jersey. Le rôle de ce groupe est d'aider à évaluer et à communiquer les résultats émergents de l'IA en mathématiques, en servant de passerelle entre OpenAI, la communauté mathématique et le grand public, afin que les mathématiciens aient leur mot à dire sur la façon dont l'entreprise avance sur ses affirmations liées aux mathématiques.

Concrètement, le groupe conseillera sur trois points: évaluer l'importance des résultats émergents, coordonner la diffusion de ces résultats, et faire respecter les normes académiques et professionnelles attendues de la recherche mathématique. Ses membres initiaux sont François Charles (ENS-PSL), Camillo De Lellis (IAS), Timothy Gowers (Collège de France, Cambridge), Martin Hairer (EPFL, Imperial College London), Nikhil Srivastava (Berkeley), Ulrike Tillmann (Oxford), Ravi Vakil (Stanford), Edward Witten (IAS) et Melanie Matchett Wood (Harvard), soit une liste qui réunit certains des noms les plus reconnus des mathématiques pures contemporaines.

Le problème de vérification que cela résout réellement

Le cœur du problème que ce groupe adresse est une lacune de vérification propre aux mathématiques. Lorsqu'un système d'IA affirme avoir résolu un problème ouvert célèbre, cette affirmation n'est pas vraie ou fausse de manière évidente comme le serait un score de benchmark: une véritable preuve mathématique exige généralement un examen ligne par ligne par des spécialistes de ce sous-domaine précis, parfois pendant des semaines ou des mois. Un laboratoire qui corrige lui-même ses propres devoirs sur de telles affirmations place l'entité la plus incitée à médiatiser une percée en position de juger si cette percée est réelle. Confier ce jugement à neuf mathématiciens extérieurs, indépendants de l'organigramme d'OpenAI, ramène la fonction d'arbitre vers la communauté dont les normes sont réellement en jeu.

La structure non rémunérée mais indépendante est un choix de conception significatif, et non une simple réflexion après coup. Un comité consultatif rémunéré crée une dépendance financière évidente, même si douce, envers l'entreprise qui signe les chèques; des critiques pourraient raisonnablement estimer que ses jugements sont achetés. À l'inverse, les membres ici sont explicitement non rémunérés, tout en conservant le droit de donner des conseils non sollicités, d'exprimer publiquement leur désaccord, et de contrôler leur propre composition. Cette combinaison, l'absence de lien financier mais l'existence d'un canal consultatif formel, est ce qui donne un poids réel à ses approbations ou objections, plutôt que d'être perçues comme OpenAI corrigeant son propre travail par procuration. Le compromis, explicité par OpenAI, est que cette indépendance ne s'étend pas au ralentissement ou à la réorientation du programme de recherche sous-jacent: le groupe conseille sur l'examen et la communication, pas sur ce sur quoi OpenAI choisit de travailler.

Ce que révèle la lettre des médaillés Fields

Le lancement fait suite à une lettre ouverte signée par 25 médaillés Fields critiquant les laboratoires d'IA pour avoir précipité la publication de solutions à des problèmes mathématiques célèbres sans vérification ni relecture par les pairs adéquates. Cette lettre a mis au jour une tension réelle entre deux cultures: les laboratoires d'IA fonctionnent selon des cycles de publication mesurés en semaines et récompensent le fait d'annoncer en premier, tandis que les mathématiques pures fonctionnent selon une norme séculaire selon laquelle une preuve n'en est une que lorsque la communauté l'a vérifiée. Une affirmation spectaculaire qui doit ensuite être retirée coûte peu à un laboratoire au-delà de l'embarras, mais elle peut gaspiller un temps de lecture spécialisé considérable et éroder la confiance envers toutes les annonces ultérieures de cette entreprise.

"Conseiller sur la diffusion" est la partie de cette annonce qui aura l'impact futur le plus concret. Cela suggère que les futures affirmations d'OpenAI sur la résolution ou l'avancement d'un problème mathématique spécifique passeront probablement par une forme d'examen préalable à la publication par des membres du groupe avant qu'OpenAI ne communique publiquement, plutôt que l'entreprise décidant seule quand et avec quelle ampleur annoncer un résultat. Que cet examen ait lieu avant chaque billet de blog lié aux mathématiques ou seulement pour les affirmations les plus importantes n'est pas précisé dans ce qu'OpenAI a déclaré jusqu'à présent, mais la direction est claire: des mathématiciens, et non la seule équipe de communication d'OpenAI, auront leur mot à dire sur le rythme et la formulation de ces annonces à l'avenir.