OpenAI et Anthropic demandent aux parlementaires britanniques de les réguler ; Google DeepMind et Meta refusent de soutenir une nouvelle loi

Le 13 octobre, la commission Entreprises, Innovation, Science et Commerce du Parlement britannique a tenu une audition. Selon WIRED, les représentants d'OpenAI et d'Anthropic ont dit aux députés que les engagements volontaires ne suffisent plus pour garantir la sécurité et qu'il faut adopter de nouvelles lois. Cela a mis au compte rendu officiel du Parlement britannique une division ouverte avec Google DeepMind et Meta, qui ont refusé de soutenir une nouvelle législation. Les témoins étaient quatre entreprises d'IA de pointe, quatre anciens employés devenus lanceurs d'alerte, et de hauts fonctionnaires. Le président de la commission, Liam Byrne, a dit à WIRED après la séance que le but était d'« éclairer les grandes différences d'opinion entre certaines des entreprises les plus riches du monde » et de montrer « qu'on ne pouvait pas compter sur l'autorégulation volontaire ».

Les quatre positions étaient nettes. Le responsable Europe d'Anthropic, Liam Booth-Smith, a dit : « Les règles devraient être contraignantes. » Il a expliqué que l'entreprise a toujours pensé qu'il faut des règles contraignantes et que les engagements volontaires ne suffisent pas. Tom Duff Gordon, vice-président d'OpenAI, était plus prudent, mais il a lui aussi soutenu un cadre légal et une convention internationale. « Il devrait y avoir des éléments obligatoires », a-t-il dit, à commencer par le signalement des incidents, et « nous ne pensons pas que tout fonder sur des engagements volontaires pour le risque de pointe soit un bon plan à long terme ». Interrogé directement sur un cadre légal, Owen Larter, de Google DeepMind, a seulement répondu : « Nous nous concentrons sur les normes. » Rob Sherman, de Meta, a dit que les régulateurs britanniques existent déjà et que « nous n'écrivons pas sur une page blanche ». Le même jour, le directeur du MI5, Ken McCallum, a averti dans son bilan annuel que l'IA pourrait changer la donne pour les armes biologiques, un usage détourné auquel il accorde « le plus de poids ».

La dernière partie de la séance a montré à quel point le système actuel est souple. L'Institut de sécurité de l'IA teste les modèles de pointe avant leur sortie, mais seulement quand les entreprises acceptent de les lui donner. Son directeur, Henry de Zoete, a admis qu'il dépend entièrement de la coopération des entreprises et de gouvernements étrangers, et que s'il jugeait un modèle trop dangereux et que l'entreprise le publiait quand même, il ne pourrait pas l'en empêcher. « Nous ne faisons pas de certification, a-t-il dit. Nous ne disons ni oui ni non à un modèle. » Il a ajouté que les constructeurs de pointe sont américains ou chinois, et que le Royaume-Uni ne peut faire qu'une part limitée. Cat Little, plus haute fonctionnaire du Cabinet Office, a été interrogée sur le caractère volontaire de tout le régime : « Pour l'instant, oui », a-t-elle répondu. L'accès passe aussi par Washington. Tom Duff Gordon, d'OpenAI, a dit que l'entreprise remet ses modèles au CAISI américain et à l'AISI britannique avant le déploiement, « et tant que nous pouvons le faire sous l'autorité du gouvernement américain, nous continuerons ». Liam Booth-Smith, d'Anthropic, a reconnu que l'entreprise n'avait pas pu donner d'abord un accès complet et sans restriction à Mythos 5.1 à l'institut britannique, « une question pour le gouvernement américain », tout en précisant que l'AISI y a maintenant accès.

Les quatre anciens chercheurs ont été plus directs. Daniel Kokotajlo, ancien d'OpenAI, ne pense pas qu'on puisse faire confiance aux entreprises pour s'autoréguler. Steven Adler, parti d'OpenAI fin 2024, n'a pas confiance dans la culture de sécurité du secteur. Geoffrey Irving a dit que les laboratoires se croient pris dans une course que les gouvernements n'interrompront pas et qu'ils ne peuvent pas quitter. « Les deux sont faux, a-t-il dit. Ils pourraient simplement s'arrêter. » Après l'audition, Liam Byrne a dit que sa commission consacrera beaucoup de temps à la voie du Royaume-Uni comme puissance moyenne en matière d'IA. Il veut que les ministres utilisent la prochaine présidence britannique du G20, la Corée du Sud venant ensuite, pour négocier une convention internationale qui ne dépende pas de l'actuelle Maison-Blanche. « La présidence du G20 survivra à la présidence américaine de Trump », a-t-il dit, et « les risques se multiplient plus vite que notre régime de sécurité ne peut les contrôler ».

Deux précautions pour le lecteur. D'abord, c'était une audition, pas une loi. Aucun projet n'a été adopté, et aucune entreprise n'a promis de changer ses pratiques ; les témoins ont exposé des positions. Ensuite, les sociétés qui demandent des règles contraignantes continuent de construire et de publier des modèles de pointe : demander une régulation ne veut pas dire ralentir. Les critiques se demandent souvent si ces appels peuvent servir à façonner des règles favorables aux entreprises. L'article de WIRED n'y répond pas, mais il met au compte rendu les mots de chaque camp, ce qui sera utile pour le débat législatif à venir.