Sam Altman plaide pour la sécurité de l'IA à l'ONU

Contexte

Le 23 septembre 2026, Sam Altman, PDG d'OpenAI, s'est adressé au Conseil de sécurité des Nations Unies, devenant le premier dirigeant de l'industrie de l'IA à témoigner de l'impact de l'intelligence artificielle sur la paix et la sécurité internationales. Cette intervention historique intervient quatre mois après la sortie de GPT-5 et moins de six mois avant l'entrée en vigueur complète du règlement européen sur l'IA (EU AI Act).

Altman a averti que des systèmes d'IA générale capables d'auto-amélioration pourraient émerger d'ici quelques années, présentant des risques comparables à la prolifération des armes de destruction massive. Il a appelé à la création d'un nouvel organisme international doté d'un pouvoir de vérification, chargé d'imposer des évaluations de sécurité obligatoires pour les modèles dépassant un certain seuil de puissance de calcul, et de garantir le contrôle humain sur les décisions critiques. OpenAI s'est engagé à fournir un soutien technique pour élaborer des normes d'audit et un cadre de classification des risques.

Cette démarche s'inscrit dans le prolongement des engagements antérieurs d'OpenAI auprès de la Maison Blanche et des auditions au Congrès, mais elle élève la sécurité de l'IA au plus haut niveau de la gouvernance mondiale, marquant un tournant vers une régulation multilatérale contraignante.

Analyse approfondie

Sur le plan technique, les grands modèles de langage manifestent des capacités émergentes – apprentissage en contexte, raisonnement par chaîne de pensée – qui deviennent imprévisibles à grande échelle, rendant obsolètes les évaluations traditionnelles. Les équipes de sécurité d'OpenAI explorent déjà la « recherche d'alignement automatisée », où une IA supervise une autre IA, mais cette approche introduit un risque récursif. La proposition réglementaire d'Altman vise à transformer ce dilemme en une architecture institutionnelle : des tests contradictoires obligatoires (red-teaming), des rapports d'explicabilité et une approbation préalable au déploiement transformeraient les coûts de sécurité en barrières à l'entrée.

Commercialement, OpenAI fait face à une concurrence intense : Google DeepMind intègre Gemini dans la recherche et la bureautique, Anthropic séduit les gouvernements avec son IA constitutionnelle, et Meta érode le marché des développeurs avec ses modèles open source Llama. Une réglementation mondiale obligatoire limiterait l'itération rapide des concurrents via l'open source ou des services cloud à bas coût, tout en érigeant les pratiques de sécurité d'OpenAI – API de modération, politiques de comportement des modèles – en standards internationaux, conférant un avantage de « faiseur de règles ». Altman a même laissé entendre que seuls les modèles certifiés pourraient accéder à l'épine dorsale de l'internet mondial, esquissant un « Traité de non-prolifération de l'IA » avec OpenAI comme gardien.

Impact sur l'industrie

Pour la rivalité technologique sino-américaine, l'ONU devient un nouveau champ de bataille. La Chine, qui privilégie un développement souverain de l'IA, s'oppose à des mécanismes de vérification supranationaux. Si les propositions d'Altman progressent, des entreprises chinoises comme Baidu, Alibaba et ByteDance pourraient subir une double pression de conformité pour leurs exportations et déploiements à l'étranger, tout en accélérant le développement de normes de sécurité indigènes.

L'écosystème open source serait profondément remodelé. Des audits obligatoires augmenteraient les coûts de publication pour des communautés comme Hugging Face et EleutherAI, risquant de confiner l'innovation à des « zones de sécurité » tolérées par les grandes entreprises. Cependant, un nouveau secteur de « Sécurité en tant que Service » (SAaaS) pourrait émerger. Pour les entreprises utilisatrices, la conformité allongerait les cycles d'achat mais réduirait les risques juridiques liés aux modèles boîte noire. L'accent mis par Altman sur le « contrôle humain » accélérera les solutions à boucle humaine (human-in-the-loop), bénéficiant aux services d'étiquetage de données, de rétroaction experte et d'apprentissage par renforcement avec rétroaction humaine (RLHF).

Perspectives

Plusieurs signaux clés détermineront l'avenir de cette vision. Premièrement, le Secrétaire général de l'ONU nommera-t-il un envoyé spécial pour l'IA et lancera-t-il des négociations sur un protocole de sécurité dans le cadre du Pacte numérique mondial ? Deuxièmement, l'évolution législative américaine : le Congrès n'a pas encore adopté de loi globale sur l'IA, et un échec avant les élections de mi-mandat de 2027 affaiblirait le leadership américain.

Troisièmement, la classification à haut risque pour l'IA à usage général dans l'EU AI Act pourrait converger avec l'approche par seuil de calcul d'Altman, créant une alliance de normes transatlantique. Quatrièmement, les tensions de gouvernance chez OpenAI – entre son conseil d'administration à but non lucratif et sa filiale commerciale, et la position de Microsoft en tant que principal investisseur – détermineront sa crédibilité en tant que promoteur de la régulation. Enfin, la méfiance de la communauté technologique envers le « safety-washing » est un risque : si OpenAI accélère le déploiement commercial tout en appelant à la régulation, cela pourrait déclencher une crise de confiance. Le discours d'Altman au Conseil de sécurité a élevé la sécurité de l'IA à un niveau politique sans précédent, mais le véritable défi consiste à traduire cette vision en institutions applicables, vérifiables et favorables à l'innovation.