Swisher : le risque vient des créateurs de l'IA, non de l'IA

Ce qui s'est dit au Atlantic Festival

The Atlantic a publié un entretien édité avec la journaliste tech Kara Swisher, enregistré lors du Atlantic Festival. C'est Adrienne LaFrance, rédactrice en chef exécutive du magazine, qui posait les questions. Le titre résume la thèse : l'IA ne détruira pas l'humanité, mais ceux qui la construisent le pourraient.

L'introduction du magazine plante le décor. L'industrie de l'IA, écrit-elle, aime raconter deux histoires. Dans la bonne, des robots superintelligents guérissent le cancer et éradiquent la pauvreté. Dans la mauvaise, ils effacent tous les humains de la surface de la Terre. Ces dernières semaines, ajoute l'introduction, les inquiétudes existentielles de la Silicon Valley à propos de la technologie qu'elle s'empresse de bâtir « ont explosé ». Kara Swisher voit les choses autrement. « Nous devons cesser de penser que l'IA va tuer l'humanité », a-t-elle dit à Adrienne LaFrance. Si l'avenir de l'IA dérape, a-t-elle soutenu, ce ne sont pas les robots qu'il faudra blâmer, mais les gens : « Ce sont des gens qui sont aux commandes de ces machines. »

Selon l'introduction, Kara Swisher couvre la Silicon Valley depuis plusieurs décennies, d'abord comme reporter au Wall Street Journal, puis comme animatrice de deux podcasts. Il s'agit d'un entretien, pas d'un reportage. Presque chaque affirmation y est une opinion, un souvenir ou une prédiction de Swisher, et le texte a été édité pour la longueur et la clarté. Nous attribuons donc chaque propos à elle. L'article est signé Victoria Feng, rédactrice adjointe à The Atlantic.

Les arguments principaux, tels que Swisher les a formulés

Des gens, pas des machines. Swisher compare l'IA aux armes à feu et aux voitures. Selon elle, ce ne sont pas les armes qui tuent, ce sont les gens, et une voiture ne choisit pas de renverser quelqu'un. Son point : ce sont des humains qui dirigent ces entreprises et qui s'y enrichissent. L'énergie nucléaire comme analogie. L'analogie qu'elle préfère est la fission nucléaire : « ils ont fendu l'atome et, oups, ça a explosé ». Elle dit qu'Oppenheimer savait ce qui allait arriver, et que les dirigeants de l'IA en savent plus qu'ils ne l'admettent. Elle invite le public à imaginer des entreprises privées fabriquant la bombe, et juge l'IA « encore plus puissante ». Elle ajoute que les gens de la tech aiment dire à quel point ils sont intelligents, puis répondent « nous ne savons pas » quand les conséquences arrivent. Aucun garde-fou. Selon Swisher, il n'y a « jamais » eu de garde-fous pour ces gens. À part peut-être l'essor du chemin de fer et de l'industrie manufacturière, elle ne voit pas d'époque où les citoyens n'auraient eu aucun mot à dire sur une expansion de cette taille. Elle plaisante : le traiteur du coin de sa rue est plus encadré par la loi que la plupart des grandes entreprises. Elle affirme aussi que les dirigeants de la tech ont capturé la politique, et cite l'arrêt Citizens United. Son prochain livre s'ouvrira, dit-elle, sur Elon Musk, Sundar Pichai, Mark Zuckerberg et Jeff Bezos debout aux côtés de Donald Trump lors de l'investiture. À ses yeux, ils ont compris qu'ils pouvaient « glisser une pièce dans ce président et obtenir ce qu'on veut ». Pourquoi les dirigeants sont nerveux maintenant. Swisher pense qu'ils sont sincèrement inquiets et donne trois raisons. D'abord, la responsabilité juridique : les procès s'accumulent, comme contre les fabricants de cigarettes, y compris des affaires impliquant des chatbots et des enfants. Ensuite, le coût : l'IA de pointe coûte bien plus cher que l'internet des débuts, et elle prédit que les sept entreprises de pointe actuelles ne seront plus que deux. Invitée à parier, elle cite Google, et évoque une fusion possible entre Google et Anthropic. Elle juge ChatGPT trop coûteux pour durer. Enfin, la Bourse : elle dépend de sept entreprises, et Swisher s'étonne qu'elle n'ait pas encore encaissé de choc. Elle estime aussi que le piratage de Hugging Face méritait plus d'attention.

L'économie. LaFrance énumère des scénarios : une correction classique, des essaims de robots rendant l'internet inutilisable, une panique bancaire menée par des agents IA. La réponse de Swisher : « tout ce qui précède ». Régulation et avocats. Elle affirme que le Congrès n'a pas régulé efficacement la tech depuis la Section 230, et que les actions en responsabilité et pour négligence gagnent du terrain, comme jadis contre le tabac. Le pays n'a jamais eu de loi sur la vie privée ni de transparence algorithmique, dit-elle, et une douzaine de mesures ne nuiraient pas à leurs affaires. La colère contre les centres de données est, selon elle, le symbole d'une colère plus large sur ce que la technologie fait à la vie des gens. La Chine. Elle rejette ce qu'elle appelle l'argument « Xi ou moi », l'idée que le choix se résume à la Chine ou aux États-Unis. Il faut selon elle une coopération mondiale, surtout avec la Chine. Elle affirme aussi que la Chine impose plus de contraintes à l'IA que les États-Unis. Que faire. Swisher dit de ne pas acheter de lingots d'or et de ne pas adhérer aux plans d'apocalypse des dirigeants. Elle exhorte à s'adresser aux élus et à continuer de s'opposer aux centres de données. « Les seules personnes en qui je crois dans ce pays, ce sont les électeurs », dit-elle.

Contexte et enjeux

Dire que le poids moral de l'IA repose sur les humains et non sur les machines n'est pas nouveau. Ce qui frappe dans la version de Swisher, c'est sa cible. Elle ne soutient pas que l'IA est inoffensive. Dans le même entretien, elle dit que l'IA « peut déclencher une bombe nucléaire » et que « des humains dotés d'une intelligence surhumaine vont faire de mauvaises choses ». Son propos porte sur l'endroit où se situe la responsabilité.

Deux notions générales aident à situer ses remarques. La responsabilité du fait des produits est le droit qui permet aux victimes de produits dangereux de poursuivre les fabricants. La Section 230, que LaFrance a expliquée pendant l'entretien, empêche de traiter les propriétaires de plateformes comme des éditeurs des contenus de leurs utilisateurs. Selon Swisher, ils « ne pouvaient pas être poursuivis. Maintenant, ils le sont » : les procès commencent à presser l'abri que la Section 230 offrait.

Notre analyse

Notre lecture est que Swisher déplace le débat d'une question spéculative, les machines se retourneront-elles contre nous, vers une question actuelle : qui est responsable, et devant qui. C'est un déplacement concret. Les tribunaux, les parlements des États et les électeurs peuvent agir sur la responsabilité dès aujourd'hui. Ils ne peuvent pas agir sur une superintelligence hypothétique.

Son raisonnement contient une tension interne qu'il faut nommer. Elle dit que l'IA ne tuera pas l'humanité, mais elle dit aussi qu'elle est plus puissante que l'énergie nucléaire et que tous les scénarios de catastrophe économique sont possibles. Nous lisons cela comme une thèse sur les causes, pas sur la gravité : le dommage est possible et pourrait être grand, mais il viendrait de décisions humaines.

Son explication de l'appel actuel des dirigeants à la prudence, à savoir la responsabilité, le coût et la fragilité du marché, est une interprétation de leurs motivations. Elle peut être juste, mais l'entretien ne fournit aucune preuve venant des dirigeants eux-mêmes. Mieux vaut la lire comme l'hypothèse d'une observatrice de longue date.

Limites de la source et questions ouvertes

• La source est un entretien édité. Les mots sont ceux de Swisher, mais les coupes ne sont pas visibles.
• Ses prédictions restent des prédictions. La fusion de deux entreprises de pointe, un choc boursier et une vague de procès sont ce qu'elle attend, pas ce que l'article démontre.
• Certains chiffres semblent incertains. Elle cite un règlement de 17 milliards de dollars pour Facebook et l'oppose à une dernière amende de « 5 millions ».

Le second chiffre peut être une erreur de transcription, et l'article ne source ni l'un ni l'autre. Elle parle aussi de « 10 entreprises de pointe » avant de se corriger à sept. À la fin, elle évoque « 10 pour cent de chances », puis dit que « le pourcentage est en fait de 14 », sans contexte.

• Elle fait des remarques personnelles cinglantes sur des dirigeants nommés. L'article ne contient aucune réponse de leur part, et nous ne les reprenons donc pas comme des faits.
• L'introduction de The Atlantic ne donne pas la date de cette séance du festival.

Ce que les lecteurs peuvent en retenir

Pour les développeurs et les équipes produit : traitez la responsabilité comme une donnée de conception. L'avertissement de Swisher est que des raccourcis sur la sécurité peuvent revenir sous forme de procès, surtout pour les produits qui touchent les enfants.

Pour ceux qui suivent les politiques publiques : elle désigne l'activité au niveau des États, les affaires de responsabilité du fait des produits et les batailles locales autour des centres de données comme les lieux où la pression monte. Elle cite aussi la loi sur la vie privée et la transparence algorithmique comme des mesures qui, selon elle, ne nuiraient pas à ces entreprises.

Pour le grand public : lisez les déclarations des dirigeants de l'IA, y compris leurs appels à la régulation, comme des déclarations de parties intéressées. LaFrance a exprimé le même doute dans l'entretien, en évoquant avec un certain cynisme la posture « Régulez-moi, mec, s'il vous plaît » que Mark Zuckerberg avait adoptée. Appliquez la même prudence aux propos de Swisher : ce sont les opinions d'une journaliste expérimentée, à peser, pas des faits vérifiés.