Jill Lepore sur l'«État artificiel» : pourquoi les leaders de la Silicon Valley sont de mauvais lecteurs de science-fiction

Contexte

L'historienne Jill Lepore introduit un cadre critique novateur, baptisé « l'État artificiel », pour disséquer les stratégies rhétoriques employées par les leaders de la Silicon Valley. Ce concept éclaire la manière dont les géants de la technologie utilisent le vocabulaire politique et de la gouvernance pour emballer leurs produits, se positionnant ainsi non pas comme de simples prestataires de services, mais comme des entités quasi gouvernementales. Lepore soutient que l'usage de termes tels que « places publiques numériques », « constitutions » ou « salles de ville » n'est pas anodin ; il s'agit d'un mécanisme délibéré de construction du pouvoir. En adoptant la lexique de la gouvernance civique, ces entreprises tentent de légitimer leur contrôle sur le discours public sans se soumettre à une responsabilité démocratique.

L'article met en lumière des exemples corporatifs précis pour illustrer cette tendance. Twitter, désormais rebaptisé X, avait vu son ancien directeur général qualifier la plateforme de « salle de ville dans votre poche », suggérant un statut équivalent à un espace de gouvernance publique. De même, Anthropic a intégré le concept d'« IA constitutionnelle » dans le développement de son grand modèle de langage, Claude. Cette approche tente de contraindre les sorties du modèle par un ensemble prédéfini de règles, imitant ainsi les cadres juridiques. Lepore postule que ces cas révèlent un phénomène central : les entreprises technologiques élèvent leur statut par le récit, cherchant à contourner la supervision réglementaire traditionnelle en présentant leurs plateformes comme des infrastructures essentielles de la société civile.

Analyse approfondie

La critique de Lepore s'étend aux limites intellectuelles de la direction de la Silicon Valley, particulièrement dans leur rapport à la littérature de science-fiction. Elle soutient que ces leaders sont de « mauvais lecteurs de SF » car ils ne consomment que la surface utopique du genre, ignorant les avertissements profonds sur la concentration du pouvoir, l'aliénation technologique et l'effondrement social présents dans les œuvres classiques. Cette lecture sélective nourrit une confiance aveugle dans le déterminisme technologique, où les systèmes sociaux complexes sont réduits à des problèmes d'ingénierie. L'hypothèse selon laquelle la technologie est neutre et capable de résoudre les contradictions sociétales par le code néglige les biais intégrés des concepteurs et le renforcement des structures de pouvoir existantes.

Du point de vue de la logique commerciale, la création de ces « États artificiels » implique l'établissement d'écosystèmes fermés dotés de règles indépendantes. Les « constitutions » utilisées dans le développement de l'IA, comme celles chez Anthropic, ne sont pas des lois au sens traditionnel. Ce sont des règles en boîte noire définies par des ingénieurs et des équipes d'algorithmes, manquant de transparence, de justiciable et de participation publique. Ce modèle de gouvernance technocratique transforme les dilemmes éthiques en spécifications techniques, supposant que les solutions algorithmiques peuvent remplacer les normes sociales nuancées. Lepore identifie ici une arrogance technocratique où la complexité des interactions humaines est simplifiée en points de données gérables, créant un modèle de gouvernance opaque conçu pour servir les intérêts corporatifs sous couvert de service public.

Impact sur l'industrie

Les implications de cette stratégie narrative sont profondes pour la concurrence industrielle et la confiance des utilisateurs. À mesure que les utilisateurs prennent conscience que les « salles de ville numériques » sont contrôlées par un petit groupe d'ingénieurs et d'algorithmes, le scepticisme quant à l'équité des plateformes grandit. Cette érosion de la confiance représente un risque significatif pour les modèles économiques des géants de la tech, qui reposent sur l'engagement des utilisateurs et l'extraction de données. Dans le domaine réglementaire, la théorie de l'« État artificiel » incite les décideurs politiques à regarder au-delà des critères antitrust traditionnels centrés sur la part de marché. Les régulateurs sont encouragés à examiner des questions de gouvernance plus profondes, telles que la modération de contenu, les systèmes de recommandation algorithmique et la propriété des données.

Pour le secteur de l'IA, des entreprises comme Anthropic font face à un jalon critique. Bien que des initiatives telles que l'IA constitutionnelle visent à établir des normes éthiques, le manque de supervision externe soulève des inquiétudes quant au risque que l'auto-régulation ne devienne une stratégie de relations publiques plutôt qu'un engagement éthique authentique. Lepore suggère que les avantages concurrentiels futurs pourraient appartenir aux firmes offrant des technologies transparentes, explicables et supervisées publiquement. Les entreprises qui continuent de s'appuyer sur de grands récits pour masquer les déficiences de gouvernance feront face à des risques de conformité croissants et à une résistance sociale. Le secteur évolue vers un paysage où la crédibilité éthique est aussi importante que la capacité technique.

Perspectives

Pour l'avenir, la critique de Lepore appelle à une réflexion narrative profonde au sein du secteur technologique. La clé du développement futur réside dans la déconstruction du mythe selon lequel « la technologie égale la gouvernance » et dans l'établissement d'un cadre de gouvernance numérique véritablement participatif. Plusieurs signaux indiquent des changements potentiels dans cette direction. Les régulateurs pourraient de plus en plus intégrer les « droits de gouvernance des plateformes » dans les examens antitrust ou de protection des données, remettant en cause l'autonomie des géants de la tech. De plus, il existe une attente croissante pour que les entreprises technologiques passent du statut de « créateurs de règles » à celui d'« exécutants de règles », acceptant les audits externes et la supervision publique.

Par ailleurs, la valeur de la littérature de science-fiction en tant qu'outil de pensée critique est réévaluée. Lepore suggère que les futurs leaders technologiques tireraient profit de l'engagement avec des œuvres comme « Le Conte de la servante » ou « 1984 » pour mieux comprendre la nature à double tranchant du pouvoir technologique. Ces récits offrent des avertissements sur les dangers de l'autorité sans contrôle et de l'érosion des libertés individuelles. Ce n'est qu'en abandonnant le rôle de dirigeants d'« État artificiel » et en revenant à l'essence d'outils et de services que la technologie pourra véritablement servir le bien-être humain. Cette transition nécessite une relation contractuelle avec les utilisateurs et la société basée sur la transparence et la responsabilité, exigeant une évolution culturelle, éthique et juridique coordonnée.