Deux ouvrages
Emily Bender et Alex Hanna : AI Con : Comment lutter contre le battage médiatique des géants de la tech et créer l’avenir que nous voulons, Harper Collins, 2025
Kate Crawford : Atlas de l’IA, Yale, 2021
Deux ouvrages récents consacrés à l’intelligence artificielle (IA) proposent des recherches approfondies et des cadres conceptuels essentiels susceptibles d’aider les militant·es progressistes à comprendre et à analyser ce phénomène. Ils proposent également des moyens de lutter contre les effets néfastes et dangereux de l’IA.
L’ouvrage d’Emily Bender et d’Alex Hanna, intitulé *The AI Con : How to Fight Big Tech’s Hype and Create the Future We Want* (L’arnaque de l’IA : comment lutter contre le battage médiatique des géants de la tech et créer l’avenir que nous voulons), commence par évoquer les origines de l’IA lors de l’atelier organisé en 1956 au Dartmouth College sur les « machines pensantes », animé par Marvin Minsky et John McCarthy, qui ont inventé le terme « intelligence artificielle ». Elle et ils replacent cette évolution dans le contexte de la rivalité militaire entre les États-Unis et l’URSS, ainsi que dans l’idée selon laquelle l’esprit humain est lui aussi une machine. Les auteur·es citent les travaux du professeur du MIT Joseph Weizenbaum, qui a inventé le premier chatbot, baptisé ELIZA, à la fin des années 1960, et qui est devenu un détracteur de l’IA ; il a développé sa critique dans un ouvrage publié en 1976 intitulé *Computer Power and Human Reason: From Judgment to Calculation*.
Après avoir brièvement évoqué les origines, dans les années 1940, des grands modèles linguistiques (LLM) et de l’enchaînement de mots à l’aide d’algorithmes d’apprentissage automatique, ille et il démontrent que ChatGPT (2022) est une « machine à produire du texte synthétique » générant du langage, « mais sans aucune intention ni esprit pensant derrière elle » (p.31). Bender et Hanna n’évoquent pas « l’argument de la chambre chinoise » de John Searle, qui avait sérieusement remis en cause l’argument d’Alan Turing selon lequel les ordinateurs pouvaient imiter l’esprit humain. Cependant, leur description de l’IA comme une machine à produire du texte synthétique éclaire l’argument de Searle en montrant que les grands « modèles linguistiques ne font que manipuler la forme du langage, sans ni compréhension ni intention communicative » (p.32). Les chatbots ne font que « relier entre eux des schémas de mots » grâce à l’utilisation d’« algorithmes probabilistes » entraînés à partir d’œuvres volées à d’autres personnes. Les auteur·es opposent ChatGPT, en tant que « machine à synthétiser du texte », et son « apprentissage par cœur » à l’acte d’écriture humaine, qui implique une réflexion critique et nécessite de la communication, de la conversation, ainsi que des échanges en face à face et par écrit avec d’autres personnes, mais aussi avec des auteur·es et des expert·es dans le cas de l’écriture scientifique et universitaire (p.50).
De plus, les auteur·es soulignent que, bien qu’il semble que l’IA fasse tout le travail, celle-ci nécessite en réalité une grande quantité de travail humain caché, généralement effectué par des travailleurs/travailleuses faiblement rémunéré·es des pays du Sud qui l’entraînent et la surveillent. On peut citer deux exemples : les travailleurs/travailleuses à distance qui surveillent les voitures autonomes et les modérateurs/modératrices de contenu qui surveillent les modèles de langage (LLM).
Contrairement à Sam Altman, PDG d’OpenAI, qui considère que les humains ne sont que des machines qui enchaînent des textes, Joseph Weizenbaum a soutenu dans son ouvrage de 1976 que les ordinateurs restreignent notre humanité plutôt que de l’élargir. Bender et Hanna partagent les points de vue critiques de Weizenbaum, qui s’étendaient à une critique du capitalisme et de son militarisme. Elle et il estiment également que réduire l’esprit humain à des codes ne peut que renforcer la militarisation et le régime autoritaire.
De plus, elle et il considèrent que la consommation massive d’énergie et d’eau par l’IA, ainsi que l’aggravation de la crise climatique qu’elle entraîne, constituent un danger existentiel. Selon elleux, ce problème et l’État de surveillance créé par l’IA représentent les dangers fondamentaux.
Elke et il appellent donc à un « refus stratégique » (p.190), ce qui signifie que toute personne préoccupée par les dangers de l’IA ne devrait pas l’utiliser ni l’alimenter. Elle et il invitent tout particulièrement les bibliothécaires et les expert·es en sciences de l’information à former leurs usager·es à effectuer régulièrement des recherches sur Internet en consultant des liens vérifiables, en identifiant les sources telles que les livres, les articles et les sites web, et en évaluant les informations dans le contexte des sources dont elles proviennent.
En appelant à la « création de technologies ancrées dans le contexte social », conçues pour « renforcer et autonomiser les communautés » et protéger l’environnement (pp.188-189), elle et il soutiennent que, plutôt que des outils polyvalents, nous avons besoin d’outils spécifiques pour des tâches spécifiques. Il peut s’agir, par exemple, d’outils d’édition de documents. Chacun·e devrait pouvoir décider si elle ou il souhaite ou non « adhérer » à l’IA. La technologie devrait être conçue avec la participation et l’implication des personnes qu’elle concerne. Les droits des personnes sur leurs données devraient être protégés. Il faudrait mettre un terme aux technologies de reconnaissance faciale et aux centres de données qui gaspillent notre eau et notre énergie et contribuent à la catastrophe climatique.
L’Atlas of AI de Kate Crawford, publié il y a cinq ans, offre un compte rendu exhaustif s’appuyant sur des recherches philosophiques, historiques et mondiales, notamment des voyages dans des villes minières aux États-Unis et à l’étranger, un examen minutieux des conditions de travail dans les centres de distribution d’Amazon, ainsi qu’une visite du site de lancement suborbital Blue Origin de Jeff Bezos, dans l’ouest du Texas.
Elle part du principe que l’intelligence ne peut être dissociée du corps, car elle se développe dans un corps et en relation avec les autres êtres humains et la nature. L’IA n’a rien à voir avec la « pensée » ou l’« intelligence ». Il s’agit d’une « imitation » fondée sur les modèles de langage (LLM). Elle sert les rapports de domination existants sous le capitalisme. C’est pourquoi le titre « Atlas de l’IA » fait référence à la « carte des rapports de domination » impliquant le travail, le capital, l’extraction des ressources, ainsi que la promotion du contrôle policier, de la militarisation, du racisme et du sexisme.
Le premier chapitre est consacré à l’extractivisme de l’IA et à son viol, son pillage et sa pollution de l’environnement, dans des lieux allant d’une ville minière du Nevada à des pays tels que la Bolivie, le Congo, la Chine et l’Australie. On y apprend que d’ici 2040, au moins 14% des gaz à effet de serre mondiaux seront produits par les géants de la tech et qu’un seul centre de données consomme aujourd’hui environ 1,7 million de gallons d’eau par jour.
Dans le deuxième chapitre, Crawford emmène les lecteurs et les lectrices dans un centre de distribution Amazon où elle a soigneusement observé comment les travailleurs et les travailleuses doivent suivre « le rythme de préparation des commandes », qui ne tient aucun compte des limites de leur corps. Elle dénonce le « contrôle du temps » capitaliste dans le processus de production et aborde l’histoire de l’automatisation du travail et de la résistance des travailleurs face à celle-ci. Les travaux de Charles Babbage, Henry Ford et Frederick Winslow Taylor sont mis en avant pour montrer comment l’automatisation a intensifié de plus en plus la division du travail, jusqu’à quantifier chaque mouvement du corps des travailleurs ou des travaulleuses dans le but de maximiser la production et de minimiser les coûts pour le capitalisme. Sur la chaîne de montage Ford du XXe siècle, les humain·es étaient traité·es comme des robots, l’accent étant principalement mis sur la vitesse de production. Ce qu’elle considère comme nouveau dans les centres de distribution Amazon du XXIe siècle et les sites de production similaires, c’est l’intensité de la « surveillance » de « chaque mouvement » du corps visant à accroître la vitesse.
Crawford écrit que le processus d’automatisation a « illustré la description que fait Marx de la domination du temps de l’horloge : “Le temps est tout, l’être humain n’est rien ; il est, tout au plus, la carcasse du temps” » (p.74). De plus, l’être humain devient « un appendice de la machine » (Le Manifeste communiste). Tout au long de son ouvrage, Crawford met l’accent sur le contrôle du temps de production des travailleurs et des travailleuses en tant que caractéristique distinctive de la production capitaliste. Cette vision critique du capitalisme, non seulement en tant que système de répartition inégale des richesses, mais aussi en tant que système de production aliénant et aliéné, constitue l’une des contributions les plus importantes de son livre.
Elle démontre avec force que « l’IA n’est ni artificielle ni intelligente » (p.8). Elle est au contraire le fruit du travail pénible et mal rémunéré des mineurs et autres travailleurs/travailleuses. Selon elle, la réforme capitaliste permet, au mieux, d’instaurer des réglementations marginales, mais laisse intactes les relations de production (p.72).
Dans les chapitres suivants consacrés aux données et à la classification, elle présente une quantité impressionnante de recherches sur la manière dont les géants de la tech ont utilisé des données volées aux créateurs et aux crétrices et dépourvues de contexte, sur la façon dont ils mélangent vérité et mensonges dans leurs modèles de langage (LLM), et sur la promotion de systèmes de classification biaisés, racistes, misogynes et qui réifient les personnes en objets. L’IA, affirme-t-elle, « réduit les relations sociales, politiques et économiques à des entités quantifiables » (p.144) et transforme toutes les données, y compris les affects, les sentiments et les expressions faciales humaines, en une masse quantifiable. Cette critique peut nous rappeler l’analyse de Marx dans le premier chapitre du Capital sur la manière dont la division extrême du travail sous le capitalisme réduit le travail concret, spécifique et différencié à une masse abstraite, indifférenciée et figée de travail humain.
Le chapitre 6, consacré à l’État, soutient que l’IA a été façonnée par une relation étroite entre la Silicon Valley, l’armée américaine et la NASA. L’IA était à l’origine une technologie militaire. Aujourd’hui, ce sont les géants de la tech, tels que Palantir – dirigée par le milliardaire et partisan du mouvement MAGA Peter Thiel –, qui conçoivent les mécanismes des expulsions massives menées par l’ICE. Toutes ces technologies, souligne-t-elle, visent à façonner un État centralisé doté d’un puissant système de surveillance destiné à dominer et à exploiter les êtres humains.
Crawford exhorte les lecteurs et les lectrices à prendre conscience que « l’IA n’est pas une technique objective, universelle ou neutre » (p.212). Elle est façonnée par des forces économiques, sociales et politiques conçues pour promouvoir la domination et le pouvoir de l’État. Elle propose « des interventions informatiques comme solutions universelles applicables à n’importe quel problème » (p.214). Son objectif est d’accélérer la production au détriment du bien-être physique et mental des êtres humains ; de mécaniser et d’automatiser au point de détruire la capacité et le potentiel humains de pensée critique ; et de « convertir un univers infiniment complexe et changeant en un ordre linnéen de tableaux lisibles par machine [Linnaean order of machine-readable tables] » (p.221).
Crawford ne pense pas qu’il puisse exister « une IA pour le peuple ». Le fondement même de l’IA réside dans la promotion de la « centralisation du contrôle » (p.223). Pour reprendre les mots de la poétesse et bibliothécaire féministe noire Audre Lorde, « es outils du maître ne démantèleront jamais la maison du maître ». Sa « politique renouvelée du refus » nous invite à ne pas accepter l’IA comme une inévitabilité technologique », mais à « remettre en question l’idée que tout doive être soumis à la logique de la prédiction statistique et de l’accumulation du profit » (p.226). Elle cite l’appel du philosophe Achille Mbembe en faveur d’« une nouvelle critique de la technologie » (p.226) qui examine « l’interdépendance entre le capitalisme, l’informatique et le contrôle » et « rassemble les questions de justice climatique, de droits du travail, de justice raciale, de protection des données et des abus du pouvoir policier et militaire » (p.227).
Selon elle, toute approche qui ne répondrait pas à ces exigences ouvrirait la voie à la dystopie de Jeff Bezos et d’Elon Musk, marquée par l’épuisement des ressources terrestres, la création de camps de concentration de type nazi et un scénario au « Meilleur des mondes » impliquant des colonies spatiales.
À l’heure où un mouvement semble émerger aux États-Unis pour s’opposer au remplacement massif des travailleurs et des travailleuse par l’IA, aux centres de données dédiés à l’IA, à la surveillance par l’IA et aux effets néfastes de l’IA sur l’éducation, les ouvrages cités ci-dessus, signés par Bender, Hanna et Crawford, peuvent constituer un terrain fertile pour élaborer une vision positive et mettre en place des actions concrètes et immédiates.
Frieda Afary
https://socialistfeminism.org/ai-as-the-logic-of-capitalist-domination/
Traduit par DE