Une illusion dangereuse
Les appels et les textes se multiplient pour réclamer une « bonne » intelligence artificielle. Mais le problème est plus profond : c’est dans son principe même, dans sa fonction sociale, que cette technologie est néfaste.
Depuis quelques mois, la place croissante que prend l’intelligence artificielle (IA) dans le débat public a conduit à une inquiétude légitime venant de plusieurs parties de la société. Du pape Léon XIV dans son encyclique Magnifica Humanitas le mois dernier jusqu’à la « déclaration de Leyde », signée, plus récemment, par 2 300 mathématiciens, les appels à la « régulation » se multiplient.
En France, une tribune signée par quelque 150 personnalités du monde de la culture, aussi divers qu’Annie Ernaux, Gaspard Koenig ou Philippe Claudel, interpelle contre un « dialogue ininterrompu de l’humain avec les machines ».
De fait, ces appels ne sont pas construits dans le sable. Les dangers de l’IA sont réels et documentés. Une étude menée par le Massachussetts Institute of Technology (MIT) avec 272 experts issus de trente-neuf pays et publiée le 3 juin a permis d’identifier cinq risques « catastrophiques » liés au développement de l’IA.
La première est que l’IA puisse être dotée de capacités dangereuses, la seconde est la mobilisation de l’IA dans des armes et des cyberattaques. Le MIT met aussi en garde contre la dynamique concurrentielle, une « course à l’IA » contre la centralisation du pouvoir qui en découlerait. Enfin, il redoute la « création et la dissémination de fausses informations sophistiquées ».
Le MIT estime que le niveau de ces risques est très élevé : « Si on considère d’autres secteurs technologiques avancés comme le nucléaire ou l’aviation, des risques à ce niveau seraient considérés comme intolérables. » Mais l’étude en déduit que cela doit amener « ceux qui construisent et dirigent l’IA à s’assurer que les pires issues ne voient pas le jour ».
Des appels à la régulation sur la ligne de crête
Cette remarque finale est significative de l’approche des tribunes et appels cités plus haut. L’IA n’est pas rejetée en soi, mais on demande sa régulation, sa limitation, son usage raisonné. Le pape, par exemple, y voit une « aide précieuse » qu’il appelle à gérer avec « responsabilité » et « transparence ». Lui aussi appelle les responsables de l’IA à une maîtrise de la technologie. Dans la déclaration de Leyde, on appelle à « réguler l’industrie de l’intelligence artificielle » et à investir dans des infrastructures publiques.
Ces exigences sont légitimes, mais il manque un élément crucial à l’équation. Ces textes sont tous sur une ligne de crête : ils refusent de rejeter l’IA, et ce refus est lié à la volonté de ne pas s’opposer au « progrès scientifique ». Il faut donc accepter les évolutions technologiques tout en cherchant à s’en prémunir. C’est sur cette ligne de crête que l’on espère s’en tirer par un appel à la responsabilité et à la régulation. Mais c’est ignorer ce qu’est ce supposé « progrès ».
Toutes ces visions considèrent implicitement que les technologies sont neutres, qu’elles sont les simples produits des découvertes scientifiques. Partant de ce fait, elles sont, en soi, incontestables. Il ne serait alors possible que de tenter d’accompagner au mieux le déploiement de ladite technologie. Mais c’est là une vision qui est, déjà, contestable. Aucune technologie n’est neutre, elle est le produit de la traduction sociale du travail scientifique, ainsi que de l’orientation sociale de ce même travail. Les sciences « dures » ne sont pas le produit de la société, mais elles s’inscrivent dans une société. La technologie n’est donc pas qu’une simple réalisation de la science, c’est une utilisation de la science pour un but social donné.
L’intelligence artificielle vient répondre aux besoins de notre société, organisée autour du capital et de son accumulation.
Cette tension se retrouve de façon directe dans la déclaration de Leyde, qui a fait l’objet de nombreuses discussions tant le secteur des mathématiciens est impliqué dans la production de l’IA. « Les mots ont été pesés pour ne pas interdire les collaborations avec les pourvoyeurs d’outils, tout en préconisant des règles de bonnes pratiques pour ces partenariats », explique ainsi Le Monde.
La déclaration reconnaît, elle-même, que « l’industrie a offert des emplois lucratifs » aux scientifiques. Qui paie commande, et c’est ici où l’autonomie de la science trouve sa propre limite. Non pas parce que ces mathématiciens seraient « corrompus », ce qui est faux, mais parce qu’ils sont payés pour faire un travail qui a pour fonction d’assurer l’émergence d’une technologie précise qui profite à leurs donneurs d’ordre.
La technologie n’est donc pas neutre, elle est le produit d’un besoin de la société à un moment donné. L’intelligence artificielle vient donc répondre aux besoins de notre société. Mais notre société n’est pas organisée autour des besoins humains, ni des contraintes naturelles, elle est organisée autour du capital et de son accumulation.
L’IA devient un besoin social
L’intelligence artificielle a fait l’objet de recherches intenses, de financements et, conséquemment, d’un développement rapide parce qu’elle promet de répondre à un besoin majeur du capital dans le contexte actuel : celui d’une nouvelle vague d’automatisation du travail afin de relancer le taux de profit. Aucun besoin humain défini n’a présidé à ce choix. Comme le remarquait déjà Guy Debord dans La Société du spectacle en 1967 : « La valeur d’échange est le condottiere de la valeur d’usage qui finit par mener la guerre pour son propre compte. » L’IA est l’acmé de cette autonomisation.
Les hommes sont alors sommés de se soumettre à ces besoins, de s’y adapter et, finalement, d’en faire un besoin essentiel pour eux-mêmes. Mais il est alors essentiel de saisir que la logique est inversée : on ne part pas des besoins réels et concrets des hommes pour développer et utiliser la technologie, mais on les définit à partir de la technologie capitaliste. Ce renversement de la logique est propre au fonctionnement de notre société.
Une fois ce tour de passe-passe réussi, l’IA devient un besoin social reconnu par les hommes eux-mêmes. C’est le mouvement de fétichisation et de mystification qui est le centre des trois livres du Capital de Marx. Il est alors logique que les pétitions et autres appels tentent de sauvegarder l’idée d’une utilité de l’intelligence artificielle, mais ce faisant, ces textes sauvent tout le reste : la logique de renversement du monde et la centralité de l’accumulation du capital. Cette pseudo-utilité est toujours soumise à ces conditions premières. Et dès lors, les appels à la régulation, à la création d’une « bonne IA » sont vains.
Car la véritable fonction de l’IA n’est pas dans la rédaction rapide de recettes de cuisine, ni même dans les moteurs conversationnels à la mode. Ces outils permettent justement la mystification par laquelle la valeur d’échange impose une valeur d’usage qui légitimise comme besoin cette technologie. Mais sa fonction propre, ce pour quoi elle a été développée et financée, c’est de permettre un rebond des gains de productivité, notamment par l’automatisation des services et par l’accélération de l’automatisation de l’industrie.
Or, une des leçons de ces dernières décennies est que la capacité de l’organisation économique à générer des gains de productivité globaux est affaiblie. Comme l’avait déjà perçu en 2015 l’économiste Robert Gordon, le coût en matière d’innovation est désormais considérable pour faire remonter le taux de productivité. Le gigantisme de l’IA et des financements qu’elle mobilise traduit précisément cette situation. Ce gigantisme s’accompagne donc d’une rentabilité fantôme mais qui reste le but du secteur.
Des « dérives » ou des évolutions nécessaires ?
Alors même que les gains de productivité potentiels restent extrêmement incertains, voire irréalisables, les ressources mobilisées sont uniques dans l’histoire du capitalisme. C’est sans doute l’angle mort de ces demandes de régulation : l’IA est un besoin du capital, et pour satisfaire ce besoin, la fuite en avant technologique n’est pas une « dérive » ou un « effet indésirable » que l’on pourrait contrôler, c’est une nécessité centrale.
Deux exemples, cités comme dommageables tant par la tribune des mathématiciens que par le pape, viendra confirmer ce mouvement : la militarisation de l’IA et la multiplication de la désinformation. Le premier mouvement n’est pas un usage déviant de la technologie. Un des moyens classiques pour développer des techniques est leur usage militaire.
Le capitalisme a affiné toujours plus ce nœud entre technologie et défense et une grande partie des révolutions informatiques et numériques trouve son origine dans des besoins militaires. Dans la fuite en avant décrite plus haut, l’IA peut saisir les financements publics considérables mis à disposition des usages de défense pour accélérer son développement. Ici, au reste, se rejoignent deux besoins du capital : l’investissement militaire est aussi une réponse classique au ralentissement de la croissance. Autrement dit, bloquer la militarisation de l’IA relève du vœu pieux en ce que cela reviendrait à freiner son propre développement.
Il en va de même avec la logique de désinformation. Le mensonge est consubstantiel à l’IA en ce qu’elle prétend précisément être un besoin de l’humanité, alors même que cette dernière est confrontée à des crises profondes, notamment écologiques (mais pas seulement), que l’IA ne fait qu’aggraver.
Pour demeurer un besoin essentiel de l’humanité contre l’évidence même, cette technologie n’a pas d’autres choix que d’imposer sa propre réalité aux hommes. En tant que summum du processus de renversement du monde décrit plus haut, l’IA est, par nature, une machine qui falsifie le réel pour mieux le construire à son image. Le monde de l’IA est celui de la mystification parce qu’il est celui d’un capital aux abois qui ne peut plus supporter la contradiction.
Lutter seulement contre ces symptômes en préservant la logique sous-jacente qui construit l’IA revient à jouer les Don Quichotte en attaquant les moulins à vent. La demande de régulation, et notamment d’autorégulation, revient à jouer les mercenaires de certains acteurs qui, comme Anthropic, aiment à se draper dans une position éthique pour gagner une position concurrentielle favorable, mais qui poursuivent, néanmoins, la logique destructrice de l’IA.
On ne régule pas la destruction, on la combat
Et c’est bien le problème majeur de ce désir de régulation. Qui peut réguler ? Celui qui déciderait de freiner le développement technique et financier de l’IA perdrait immédiatement toute pertinence sur le marché, il serait balayé par ses concurrents. Et comme, par ailleurs, l’IA est loin d’avoir atteint son but, une régulation venant de l’ensemble du secteur est impossible : les financements engagés ne peuvent espérer devenir rentables que si la fuite en avant se poursuit.
C’est aussi pour cette raison que les cauchemars apocalyptiques de l’IA sont alimentés par les acteurs eux-mêmes. Il est indispensable de continuer à donner envie aux investisseurs de financer l’IA et il faut donc maintenir la « hype », la frénésie. Quitte à le faire pour en dénoncer les risques, comme le fait Anthropic. Ces récits permettent d’imposer l’idée de la toute-puissance de l’IA et donc de sa capacité à faire rebondir les gains de productivité. Personne dans le secteur ne se risquera donc à une autorégulation sérieuse fondée sur des considérations humaines ou écologiques.
Les États sont tous en soutien de la course à l’IA. Tous tentent d’attirer les investissements de l’IA sur son sol.
Qu’en est-il alors de l’État ? Dans le contexte actuel, une telle régulation apparaît également comme un doux rêve. Les États sont en voie de fusion et de confusion avec le capital privé, précisément parce qu’ils sont dépendants pour leurs financements de la production générale de valeur de l’économie. L’intérêt du capital est le leur bien davantage que le bien commun.
Au reste, on s’en convaincra aisément. Les États sont tous en soutien de la course à l’IA. Tous tentent d’attirer les investissements de l’IA sur son sol. Tous s’efforcent « d’adapter » leur population à cette technologie et de la convaincre que son usage est indispensable. On voit mal comment les États pourraient sérieusement, c’est-à-dire autrement qu’en paroles ou en gesticulations superficielles, engager une régulation de l’IA.
Au mieux, là encore, les régulations nationales ou régionales peuvent favoriser des acteurs plutôt que d’autres sur des principes nationaux, par exemple. Mais on voit mal en quoi ce serait là un « progrès ». L’IA chinoise est-elle plus vertueuse et humaine que celle développée par les géants étasuniens ? Elle vise surtout à renforcer la position du capital chinois dans la compétition internationale. Mais elle est soumise à la même fuite en avant.
La volonté régulatrice se berce encore d’une illusion, selon laquelle la croissance pourrait continuer à assurer le bonheur.
Le piège se referme donc. En voyant l’IA comme un progrès humain alors qu’il n’est qu’un progrès du capital, on refuse de voir l’essentiel : le prix de la production de richesse capitaliste est désormais celui de la destruction. Et on ne régule pas la destruction, on la combat.
La volonté régulatrice se berce encore d’une illusion dangereuse, selon laquelle la croissance pourrait continuer à assurer le bonheur. Le prix de la croissance, aujourd’hui, c’est l’IA, dont le coût écologique, humain, social et politique est immense. Il ne peut donc y avoir qu’un combat qui vise directement l’IA dans son principe organisateur, celui de la société renversée du capital. Le reste ne sera que gesticulations vaines.
Mediapart
** **
Tout est dit ou presque. L’informatique a toujours été en concurrence guerrière depuis son origine. Et l’IA en est la pointe la plus avancée d’autant que le capitalisme numérique s’est étendu dans le monde et est aux mains des grandes puissances en confrontation. De pire en pire et d’empire en empire.
** **
Du fait que l’IA « efface » inévitablement les limites entre le public et le privé, il ne peut être bien utilisé. Les États ne mettront pas de limites à l’IA car elle leur permet d’utiliser sa puissance pour renforcer leur pouvoir. Dans notre système capitaliste, qui se caractérise par une violence envers les peuples, l’IA permettra de renforcer cette violence, à l’intérieur des pays, et contre les pays voisins. On voit bien comment tout cela se met en place actuellement.
L’article est complet, il aborde tous les points importants.
on a une possibilité de mener le combat contre cette monstruosité en s’opposant à l’implantation des datas-centers, lesquels sont gigantesques et consommeront toutes les ressources en eau et énergie électrique disponibles. C’est peut-être ce qui va réveiller les peuples, lesquels se font endormir par les côtés utilitaires de l’IA, sans en mesurer les conséquences. C’est d’ailleurs ce qui se passe dans l’Utah en ce moment, si je ne me trompe pas d’État…
S’ils sont construits, la situation ne sera pas tenable.
** **
L’IA est un outil.
Selon que celui-ci sera bien utilisé, ou mal utilisé … Ce ne sera pas toutefois la panacée.
** **
Le commentaire précédent suscite quelques remarques.
La technique n’est pas neutre. Elle nous oriente. L’outil n’est pas neutre. C’est ce qui est indiqué notamment dans l’article.
On est tellement obsédé par le progrès que l’on ne voit que cela.
Dans tout cela, il n’y a que des avantages pour ceux qui veulent nous l’imposer TOUS LES JOURS, par le matraquage médiatique, pour l’imposition de l’État qui se fout bien pour l’instant de notre droit à ne pas être connecté…. Pour l’instant, on n’y échappe pas mais cela fait courir l’humanité et le monde animal vers la cata.
Pour ne parler que ma seule région, grâce à Bertrand (président de région), grâce à ce fléau qu’est le chômage, on est une terre d’accueil pour toutes les merdes qui vous alimenter l’IA. Il y a plein de projets pour des constructions de data centers, entre autres ; de même pour des gigafactory, des entreprises type seveso, des implantations d’éoliennes INDUSTRIELLES … Ceci grâce à ce que disent les industriels qui vont faire pleuvoir des quantités énormes d’emploi (!!!)
L’IA est de mode pour l’extrême droite parce que cela va résoudre le problème du changement climatique ! le PCF est pour car, avec eux, cela sera bien utilisé. Mélenchon a toujours cru au mirage de la nouvelle technologie …. J’en passe ; tout simplement pour dire qu’on a des élus technolâtres … et les médias en rajoutent une grosse louche ; et on se laisse faire.
Cela commence à bouger. Par exemple, dans notre région, nous avons rencontré un sénateur PCF remonté contre l’IA : Alexandre BASQUIN. Il est jeune, convaincu. C’est évidemment un électron libre dans son parti :
Progrès : oui, si c’est humain.
** **
Ca me fait penser aux gens qui se demandent si il faut être poli avec l’IA et ceux qui le sont … C’est de la folie.
** **
Voici ce que l’on vient de m’envoyer
Les géants de la tech sont en train de bâtir une économie de l’IA qui privatise les profits tout en socialisant les coûts.
Le centre de données de 200 milliards de dollars que Meta prévoit de construire en Louisiane consommerait autant d’énergie que la ville de New York. Dans l’Utah, le milliardaire Kevin O’Leary soutient un projet de centre de données de 40 000 acres qui devrait consommer deux fois plus d’électricité que l’ensemble de l’État n’en consomme actuellement.
Ces milliardaires et ces entreprises s’apprêtent à faire fortune. Tous les autres se retrouvent avec des factures d’électricité plus élevées, des infrastructures mises à rude épreuve, des réserves d’eau épuisées et des dégâts environnementaux.
Et les coûts humains vont bien au-delà de l’eau et de l’électricité.
L’IA transforme l’emploi, l’éducation, les médias, les pouvoirs publics et des secteurs entiers à un rythme plus rapide que nous ne pouvons le comprendre ou l’influencer. Des travailleurs sont licenciés et des communautés sont bouleversées. Mais les bénéfices reviennent uniquement à quelques grandes entreprises technologiques et à leurs riches actionnaires.
Si l’IA doit remodeler la société, le public doit avoir son mot à dire sur son avenir. Les bénéfices ne doivent pas revenir uniquement à quelques milliardaires tandis que le reste d’entre nous assume les risques.
Tant que le public ne partagera pas la richesse qu’elle génère — par exemple, via une propriété publique telle qu’un fonds souverain —, nous ne devrions pas nous précipiter pour construire de nouvelles infrastructures d’IA gigantesques.
Dites au Congrès : interdisez la construction de nouveaux centres de données dédiés à l’IA jusqu’à ce que le public soit associé en tant que partenaire. Adoptez la loi sur le moratoire des centres de données dédiés à l’IA proposée par Bernie Sanders et AOC.
SIGNEZ ET ENVOYEZ
Les centres de données consomment des quantités astronomiques d’énergie et d’eau. Ils font grimper la demande sur les réseaux électriques et imposent des coûts réels aux communautés environnantes. CNN a rapporté que les centres de données créent des « îlots de chaleur » localisés, tandis que les habitants de nombreuses régions s’inquiètent de la hausse des factures d’énergie et des impacts environnementaux.
Mais Trump et O’Leary campent sur leurs positions, allant jusqu’à affirmer que la résistance populaire est orchestrée par des acteurs étrangers plutôt que par des Américains ordinaires préoccupés par le sort de leurs communautés.
Comme nous le met en garde le sénateur Sanders, il ne faut pas laisser une poignée de milliardaires du secteur technologique façonner et dominer l’ensemble de notre économie, de notre démocratie et de notre avenir. Le Congrès doit intervenir dès maintenant.
Envoyez un message à vos élus : plus aucun centre de données dédié à l’IA tant que le public ne partagera pas les bénéfices.
Merci de vous engager pour un avenir où les avantages de l’IA profiteront à tous !
LeeAnn Hall, Directrice, Campagne nationale pour la justice
Document qu’il faut replacer dans le contexte des USA
** **
Le commentaire précédent est intéressant au niveau de l’analyse… pour finalement faire croire que l’IA sera un bon outil s’il est entre de bonnes mains (en l’occurrence le public) : illusion dangereuse ! Mais la situation aux USA n’est pas identique à celle en France et il est probable qu’il faut passer par cette demande initiée notamment par Bernie Sanders.
Je souscris aussi au commentaire reçu suivant : « L’IAg doit être strictement interdite au moins pour toutes les interactions sociales et administratives. L’IA statistique sera conservée pour la médecine ou la météo par exemple mais placée sous contrôle citoyen, ce qui n’est pas le cas. Il faut casser les reins à l’alliance liberticide entre BIG Tech et Big State. »
** **
Le texte de LeeAnn Hall ne correspond pas à mon point de vue sur l’IA, que je peux résumer ains i: comme d’habitude, on ouvre la boîte de Pandore et on réfléchit ensuite, une fois que les dégâts sont patents – je pense avec Geoffrey Hinton qu’il aurait fallu poser un cadre juridique avant de mettre l’IA en circulation.