Une nouvelle couche d’exploitation du travail
** **
A lire absolument le livre de Thibault PREVOST : « les prophètes de l’IA, pourquoi la silicon Valley nous vend l’apocalypse »
Résumé
Dans la Silicon Valley, terre traditionnellement fertile pour les spiritualités excentriques, un nouveau récit se répand. Les start-up de l’intelligence artificielle vendent désormais aux investisseurs l’imminence de la fin des temps. LIA deviendrait si intelligente qu’elle en serait divine, capable de nous sauver comme de nous anéantir. Sous son influence, l’industrie de la tech tout entière bascule dans un discours aux accents religieux. On ne vend plus le progrès, mais ta métamorphose. On ne vend plus le futur, mais la fin de l’histoire. Certains les appellent les doomers – les catastrophistes – ou encore les techno-oligarques. Pour les besoins de ce livre, nous les appellerons les « prophètes ». Cette congrégation se compose majoritairement d’hommes blancs, issus des élites universitaire et entrepreneuriale. Ils viennent de Stanford, Oxford, Harvard ou du MIT. Ils sont ingénieurs, chercheurs, philosophes, patrons, investisseurs et milliardaires, et pas une semaine ne passe sans que ces prophètes apparaissent dans la presse pour prononcer un oracle. Dans un inquiétant amalgame d’autoritarisme et d’ultracapitalisme, ils veulent nous faire croire en leur toute-puissance pour mieux imposer leur pouvoir. Ce faisant, ils représentent une réelle menace pour la société civile et nos libertés.
Journaliste indépendant spécialiste des nouvelles technologies, Thibault Prévost travaille depuis dix ans pour divers médias français, notamment Arrêt sur images.
Le chapitre 5 « systèmes d’exploitation » commence par une phrase de Jacques ELLUL : « Ce n’est pas la technique qui nous asservit mais le sacré transféré à la technique ».
les différentes parties :
- L’IA est un culte
- L’IA ne fonctionne (toujours) pas
- L’IA est un écocide
- L’IA est un pillage
- L’IA est une bulle financière
- L’IA est un autoritarisme
- L’IA est une discrimination
** **
L’IA générative ne va ni nous augmenter ni nous remplacer, mais vise d’abord à mieux nous exploiter, expliquent Aiha Nguyen et Alexandra Mateescu de Data & Society. En s’intégrant aux applications de travail, elle promet de réduire les coûts même si elle n’est pas pertinente, elle vient contraindre l’activité de travail, et renforce l’opacité et l’asymétrie de pouvoir.
« Comme pour d’autres vagues d’automatisation, le potentiel supposé de l’IA générative à transformer notre façon de travailler a suscité un immense engouement ». Mais pour comprendre comment cette nouvelle vague va affecter le travail, il faut dépasser la dichotomie entre l’IA qui nous augmente et l’IA qui nous remplace, estiment les chercheuses de Data & Society Aiha Nguyen et Alexandra Mateescu dans un nouveau rapport sur l’IA générative et le travail. La rhétorique de l’IA générative répète qu’elle va améliorer l’efficacité du travail et automatiser les tâches fastidieuses, dans tous les secteurs, du service client aux diagnostics médicaux. En réalité, son impact sur le travail est plus ambivalent et beaucoup moins magique. Ce qu’elle affecte est bien l’organisation du travail. Et cette dichotomie ne propose aux travailleurs aucun choix autre que le renforcement de leur propre exploitation.
Le battage médiatique autour de l’IA générative permet de masquer que l’essentiel de ses applications ne seront pas récréatives, mais auront d’abord un impact sur le travail. Il permet également d’exagérer sa capacité à reproduire les connaissances et expertises des travailleurs, tout en minimisant ses limites, notamment le fait que l’intelligence artificielle soit d’abord un outil d’exploitation des zones grises du droit. Mais surtout, l’IA nous fait considérer que le travail humain se réduit à des données, alors même que l’IA est très dépendante du travail humain. Or, pour le développement de ces systèmes, ce n’est plus seulement la propriété intellectuelle qui est exploitée sans consentement, mais également les données que produisent les travailleurs dans le cadre de leur travail. Dans les centres d’appels par exemple, les données conversationnelles des opérateurs sont utilisées pour créer des IA conversationnelles, sans que les travailleurs ne soient rémunérés en plus de leur travail pour cette nouvelle exploitation. Même problème pour les auteurs dont les éditeurs choisissent de céder l’exploitation de contenus à des systèmes d’IA générative. Pour l’instant, pour contester « la marchandisation non rémunérée de leur travail », les travailleurs ont peu de recours, alors que cette nouvelle couche d’exploitation pourrait avoir des conséquences à long terme puisqu’elle vise également à substituer leur travail par des outils, à l’image de la prolifération de mannequins virtuels dans le monde de la mode. Il y a eu dans certains secteurs quelques avancées, par exemple l’association américaine des voix d’acteurs a plaidé pour imposer le consentement des acteurs pour l’utilisation de leur image ou de leur voix pour l’IA, avec des limites de durée d’exploitation et des revenus afférents. Reste, rappellent les chercheuses que « les asymétries majeures de pouvoir et d’information entre les industries et les travailleurs restent symptomatiques » et nécessitent de nouveaux types de droits et de protection du travail.
Dans les lieux de travail, l’IA apparaît souvent de manière anodine, en étant peu à peu intégrée à des applications de travail existantes. Dans la pratique, l’automatisation remplace rarement les travailleurs, elle automatise très partiellement certaines tâches spécifiques et surtout reconfigure la façon dont les humains travaillent aux côtés des machines. Les résultats de l’IA générative nécessitent souvent beaucoup de retravail pour être exploitées. Des rédacteurs sont désormais embauchés pour réhumaniser les textes synthétiques, mais en étant moins payé que s’ils l’avaient écrit par eux-même sous prétexte qu’ils apportent moins de valeur. Les chatbots ressemblent de plus en plus aux véhicules autonomes, avec leurs centres de commandes à distance où des humains peuvent reprendre les commandes si nécessaire, et invisibilisent les effectifs pléthoriques qui leur apprennent à parler et corrigent leurs discours. La dévalorisation des humains derrière l’IA occultent bien souvent l’étendue des collaborations nécessaires à leur bon fonctionnement.
Trop souvent, l’utilisation de l’IA générative génère des simplifications problématiques. En 2023, par exemple, la National Eating Disorders Association a licencié son personnel responsable de l’assistance en ligne pour le remplacer par un chatbot qu’elle a rapidement suspendu après que celui-ci ait dit aux personnes demandant de l’aide… de perdre du poids. De même, l’utilisation croissante d’outils de traduction automatiques plutôt que d’interprètes humains dans le système d’immigration américain pour accomplir des demandes d’asiles a conduit à des refus du fait d’erreurs de traduction manifestes, comme des noms transformés en mois de l’année, des délais incorrectes. Si la traduction automatique permet de réduire les coûts, elle est trop souvent utilisée dans des situations complexes et à enjeux élevés, où elle n’est pas pertinente. Enfin, rappellent les chercheuses, l’IA générative vient souvent remplacer certains profils plus que d’autres, notamment les postes juniors ou débutants, au détriment de l’a formation l’apprentissage de compétences essentielles… (sans compter que ces postes sont aussi ceux où l’on trouve le plus de femmes ou de personnes issues de la diversité.
Le recours à l’IA générative renforce également la surveillance et la datafication du lieu de travail, aggravant des décisions automatisées qui sont déjà très peu transparentes aux travailleurs. Automatisation de l’attribution des tâches, de l’évaluation des employés, de la prise de mesures disciplinaires… Non seulement le travail est de plus en plus exploité pour produire des automatisations, mais ces automatisations viennent contraindre l’activité de travail. Par exemple, dans le domaine des centres d’appels, l’IA générative surveille les conseillers pour produire des chatbots qui pourraient les remplacer, mais les réponses des employés sont également utilisées pour générer des scripts qui gèrent et régulent leurs interactions avec les clients, restreignant toujours plus leur autonomie dans des boucles de rétroaction sans fin.
En fait, présenter les chatbots et les déploiements d’IA générative comme des assistants plutôt que comme des contrôleurs occulte le renforcement de l’asymétrie de pouvoir à l’œuvre, estiment très justement Aiha Nguyen et Alexandra Mateescu. Ce discours permet de distancier l’opacité et le renforcement du contrôle que le déploiement de l’IA opère. En fait, soulignent-elles, « l’évaluation critique de l’intégration de l’IA générative dans les lieux de travail devrait commencer par se demander ce qu’un outil particulier permet aux employeurs de faire et quelles incitations motivent son adoption au-delà des promesses d’augmentation de la productivité ». Dans nombre de secteurs, l’adoption de l’IA générative est bien souvent motivée dans une perspective de réduction des coûts ou des délais de productions. Elle se déploie activement dans les outils de planification de personnels dans le commerce de détail, la logistique ou la santé qui optimisent des pratiques de sous-effectifs ou d’externalisation permettant de maximiser les profits tout en dégradant les conditions de travail. Le remplacement par les machines diffuse et renforce partout l’idée que les employés sont devenus un élément jetable comme les autres.
Pour les chercheuses, nous devons trouver des modalités concrètes pour contrer l’impact néfaste de l’IA, qui comprend de nouvelles formes de contrôle, la dévaluation du travail, la déqualification, l’intensification du travail et une concurrence accrue entre travailleurs – sans oublier les questions liées à la rémunération, aux conditions de travail et à la sécurité de l’emploi. « Considérer l’IA générative uniquement sous l’angle de la créativité occulte la réalité des types de tâches et de connaissances qui sont automatisées ».
L’IA générative est souvent introduite pour accélérer la production et réduire les coûts. Et elle le fait en extrayant la valeur des travailleurs en collectant les données de leur travail et en les transférant à des machines et à des travailleurs moins coûteux qui vont surveiller les machines. A mesure que les travailleurs sont réduits à leurs données, nous devons réfléchir à comment étendre les droits et les protections aux données produites par le travail.
** **
Dans un passionnant reportage sur le déploiement de l’IA dans les centres d’appels philippins, Rest of The World explique que le volume de travail a considérablement augmenté depuis que les employés sont « augmentés par l’IA », leur faisant des recommandations en temps réels, mais surtout en augmentant la surveillance et la contrainte, quand ce n’est pas en empêchant les employés. Aux Philippines où 1,84 millions de personnes travaillent dans le secteur de l’externalisation des processus d’entreprises, le ministère du travail estime que le déploiement de l’IA conduit déjà à des réductions d’effectifs. « Même les entreprises qui privilégient le contact humain sont obligées d’utiliser ces technologies pour satisfaire les commanditaires qui demandent une plus grande automatisation ».
Lean Porquia fondateur d’une association de travailleurs du secteur, explique que si l’IA est utile, les entreprises l’utilisent surtout pour justifier l’ajout de tâches supplémentaires. Elle ressemble plus à un patron qu’à un collègue. Un employé des centres d’appels témoigne : le programme note les employés sur leur ton, son argumentaire, son humeur, la positivité de son propos, le fait de ne pas interrompre la personne, le temps de mise en attente et la rapidité du retour vers le client. « Chaque bégaiement, pause, mot mal prononcé ou chaque écart par rapport au script » dégrade la note.
Pourtant, les employés tendent à penser que les IA les rendent plus efficaces. « Le programme reconnaît ce qui est dit, récupère rapidement les préoccupations passées du client et suggère des solutions et des questions de suivi en temps réel ». Un autre employé précise encore que son « copilote » « me dit même si je dois ralentir, accélérer ou faire une déclaration avec empathie ». Pour l’économiste Paul Quintos, spécialiste de l’outsourcing aux Philippines, « l’IA augmente la productivité des travailleurs avec peu ou pas d’amélioration en termes de salaires. Elle intensifie surtout la pression sur les travailleurs pour qu’ils fonctionnent comme des machines »
Cet article a été publié originellement pour le média Danslesalgorithmes.net le 10 décembre 2024.
Hubert Guillaud ; auteur de « Les algorithmes contre la société » aux éditions La Fabrique et journaliste pour https://danslesalgorithmes.net
