Les dangers de l’Intelligence Artificielle
Un livre d’Emmanuelle Darles
Et si ce que l’on présente comme un progrès inévitable était en réalité une fuite en avant ?
Omniprésente, célébrée, sacralisée, l’intelligence artificielle s’infiltre dans toutes les sphères de nos vies : éducation, santé, justice, emploi, sécurité. Sous couvert de neutralité technique, elle façonne un nouveau monde, plus rapide, plus efficace… mais aussi plus inégal, opaque et déshumanisé.
Dans ce livre incisif, Emmanuelle Darles, enseignante-chercheuse en informatique, démonte les discours fascinés qui entourent l’IA. Elle révèle comment cette technologie, loin d’être une simple innovation, devient un instrument de pouvoir, un levier de contrôle, et parfois, une machine à exclure.
Des algorithmes biaisés aux décisions automatisées, des géants du numérique aux États technosurveillants, ce premier tome alerte sur les dangers d’une automatisation sans conscience et interroge : à qui profitera vraiment ce futur connecté ?
« L’intelligence artificielle n’est plus envisagée comme une simple technologie, mais comme une doctrine. Il fallait, coûte que coûte, ‘mettre de l’IA partout’ : dans l’éducation, la santé, les transports, la justice, la sécurité. […] Ce phénomène relève moins d’une révolution scientifique que d’une transformation idéologique majeure, où l’humain s’efface progressivement derrière les impératifs algorithmiques. »
Un essai lucide et engagé, pour reprendre le contrôle sur notre destin technologique.
** **
Manifeste
Refusons une société automatisée, défendons notre humanité !
L’intelligence artificielle est présentée comme une révolution, une promesse d’un monde plus efficace, plus rationnel, plus juste. Mais cette illusion masque une réalité plus sombre : une technologie qui échappe au contrôle démocratique, qui renforce les inégalités et qui menace nos libertés fondamentales.
Nous, citoyens, travailleurs, chercheurs et penseurs engagés, refusons d’être spectateurs d’un avenir où l’IA nous surveille, nous remplace, nous influence et nous juge selon des logiques invisibles et inaccessibles.
Nous refusons une société où l’IA devient un prétexte pour précariser l’emploi, imposer une surveillance invisible et soumettre nos choix à des algorithmes opaques dictés par une poignée de multinationales.
Nous exigeons une transparence totale et un contrôle humain absolu sur les décisions algorithmiques qui affectent nos vies.
1. Contre l’illusion d’une IA bienveillante
L’IA ne pense pas, ne comprend pas, n’a ni éthique ni conscience. Pourtant, on la confie à des tâches cruciales : recrutement, médecine, justice, éducation. Ces décisions automatisées ne sont ni objectives, ni infaillibles. Elles ne font que reproduire des biais, les systématiser et les dissimuler sous une prétendue « neutralité ». Nous exigeons la fin du mythe d’une IA omnisciente et impartiale.
2. Contre l’opacité algorithmique et la manipulation des citoyens
Chaque jour, nos vies sont influencées par des systèmes d’IA sans notre consentement. Les algorithmes de recommandations, la modération des contenus, la publicité ciblée ou les classements scolaires orientent nos choix sans que nous sachions pourquoi ni comment.
Ces outils sont devenus des instruments de manipulation et de contrôle social sous couvert d’innovation technologique. Nous exigeons une transparence totale et un droit de regard sur tous les systèmes algorithmiques affectant nos droits et libertés.
3. Contre la destruction des emplois et l’exploitation technologique
L’IA ne crée pas une prospérité partagée : elle remplace les travailleurs, intensifie leur exploitation et concentre le pouvoir économique. Derrière l’argument de « l’optimisation » se cache une réalité brutale : des millions d’emplois supprimés, des salaires en baisse, une précarisation croissante. Nous refusons que l’IA serve d’excuse à un démantèlement social sous couvert de progrès.
4. Contre l’IA comme outil de surveillance et de contrôle social
Reconnaissance faciale, notation sociale implicite, modération automatique, traçage en temps réel…
L’IA est déjà utilisée pour surveiller, classifier et contrôler les citoyens, sous prétexte de sécurité et d’efficacité. Une société où nos comportements, nos déplacements et nos interactions sont scrutés par des algorithmes est une société de contrôle total. Nous refusons que l’IA devienne une machine à surveiller et punir sous couvert d’innovation.
5. Contre l’illusion d’une IA sans responsabilité
Qui est responsable quand une IA discrimine un candidat, refuse un prêt injustement, ou prive un patient de soins ?
L’opacité des décisions algorithmiques est une stratégie d’irresponsabilité. Nous exigeons que les concepteurs et utilisateurs d’IA assument pleinement les conséquences de leurs systèmes.
6. Pour une souveraineté humaine sur la technologie
L’IA ne doit pas devenir une autorité invisible, au-dessus des citoyens et des institutions démocratiques. Les décisions qui nous concernant doivent rester sous contrôle humain, avec des recours clairs et accessibles. Nous revendiquons un droit absolu de comprendre, contester et refuser l’usage de l’IA lorsque nos libertés et nos choix sont en jeu.
Nous refusons une société où des algorithmes prennent des décisions à notre place, influencent nos choix et détruisent nos libertés.
Nous refusons que l’IA devienne une excuse pour l’exploitation, la surveillance et la déshumanisation de nos sociétés.
Emmanuelle DARLES