![\"\"](\"https:\/\/collectif-accad.fr\/site\/wp-content\/uploads\/2024\/06\/EHS-240522.jpg\")
<\/h1>\n<\/h1>\nVoire fin de la d\u00e9mocratie ?<\/strong> <\/span><\/p>\n <\/p>\n L\u2019intelligence artificielle est appel\u00e9e \u00e0 s\u2019immiscer dans la majeure partie de nos interactions num\u00e9riques. Avec sa capacit\u00e9 \u00e0 produire instantan\u00e9ment un \u00ab baratin \u00bb plausible adapt\u00e9 aux pr\u00e9f\u00e9rences de chacun, quels sont les risques que l\u2019intelligence fausse nos interactions sociales, voire mine nos d\u00e9mocraties ? Par <\/span><\/span><\/p>\n ** **<\/span><\/span><\/p>\n En mars 2016,\u00a0Microsoft met en ligne un chatbot appel\u00e9 Tay.\u00a0Dans les 16 heures qui suivent,\u00a0Tay se met \u00e0 tweeter des messages racistes et sexistes\u00a0: des utilisateurs provocateurs ou mal intentionn\u00e9s avaient d\u00e9lib\u00e9r\u00e9ment manipul\u00e9 l\u2019algorithme en l\u2019alimentant de propos offensants<\/span><\/span>[1]<\/u><\/span><\/span><\/span><\/a>.\u00a0<\/span><\/span><\/p>\n En mars 2018, le <\/span><\/span>Guardian<\/i><\/span><\/span> et le <\/span><\/span>New York Times<\/i><\/span><\/span> r\u00e9v\u00e8lent qu\u2019une entreprise de communication anglaise, <\/span><\/span>Cambridge Analytica<\/i><\/span><\/span>, soutenue par le propagandiste am\u00e9ricain d\u2019extr\u00eame droite Steve Bannon et financ\u00e9e par le milliardaire ultraconservateur Robert Mercer, avait d\u00e9ploy\u00e9 un algorithme de profilage politique de plus de 220 millions d\u2019am\u00e9ricains, en bonne partie sur base de donn\u00e9es Facebook acquises de fa\u00e7on douteuse<\/span><\/span>[2]<\/u><\/span><\/span><\/span><\/a>. Selon <\/span><\/span>Cambridge Analytica<\/i><\/span><\/span>, leur m\u00e9thode \u00ab\u00a0psychographique\u00a0\u00bb permettrait de personnaliser les messages politiques sur base du profil psychologique de chaque personne. Cette m\u00e9thode a \u00e9t\u00e9 utilis\u00e9e lors de la campagne pr\u00e9sidentielle am\u00e9ricaine de 2016, m\u00eame si son efficacit\u00e9 reste contest\u00e9e.<\/span><\/span><\/p>\n En mars 2022,\u00a0une vid\u00e9o appara\u00eet en ligne pr\u00e9sentant le pr\u00e9sident Zelensky appelant les troupes ukrainiennes \u00e0 d\u00e9poser les armes<\/span><\/span>[3]<\/u><\/span><\/span><\/span><\/a>. Il s\u2019agissait d\u2019un \u00ab\u00a0deepfake\u00a0\u00bb, une vid\u00e9o g\u00e9n\u00e9r\u00e9e par intelligence artificielle qui reconstitue la voix, le visage et l\u2019expression d\u2019une personne pronon\u00e7ant n\u2019importe quel texte. Bien que ce faux f\u00fbt encore grossier, la qualit\u00e9 de ces techniques a rapidement \u00e9volu\u00e9 pour devenir maintenant difficile \u00e0 identifier par le grand public.<\/span><\/span><\/p>\n Le discours fa\u00e7onne le r\u00e9el<\/span><\/span><\/p>\n Ces exemples r\u00e9cents d’utilisation probl\u00e9matique de l’intelligence artificielle t\u00e9moignent \u00e0 la fois de sa pr\u00e9sence dans nos vies mais aussi de dangers qu\u2019elle fait craindre. De plus, la plupart des experts s\u2019accordent \u00e0 consid\u00e9rer que nous n’en sommes qu\u2019au d\u00e9but. Avec une capacit\u00e9 \u00e0 construire des textes, des images, des vid\u00e9os \u2013 bref des r\u00e9alit\u00e9s alternatives \u2013 l’IA ne va pas seulement d\u00e9velopper des univers parall\u00e8les, elle va fa\u00e7onner le r\u00e9el. En effet, les humains sont des \u00eatres qui imaginent le monde avant de le vivre<\/span><\/span>[4]<\/u><\/span><\/span><\/span><\/a>. Qui contr\u00f4le les imaginaires, oriente les humains.<\/span><\/span><\/p>\n On sait combien par exemple la guerre en Ukraine fait l’objet, \u00e0 c\u00f4t\u00e9 de la vraie guerre des corps mutil\u00e9s, d’une guerre des imaginaires sur le conflit. Gagner la bataille des imaginaires est d\u00e8s lors un enjeu fondamental pour gagner un conflit arm\u00e9 traditionnel. On peut perdre une guerre sur le champ de bataille, et la gagner dans les imaginaires. Lors de la bataille des Thermopyles (480 av. J.-C), 300 Spartiates et leurs alli\u00e9s furent certes vaincus par l’immense arm\u00e9e perse de Xerx\u00e8s, mais leur courage et leur sacrifice ont inspir\u00e9 des g\u00e9n\u00e9rations et symbolisent la r\u00e9sistance face \u00e0 une force tyrannique jusque dans le cin\u00e9ma contemporain.<\/span><\/span><\/p>\n Souvent ce sont les imaginaires qui demeurent dans l’histoire ou \u00e0 tout le moins dans celle que les gens se racontent ou que les vainqueurs tentent d\u2019imposer. Dans cette perspective, les IA et ceux qui les contr\u00f4lent sont en passe d\u2019affecter de fa\u00e7on majeure la formation de l\u2019opinion, et donc d\u2019orienter la volont\u00e9 des peuples en construisant des narrations massivement diffus\u00e9es.<\/span><\/span><\/p>\n La propagande n\u2019a certes rien de neuf, mais ce qui distingue l\u2019IA,\u00a0c\u2019est sa capacit\u00e9 via les canaux digitaux \u00e0 affiner un discours diff\u00e9rent pour chaque personne, cr\u00e9ant ainsi pour chacun une bulle de r\u00e9alit\u00e9 alternative personnalis\u00e9e, sans socle de r\u00e9alit\u00e9 partag\u00e9e. Et ce de fa\u00e7on continue au d\u00e9tour de chacune de nos interactions num\u00e9riques. L\u2019impact de l\u2019IA ira \u00e9galement plus loin que celui de la propagande classique car elle impr\u00e8gne tous les aspects de la r\u00e9alit\u00e9 digitale\u00a0: de comment nous pr\u00e9parons un voyage \u00e0 quels partenaires nous rencontrons ou \u00e0 comment notre travail est dirig\u00e9 et contr\u00f4l\u00e9.<\/span><\/span><\/p>\n L\u2019illusion de l\u2019objectivit\u00e9<\/span><\/span><\/p>\n Les cons\u00e9quences politiques de l’intelligence artificielle vont plus loin encore<\/span><\/span>[5]<\/u><\/span><\/span><\/span><\/a>. Non seulement l’IA (coupl\u00e9e ou non au robot selon les cas) remplacerait l’ouvrier dans des t\u00e2ches r\u00e9p\u00e9titives et jug\u00e9es fastidieuses ou p\u00e9nibles, mais elle pourrait \u00e9galement remplacer l’expert en offrant des propositions de d\u00e9cision jug\u00e9es \u00ab\u00a0objectives\u00a0\u00bb. Une \u00e9valuation r\u00e9cente de ChatGPT-4 s\u2019enthousiasme que la productivit\u00e9 des consultants d\u2019un grand bureau de consultance strat\u00e9gique serait fortement boost\u00e9e par l\u2019intelligence artificielle<\/span><\/span>[6]<\/u><\/span><\/span><\/span><\/a>.<\/span><\/span><\/p>\n Ce sont ces consultants qui conseillent les plus grandes entreprises et nos d\u00e9cideurs politiques, et influent ainsi sur une myriade de d\u00e9cisions qui impactent chacun. Dans cette perspective, on oublie souvent que l’intelligence artificielle refl\u00e8te in\u00e9vitablement les orientations donn\u00e9es par ses concepteurs, que ce soit d\u00e9lib\u00e9r\u00e9ment ou non. En quelque sorte, il y a une bo\u00eete noire sous-jacente \u00e0 l\u2019IA, une forme de subjectivit\u00e9 masqu\u00e9e du design et du designer de ce type d’outil technologique puissant.<\/span><\/span><\/p>\n Mais plus encore, en \u00e9ludant la dimension politique au nom de l’efficacit\u00e9 et de l’objectivit\u00e9 de l\u2019IA, on pourrait nous pousser \u00e0 faire abstraction du d\u00e9bat politique et de la d\u00e9lib\u00e9ration, puisque \u00ab\u00a0l\u2019IA s\u2019en charge rationnellement et sans pr\u00e9jug\u00e9s\u00a0\u00bb entend-on dans certains cercles technophiles<\/span><\/span>[7]<\/u><\/span><\/span><\/span><\/a>. Le risque est de se retrouver face \u00e0 une \u00ab\u00a0technocratie sous anabolisants\u00a0\u00bb o\u00f9 la technique est vue comme une nouvelle v\u00e9rit\u00e9, impartiale, sup\u00e9rieure \u00e0 l’in\u00e9vitable imperfection du d\u00e9bat des humains.<\/span><\/span><\/p>\n D\u00e9bat ou simulacre d\u00e9mocratique\u00a0?<\/span><\/span><\/p>\n Or pr\u00e9cis\u00e9ment, en abandonnant \u00e0 l’intelligence artificielle ce rituel qu’est le d\u00e9bat politique, ce moment essentiel qui fait que nous sommes des communaut\u00e9s humaines, nous c\u00e9dons une partie de ce qui nous rend humains. C\u2019est dans ces divergences, c\u2019est dans ces rapprochements par le d\u00e9bat, c’est dans ces imperfections cr\u00e9atrices, que se d\u00e9ploie l’humanit\u00e9. Le moment d\u00e9lib\u00e9ratif, avec son \u00e9motion, mais aussi ses argumentations, ses joutes oratoires, ses discours construits, ses disputatio \u00e0 l’atterrissage impr\u00e9visible, sont pr\u00e9cis\u00e9ment le lieu d’une humanit\u00e9 qui se pense ensemble\u00a0: t\u00e2tonnante, manquant de coh\u00e9rence, min\u00e9e par les rapports de force, les compromis et les injustices. Le pire des syst\u00e8mes \u00e0 l\u2019exception de tous les autres. Pas de d\u00e9mocratie sans tension permanente entre les valeurs et volont\u00e9s des citoyens dont la r\u00e9sultante d\u00e9termine les choix politiques.<\/span><\/span><\/p>\n De plus, l\u2019IA n\u2019est pour l\u2019instant souvent que simulacre donnant l\u2019apparence d\u2019intelligence \u2013 c\u2019est-\u00e0-dire de la capacit\u00e9 \u00e0 comprendre \u2013 sans r\u00e9elle compr\u00e9hension de son propre discours. En son c\u0153ur, un mod\u00e8le comme ChatGPT ne fait qu\u2019anticiper le prochain mot d\u2019une phrase. C\u2019est la version g\u00e9ante de l\u2019algorithme de saisie automatique de nos SMS. Aliment\u00e9 par des milliards de documents, cette m\u00e9thode \u00e9l\u00e9mentaire cr\u00e9e des discours apparemment coh\u00e9rents. Cependant, le r\u00e9sultat est l\u2019apparence de plausibilit\u00e9 \u2013 et non la v\u00e9racit\u00e9. Ces algorithmes sont pour l\u2019instant des \u00ab\u00a0baratineurs\u00a0\u00bb ultimes, incapables de distinguer baratin et v\u00e9rit\u00e9.<\/span><\/span><\/p>\n L\u2019utopie de la matrice<\/span><\/span><\/p>\n Il est d\u00e9j\u00e0 difficile de s\u2019extraire de ces bulles de filtres sur internet o\u00f9 nous sommes constamment aliment\u00e9s de contenus confortant nos pr\u00e9f\u00e9rences et pr\u00e9jug\u00e9s. Qu\u2019en sera-t-il quand ces IA \u2013 pilot\u00e9es par les plus puissants d\u2019entre nous \u2013 commenceront \u00e0 cr\u00e9er de toutes pi\u00e8ces des \u00ab\u00a0r\u00e9alit\u00e9s\u00a0\u00bb fragment\u00e9es ? On sait combien l’humain pr\u00e9f\u00e8re parfois voir la r\u00e9alit\u00e9 qu’il souhaite que la r\u00e9alit\u00e9 telle qu’elle est. \u00c0 chacun son assistant IA, voir son compagnon, qui m\u00e9diera chaque interaction num\u00e9rique.<\/span><\/span><\/p>\n Quelle chemise mettre pour un rendez-vous\u00a0? Un cadeau d\u2019anniversaire \u00e0 la mode pour moins de cinquante euros\u00a0? Est-ce que je dois faire r\u00e9gime\u00a0? Comment changer de sexe\u00a0? Comment lutter contre la solitude\u00a0? On peut se poser la question de savoir au service de qui seront vraiment ces IA. De leurs utilisateurs\u00a0? Ou plut\u00f4t d\u2019un syst\u00e8me \u00e9conomique ou politique\u00a0? Quel sera le prix \u00e0 payer pour notre sant\u00e9 mentale\u00a0?<\/span><\/span><\/p>\n L’intelligence artificielle ne pourrait-elle pas \u00eatre une forme de drogue travestissant la r\u00e9alit\u00e9 pour la rendre acceptable voire d\u00e9sirable\u00a0? Un \u00ab\u00a0lieu\u00a0\u00bb o\u00f9 voir ce que nous souhaiterions \u00eatre le r\u00e9el pour fuir psychiquement et mentalement un r\u00e9el non d\u00e9sir\u00e9, ou pire encore un lieu o\u00f9 voir uniquement ce que les nouveaux dominants nous donneront \u00e0 voir, une r\u00e9alit\u00e9 d\u00e9sirable <\/span><\/span>ad hoc<\/i><\/span><\/span> fa\u00e7onn\u00e9e par une logique de domination devenue plus invisible encore, et plus difficile \u00e0 combattre d\u00e8s lors. Nous ne serions alors pas tr\u00e8s loin du film Matrix. Une forme de mythe de la caverne de Platon, mais o\u00f9 la caverne serait juste une perception cognitive du monde orient\u00e9e et biais\u00e9e par l’intelligence artificielle. Bref, une forme d’enfermement autistique sur la r\u00e9alit\u00e9 du monde, une matrice sans la matrice. \u00c0 ce moment-l\u00e0, serions-nous encore des humains ?<\/span><\/span><\/p>\n ** **<\/span><\/span><\/p>\n Olivier Servais, professeur d\u2019anthropologie \u00e0 l\u2019UCLouvain, et Yves Moreau, professeur d\u2019ing\u00e9nierie \u00e0 la KU Leuven, pour <\/span><\/span>Carta Academica<\/u><\/span><\/span><\/span><\/a> (<\/span><\/span>https:\/\/www.cartaacademica.org\/<\/u><\/span><\/span><\/span><\/a>).<\/span><\/span><\/p>\n Les points de vue exprim\u00e9s dans les chroniques de Carta Academica sont ceux de leur(s) auteur(s) et\/ou autrice(s) ; ils n\u2019engagent en rien les membres de Carta Academica, qui, entre eux d\u2019ailleurs, ne pensent pas forc\u00e9ment la m\u00eame chose. En parrainant la publication de ces chroniques, Carta Academica consid\u00e8re qu\u2019elles contribuent \u00e0 des d\u00e9bats soci\u00e9taux utiles. Des chroniques pourraient d\u00e8s lors \u00eatre publi\u00e9es en r\u00e9ponse \u00e0 d\u2019autres. Carta Academica veille essentiellement \u00e0 ce que les chroniques \u00e9dit\u00e9es reposent sur une d\u00e9marche scientifique.<\/i><\/span><\/span><\/p>\n ** **<\/i><\/span><\/span><\/p>\n Notes<\/i><\/span><\/span><\/strong><\/p>\n [1]<\/u><\/span><\/span><\/span><\/a> https:\/\/www.lemonde.fr\/pixels\/article\/2016\/03\/24<\/a> <\/span><\/span><\/p>\n [2]<\/u><\/span><\/span><\/span><\/a> https:\/\/www.lesoir.be\/146945\/article\/2018-03-22<\/a> <\/span><\/span><\/p>\n [3]<\/u><\/span><\/span><\/span><\/a> https:\/\/www.lesoir.be\/430609\/article\/2022-03<\/a> <\/span><\/span><\/p>\n [4]<\/u><\/span><\/span><\/span><\/a> Castoriadis C., l\u2019Institution imaginaire de la soci\u00e9t\u00e9, Seuil, 1975<\/span><\/span><\/p>\n [5]<\/u><\/span><\/span><\/span><\/a> On a d\u00e9j\u00e0 des premi\u00e8res r\u00e9flexions ant\u00e9rieures \u00e0 l\u2019IA sur ces questions, notamment sur l\u2019impact politique des algorithmes\u00a0: Rouvroy, A. &\u00a0Berns, T. (2013). Gouvernementalit\u00e9 algorithmique et perspectives d\u2019\u00e9mancipation : Le disparate comme condition d’individuation\u00a0par\u00a0la\u00a0relation\u00a0?\u00a0<\/span><\/span>R\u00e9seaux<\/i><\/span><\/span>, 177, 163-196\u00a0<\/span><\/span><\/p>\n https:\/\/doi.org\/10.3917\/res.177.0163<\/u><\/span><\/span><\/span><\/a><\/p>\n [6]<\/u><\/span><\/span><\/span><\/a> https:\/\/www.forbes.com\/sites\/danpontefract<\/a> <\/span><\/span><\/p>\n