![\"\"](\"https:\/\/collectif-accad.fr\/site\/wp-content\/uploads\/2025\/10\/Debranche.jpg\")
<\/p>\n<\/p>\n
Entretien crois\u00e9 entre une philosophe et un entrepreneur<\/span><\/strong><\/span><\/p>\n <\/p>\n On s\u2019\u00e9merveille de leur intelligence, on rit de leur b\u00eatise. Le succ\u00e8s des agents conversationnels<\/a> comme ChatGPT ou Perplexity ne se d\u00e9ment pas\u00a0: ces syst\u00e8mes appuy\u00e9s sur l\u2019intelligence artificielle (IA) g\u00e9n\u00e9rative comptent des millions d\u2019utilisateurs fid\u00e8les. Mais que fait-on, exactement, lorsqu\u2019on sollicite quotidiennement ces grands mod\u00e8les de langage\u00a0? Et peut-on penser avec eux\u00a0? La philosophe Anne Alombert, ma\u00eetresse de conf\u00e9rences \u00e0 l\u2019universit\u00e9 Paris-VIII et autrice de De la b\u00eatise artificielle<\/em> (Allia, 144\u00a0pages, 8,50\u00a0euros) en d\u00e9bat avec Jonathan Bourguignon, auteur d\u2019Internet, ann\u00e9e z\u00e9ro <\/em>(Divergences, 2021) et cofondateur de Squadra, un studio de cr\u00e9ation d\u2019agents intelligents.<\/span><\/p>\n Par rapport aux pr\u00e9c\u00e9dentes innovations comme l\u2019\u00e9criture, l\u2019imprimerie ou, plus r\u00e9cemment, les moteurs de recherche, l\u2019IA est-elle d\u2019une nature extraordinairement diff\u00e9rente\u00a0?<\/strong><\/span><\/p>\n Jonathan Bourguignon\u00a0:<\/strong> Chaque d\u00e9couverte qui a un lien avec nos capacit\u00e9s cognitives soul\u00e8ve des inqui\u00e9tudes, c\u2019est vrai depuis l\u2019invention de l\u2019\u00e9criture. Lorsque le livre de poche est arriv\u00e9 en France, en\u00a01953, il se trouvait des gens pour pr\u00e9dire que la production de masse d\u2019une litt\u00e9rature bas de gamme allait ravager les esprits<\/a> \u2013 et le m\u00eame argument \u00e9tait d\u00e9j\u00e0 utilis\u00e9 contre l\u2019imprimerie \u00e0 la fin du XVe\u00a0<\/sup>si\u00e8cle, ou contre Internet dans les ann\u00e9es 1990. Dans les trois cas, le public avait soudainement acc\u00e8s \u00e0 une masse de connaissances in\u00e9dites, l\u00e0 o\u00f9 les critiques consid\u00e9raient qu\u2019il valait mieux privil\u00e9gier l\u2019acc\u00e8s de tous \u00e0 un nombre restreint de textes importants.<\/span><\/p>\n Les algorithmes et l\u2019IA g\u00e9n\u00e9rative n\u2019\u00e9chappent pas \u00e0 ce sch\u00e9ma, mais ils g\u00e9n\u00e8rent aussi une nouvelle inqui\u00e9tude, celle d\u2019une d\u00e9possession.<\/span><\/p>\n La \u00ab\u00a0premi\u00e8re\u00a0\u00bb version de Google pr\u00e9sentait encore, pour une m\u00eame demande, une information identique \u00e0 tous les utilisateurs. Lorsque l\u2019entreprise a chang\u00e9 de mod\u00e8le \u00e9conomique et mis en place un syst\u00e8me d\u2019ench\u00e8res publicitaires, dans lequel des annonceurs paient pour diffuser leurs publicit\u00e9s, le succ\u00e8s de ce syst\u00e8me est devenu d\u00e9pendant de la capacit\u00e9 de Google \u00e0 pr\u00e9dire le comportement des internautes gr\u00e2ce \u00e0 l\u2019analyse des donn\u00e9es de trafic. Cette rencontre d\u2019Internet avec le machine learning<\/em> [\u00ab\u00a0apprentissage de la machine\u00a0\u00bb] <\/em>a ouvert la voie au Web 2.0, caract\u00e9ris\u00e9 par les plateformes num\u00e9riques et les algorithmes de pr\u00e9diction et de recommandation \u2013 comme ceux qu\u2019on retrouve aujourd\u2019hui sur Facebook, Netflix ou bien d\u2019autres services. D\u00e9sormais, plus besoin de chercher un contenu ou une information\u00a0: ils s\u2019imposent \u00e0 nous. Et l\u2019arriv\u00e9e de l\u2019lA g\u00e9n\u00e9rative, qui permet de g\u00e9n\u00e9rer du contenu et formate spontan\u00e9ment l\u2019information pour l\u2019adapter \u00e0 nos demandes, est bien s\u00fbr une nouvelle rupture fondamentale.<\/span><\/p>\n Anne Alombert\u00a0:<\/strong> Le point commun des technologies que vous avez mentionn\u00e9es (l\u2019\u00e9criture, l\u2019imprimerie, les moteurs de recherche et l\u2019IA), c\u2019est que leur usage implique une d\u00e9l\u00e9gation de certaines de nos capacit\u00e9s intellectuelles, psychiques, mentales. On se repr\u00e9sente \u00e0 tort la pens\u00e9e comme un processus immat\u00e9riel, qui se produirait dans le ciel des id\u00e9es, alors que c\u2019est une activit\u00e9 tout aussi corporelle et incarn\u00e9e que les autres, qui n\u00e9cessite notamment des outils auxquels nous d\u00e9l\u00e9guons des capacit\u00e9s. A travers l\u2019\u00e9criture, puis le livre, on d\u00e9l\u00e8gue la m\u00e9moire\u00a0: plus besoin de se rem\u00e9morer par nous-m\u00eames les savoirs. Avec les technologies d\u2019enregistrement analogique comme la photographie, la phonographie, la t\u00e9l\u00e9vision, on d\u00e9l\u00e8gue la m\u00e9moire des sons et des images. Avec le cin\u00e9ma, on d\u00e9l\u00e8gue l\u2019imagination, l\u00e0 o\u00f9 le livre nous obligeait encore \u00e0 produire des images mentales propres \u00e0 chacun.<\/span><\/p>\n Avec le num\u00e9rique, nous d\u00e9l\u00e9guons de nouvelles capacit\u00e9s. Aux algorithmes de recommandation, notre capacit\u00e9 de jugement et de d\u00e9cision\u00a0: plus besoin de chercher et de choisir de regarder tel ou tel contenu. Et aux IA g\u00e9n\u00e9ratives, notre capacit\u00e9 d\u2019expression. Ce n\u2019est plus moi qui m\u2019exprime avec mes propres mots, qui fabrique mes propres images, mes propres sons\u00a0: les machines le font \u00e0 ma place.<\/span><\/p>\n Peut-on dire que les IA g\u00e9n\u00e9ratives produisent une forme de raisonnement proche de celui des humains\u00a0?<\/strong><\/span><\/p>\n La plupart des chercheurs technoscientifiques en IA soutiennent, depuis tr\u00e8s longtemps, que l\u2019on peut formaliser la pens\u00e9e sur la base d\u2019op\u00e9rations logiques, c\u2019est-\u00e0-dire la r\u00e9duire \u00e0 du calcul. Ces m\u00eames op\u00e9rations logiques peuvent \u00eatre traduites sous forme de signaux dans des circuits \u00e9lectroniques \u2013 les ordinateurs. Comme on a ainsi r\u00e9duit la pens\u00e9e au calcul, et qu\u2019on a fabriqu\u00e9 des machines \u00e0 calculer, on en conclut que les ordinateurs \u00ab\u00a0pensent\u00a0\u00bb. Pourtant, on peut d\u00e9fendre d\u2019autres d\u00e9finitions, et dire que la pens\u00e9e provient du d\u00e9sir, du r\u00eave, de l\u2019imagination\u2026<\/span><\/p>\n Quoi qu\u2019il en soit, il faut bien comprendre que raisonner ou r\u00e9fl\u00e9chir ne sont pas des processus qui adviennent seulement dans notre cerveau \u00e0 travers des connexions neuronales. Cela implique toujours ce que j\u2019appelle des \u00ab\u00a0proth\u00e8ses cognitives\u00a0\u00bb\u00a0: un crayon, une feuille de papier, une machine \u00e0 traitement de texte, un boulier, une calculatrice, un supercalculateur, un large language model<\/em> [LLM, mod\u00e8le capable de comprendre et de g\u00e9n\u00e9rer des textes]<\/em>\u2026 Les machines dont nous parlons, elles, n\u2019ont ni corps vivant ni proth\u00e8se cognitive. Comparer les humains aux machines n\u2019a donc pas grand sens. C\u2019est un peu comme si vous me demandiez\u00a0: \u00ab\u00a0Est-ce qu\u2019une feuille de papier m\u00e9morise\u00a0?\u00a0\u00bb, ou\u00a0: \u00ab\u00a0Est-ce que la chaise s\u2019assoit\u00a0?\u00a0\u00bb La chaise conditionne la mani\u00e8re dont je m\u2019assois. Et les machines IA conditionnent la mani\u00e8re dont nous pensons\u00a0: ce qui est important, c\u2019est de savoir comment, \u00e0 l\u2019\u00e9chelle individuelle et collective.<\/span><\/p>\n Si les machines ne \u00ab\u00a0raisonnent\u00a0\u00bb peut-\u00eatre pas, elles sont aujourd\u2019hui capables de produire des raisonnements, avec des \u00e9tapes qui m\u00e8nent d\u2019un point A \u00e0 un point B, d\u2019un probl\u00e8me \u00e0 sa r\u00e9solution, en suivant une voie originale. Les mod\u00e8les se forgent une sorte d\u2019instinct, que leur perfectionnement rend de plus en plus fiable. D\u00e9sol\u00e9 pour cet anthropomorphisme.<\/span><\/p>\n Qu\u2019entendez-vous par \u00ab\u00a0instinct\u00a0\u00bb, Jonathan Bourguignon\u00a0?<\/strong><\/span><\/p>\n On est tr\u00e8s loin de la notion d\u2019\u00ab\u00a0al\u00e9atoire\u00a0\u00bb qui caract\u00e9rise les machines algorithmiques. Quand on lance des d\u00e9s, le r\u00e9sultat est impr\u00e9visible. Mais il n\u2019est pas \u00ab\u00a0nouveau\u00a0\u00bb, car toutes les possibilit\u00e9s sont r\u00e9pertori\u00e9es. Le lancer de d\u00e9 ne fait que recombiner diff\u00e9remment les r\u00e9sultats. Avec l\u2019IA, c\u2019est un peu la m\u00eame chose\u00a0: on recombine toutes les donn\u00e9es pass\u00e9es, ce qui donne des r\u00e9ponses impr\u00e9visibles (car on a introduit de l\u2019al\u00e9atoire dans les calculs probabilistes). Mais pas nouvelles. Ce qui est \u00ab\u00a0nouveau\u00a0\u00bb, ce n\u2019est pas le r\u00e9sultat d\u2019une combinaison. On ne peut pas le g\u00e9n\u00e9rer \u00e0 partir des calculs du pass\u00e9.<\/span><\/p>\n Une IA ne pourrait-elle pas cr\u00e9er un nouveau jeu\u00a0? Certes, elle s\u2019appuierait sur les jeux qui existent d\u00e9j\u00e0. Mais n\u2019est-ce pas ce que nous faisons aussi\u00a0?<\/strong><\/span><\/p>\n Est-ce exclu\u00a0?<\/strong><\/span><\/p>\n La force de ces machines, c\u2019est qu\u2019elles se nourrissent de toutes les donn\u00e9es humaines\u00a0; mais le probl\u00e8me, c\u2019est qu\u2019elles se nourrissent aussi de plus en plus des donn\u00e9es qu\u2019elles g\u00e9n\u00e8rent. Il se produit un ph\u00e9nom\u00e8ne de d\u00e9gradation cumulative. Un peu comme quand vous faites la photocopie d\u2019une photocopie d\u2019une photocopie\u2026 au bout d\u2019un certain temps, l\u2019image sera de moins bonne qualit\u00e9. Pour cette raison, un effondrement des mod\u00e8les n\u2019est pas exclu. Il ne faut jamais oublier que si ces machines sont efficientes, c\u2019est parce que nous les avons nourries avec des savoirs humains, donc elles simulent l\u2019intelligence humaine. Le jour o\u00f9 elles seront aliment\u00e9es par des b\u00eatises, elles simuleront la b\u00eatise.<\/span><\/p>\n L\u2019IA menace d\u2019atrophier certaines capacit\u00e9s humaines comme la m\u00e9moire, le raisonnement, l\u2019autonomie de la d\u00e9cision. Concr\u00e8tement, comment cela se passe-t-il\u00a0?<\/strong><\/span><\/p>\n Ce ph\u00e9nom\u00e8ne n\u2019est pas nouveau. On sait, par exemple, que l\u2019apprentissage de la lecture et de l\u2019\u00e9criture joue un r\u00f4le dans la synaptogen\u00e8se (la formation de nos synapses)\u00a0: apprendre \u00e0 lire et \u00e0 \u00e9crire, puis pratiquer ces activit\u00e9s r\u00e9guli\u00e8rement, va exercer certaines zones de notre cerveau et pas d\u2019autres. Mais si on ne pratique plus ces activit\u00e9s, le cerveau d\u00e9sapprend ce dont il n\u2019a pas besoin. Utiliser ChatGPT pour faire ses devoirs, c\u2019est prendre le risque de ne jamais d\u00e9velopper suffisamment certaines zones c\u00e9r\u00e9brales\u00a0; l\u2019utiliser dans la vie de tous les jours, c\u2019est prendre le risque d\u2019amoindrir nos\u00a0capacit\u00e9s de m\u00e9morisation, d\u2019imagination, de d\u00e9cision, d\u2019expression ou de jugement.<\/span><\/p>\n Ce n\u2019est pas le seul probl\u00e8me\u00a0: il y a aussi la question des biais. Ces machines sont entra\u00een\u00e9es par des personnes, selon certains crit\u00e8res, certaines valeurs. Leurs r\u00e9ponses portent la trace de biais id\u00e9ologiques. Il y a aussi des biais statistiques\u00a0: les r\u00e9ponses sont tr\u00e8s d\u00e9pendantes du contenu du jeu de donn\u00e9es et ont tendance \u00e0 renforcer les expressions majoritaires.<\/span><\/p>\n Et ces biais impr\u00e8gnent-ils les humains\u00a0en retour\u00a0?<\/strong><\/span><\/p>\n Ces biais, qu\u2019ils soient statistiques ou id\u00e9ologiques, influencent nos mani\u00e8res de parler et de penser. Or, ce pouvoir d\u2019influence est dans les mains des entreprises qui fabriquent et poss\u00e8dent ces technologies. Donc, certes, l\u2019arriv\u00e9e de chaque nouvelle technologie suscite des paniques morales sur leurs effets potentiels. Mais quand on se penche un peu pr\u00e9cis\u00e9ment sur l\u2019histoire de ces paniques, on se rend compte qu\u2019elles pointent, en r\u00e9alit\u00e9, souvent cette question du pouvoir.<\/span><\/p>\n Prenons Platon et son dialogue Ph\u00e8dre<\/em>, souvent cit\u00e9 en exemple pour sa critique de l\u2019\u00e9criture dont l\u2019usage se banalise alors dans la soci\u00e9t\u00e9 grecque antique. Il souligne ses effets d\u00e9l\u00e9t\u00e8res sur la m\u00e9moire. On peut certes arguer que Platon n\u2019a pas vu les potentialit\u00e9s incroyables offertes par l\u2019\u00e9criture\u00a0; mais, en r\u00e9alit\u00e9, Platon s\u2019inqui\u00e8te moins de l\u2019\u00e9criture que des sophistes. Cette petite poign\u00e9e d\u2019acteurs tr\u00e8s puissants dans la soci\u00e9t\u00e9 grecque utilise l\u2019\u00e9criture et la rh\u00e9torique pour mieux r\u00e9citer parfaitement de grands discours et ainsi influencer la mani\u00e8re dont les gens pensent.<\/span><\/p>\n De m\u00eame, les critiques formul\u00e9es par les philosophes allemands Theodor W. Adorno [1903-1969]<\/em> et Max Horkheimer [1895-1973]<\/em> \u00e0 l\u2019\u00e9gard du cin\u00e9ma visent, en r\u00e9alit\u00e9, le pouvoir de fabriquer les images, tout entier entre les mains de quelques acteurs \u00e9conomiques \u2013 les producteurs hollywoodiens. Savoir si les IA g\u00e9n\u00e9ratives constituent un risque ou une opportunit\u00e9 pour les humains implique d\u2019oser poser cette question politique\u00a0: qui les poss\u00e8de, qui les entra\u00eene\u00a0?<\/span><\/p>\n L\u2019IA menace d\u2019alt\u00e9rer certaines capacit\u00e9s humaines, mais peut-elle aider \u00e0 en d\u00e9velopper d\u2019autres\u00a0?<\/strong><\/span><\/p>\n L\u2019IA se place entre l\u2019humain et le monde. Ce n\u2019est pas sans danger, car nous ne sommes qu\u2019aux balbutiements des nouvelles interfaces hommes-machine. Dans les prochaines ann\u00e9es, des dispositifs portables comme les Meta Ray Ban [des lunettes qui peuvent afficher des informations en r\u00e9alit\u00e9 augment\u00e9e sans obstruer la vision] <\/em>ou des implants de type Neuralink<\/a> [entreprise fond\u00e9e par Elon Musk en\u00a02016 qui d\u00e9veloppe des interfaces cerveau-ordinateur]<\/em> pourraient fa\u00e7onner une interm\u00e9diation totale entre nos processus cognitifs et le monde ext\u00e9rieur, d\u00e9multipliant les risques que nous avons d\u00e9j\u00e0 cit\u00e9s.<\/span><\/p>\n Les IA g\u00e9n\u00e9ratives peuvent-elles nous aider \u00e0 apprendre\u00a0?<\/strong><\/span><\/p>\n\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n