{"id":10654,"date":"2023-05-28T02:17:51","date_gmt":"2023-05-28T00:17:51","guid":{"rendered":"https:\/\/collectif-accad.fr\/site\/?p=10654"},"modified":"2023-05-26T07:18:52","modified_gmt":"2023-05-26T05:18:52","slug":"intelligence-artificielle-3","status":"publish","type":"post","link":"https:\/\/collectif-accad.fr\/site\/intelligence-artificielle-3\/","title":{"rendered":"Intelligence artificielle"},"content":{"rendered":"

ChatGPT contre la pens\u00e9e critique<\/span><\/span><\/strong><\/p>\n

<\/p>\n

Depuis sa commercialisation en novembre 2022, ChatGPT a comptabilis\u00e9 plus de 4 milliards de visites. Si son succ\u00e8s est massif, son utilisation est sujet \u00e0 d\u00e9bat. C\u2019est le cas dans les mondes scientifique et acad\u00e9mique, o\u00f9 les acteurs du milieux craignent un impact sur l\u2019esprit critique, la construction des savoirs et les cons\u00e9quences collectives qu’entra\u00eene l\u2019utilisation d\u2019une telle technologie.<\/span><\/span><\/span><\/p>\n

L\u2019arriv\u00e9e de ChatGPT puis ChatGPT-4 sur le march\u00e9 semble avoir \u00e9t\u00e9 accueillie comme celle du messie. ChatGPT est un mod\u00e8le de traitement du langage naturel d\u00e9velopp\u00e9 par l’entreprise am\u00e9ricaine OpenAI. Il est entra\u00een\u00e9 sur une base de donn\u00e9es textuelles importante, pour ensuite traiter et interpr\u00e9ter du texte et des donn\u00e9es. De mani\u00e8re plus simple, il s\u2019agit d\u2019un robot conversationnel \u2013 autrement dit chatbot \u2013 gr\u00e2ce auquel un utilisateur peut faire des recherches, r\u00e9soudre des probl\u00e8mes et r\u00e9diger des textes. En acc\u00e8s libre, cet outil a rapidement \u00e9t\u00e9 incorpor\u00e9 \u00e0 d\u2019autres technologies, \u00e0 l\u2019image du moteur de recherche Bing, ou encore de Climate Q&A, une \u00ab intelligence artificielle au service du climat \u00bb qui associe la base de donn\u00e9es Giec et la technologie de ChatGPT. Face \u00e0 toute cette effervescence, comment ne pas tester soi-m\u00eame ce fabuleux bijou de technologie et d\u00e9couvrir par la m\u00eame occasion comment sauver la terre des flammes du r\u00e9chauffement climatique ? \u00c0 commencer par trouver des solutions politiques \u00e0 nos probl\u00e8mes.<\/span><\/span><\/span><\/p>\n

Apr\u00e8s quelques essais et sans grande surprise, on constate que ChatGPT ne met en avant que des modes d\u2019actions assez consensuels. La plupart sont individuels et peu cons\u00e9quents. D\u2019autres modes d\u2019actions, tels que le sabotage, ne sont propos\u00e9s que si on le demande explicitement \u00e0 ChatGPT. Poser une simple question \u00e0 ce chatbot ne suffit pas \u00e0 obtenir une r\u00e9ponse compl\u00e8te et approfondie. <\/span><\/span><\/span><\/p>\n

Les informations transmises sont limit\u00e9es, parfois fausses et ne d\u00e9peignent qu\u2019une partie du sujet abord\u00e9. Cela pose probl\u00e8me dans le rapport \u00e0 la connaissance et \u00e0 la transmission des savoirs induits par ChatGPT.<\/span><\/span><\/span><\/p>\n

C\u2019est justement ce qui inqui\u00e8te dans les mondes acad\u00e9miques et scientifiques o\u00f9 la d\u00e9mocratisation de ChatGPT a entra\u00een\u00e9 une v\u00e9ritable lev\u00e9e de boucliers. En t\u00e9moignent <\/span>les nombreuses tribunes <\/span>contre son utilisation dans ces cadres-l\u00e0. Mais aussi, de mani\u00e8re plus large, dans le monde de la tech o\u00f9 un millier de personnalit\u00e9s et chercheurs <\/span>r\u00e9clament un arr\u00eat de six mois <\/span>dans le d\u00e9veloppements des intelligences artificielles pour \u00ab \u00e9laborer et mettre en oeuvre conjointement un ensemble de protocoles de s\u00e9curit\u00e9 partag\u00e9s pour la conception et le d\u00e9veloppement de l’IA avanc\u00e9e, qui sont rigoureusement contr\u00f4l\u00e9s et supervis\u00e9s par des experts externes ind\u00e9pendants. \u00bb Au-del\u00e0, des co\u00fbts \u00e9nerg\u00e9tiques et environnementaux que g\u00e9n\u00e8re l\u2019industrie de l\u2019intelligence artificielle, la limite de ChatGPT r\u00e9side dans des questions \u00e9thiques, de rapport \u00e0 la technique et aux connaissances.<\/span><\/span><\/span><\/p>\n

Ce que ChatGPT fait \u00e0 l\u2019esprit critique<\/span><\/span><\/span><\/p>\n

Anne Alombert, ma\u00eetre de conf\u00e9rence \u00e0 l\u2019Universit\u00e9 Paris 8, et autrice de Schizophr\u00e9nie num\u00e9rique, identifie justement une grande limite \u00e0 l\u2019usage de ChatGPT : celle de la d\u00e9l\u00e9gation de certaines de nos capacit\u00e9s, essentielles \u00e0 la r\u00e9flexion et \u00e0 l\u2019exercice de l\u2019esprit critique. Pour la philosophe, un des risques principaux de l\u2019utilisation de cette technologie serait \u00ab un court circuit, de nos capacit\u00e9s de m\u00e9morisation, de r\u00e9flexion, d’interpr\u00e9tation, de r\u00e9daction. \u00bb Elle pr\u00e9cise : \u00ab <\/span>quand on d\u00e9l\u00e8gue un certain nombre de fonctions, par exemple \u00e9crire un texte. \u00c7a veut dire tout simplement qu’on ne s’entra\u00eene plus \u00e0 \u00e9crire. Or, il se trouve qu\u2019\u00e9crire, c’est aussi penser d\u2019une certaine mani\u00e8re, mettre en oeuvre toutes sortes de fonctions cognitives et intellectuelles, par exemple la m\u00e9moire, puisque on va se souvenir de certaines choses qu’on a lu ou entendu. On mobilise aussi des techniques d’argumentation diverses et vari\u00e9es qui sont des techniques qui nous permettent de penser<\/i><\/span>. \u00bb<\/span><\/span><\/span><\/p>\n

Mais, pour la philosophe, un autre probl\u00e8me majeur r\u00e9side en ce que ChatGPT donne des informations sans en donner la source, ce qui atrophie la capacit\u00e9 \u00e0 penser de mani\u00e8re critique : \u00ab le fait de ne pas conna\u00eetre d’o\u00f9 vient l’information emp\u00eache de fait tout esprit critique. Avoir un esprit critique c\u2019est avoir d’abord conscience que quand on nous donne une information, c’est quelqu’un ou un groupe qui nous la fournit. Mais aussi que ces acteurs sont situ\u00e9s et transmettent un point de vue, et que le savoir ou l’information, a \u00e9t\u00e9 produit, et n\u2019est ni \u00e9ternel, ni absolu, ni le seul possible. Sans ces dimensions de contexte, de source, de point de vue, il est complexe d\u2019exercer son esprit critique.\u00bb<\/span><\/span><\/span><\/p>\n

Destruction de l\u2019architecture des savoirs<\/span><\/span><\/span><\/p>\n

La disparition de l\u2019apprentissage de la recherche et de la discussion des sources est un \u00e9l\u00e9ment qui inqui\u00e8te \u00e9galement Dominique Boullier, sociologue et sp\u00e9cialiste des usages du num\u00e9rique \u00e0 Sciences Po. Plus qu\u2019une simple perte de certaines capacit\u00e9s intellectuelles et cognitives, le chercheur y voit une mutation de l\u2019architecture des connaissances telle que nous la connaissons aujourd\u2019hui. Il indique notamment le danger dans \u00ab le fait de d\u00e9l\u00e9guer sa confiance dans un savoir \u00e0 ce type de machine, qui n’a aucune existence en termes de statut dans le monde de production de la connaissance, c’est-\u00e0-dire la science. \u00bb Il pr\u00e9cise : \u00ab <\/span>un savoir scientifique se construit collectivement et lentement, autour de r\u00e9f\u00e9rences et de r\u00e9f\u00e9rents qui font autorit\u00e9, ainsi que sur des m\u00e9thodes et des techniques. C\u2019est par cette organisation qu\u2019on construit ces savoirs et qu\u2019on peut d\u00e9velopper des points de vue communs. Derri\u00e8re ChatGPT, il y a une fiction de scientificit\u00e9. Une telle machine passe pour soit disant juste et neutre, sans point de vue et c’est un vrai probl\u00e8me, car \u00e7a sort le savoir du sujet connaissant. Or un savoir est toujours rattach\u00e9 \u00e0 un sujet connaissant. <\/i><\/span>\u00bb<\/span><\/span><\/span><\/p>\n

Car, se fier \u00e0 ce qu\u2019\u00e9crit ChatGPT, c\u2019est aussi oublier la mani\u00e8re dont ce mod\u00e8le de langage construit ses r\u00e9ponses. Anne Alombert rappelle que les textes g\u00e9n\u00e9r\u00e9s par ChatGPT, le sont \u00ab sur la base de calculs statistiques probabilistes. \u00bb Ainsi, ces textes sont statistiquement probables, mais \u00ab <\/span>n’ont aucun rapport avec la v\u00e9rit\u00e9 ou la v\u00e9racit\u00e9 du propos. ChatGPT ne g\u00e9n\u00e8re pas de savoir, et \u00e0 peine de l\u2019information, mais seulement des suites de mots probables, qui peuvent donner un r\u00e9sultat faux. <\/i><\/span>\u00bb Ici, la chercheuse poursuit en indiquant que \u00ab <\/span>le probl\u00e8me, est la mani\u00e8re dont ce chatbot a \u00e9t\u00e9 con\u00e7u, c’est-\u00e0-dire sous cette forme d’agent conversationnel \u00e0 qui l\u2019on peut demander tout et n’importe quoi, et qui a toujours la r\u00e9ponse. Il faut vraiment bien distinguer la probabilit\u00e9 des statistiques et la v\u00e9rit\u00e9 ou la pertinence. <\/i><\/span>\u00bb<\/span><\/span><\/span><\/p>\n

L\u2019interrogation autour de la construction des savoirs n\u2019est pas anodine. Si lorsqu\u2019on change de technologie, l\u2019architecture de connaissance et ses conditions de productions et de validations \u00e9voluent \u00e9galement. Pour Dominique Boullier, l\u2019av\u00e8nement d\u2019une technologie comme ChatGPT pourrait mener \u00e0 ce qu\u2019il qualifie de \u00ab transformation radicale d\u2019un syst\u00e8me r\u00e9f\u00e9rentiel \u00bb. Ici le sociologue propose l\u2019id\u00e9e que les diff\u00e9rentes avanc\u00e9es technologiques permettent aux individus de se constituer un r\u00e9f\u00e9rentiel commun et concordent avec les avanc\u00e9es \u00e9conomiques et humaines. \u00c0 l\u2019image de l\u2019invention de l\u2019imprimerie qui aurait \u00ab <\/span>permis de faire \u00e9merger d’autres types d’informations, de rendre le d\u00e9bat possible, ainsi que la critique de l’\u00c9glise plus importante, allant jusqu\u2019\u00e0 la R\u00e9forme. <\/i><\/span>\u00bb Dans cette id\u00e9e qui s\u2019approche du d\u00e9terminisme technologique, des \u00e9volutions soci\u00e9tales et \u00e9conomiques pourraient d\u00e9couler de l\u2019utilisation d\u2019une technologie telle que ChatGPT.<\/span><\/span><\/span><\/p>\n

Recr\u00e9er de la confiance<\/span><\/span><\/span><\/p>\n

Ainsi, si l\u2019utilisation d\u2019un mod\u00e8le de langage comme ChatGPT peut avoir des cons\u00e9quences concr\u00e8tes sur les capacit\u00e9s des individus, ses effets peuvent \u00e9galement \u00eatre collectifs. Anne Alombert identifie notamment le risque d\u2019une \u00ab atrophie de la culture collective \u00bb \u00e0 travers l\u2019utilisation d\u2019une telle technologie. Pour la philosophe, la perte de capacit\u00e9s intellectuelles et cognitives des individus a aussi pour cons\u00e9quence la perte d\u2019habitude de faire \u00e9voluer collectivement ces savoirs. Or, \u00ab le savoir ne peut jamais \u00eatre \u00e0 l’\u00e9tat de donn\u00e9e, d\u2019information stock\u00e9e. C’est un processus du vivant qui s’op\u00e8re entre diff\u00e9rents individus, dans des groupes sociaux. C\u2019est ce qui fait la diversit\u00e9 des interpr\u00e9tations, des mani\u00e8res de vivre les diff\u00e9rents types de savoirs. Et c\u2019est la seule mani\u00e8re qui peut permettre au savoir de se renouveler, d\u2019\u00e9voluer, de se diversifier \u00bb, pr\u00e9cise la philosophe.<\/span><\/span><\/span><\/p>\n

La question de l\u2019interpr\u00e9tation des savoirs est centrale, notamment dans un cadre de vie d\u00e9mocratique. Pour Anne Alombert c\u2019est \u00ab <\/span>pr\u00e9cis\u00e9ment, ce qui permet aussi aux individus de vivre ensemble politiquement. […] dans des soci\u00e9t\u00e9s qui se fondent sur le d\u00e9bat et la libre circulation des id\u00e9es. […] Se pose ici la question de la confiance. Si on ne peut plus croire les textes que l’on lit, si on ne peut plus faire confiance \u00e0 ce qui circule sur le web, \u00e7a risque de cr\u00e9er de gros probl\u00e8mes d’un point de vue politique. Ce dont on aurait besoin, me semble-t-il, c’est plut\u00f4t de recr\u00e9er de la confiance. <\/i><\/span>\u00bb Une confiance, qui devrait passer, selon la philosophe, \u00e0 travers l\u2019enseignement de l\u2019histoire et de l\u2019anthropologie des techniques d\u00e8s le plus jeune \u00e2ge. Mais aussi \u00e0 travers l\u2019utilisation et la promotion d\u2019outils num\u00e9riques dont le fonctionnement s\u2019\u00e9loigne de celui de ChatGPT. On peut ici donner l\u2019exemple d\u2019un dispositif comme Wikip\u00e9dia, plateforme sur laquelle \u00ab les savoirs sont collectivement d\u00e9battus et critiqu\u00e9s. \u00bb<\/span><\/span><\/span><\/p>\n

Il ne faut pas non plus fermer la porte aux intelligences artificielles, mais d\u00e9velopper de nouvelles pratiques, \u00e0 l\u2019image de l\u2019IA Jos\u00e9phine, commercialis\u00e9e en 1986, qui poussait son utilisateur \u00e0 la r\u00e9flexion en utilisant des proc\u00e9d\u00e9s issus de la ma\u00efeutique. Ou encore limiter l\u2019IA \u00e0 sa seule <\/span>u<\/span>tilisation statistique et math\u00e9matique. Il s\u2019agit ici de transformer le num\u00e9rique en \u00ab plateforme de support au partage des savoirs, \u00e0 la confrontation des points de vue, \u00e0 la d\u00e9lib\u00e9ration collective. \u00bb<\/span><\/span><\/span><\/p>\n

https:\/\/www.socialter.fr\/article\/chat-gpt-pensee-critique-science<\/a> <\/span><\/span><\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

ChatGPT contre la pens\u00e9e critique<\/p>\n","protected":false},"author":4,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-10654","post","type-post","status-publish","format-standard","hentry","category-non-classe"],"_links":{"self":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/10654","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/comments?post=10654"}],"version-history":[{"count":1,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/10654\/revisions"}],"predecessor-version":[{"id":10655,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/10654\/revisions\/10655"}],"wp:attachment":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/media?parent=10654"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/categories?post=10654"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/tags?post=10654"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}