{"id":13294,"date":"2025-03-12T02:39:39","date_gmt":"2025-03-12T01:39:39","guid":{"rendered":"https:\/\/collectif-accad.fr\/site\/?p=13294"},"modified":"2025-03-10T13:47:05","modified_gmt":"2025-03-10T12:47:05","slug":"afcia","status":"publish","type":"post","link":"https:\/\/collectif-accad.fr\/site\/afcia\/","title":{"rendered":"AFCIA"},"content":{"rendered":"

\"\"<\/p>\n

Association Fran\u00e7aise Contre l\u2019Intelligence Artificielle<\/span><\/strong><\/span><\/p>\n

<\/p>\n

Un succ\u00e8s pour la conf\u00e9rence-d\u00e9bat et l\u2019Assembl\u00e9e G\u00e9n\u00e9rale de cette association.<\/span><\/span><\/p>\n

La conf\u00e9rence-d\u00e9bat de l\u2019AFCIA aux Arts et m\u00e9tiers \u00abune r\u00e9gulation \u00e9thique de l\u2019IA est elle possible ?\u00a0\u00bb, a eu lieu le 10 F\u00e9vrier dernier, avec des interventions de C\u00e9dric Sauviat et Christian Castellanet de l\u2019AFCIA et de J\u00e9r\u00e9my Perret de l\u2019association <\/span><\/span>Pause IA<\/span><\/span><\/span><\/a><\/u><\/span>. Succ\u00e8s de participation avec plus de soixante participants. Ces interventions ont \u00e9t\u00e9 suivies d\u2019un d\u00e9bat anim\u00e9 qui s\u2019est prolong\u00e9 par notre Assembl\u00e9e G\u00e9n\u00e9rale, laquelle a r\u00e9uni 18 membres et sympathisants. Une vid\u00e9o sera bient\u00f4t disponible pour ceux qui n\u2019ont pas pu y participer. Nous remercions les intervenants et la direction de l\u2019ENSAM pour avoir accept\u00e9 d\u2019h\u00e9berger cette conf\u00e9rence dans ses locaux.<\/span><\/span><\/p>\n

\u00ab Quels que puissent \u00eatre les b\u00e9n\u00e9fices suppos\u00e9s de l\u2019IA, ses inconv\u00e9nients paraissent, en d\u00e9finitive, beaucoup trop lourds pour que le jeu en vaille la chandelle. On peut tr\u00e8s bien se passer de l\u2019IA, sans pour autant retourner \u00e0 l\u2019\u00e2ge de pierre \u00bb, selon C\u00e9dric Sauviat, polytechnicien, pr\u00e9sident de l\u2019Association Fran\u00e7aise contre l\u2019Intelligence Artificielle (AFCIA).<\/span><\/span><\/p>\n

C\u00e9dric Sauviat milite depuis plusieurs ann\u00e9es pour l\u2019\u00e9mergence d\u2019un d\u00e9bat sur les cons\u00e9quences de l\u2019intelligence artificielle. En 2019, il avait co-publi\u00e9 un essai implacable, <\/span><\/span>Intelligence artificielle, la nouvelle barbarie<\/i><\/span><\/span><\/span><\/a><\/u><\/span> (\u00e9ditions du Rocher). Dans l\u2019indiff\u00e9rence. Son avis est maintenant encore plus tranch\u00e9\u00a0: cette technologie doit \u00eatre abandonn\u00e9e. Et zou\u00a0!<\/span><\/span><\/p>\n

De cela d\u00e9coulerait une solution simple\u00a0: puisque l\u2019Etat de droit ne peut s\u2019imposer, que les entreprises technologiques sont incpables de se contraindre \u00e0 toute \u00e9thique, interdire la libre diffusion des algorithmes doit \u00eatre la priorit\u00e9. Mais est-il vraiment possible de restreindre la diffusion de codes informatiques\u00a0?<\/span><\/span><\/p>\n

Pendant que rien ne vient freiner l\u2019h\u00e9g\u00e9monie galopante, pendant que tous les m\u00e9tiers sont en cours d\u2019\u00eatre phagocyt\u00e9s, que tous les secteurs d\u2019activit\u00e9 sont touch\u00e9s par l\u2019impl\u00e9mentation de syst\u00e8mes d\u2019IA g\u00e9n\u00e9ratives, que l\u2019adoption se fait \u00e0 marche forc\u00e9e, sans le consentement de quiconque, les r\u00e9sistances se mettent en ordre de marche.\u00a0\u00bb<\/span><\/span><\/p>\n

** **<\/span><\/span><\/p>\n

Un contre-sommet de l\u2019IA porteur d\u2019espoir<\/span><\/span><\/strong><\/p>\n

Plus avertis que la moyenne sur les tenants et aboutissants des intelligences artificielles, vous risquez maintenant la sid\u00e9ration et la peur exacerb\u00e9e devant le monde qui nous est promis. P\u00e9trifi\u00e9s, nous devrions pouvoir compter sur les accords internationaux, la r\u00e9gulation, ou encore la l\u00e9gislation. Ou pas, apparemment. Alors il faudra se rassurer en rep\u00e9rant les groupes de lutte constitu\u00e9s, s\u2019ing\u00e9nier \u00e0 rester alertes des techniques de r\u00e9sistance existantes. Enfin, rien n\u2019interdit de s\u2019amuser un peu avec la m\u00e9gamachine. L\u2019action doit faire place nette. L\u2019espoir est encore permis.<\/span><\/span><\/p>\n

Les intelligences artificielles (IA) sont en passe de transformer notre soci\u00e9t\u00e9 \u00e0 une vitesse in\u00e9dite, <\/span><\/span>vous ne l\u2019ignorez plus<\/span><\/span><\/span><\/a><\/u><\/span>. Tous les pans de notre vie quotidienne sont vou\u00e9s \u00e0 \u00eatre englob\u00e9s dans ce fatras g\u00e9n\u00e9ral, du monde du travail aux moments r\u00e9cr\u00e9atifs personnels, en passant par les enjeux g\u00e9opolitiques et militaires, l\u2019\u00e9ducation, etc. Une influence croissante, une exponentielle (!) promise \u00e0 tous les usages. Les critiques sont rares et peu audibles au milieu des annonces toujours positives, plus fascinantes et extravagantes. Tout est fait pour estomper les doutes naissants, gr\u00e2ce aux subterfuges habituels, qui \u00e0 coups d\u2019assurance en <\/span><\/span>des IA \u00e9coresponsables<\/span><\/span><\/span><\/a><\/u><\/span>, qui par la mise en place d\u2019un <\/span><\/span>cadre complet de la gouvernance<\/span><\/span><\/span><\/a><\/u><\/span> \u00e9dict\u00e9 et assur\u00e9 sous l\u2019\u00e9gide des Nations Unies\u2026<\/span><\/span><\/p>\n

Bref, tout est sous contr\u00f4le. Vous savez maintenant que non, les IA n\u2019ayant plus de myst\u00e8res pour vous, ce devenir syst\u00e9mique ayant \u00e9t\u00e9 mis en lumi\u00e8re sur tous ces aspects (technologique, \u00e9conomique, anthropologique, sociologique, philosophique\u2026).<\/span><\/span><\/p>\n

En short, au sommet d\u2019une piste noire<\/span><\/span><\/p>\n

Les 10 et 11 f\u00e9vrier dernier, la France a accueilli le <\/span><\/span>Sommet pour l\u2019action sur l\u2019intelligence artificielle<\/span><\/span><\/span><\/a><\/u><\/span>. Un \u00e9v\u00e9nement international. Comme la COP21 <\/span><\/span>accouchait d\u2019un accord sous chaudes larmes<\/span><\/span><\/span><\/a><\/u><\/span>, ce moment se voulait autant historique en ce qu\u2019il doit engager un grand bond en avant pour l\u2019humanit\u00e9.<\/span><\/span><\/p>\n

La grosse centaine de chefs d\u2019Etats, les grands pontes de l\u2019industrie du num\u00e9rique et autres innovateurs technologiques auront eu l\u2019avantage d\u2019int\u00e9r\u00eats partag\u00e9s et de convergences communes afin de faire \u00e9merger avec facilit\u00e9 l\u2019horizon \u00e9conomique incontournable qu\u2019ils nous promettent lumineux. Les mots \u00e9taient grandioses, la rh\u00e9torique grandiloquente. Macron se ber\u00e7ait de tant d\u2019importances. Un \u00e9v\u00e9nement \u00e0 la hauteur des pi\u00e9destaux sur lesquels tous se r\u00eavent en tant que grands architectes de l\u2019avenir du monde. Un dernier tour de pistes par contre pour les plumes au service de nos illustres \u00e9lites\u00a0: elles l\u2019ignorent sans doute mais elles seront bient\u00f4t effac\u00e9es par les discours bien plus savamment insipides que seuls les robots conversationnels sont capables d\u2019\u00e9galer et surpasser.<\/span><\/span><\/p>\n

Oui, nos dirigeants n\u2019ont pas l\u2019exclusivit\u00e9 de produire du creux, de souffler du vide, de mimer le vent, de singer le n\u00e9ant.<\/span><\/span><\/strong><\/p>\n

Convaincus de l\u2019utilit\u00e9 de cette technologie, aveugl\u00e9s par les porosit\u00e9s entre les pouvoirs ex\u00e9cutifs et les ogres multinationaux, les dangers sont occult\u00e9s, les b\u00e9mols \u00e0 peine abord\u00e9s et la r\u00e9gulation, plut\u00f4t d\u00e9sordonn\u00e9e, peu efficace et seulement volontariste, est carr\u00e9ment per\u00e7ue comme un <\/span><\/span>risque majeur pour le d\u00e9veloppement<\/span><\/span><\/span><\/a><\/u><\/span> des IA (pour ne pas citer l\u2019omission flagrante dans le programme concernant la militarisation des intelligences artificielles maintenant largement entam\u00e9e). Une n\u00e9gligence peut-\u00eatre.<\/span><\/span><\/p>\n

Si le GIEC peine \u00e0 faire comprendre ses analyses (<\/span><\/span>\u00e9dulcor\u00e9es<\/span><\/span><\/span><\/a><\/u><\/span>), adopter ses rapports et accepter ses sc\u00e9narios, toujours au prix de longues tractations et euph\u00e9misations, ce sommet aura le m\u00e9rite de conclusions d\u00e9finitives rapides et rectilignes\u00a0: tous les pays, la France comprise, sont motiv\u00e9s de fouler le podium des pays \u00e0 la pointe en ce domaine. De tout cela, les confr\u00e8res et moi-m\u00eame auront \u00e9t\u00e9 tenus \u00e0 l\u2019\u00e9cart, <\/span><\/span>filtr\u00e9s \u00e9l\u00e9gamment<\/span><\/span><\/span><\/a><\/u><\/span>. Il est des rassemblements qui ne supportent pas la promiscuit\u00e9 des sempiternels insatisfaits.<\/span><\/span><\/p>\n

Les m\u00e9dias ind\u00e9pendants continueront donc \u00e0 \u00e9crire des articles sur le r\u00f4le majeur des IA dans la surveillance g\u00e9n\u00e9ralis\u00e9e de la soci\u00e9t\u00e9, dans l\u2019influence des comportements et les populations. Mais au-dehors.
\nLa f\u00eate doit pr\u00e9valoir, \u00e0 <\/span><\/span>coups d\u2019investissements colossaux<\/span><\/span><\/span><\/a><\/u><\/span>. Pour des raisons de sauvegarde de la souverainet\u00e9 politique et \u00e9conomique, Macron ne pouvait faire moins que sortir \u00e0 son tour son gros stylo en manipulant avec \u00e9l\u00e9gance la fermeture Eclair (de sa neuve trousse), et signer un ch\u00e8que de <\/span><\/span>109 milliards<\/span><\/span><\/span><\/a><\/u><\/span> (un effet d\u2019annonce puisque les ressources en restent ignor\u00e9es).<\/span><\/span><\/p>\n

\u00ab\u00a0La bonne nouvelle, c\u2019est que je pense que sur la r\u00e9silience de nos syst\u00e8mes et la r\u00e9ponse \u00e0 la crise climatique, on a sans doute sous-estim\u00e9 l\u2019apport de l\u2019innovation, et je pense aussi que toutes ces technologies vont nous permettre, beaucoup plus vite, de r\u00e9pondre aux d\u00e9fis climatiques. Et donc si je regarde, que je prends deux pas de recul par rapport \u00e0 tout ce qu\u2019on est en train de se dire, je pense que nos \u00e9conomies vont devoir de plus en plus investir dans ces innovations et il faut y aller \u00e0 fond\u00a0\u00bb, <\/span><\/span>selon Macron<\/span><\/span><\/span><\/a><\/u><\/span> (Forum de Davos, 2021)<\/span><\/span><\/p>\n

Gogogo vers le technosolutionnisme\u00a0!<\/span><\/span><\/p>\n

Tout schuss<\/span><\/span><\/p>\n

Permettre aux forces de se lib\u00e9rer, aux entrepreneurs de performer. Persuad\u00e9 de la pertinence de ses d\u00e9cisions et intuitions, Trump d\u00e9signe le chemin et l\u2019emprunte en chasse-neige avec lanceurs de missiles balistiques. <\/span><\/span>Le d\u00e9cret am\u00e9ricain 14110 <\/span><\/span><\/span><\/a><\/u><\/span>\u00a0de 2023 instituait des r\u00e8gles de s\u00e9curit\u00e9 aux d\u00e9veloppeurs de nouveaux mod\u00e8les d\u2019IA pr\u00e9sentant des risques pour la s\u00e9curit\u00e9 nationale et pour la sant\u00e9 et la s\u00e9curit\u00e9 publiques. Un r\u00e8glement de pure forme car il ne rev\u00eatait un caract\u00e8re obligatoire que pour les plus grosses IA (utilisant plus que 10<\/span><\/span>26<\/span><\/span><\/sup> op\u00e9rations). Autant dire que ce d\u00e9cret ne concernait qu\u2019une infime quantit\u00e9 de mod\u00e8les algorithmiques. Mais c\u2019en \u00e9tait encore trop pour Trump qui l\u2019aura annul\u00e9 d\u00e8s sa prise de fonction.<\/span><\/span><\/p>\n

Les contraintes l\u00e9gislatives ou garde-fou au d\u00e9veloppement acc\u00e9l\u00e9r\u00e9 des IA sont donc rendus inexistants. L\u2019Union europ\u00e9enne (UE) jouerait-t-elle le r\u00f4le de r\u00e9gulateur\u00a0ultime ? Sa <\/span><\/span>loi sur l\u2019IA est entr\u00e9e en vigueur<\/span><\/span><\/span><\/a><\/u><\/span>, mais est d\u00e9j\u00e0 jug\u00e9e <\/span><\/span>imparfaite, car munie d\u2019\u00e9chappatoires et d\u2019exemptions<\/span><\/span><\/span><\/a><\/u><\/span>, notamment pour les forces de l\u2019ordre. <\/span><\/span>Investigate Europe<\/span><\/span><\/span><\/a><\/u><\/span> r\u00e9v\u00e9lait que certaines exceptions, pouss\u00e9es par plusieurs \u00c9tats membres de l\u2019UE, permettraient une surveillance de masse par l\u2019IA pour les autorit\u00e9s polici\u00e8res et frontali\u00e8res, ciblant en particulier les migrants et les demandeurs d\u2019asile. Mais le p\u00e9rim\u00e8tre s\u2019av\u00e8re bien plus large que cela et ce sont bien les populations enti\u00e8res qui sont cibl\u00e9es.<\/span><\/span><\/p>\n

Encore la mise en \u0153uvre compl\u00e8te de cette <\/span><\/span>IA Act<\/i><\/span><\/span>, attendue comme la plus ambitieuse du monde \u00e0 ce stade (c\u2019est dire le peu de digues existantes), sera progressive et pourrait \u00eatre contest\u00e9e. Ce que ne manqueront pas faire les g\u00e9ants du num\u00e9rique via leurs lobbys, dont la Business Software Alliance (BSA) ou la Computer &\u00a0Communications Industry Association (CCIA).<\/span><\/span><\/p>\n

Compter sur le l\u00e9gislateur est une illusion, vu que ce sont les politiques, largement <\/span><\/span>ignares de ce nous aurons pris le temps de d\u00e9velopper<\/span><\/span><\/span><\/a><\/u><\/span>, qui soutiennent au premier chef l\u2019esprit technique dominant par le truchement de consid\u00e9rables fonds publics. Leur soumission au lobbying et la r\u00e9daction des textes de loi sont conformes \u00e0 un ordo-technolib\u00e9ralisme agissant qui confirme les analyses d\u2019Ivan Illich.<\/span><\/span><\/strong><\/p>\n

Par d\u00e9faut, les Etats proposent parfois la cr\u00e9ation d\u2019observatoires. Tel l\u2019INESIA (Institut national pour l\u2019\u00e9valuation et la s\u00e9curit\u00e9 de l\u2019intelligence artificielle) regroupant quatre administrations existantes (Agence nationale de la s\u00e9curit\u00e9 des syst\u00e8mes d\u2019information, Institut national de recherche en sciences et technologies du num\u00e9rique, Laboratoire national de m\u00e9trologie et d\u2019essais et P\u00f4le d\u2019expertise de la r\u00e9gulation num\u00e9rique). Ou encore l\u2019ODAP (<\/span><\/span>observatoire des algorithmes publics<\/span><\/span><\/span><\/a><\/u><\/span>) suppos\u00e9 d\u00e9velopper une analyse critique des algorithmes d\u00e9ploy\u00e9s dans les administrations fran\u00e7aises. De nouveaux machins administratifs quoi.<\/span><\/span><\/p>\n

Des lois laxistes\u00a0? Des r\u00e9gulations inop\u00e9rantes\u00a0? Une \u00e9thique des acteurs en \u00e9chec\u00a0? Des administrations peu interventionnistes\u00a0? Alors la soci\u00e9t\u00e9 civile s\u2019en <\/span><\/span>remet aux tribunes<\/span><\/span><\/span><\/a><\/u><\/span>, aux <\/span><\/span>cris d\u00e9sesp\u00e9r\u00e9s<\/span><\/span><\/span><\/a><\/u><\/span>, aux <\/span><\/span>injonctions fluettes<\/span><\/span><\/span><\/a><\/u><\/span>. Et paf\u00a0! Des dizaines d\u2019organisations fran\u00e7aises lancent un appel pour une \u2018ma\u00eetrise d\u00e9mocratique de cette technologie et une limitation drastique de ses usages, afin de faire primer les droits humains, sociaux et environnementaux\u2019.\u00a0Et bing\u00a0!<\/span><\/span><\/p>\n

Bon, alors remettons-nous en \u00e0 la lecture assidue de rapports. Comme <\/span><\/span>ce dernier international<\/span><\/span><\/span><\/a><\/u><\/span>, r\u00e9dig\u00e9 par une centaine d\u2019experts de trente pays et riche de plus de 1\u00a0360\u00a0r\u00e9f\u00e9rences scientifiques. Une sorte de GIEC autoconstitu\u00e9, qui rel\u00e8ve trois cat\u00e9gories de risques\u00a0: les utilisations malveillantes, les dysfonctionnements\u00a0et les risques syst\u00e9miques.<\/span><\/span><\/p>\n

\u00ab\u00a0L\u2019IA n\u2019est pas une fatalit\u00e9. Les choix des citoyens d\u00e9termineront son avenir [\u2026]. Il est urgent d\u2019\u0153uvrer en faveur d\u2019un accord international et de consacrer des ressources \u00e0 la compr\u00e9hension et \u00e0 la prise en compte des risques li\u00e9s \u00e0 cette technologie\u00a0\u00bb, conclut le rapport.<\/span><\/span><\/p>\n

On se demande quelles modalit\u00e9s sont pr\u00e9vues par les gouvernements actuellement et par la gr\u00e2ce de quelles volont\u00e9s politiques les citoyens auraient soudainement voix au chapitre. Et plouf\u00a0!<\/span><\/span><\/p>\n

D\u2019autres s\u2019organisent autour de groupes de travail, comme celui constitu\u00e9 de plusieurs institutions anglaises et am\u00e9ricaines (dont les universit\u00e9s d\u2019Oxford et de Cambridge). Leur <\/span><\/span>rapport est \u00e9difiant<\/span><\/span><\/span><\/a><\/u><\/span> en ce qu\u2019il avance qu\u2019il n\u2019existe gu\u00e8re de parade \u00e9vidente contre ces nouvelles menaces. Seule la mise au point de syst\u00e8mes d\u00e9fensifs plus intelligents encore pourrait permettre, sinon de pr\u00e9venir, du moins d\u2019endiguer les attaques. Incitant \u00e0 une fuite en avant technologique. Et beurk\u00a0!<\/span><\/span><\/p>\n

Alors certains chercheurs avancent l\u2019id\u00e9e d\u2019aligner des valeurs, des r\u00e8gles \u00e9thiques directement dans les programmes, produisant des genres d\u2019<\/span><\/span>IA de confiance\u2019<\/span><\/span><\/span><\/a><\/u><\/span>. D\u2019abord, comment mettre la dignit\u00e9 en \u00e9quation\u00a0? La libert\u00e9\u00a0? La diversit\u00e9\u00a0?\u2026 Enfin, comment se pr\u00e9munir de la vuln\u00e9rabilit\u00e9 \u00e0 une reprogrammation, \u00e0 un piratage\u00a0? Oh, un chaton\u00a0!<\/span><\/span><\/p>\n

Une association fran\u00e7aise, l\u2019AFCIA, affirme que cela n\u2019est que leurres.<\/span><\/span><\/p>\n

C\u00e9dric Sauviat milite depuis plusieurs ann\u00e9es pour l\u2019\u00e9mergence d\u2019un d\u00e9bat sur les cons\u00e9quences de l\u2019intelligence artificielle. En 2019, il avait copubli\u00e9 un essai implacable, <\/span><\/span>Intelligence artificielle, la nouvelle barbarie<\/i><\/span><\/span><\/span><\/a><\/u><\/span> (\u00e9ditions du Rocher). Dans l\u2019indiff\u00e9rence. Son avis est maintenant encore plus tranch\u00e9\u00a0: cette technologie doit \u00eatre abandonn\u00e9e. Et zou\u00a0!<\/span><\/span><\/p>\n

De cela d\u00e9coulerait une solution simple\u00a0: puisque l\u2019Etat de droit ne peut s\u2019imposer, que les entreprises technologiques sont incapables de se contraindre \u00e0 toute \u00e9thique, interdire la libre diffusion des algorithmes doit \u00eatre la priorit\u00e9. Mais est-il vraiment possible de restreindre la diffusion de codes informatiques\u00a0?<\/span><\/span><\/p>\n

Pendant que rien ne vient freiner l\u2019h\u00e9g\u00e9monie galopante, pendant que tous les m\u00e9tiers sont en cours d\u2019\u00eatre phagocyt\u00e9s, que tous les secteurs d\u2019activit\u00e9 sont touch\u00e9s par l\u2019impl\u00e9mentation de syst\u00e8mes d\u2019IA g\u00e9n\u00e9ratives, que l\u2019adoption se fait \u00e0 marche forc\u00e9e, sans le consentement de quiconque, les r\u00e9sistances se mettent en ordre de marche. Visiblement, <\/span><\/span>par la tenue d\u2019un contre-sommet<\/span><\/span><\/span><\/a><\/u><\/span>.<\/span><\/span><\/p>\n

Parall\u00e8lement \u00e0 la soir\u00e9e de l\u2019AFCIA, un autre a \u00e9t\u00e9 organis\u00e9 par le philosophe \u00c9ric Sadin (sp\u00e9cialiste des technologies num\u00e9riques et de l\u2019intelligence artificielle) et le Syndicat national des journalistes. Objectif\u00a0: revenir sur les impacts concrets des IA sur nos soci\u00e9t\u00e9s et s\u2019interroger collectivement sur les enjeux fondamentaux qu\u2019elles engendrent.<\/span><\/span><\/p>\n

\u00ab\u00a0Face au techno-pouvoir, le pouvoir politique s\u2019est effac\u00e9, lui a conc\u00e9d\u00e9 une forme de \u2018pleins pouvoirs\u2019, une nouvelle gouvernementalit\u00e9 sans cesse croissante exerc\u00e9e sur le cours individuel et collectif des existences. Supposer qu\u2019une sorte de r\u00e9gulation \u2018naturelle\u2019 finirait t\u00f4t ou tard par s\u2019imposer est une erreur. Comme l\u2019analysait \u00e0 juste titre Jacques Ellul, le syst\u00e8me technicien n\u2019est pas capable de s\u2019autocorriger. Pire, ce techno-pouvoir pousse la politique institutionnelle, qu\u2019il moque, \u00e0 proc\u00e9der \u00e0 des arrangements et des compromissions, \u00e0 marginaliser son champ d\u2019action, \u00e0 d\u00e9faire tout acquis historique autant qu\u2019\u00e0 d\u00e9cr\u00e9dibiliser des si\u00e8cles de r\u00e9flexions philosophico-politiques. Dans ce cas, comme l\u2019avait \u00e9nonc\u00e9 Montesquieu au XVIII<\/span><\/span>\u00e8<\/span><\/span><\/sup> si\u00e8cle, pour ne pas abuser du pouvoir, il faut que le pouvoir arr\u00eate le pouvoir\u00a0\u00bb, exprime \u00c9ric Sadin<\/span><\/span><\/p>\n

Quelles solutions\u00a0? \u00c9ric Sadin appelle \u00e0 l\u2019action. A part le sabotage pur et simple\u00a0? D\u2019abord la r\u00e9sistance, en invitant les acteurs de chaque corps de m\u00e9tier \u00e0 s\u2019organiser en collectifs. Ensuite la d\u00e9sob\u00e9issance civile. Enfin, oui, l\u2019action, intelligente, en saisissant les points faibles de l\u2019adversaire.<\/span><\/span><\/p>\n

Recherche piolets d\u00e9sesp\u00e9r\u00e9ment<\/span><\/span><\/p>\n

Individuellement, vous avez fait le plus dur chemin, que les ignorants, les neutres, les apathiques voire les l\u00e9thargiques ne soup\u00e7onnent pas\u00a0: celui de la conscientisation du probl\u00e8me, de sa digestion et de sa validation intellectuelle. Et chacun mesure que cette bascule est compliqu\u00e9e quand il est question de technologie, si li\u00e9e implicitement \u00e0 la notion de progr\u00e8s\u00a0; que cette position est difficile \u00e0 consid\u00e9rer et imposer envers autrui du fait de la pression sociale exerc\u00e9e, car il en irait d\u2019un naturel r\u00e9flexe, d\u2019une \u00e9vidente \u00e9mancipation offerte gr\u00e2ce au progr\u00e8s technique.<\/span><\/span><\/p>\n

\u00ab\u00a0Rien ne discr\u00e9dite aujourd\u2019hui plus promptement un homme que d\u2019\u00eatre soup\u00e7onn\u00e9 de critiquer les machines. [\u2026] La critique de la technique est devenue aujourd\u2019hui une affaire de courage civique\u00a0\u00bb, <\/span><\/span>avan\u00e7ait G\u00fcnther Anders<\/span><\/span><\/span><\/a><\/u><\/span><\/strong><\/p>\n

Rien ne reste plus vrai, depuis l\u2019av\u00e8nement de la soci\u00e9t\u00e9 technique. La digue la plus haute franchie, d\u2019autres actions peuvent \u00eatre entreprises. Oui, maintenant l\u2019intol\u00e9rance rendue \u00e0 son comble en chacun de nos esprits, il faut une intol\u00e9rance active. Et des armes, des outils pour assurer collectivement la d\u00e9fense de nos vies, ni plus ni moins, contre les instruments et les institutions qui m\u00e9connaissent les m\u00e9faits inh\u00e9rents.<\/span><\/span><\/p>\n

Se faire acteur direct. Car aucun d\u00e9cisionnaire (pouvoir ex\u00e9cutif, ing\u00e9nieurs\u2026) du \u2018niveau sup\u00e9rieur\u2019 ne prendra acte des analyses tir\u00e9es des faits, ne se dressera contre la poursuite prom\u00e9th\u00e9enne.<\/span><\/span><\/p>\n

\u00ab\u00a0Il est assez peu courant que des scientifiques se posent la question du r\u00f4le de leur science dans la soci\u00e9t\u00e9. J\u2019ai m\u00eame l\u2019impression tr\u00e8s nette que plus ils sont haut situ\u00e9s dans la hi\u00e9rarchie sociale, et plus par cons\u00e9quent ils sont identifi\u00e9s \u00e0 l\u2019establishment, ou du moins contents de leur sort, moins ils ont tendance \u00e0 remettre en cause cette religion qui nous a \u00e9t\u00e9 inculqu\u00e9e d\u00e8s les bancs de l\u2019\u00e9cole primaire\u00a0: toute connaissance scientifique est bonne, quel que soit son contexte\u00a0; tout progr\u00e8s technique est bon. Et comme corollaire\u00a0: la recherche scientifique est toujours bonne\u00a0\u00bb, critiquait le math\u00e9maticien iconoclaste <\/span><\/span>Alexandre Grothendieck<\/span><\/span><\/span><\/a><\/u><\/span><\/strong><\/p>\n

A juste titre. Rien ne viendra perturber la grande marche du progr\u00e8s. Et cela fait des ann\u00e9es que nous avons laiss\u00e9 faire. Dans un des premiers temps, en laissant tout pouvoir \u00e0 la firme Google d\u2019entreprendre la num\u00e9risation des livres \u00e0 grande \u00e9chelle, dont une partie \u00e9tait pourtant plac\u00e9e sous le r\u00e9gime de la propri\u00e9t\u00e9 intellectuelle (2004). L\u2019entreprise ne s\u2019est alors pas content\u00e9e d\u2019ignorer le droit, elle l\u2019a d\u00e9fi\u00e9 frontalement, affirmant dans les faits que ce type de dispositif \u2018favorisant l\u2019acc\u00e8s \u00e0 la connaissance\u2019 devait \u00eatre initi\u00e9 par elle-m\u00eame et ne pas \u00eatre encadr\u00e9 ou limit\u00e9 par les institutions politiques.<\/span><\/span><\/p>\n

D\u00e9j\u00e0. Si loin. Voil\u00e0 les premiers signes depuis sans cesse r\u00e9p\u00e9t\u00e9s, amplifi\u00e9s. Conjugu\u00e9s aux r\u00e9v\u00e9lations de Snowden qui n\u2019ont rien fait varier de notre apathie. Depuis, se p\u00e9rennisent des modes d\u2019organisation induits par les syst\u00e8mes technologiques, de l\u2019utilitarisme grandissant, des logiques de pouvoir implicites.<\/span><\/span><\/p>\n

Quelle harmonisation ordonnanc\u00e9e par les Etats et soucieuse de pr\u00e9server les principes fondamentaux peut \u00eatre esp\u00e9r\u00e9e, afin d\u2019\u00e9viter que ce ne soit le secteur priv\u00e9 qui s\u2019impose de lui-m\u00eame et selon ses propres r\u00e8gles\u00a0?<\/span><\/span><\/p>\n

La d\u00e9construction est en cours. Selon \u00c9ric Sadin, au-del\u00e0 des seules instances repr\u00e9sentatives, il revient aux citoyens et \u00e0 toutes les forces de la soci\u00e9t\u00e9, de faire conscience, vigilance. Avant d\u2019\u00eatre radical, au moins se contraindre \u00e0 un devoir de saisir la radicalit\u00e9 des mutations en cours entra\u00eenant un changement civilisationnel dont nous avons du mal \u00e0 saisir les rouages les plus d\u00e9terminants. Puis opposer de salutaires rapports de force autant que dessiner et d\u2019exp\u00e9rimenter une multitude d\u2019autres sch\u00e9mas possibles. Il n\u2019est qu\u2019urgence. Nous devons nous rendre \u2018inadaptables\u2019, au sens d\u2019inadaptation d\u00e9lib\u00e9r\u00e9e \u00e0 ce monde en cours de constitution, une posture revendiqu\u00e9e par G\u00fcnther Anders.<\/span><\/span><\/p>\n

D\u2019abord, en appeler \u00e0 une force de \u2018divergence volontaire\u2019, dans la m\u00eame veine que les radicalit\u00e9s de Henry David Thoreau. Refuser de se soumettre, d\u00e9porter ces produits en marge de nos existences, le plus \u00e0 l\u2019\u00e9cart de nos r\u00e9alit\u00e9s, avec d\u00e9termination (une posture de principe qui aurait d\u00fb \u00eatre op\u00e9r\u00e9e <\/span><\/span>par le plus grand nombre depuis longtemps<\/span><\/span><\/span><\/a><\/u><\/span>, nous avions tent\u00e9 de vous pr\u00e9venir). Oui, <\/span><\/span>cela est possible de ne pas \u00eatre un simple utilisateur<\/span><\/span><\/span><\/a><\/u><\/span> (captif, occasionnel, compulsif\u2026).<\/span><\/span><\/p>\n

Ensuite, ce n\u2019est pas n\u00e9cessairement \u00e0 une \u2018convergence des luttes\u2019 qu\u2019il faut appeler, l\u2019h\u00e9g\u00e9monie des IA ne se combattant pas forc\u00e9ment en lui opposant une contre-h\u00e9g\u00e9monie (une erreur que Gramsci a toujours pr\u00f4n\u00e9e devoir \u00e9viter). Est pr\u00e9f\u00e9r\u00e9e une simultan\u00e9it\u00e9 d\u2019op\u00e9rations men\u00e9es o\u00f9 elles doivent l\u2019\u00eatre. Cela serait \u00e0 toutes les \u00e9chelles de nos vies individuelles et collectives, par une multitude de gestes concrets, soutenus et cumul\u00e9s (refus d\u2019utilisation, d\u00e9sob\u00e9issance professionnelle, etc.). A ce prix, un tel assaut des IA pourrait \u00eatre mis en \u00e9chec.<\/span><\/span><\/p>\n

Aussi, l\u2019\u00e9meute civile, selon le Comit\u00e9 invisible, est \u2018\u00e0 m\u00eame de produire ce que cette soci\u00e9t\u00e9 est incapable d\u2019engendrer\u00a0: des liens, vivants et irr\u00e9versibles\u2019, de ceux que les IA \u00e0 termes cherchent \u00e0 d\u00e9lier. Perspective reconstructiviste.<\/span><\/span><\/p>\n

Chacun d\u2019entre nous est engag\u00e9, devant l\u2019urgence factuelle et <\/span><\/span>maintenant \u00e9tay\u00e9e et rendue lucide \u00e0 tous<\/span><\/span><\/span><\/a><\/u><\/span>, \u00e0 peser autant qu\u2019il le peut sur les r\u00e8gles impos\u00e9es unilat\u00e9ralement qui pr\u00e9sident \u00e0 notre vie quotidienne.<\/span><\/span><\/p>\n

Des leviers sup\u00e9rieurs divers existent. <\/span><\/span>La loi fran\u00e7aise sur le devoir de vigilance<\/span><\/span><\/span><\/a><\/u><\/span> impose par exemple aux soci\u00e9t\u00e9s de plus de cinq milles employ\u00e9s d\u2019identifier chaque ann\u00e9e les risques sociaux et environnementaux (RSE) dans leur cha\u00eene de valeur et de prendre des mesures effectives pour les \u00e9viter. Mais pourtant dans les plans de vigilance des entreprises, alors qu\u2019elles clament partout utiliser de l\u2019IA, <\/span><\/span>les IA n\u2019apparaissent nulle part<\/span><\/span><\/span><\/a><\/u><\/span>. Les repr\u00e9sentants du personnel et les organisations de la soci\u00e9t\u00e9 civile pourraient simplement se saisir du devoir de vigilance pour mener des actions en justice contre les entreprises, au pr\u00e9texte qu\u2019elles ne prennent pas suffisamment en consid\u00e9ration les risques que les services d\u2019IA qu\u2019elles acqui\u00e8rent et d\u00e9ploient font peser sur l\u2019environnement et les droits humains des travailleurs. Un levier sans doute plus imm\u00e9diatement mobilisable que l\u2019IA Act.<\/span><\/span><\/p>\n

A titre individuel, <\/span><\/span>comme en d\u2019autres domaines num\u00e9riques<\/span><\/span><\/span><\/a><\/u><\/span>, il faut que chacun se familiarise avec les outils et stratag\u00e8mes ais\u00e9ment disponibles, <\/span><\/span>parcourt les guides d\u00e9di\u00e9s<\/span><\/span><\/span><\/a><\/u><\/span>.<\/span><\/span><\/p>\n

La lutte citoyenne est accessible, via du bricolage, des d\u00e9tournements, des bidouillages (hacks). Autant d\u2019armes d\u2019auto-d\u00e9fense. Autre exemple, les <\/span><\/span>techniques de jailbreaking<\/span><\/span><\/span><\/a><\/u><\/span> qui peuvent constituer de bons moments dr\u00f4les en d\u00e9tournant le syst\u00e8me des IA en leur faisant <\/span><\/span>jouer un r\u00f4le<\/i><\/span><\/span>. Des <\/span><\/span>attaques sont possibles \u00e9galement<\/span><\/span><\/span><\/a><\/u><\/span>, adversariales, typographiques\u2026 des <\/span><\/span>subtilit\u00e9s officiellement document\u00e9es<\/span><\/span><\/span><\/a><\/u><\/span>.<\/span><\/span><\/p>\n

Les IA sont vuln\u00e9rables. Dans le domaine des r\u00e9seaux de neurones et du deep learning, les <\/span><\/span>attaques adversariales sont efficaces<\/span><\/span><\/span><\/a><\/u><\/span> :\u00a0<\/span><\/span><\/p>\n

\u00ab\u00a0L\u2019ajout d\u2019une petite perturbation au signal d\u2019entr\u00e9 d\u2019un mod\u00e8le de deep learning, imperceptible \u00e0 l\u2019\u0153il humain, permettant la modification de son signal en sortie. Dans le cas d\u2019une classification d\u2019image, une telle attaque consiste \u00e0 modifier les pixels de l\u2019image d\u2019entr\u00e9e, de fa\u00e7on imperceptible pour l\u2019homme, afin de fausser la cat\u00e9gorie pr\u00e9dite. L\u00e0 o\u00f9 l\u2019intelligence humaine nous permet de faire abstraction de ces perturbations, un r\u00e9seau de neurones les prend en compte et modifie compl\u00e8tement sa pr\u00e9diction.\u00a0\u00bb<\/span><\/span><\/p>\n

De quoi permettre d\u2019atteindre\u00a0un niveau de confiance \u00e9lev\u00e9\u00a0dans la <\/span><\/span>classification incorrecte d\u2019un exemple contradictoire<\/span><\/span><\/span><\/a><\/u><\/span>.<\/span><\/span><\/p>\n

L\u2019attaque typographique c\u2019est un peu l\u2019inverse <\/span><\/span>de l\u2019attaque adversariale classique\u00a0<\/span><\/span><\/span><\/a><\/u><\/span>: plut\u00f4t que d\u2019op\u00e9rer un changement minimal et quasi-imperceptible, les grands coups de louches sont privil\u00e9gi\u00e9s (comme des attaques de force brute pour forcer un mot de passe) en collant en gros un \u00e9l\u00e9ment qui n\u2019a rien \u00e0 voir sur l\u2019image \u00e0 analyser de telle sorte qu\u2019un conflit d\u2019interpr\u00e9tation se d\u00e9clenche entre l\u2019image et le texte. Ce type d\u2019attaque agit <\/span><\/span>comme une r\u00e9plique informatique<\/span><\/span><\/span><\/a><\/u><\/span> de ce qui est connu en psychologie depuis la fin des ann\u00e9es 1930 sous le nom <\/span><\/span>d\u2019effet Stroop<\/span><\/span><\/span><\/a><\/u><\/span> (interf\u00e9rer cognitivement dans une t\u00e2che cognitive principale), comme demander aux gens de dire que quelle couleur sont \u00e9crits des noms de couleur ne correspondant pas \u00e0 la couleur \u00e9crite. A trop vouloir mimer les humaines, les IA se retrouvent aussi \u00e9branlables.<\/span><\/span><\/p>\n

En attendant, moquons-nous de la <\/span><\/span>difficult\u00e9 qu\u2019\u00e0 ChatGPT \u00e0 admettre que \u201cun scout qui fait caca\u201d<\/span><\/span><\/span><\/a><\/u><\/span> peut \u00eatre la r\u00e9ponse \u00e0 la question \u201cqu\u2019est-ce qui est vert et qui pousse au fond du jardin\u201c.<\/span><\/span><\/p>\n

Qu\u2019est-ce <\/span><\/span>qu\u2019elles sont connes<\/span><\/span><\/span><\/a><\/u><\/span>, n\u2019est-ce pas\u00a0? Profitons-en\u00a0!<\/span><\/span><\/p>\n

https:\/\/homonuclearus.fr<\/span><\/span><\/span><\/a><\/u><\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

Association Fran\u00e7aise Contre l\u2019Intelligence Artificielle<\/p>\n","protected":false},"author":4,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-13294","post","type-post","status-publish","format-standard","hentry","category-non-classe"],"_links":{"self":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/13294","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/comments?post=13294"}],"version-history":[{"count":2,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/13294\/revisions"}],"predecessor-version":[{"id":13296,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/13294\/revisions\/13296"}],"wp:attachment":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/media?parent=13294"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/categories?post=13294"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/tags?post=13294"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}