{"id":7713,"date":"2021-06-26T02:23:36","date_gmt":"2021-06-26T00:23:36","guid":{"rendered":"https:\/\/collectif-accad.fr\/site\/?p=7713"},"modified":"2021-06-24T11:24:55","modified_gmt":"2021-06-24T09:24:55","slug":"intelligence-artificielle","status":"publish","type":"post","link":"https:\/\/collectif-accad.fr\/site\/intelligence-artificielle\/","title":{"rendered":"Intelligence artificielle"},"content":{"rendered":"

Le meilleur des mondes !
\n<\/strong><\/h4>\n

<\/p>\n

Marianne :<\/strong> Lorsque l\u2019on \u00e9voque les dangers de l\u2019intelligence artificielle, le sens commun se repr\u00e9sente des robots tueurs autonomes cherchant \u00e0 an\u00e9antir l\u2019humanit\u00e9. Peut-on s\u00e9rieusement envisager un tel d\u00e9veloppement de l\u2019IA [intelligence artificielle]\u00a0ou cela constitue-t-il un pur fantasme ?<\/strong><\/p>\n

Juliette Duquesne : <\/strong>Apr\u00e8s plus d\u2019un an d\u2019enqu\u00eate, il me semble que cette intelligence artificielle avec des robots tueurs autonomes, qui serait incluse au sein de l\u2019IA dite forte, a tr\u00e8s peu de risques d\u2019aboutir. La plupart des chercheurs sp\u00e9cialistes de ces sujets me l\u2019ont confirm\u00e9.\u00a0Cette crainte d\u2019une prise de pouvoir par les machines est pourtant attis\u00e9e par ceux qui vendent de l\u2019intelligence artificielle. Cette peur du futur permet aux Gafam (Google, Apple, Facebook, Amazon, Microsoft) de nous distraire des dangers actuels, plus insidieux, li\u00e9s aux usages de l\u2019intelligence artificielle.<\/p>\n

\u00a0<\/strong><\/p>\n

Vous montrez dans votre enqu\u00eate que l\u2019IA est pour l\u2019instant incapable de se passer de l\u2019homme, notamment lors de la mise en place des algorithmes. Qui sont ces petites mains bien humaines cach\u00e9es derri\u00e8re l\u2019IA ?<\/strong><\/p>\n

En plus des employ\u00e9s tr\u00e8s dipl\u00f4m\u00e9s qui r\u00e9alisent les algorithmes, une multitude de petites mains permettent \u00e0 l\u2019intelligence artificielle de fonctionner en \u00e9tiquetant, en r\u00e9pertoriant les donn\u00e9es et en identifiant les images. Elles sont indispensables \u00e0 diff\u00e9rentes \u00e9tapes, de la pr\u00e9paration des donn\u00e9es \u00e0 l\u2019entra\u00eenement de l\u2019algorithme.\u00a0Nous avons recueilli des t\u00e9moignages en Chine, au Burkina Faso, de microtravailleurs qui r\u00e9alisent des t\u00e2ches pour quelques centimes d\u2019euros. Ces exemples aux quatre coins du monde d\u00e9mystifient une autre croyance : les machines n\u2019ont pas remplac\u00e9 les humains et elles sont loin d\u2019\u00eatre autonomes.<\/p>\n

Deux secteurs sont aujourd\u2019hui en pointe en mati\u00e8re d\u2019IA :\u00a0la d\u00e9fense et la finance. Pourquoi sont-ils \u00e0 l\u2019avant-garde de l\u2019IA,\u00a0plut\u00f4t que la sant\u00e9 par exemple,\u00a0et quels sont les usages les plus probl\u00e9matiques qu\u2019ils en font ?<\/strong><\/p>\n

D\u00e8s l\u2019origine, les innovations dans le domaine de l\u2019intelligence artificielle sont tr\u00e8s li\u00e9es au secteur militaire, \u00e0 tel point que plusieurs chercheurs que j\u2019ai interrog\u00e9s craignent que leurs d\u00e9couvertes soient utilis\u00e9es \u00e0 mauvais escient. Et pourtant, ces outils ne sont pas toujours tr\u00e8s efficients, voire m\u00eame dangereux. Une \u00e9tude a montr\u00e9 que le taux de victimes civiles tu\u00e9es par des drones est dix fois plus \u00e9lev\u00e9 que celui des avions am\u00e9ricains, notamment \u00e0 cause du faible niveau de qualit\u00e9 des informations sur lesquelles reposaient les frappes des drones.<\/p>\n

Concernant la finance, les correspondances entre ce qui a \u00e9t\u00e9 mis en place il y a d\u00e9j\u00e0 quelques ann\u00e9es dans la finance et ce que l\u2019IA r\u00e9alise en ce moment sur l\u2019ensemble de la soci\u00e9t\u00e9 m\u2019ont frapp\u00e9 sur plusieurs points. Tout d\u2019abord, les data scientists<\/em> sortent des m\u00eames grandes \u00e9coles que les math\u00e9maticiens qui d\u00e9veloppent les algorithmes pour la finance. Autre similitude : les march\u00e9s financiers ont \u00e9t\u00e9 envahis par les math\u00e9matiques.<\/p>\n

Aujourd\u2019hui, nous appliquons cette math\u00e9matisation \u00e0 l\u2019ensemble de la soci\u00e9t\u00e9, en ajoutant, comme sur les march\u00e9s financiers, la rapidit\u00e9 gr\u00e2ce aux ordinateurs. Plus un march\u00e9 est liquide, plus les titres financiers peuvent \u00eatre achet\u00e9s ou vendus, n\u2019importe o\u00f9 et \u00e0 n\u2019importe quel moment. Rassurante pour les investisseurs, cette liquidit\u00e9 tr\u00e8s forte peut \u00eatre n\u00e9faste, notamment pour les entreprises, car elle encourage les investisseurs \u00e0 se concentrer sur le court terme. Malgr\u00e9 cette dangerosit\u00e9, nous sommes en train d\u2019\u00e9tendre ce concept de \u00ab\u00a0forte liquidit\u00e9\u00a0\u00bb \u00e0 l\u2019ensemble de la soci\u00e9t\u00e9 par l\u2019interm\u00e9diaire d\u2019algorithmes : tout doit pouvoir \u00eatre achet\u00e9 \u00e0 tout moment. M\u00eame la rencontre amoureuse doit \u00eatre liquide.<\/p>\n

Gr\u00e2ce \u00e0 des formules math\u00e9matiques et des ordinateurs puissants, les financiers pensaient r\u00e9ussir \u00e0 pr\u00e9voir l\u2019avenir et \u00e0 r\u00e9partir les risques. La crise des subprimes<\/em> a montr\u00e9 le contraire : les produits financiers \u00e9taient si complexes que plus aucun acteur ne savait quels titres financiers il d\u00e9tenait. Les financiers ont fait confiance \u00e0 ces math\u00e9matiques complexes, ils se sont d\u00e9responsabilis\u00e9s. Aujourd\u2019hui cette\u00a0math\u00e9matisation et cette rapidit\u00e9 sont diffus\u00e9es \u00e0 l\u2019ensemble de la soci\u00e9t\u00e9, avec peu de contr\u00f4le !<\/p>\n

De nombreuses entreprises sont s\u00e9duites par l\u2019IA afin d\u2019optimiser leur recrutement. Certains logiciels permettent de trier les CV et d\u2019analyser le comportement d\u2019un candidat lors d\u2019un entretien. Pourquoi les grands groupes confient-ils d\u00e9sormais une partie du travail des RH [ressources humaines]\u00a0aux machines et quelles sont les failles d\u2019un tel dispositif ?<\/strong><\/p>\n

Ces outils sont utilis\u00e9s afin\u00a0de gagner du temps et de l\u2019efficacit\u00e9. Difficile de disposer d\u2019\u00e9tudes pr\u00e9cises sur l\u2019\u00e9tendue de ces pratiques. En France, 11 \u00a0% des directeurs de ressources humaines auraient d\u00e9j\u00e0 d\u00e9ploy\u00e9 des outils d\u2019IA. Pourtant, ces logiciels sont peu \u00e9valu\u00e9s. Les programmes d\u2019IA peuvent renforcer les biais et les discriminations.<\/p>\n

Prenons l\u2019exemple d\u2019Amazon. En 2015, un algorithme \u00e9tait cens\u00e9 faciliter le recrutement. Or, il proposait davantage de CV d\u2019hommes et, lorsqu\u2019il proposait des femmes, elles \u00e9taient surqualifi\u00e9es. L\u2019IA proc\u00e9dait de cette fa\u00e7on car elle avait \u00e9t\u00e9 entra\u00een\u00e9e sur des donn\u00e9es historiques dans lesquelles les hommes \u00e9taient surrepr\u00e9sent\u00e9s. Concernant les analyses de comportement ou de sentiments, les programmes d\u2019IA sont \u00e9galement loin d\u2019\u00eatre performants. Certains demandent m\u00eame un moratoire sur ces algorithmes.<\/p>\n

Le cr\u00e9dit social chinois<\/strong><\/a> (sorte d\u2019identit\u00e9 num\u00e9rique qui permet d\u2019\u00e9valuer les citoyens) inqui\u00e8te beaucoup les Europ\u00e9ens qui y voient la r\u00e9alisation d\u2019un projet proprement orwellien. Quelle est la r\u00e9alit\u00e9 concr\u00e8te du cr\u00e9dit social et a-t-on des risques de le voir arriver un jour en France ?<\/strong><\/p>\n

La Chine est la premi\u00e8re dictature num\u00e9rique au monde. Des outils num\u00e9riques (reconnaissance faciale, QR code devant chaque maison\u2026) servent \u00e0 pers\u00e9cuter les Ou\u00efghours, ce peuple musulman de la r\u00e9gion de Xinjiang.\u00a0Les t\u00e9moignages recueillis sur ce sujet sont effroyables. Pour l\u2019ensemble des Chinois, les outils technologiques sont \u00e9galement utilis\u00e9s. Le cr\u00e9dit social est un syst\u00e8me de points cr\u00e9\u00e9 pour inciter les citoyens \u00e0 mieux se comporter. Ces points peuvent augmenter ou diminuer. Toutes les personnes interrog\u00e9es l\u2019ont confirm\u00e9 : aucune grande base de donn\u00e9es centralis\u00e9e n\u2019a de crit\u00e8res uniformes au sein du cr\u00e9dit social ! Les moyens sont m\u00eame tr\u00e8s divers selon les r\u00e9gions, avec plus ou moins d\u2019outils num\u00e9riques.<\/p>\n

M\u00eame si le cr\u00e9dit social n\u2019est pas le programme d\u2019IA souvent d\u00e9crit en Occident, il n\u2019en reste pas moins dangereux et dans la lign\u00e9e du r\u00e9gime totalitaire communiste. Le cr\u00e9dit social a de nombreuses cons\u00e9quences au quotidien. Les notes et les visages des Chinois sont affich\u00e9s sur la voie publique. Les moins bien not\u00e9s peuvent se voir refuser le droit d\u2019acheter des billets d\u2019avion. Esp\u00e9rons que ces syst\u00e8mes\u00a0ne se d\u00e9veloppent jamais en France. Mais des associations s\u2019inqui\u00e8tent des outils num\u00e9riques toujours plus nombreux utilis\u00e9s afin de nous surveiller.<\/p>\n

Les nouveaux usages du num\u00e9rique sont \u00e9troitement li\u00e9s au d\u00e9veloppement de l\u2019IA. Pourquoi cette fuite en avant (\u00e9changer toujours plus de donn\u00e9es, toujours plus vite) est-elle un danger, que ce soit d\u2019un point de vue \u00e9cologique ou \u00e9thique ?<\/strong><\/p>\n

Au-del\u00e0 des limites inh\u00e9rentes \u00e0 l\u2019IA, la plus importante est sans aucun doute celle de la plan\u00e8te. Certains consid\u00e8rent justement l\u2019IA comme la solution pour r\u00e9soudre les probl\u00e8mes environnementaux, afin de calculer au mieux chaque usage, en oubliant parfois que le num\u00e9rique n\u2019est pas du tout immat\u00e9riel. M\u00eame s\u2019il ne s\u2019agit pas de rejeter en bloc tous les usages de l\u2019IA, ce technosolutionnisme r\u00e9sulte de notre pens\u00e9e hors-sol.<\/p>\n

Aujourd\u2019hui, deux visions s\u2019opposent : l\u2019une souhaite changer de cap afin de construire un monde o\u00f9 l\u2019humain comprend qu\u2019il fait partie de la nature ; l\u2019autre pr\u00e9f\u00e8re continuer dans la m\u00eame direction, jusqu\u2019\u00e0 imaginer quitter la Terre pour coloniser Mars.<\/p>\n

Il serait int\u00e9ressant de s\u2019interroger, avant sa g\u00e9n\u00e9ralisation, sur l\u2019int\u00e9r\u00eat social et \u00e9cologique d\u2019une innovation li\u00e9e \u00e0 l\u2019intelligence artificielle. Impossible de faire de l\u2019IA sans ordinateurs, sans infrastructures et donc sans \u00e9lectricit\u00e9 et sans consommation de multiples m\u00e9taux. Certes, aujourd\u2019hui, les programmes d\u2019IA ne sont pas la partie la plus polluante du num\u00e9rique. Mais les usages ne cessent d\u2019augmenter. La demande de puissance de calcul en\u202f IA double tous les trois ou quatre mois. Elle a \u00e9t\u00e9 multipli\u00e9e par 300 000 entre\u00a02012 et\u00a02018.<\/p>\n

Une \u00e9tude a montr\u00e9 que l\u2019entra\u00eenement d\u2019un mod\u00e8le parmi les plus couramment utilis\u00e9s \u00e9met autant de CO\u00b2 qu\u2019un aller Paris-Hong Kong en avion. Et plus nous utilisons de programmes d\u2019intelligence artificielle, plus nous avons d\u2019\u00e9quipements (smartphones, capteurs\u2026). Ce sont nos \u00e9quipements, trop nombreux et trop souvent remplac\u00e9s, qui sont de loin la source de pollution la plus importante dans le num\u00e9rique. \u00c9missions de gaz \u00e0 effet serre, consommation de m\u00e9taux et d\u2019eau, le num\u00e9rique est loin d\u2019\u00eatre immat\u00e9riel !<\/p>\n

Votre enqu\u00eate d\u00e9montre clairement, \u00e0 travers de nombreux t\u00e9moignages de sp\u00e9cialistes, que, loin des fantasmes, l\u2019IA est souvent inefficace et n\u00e9faste. D\u00e8s lors, deux possibilit\u00e9s semblent s\u2019offrir \u00e0 l\u2019homme : faut-il chercher \u00e0 am\u00e9liorer perp\u00e9tuellement l\u2019IA ou tout simplement y renoncer ?<\/strong><\/p>\n

Aujourd\u2019hui, nous investissons des milliards d\u2019euros dans l\u2019intelligence artificielle, sans r\u00e9fl\u00e9chir aux risques \u00e9cologiques et sociaux de ces technologies. Cette croyance en une technologie, panac\u00e9e \u00e0 tous nos maux, est particuli\u00e8rement ancr\u00e9e dans nos soci\u00e9t\u00e9s. Jusqu\u2019o\u00f9 et dans quels objectifs nos usages de l\u2019IA doivent-ils se diriger ? Dans quels secteurs pourrait-elle \u00eatre b\u00e9n\u00e9fique ?<\/p>\n

J\u2019ai remarqu\u00e9 qu\u2019elle est souvent plus utile dans le cas d\u2019usages tr\u00e8s pr\u00e9cis (d\u00e9tection de pannes dans les usines,\u2026), plut\u00f4t que pour des solutions globales. Quels usages de l\u2019informatique faudrait-il limiter pour des raisons \u00e9cologiques ? Dans cet ouvrage, notre conclusion est qu\u2019il faut limiter les usages, d\u2019autant plus que\u00a0ces programmes d\u2019IA sont souvent employ\u00e9s pour cibler la publicit\u00e9 ou nous surveiller. Mais ces d\u00e9cisions devraient \u2013 avant tout \u2013 r\u00e9sulter de d\u00e9bats soci\u00e9taux, ce qui n\u2019est pas le cas aujourd\u2019hui.<\/p>\n

\u00a0<\/strong><\/p>\n

marianne.fr<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"

Le meilleur des mondes !<\/p>\n","protected":false},"author":4,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-7713","post","type-post","status-publish","format-standard","hentry","category-non-classe"],"_links":{"self":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/7713","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/comments?post=7713"}],"version-history":[{"count":3,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/7713\/revisions"}],"predecessor-version":[{"id":7716,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/7713\/revisions\/7716"}],"wp:attachment":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/media?parent=7713"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/categories?post=7713"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/tags?post=7713"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}