{"id":11620,"date":"2024-02-10T02:53:38","date_gmt":"2024-02-10T01:53:38","guid":{"rendered":"https:\/\/collectif-accad.fr\/site\/?p=11620"},"modified":"2024-02-03T17:56:27","modified_gmt":"2024-02-03T16:56:27","slug":"reguler-lintelligence-artificielle","status":"publish","type":"post","link":"https:\/\/collectif-accad.fr\/site\/reguler-lintelligence-artificielle\/","title":{"rendered":"R\u00e9guler l\u2019intelligence artificielle"},"content":{"rendered":"

\"\"<\/span><\/span><\/p>\n

Est-ce devenu une mission impossible ?<\/span><\/strong><\/p>\n

<\/p>\n

Un an apr\u00e8s le lancement ph\u00e9nom\u00e9nal de ChatGPT, nous consacrons une s\u00e9rie d’articles<\/a> aux cons\u00e9quences majeures de l\u2019arriv\u00e9e de l\u2019intelligence artificielle g\u00e9n\u00e9rative dans plusieurs secteurs.<\/span><\/span><\/p>\n

L\u2019homme est devenu invisible. Pas d\u2019interview, pas d\u2019intervention publique, pas de lancement majeur de nouveau produit\u2026 Depuis son \u00e9viction de la t\u00eate d\u2019OpenAI, puis sa r\u00e9int\u00e9gration spectaculaire cinq jours plus tard, fin novembre, Sam Altman se fait discret. On n\u2019a m\u00eame pas entendu le directeur de l\u2019\u00e9diteur de ChatGPT apr\u00e8s l\u2019accord au niveau europ\u00e9en, dans la nuit du 8\u00a0au 9\u00a0d\u00e9cembre, sur une l\u00e9gislation in\u00e9dite au niveau mondial pour r\u00e9guler l\u2019intelligence\u00a0artificielle (IA).<\/span><\/span><\/p>\n

Et pourtant, \u00e0 quelques jours d\u2019intervalle, deux camps que tout oppose viennent chacun de remporter une victoire. Celui incarn\u00e9 par Sam\u00a0Altman repr\u00e9sente la faction dite des \u00abacc\u00e9l\u00e9rationnistes\u00bb (\u00ab<\/span><\/span>effective accelerationists\u00bb<\/span><\/span><\/em> ou \u00ab<\/span><\/span>e\/acc\u00bb<\/span><\/span><\/em>), qui ont une foi quasi absolue en la technologie, capable selon eux de r\u00e9soudre les probl\u00e8mes majeurs de l\u2019humanit\u00e9. Et qui, cela va sans dire, n\u2019ont aucune envie de s\u2019embarrasser de r\u00e9glementations susceptibles de les ralentir. En face, il y a le camp des sceptiques, de ceux qui veulent ralentir la machine, prendre le temps d\u2019estimer les risques et qui voient d\u2019un bon \u0153il un encadrement l\u00e9gislatif pour que la technologie ne devienne pas hors de contr\u00f4le.<\/span><\/span><\/p>\n

Confusion totale<\/span><\/span><\/strong><\/p>\n

Ces deux camps sont d\u2019apparence irr\u00e9conciliables. Et le choc entre ces deux visions est d\u2019autant plus difficile \u00e0 d\u00e9chiffrer que les lignes s\u2019entrem\u00ealent. On a ainsi vu tr\u00e8s souvent Sam\u00a0Altman, parti durant de longs mois en tourn\u00e9e mondiale en d\u00e9but d\u2019ann\u00e9e, r\u00e9clamer devant le S\u00e9nat am\u00e9ricain, face \u00e0 Emmanuel Macron ou des repr\u00e9sentants japonais un encadrement r\u00e9glementaire de l\u2019IA. Mais attention, seulement pour les \u00abIA les plus \u00e0 risque\u00bb \u2013 tout en se gardant bien de placer ChatGPT et d\u2019autres IA g\u00e9n\u00e9ratives dans cette cat\u00e9gorie.<\/span><\/span><\/p>\n

En face, la confusion r\u00e8gne sur les moyens d\u2019encadrer cette hydre \u00e0 plusieurs t\u00eates. Il y a la r\u00e9glementation europ\u00e9enne, un plan d\u2019encadrement esquiss\u00e9 par les pays du G7, l\u2019accord de Bletchley Park, \u00e0 Londres, mais aussi des r\u00e8gles \u00e9dict\u00e9es par la Maison-Blanche, des recommandations de l\u2019Unesco, sans parler de nombreuses r\u00e9flexions nationales, dont celle de la Suisse, qui d\u00e9marrera en 2024\u2026<\/span><\/span><\/p>\n

Des \u00ab rappels brutaux \u00bb<\/span><\/span><\/strong><\/p>\n

Dans ce brouillard, une r\u00e9gulation mondiale est-elle envisageable? Ancien directeur du Conseil de l\u2019Europe, Jan Kleijssen veut y croire: \u00abIl n\u2019est \u00e9videmment pas facile de parvenir \u00e0 un large accord international sur les technologies de pointe, dont les implications \u00e9conomiques et soci\u00e9tales sont consid\u00e9rables. Mais il existe un consensus de plus en plus large sur le fait que des r\u00e8gles contraignantes sont n\u00e9cessaires de toute urgence. Non pas en raison d\u2019un risque imminent d\u2019extinction de l\u2019humanit\u00e9, comme le pr\u00e9tendent certains leaders du march\u00e9 avides de publicit\u00e9, mais en raison des dommages r\u00e9els d\u00e9j\u00e0 caus\u00e9s par ces technologies. Le scandale n\u00e9erlandais des allocations familiales, dans lequel des milliers de personnes ont \u00e9t\u00e9 accus\u00e9es \u00e0 tort de fraude et quelque 3000 enfants ont \u00e9t\u00e9 retir\u00e9s \u00e0 leur famille, et le scandale australien sur des dettes fictives impos\u00e9es \u00e0 des citoyens sont des rappels brutaux des cons\u00e9quences d\u2019une gouvernance inad\u00e9quate de l\u2019IA.\u00bb<\/span><\/span><\/p>\n

Mais rien n\u2019ira de soi. La l\u00e9gislation europ\u00e9enne, qui n\u2019est pas d\u00e9finitive, qui n\u2019entrera pas en vigueur avant 2025, et dont le contenu d\u00e9finitif n’est pas connu, classe l\u2019IA selon plusieurs degr\u00e9s de risque. Mais m\u00eame cette gradation est jug\u00e9e inad\u00e9quate par les milieux de la tech, comme l\u2019explique au <\/span><\/span>Temps<\/span><\/span><\/em> Cecilia Bonefeld-Dahl, directrice de DigitalEurope, qui repr\u00e9sente pr\u00e8s de 45\u00a0000 entreprises du num\u00e9rique: \u00abLa proposition initiale de loi europ\u00e9enne sur l\u2019IA visait \u00e0 r\u00e9glementer les utilisations de l\u2019IA, et non la technologie elle-m\u00eame. Les utilisations \u00e0 haut risque, comme les soins de sant\u00e9, seraient davantage r\u00e9glement\u00e9es que les utilisations \u00e0 faible risque, comme un algorithme de recommandation de films ou de s\u00e9ries sur Netflix. Nous sommes tout \u00e0 fait d\u2019accord avec cela. Nous estimons qu\u2019il convient donc de maintenir une approche l\u00e9g\u00e8re \u00e0 l\u2019\u00e9gard des mod\u00e8les de base (ceux qui sous-tendent l\u2019IA g\u00e9n\u00e9rative), en mettant l\u2019accent sur le partage des informations. Cela encouragerait l\u2019innovation. Cependant, ChatGPT est apparu au milieu du processus et les l\u00e9gislateurs se sont sentis oblig\u00e9s d\u2019agir, s\u2019\u00e9loignant de l\u2019approche bas\u00e9e sur le risque.\u00bb<\/span><\/span><\/p>\n

\u00ab A quel prix ? \u00bb<\/span><\/span><\/strong><\/p>\n

Selon Cecilia Bonefeld-Dahl, le prix \u00e0 payer pour la r\u00e9gulation europ\u00e9enne en devenir sera tr\u00e8s \u00e9lev\u00e9. \u00abIl s\u2019agit d\u2019une \u00e9tape historique pour l\u2019UE \u2013 la premi\u00e8re grande \u00e9conomie \u00e0 disposer d\u2019une r\u00e9glementation compl\u00e8te sur l\u2019IA \u2013 mais \u00e0 quel prix? Selon une estimation \u2013 tir\u00e9e de l\u2019\u00e9tude d\u2019impact de la Commission europ\u00e9enne \u2013, la mise en conformit\u00e9 avec la loi sur l\u2019IA co\u00fbterait environ 300\u00a0000\u00a0euros \u00e0 une PME de 50\u00a0personnes. Cet argent devra \u00eatre d\u00e9pens\u00e9 pour des avocats et non pour des ing\u00e9nieurs en IA. Or l\u2019Europe est d\u00e9j\u00e0 en retard sur l\u2019IA par rapport aux Etats-Unis et la Chine.\u00bb<\/span><\/span><\/p>\n

En face, Estelle Pannatier, charg\u00e9e de politique et de plaidoyer chez AlgorithmWatch CH, regrette ce \u00abnarratif qui oppose innovation et r\u00e9gulation ou innovation et droits fondamentaux. Le c\u0153ur de la n\u00e9cessit\u00e9 de r\u00e9guler est justement de faire en sorte que l\u2019innovation qui profite aux personnes et respecte les droits fondamentaux soit encourag\u00e9e, et non celle qui nuit aux personnes et \u00e0 la soci\u00e9t\u00e9.\u00bb<\/span><\/span><\/p>\n

D\u00e9finition des risques<\/span><\/span><\/strong><\/p>\n

Mais si AlgorithmWatch salue les avanc\u00e9es europ\u00e9ennes en mati\u00e8re de r\u00e9gulation, l\u2019association juge que l\u2019approche de l\u2019UE pose deux probl\u00e8mes. \u00abLe premier, c\u2019est qu\u2019elle cherche \u00e0 placer a priori des syst\u00e8mes dans des cat\u00e9gories de risques, estime Estelle Pannatier. Cela ne permet pas de tenir compte des cas individuels et conduit \u00e0 ce que de nombreuses obligations incombent au d\u00e9veloppeur (et beaucoup moins \u00e0 l\u2019utilisateur, en tant que \u00abd\u00e9ployeur du syst\u00e8me\u00bb) alors que de nombreux risques apparaissent dans le contexte de l\u2019application. Cette approche bas\u00e9e sur les risques est maintenant l\u00e0, il s\u2019agit donc de la rendre aussi bonne que possible.\u00bb Pour la responsable d\u2019AlgorithmWatch, le deuxi\u00e8me probl\u00e8me principal est que le r\u00e8glement sur l\u2019IA l\u00e9gitime des utilisations de syst\u00e8mes algorithmiques qui ne font pas encore partie du d\u00e9bat public.<\/span><\/span><\/p>\n

Mais du c\u00f4t\u00e9 positif, AlgorithmWatch salue l\u2019obligation d\u2019une analyse d\u2019impact sur les droits fondamentaux et la transparence publique lors de l\u2019utilisation de l\u2019IA \u00e0 haut risque par les autorit\u00e9s publiques. \u00abCe sont des revendications essentielles pour lesquelles nous avons travaill\u00e9 ces trois derni\u00e8res ann\u00e9es\u00bb, poursuit Estelle Pannatier.<\/span><\/span><\/p>\n

Pas de \u00ab bol de spaghettis \u00bb<\/span><\/span><\/strong><\/p>\n

Le lobby de la tech demeure de son c\u00f4t\u00e9 m\u00e9fiant face \u00e0 la vell\u00e9it\u00e9 europ\u00e9enne de r\u00e9guler. Cecilia Bonefeld-Dahl dit par contre qu\u2019elle \u00absoutient pleinement les efforts visant \u00e0 aligner les approches de l\u2019IA au niveau international, afin d\u2019\u00e9viter un \u00abbol de spaghettis\u00bb de r\u00e9glementations diff\u00e9rentes. Le travail effectu\u00e9 dans le cadre du processus d\u2019Hiroshima du G7 est particuli\u00e8rement int\u00e9ressant, car il rassemble un grand nombre de partenaires parmi les plus importants.\u00bb La directrice de DigitalEurope pr\u00e9vient que le nouveau r\u00e8glement europ\u00e9en \u00abs\u2019ajoute \u00e0 de nombreux textes l\u00e9gislatifs europ\u00e9ens dans le domaine des technologies, notamment le Data Act et le Cyber Resilience Act, tous adopt\u00e9s au cours de ce mandat. Ce \u00abtsunami\u00bb de r\u00e9glementation frappera de nombreuses entreprises au cours des deux prochaines ann\u00e9es.\u00bb<\/span><\/span><\/p>\n

En attendant une future r\u00e9glementation europ\u00e9enne, et un hypoth\u00e9tique cadre mondial contraignant, les regards se tournent de nouveau vers les g\u00e9ants de la tech cr\u00e9ant ces nouvelles IA. Le 19\u00a0d\u00e9cembre, OpenAI annon\u00e7ait ainsi la cr\u00e9ation d\u2019une \u00e9quipe d\u00e9di\u00e9e \u00e0 l\u2019identification et \u00e0 la pr\u00e9vention des risques li\u00e9s \u00e0 l\u2019IA, qui pourra suspendre le lancement d\u2019un mod\u00e8le d\u2019IA s\u2019il est consid\u00e9r\u00e9 comme trop dangereux. Mais attention, ce nouveau groupe va surtout s\u2019int\u00e9resser aux mod\u00e8les dits \u00abd\u2019avant-garde\u00bb <\/span><\/span>(frontier models),<\/span><\/span><\/em> en cours d\u2019\u00e9laboration et dont les capacit\u00e9s sont sup\u00e9rieures aux logiciels les plus aboutis en mati\u00e8re d\u2019IA. L\u2019\u00e9quipe \u00e9valuera chaque nouveau mod\u00e8le et lui assignera un niveau de risque.<\/span><\/span><\/p>\n

L\u2019autor\u00e9gulation avance<\/span><\/span><\/strong><\/p>\n

On est donc en plein dans un syst\u00e8me d\u2019autor\u00e9gulation, selon des r\u00e8gles fix\u00e9es par OpenAI lui-m\u00eame. De mani\u00e8re g\u00e9n\u00e9rale, Estelle Pannatier estime que la \u00abdangerosit\u00e9\u00bb d\u2019un syst\u00e8me d\u2019IA d\u00e9pend \u00e9norm\u00e9ment de son contexte d\u2019utilisation. Un m\u00eame syst\u00e8me utilis\u00e9 dans des contextes diff\u00e9rents n\u2019aura pas forc\u00e9ment les m\u00eames cons\u00e9quences sur les droits fondamentaux. \u00abCe qui est inqui\u00e9tant, c\u2019est le d\u00e9veloppement d\u2019un discours au sein de certaines entreprises de la tech qui affirme que puisqu\u2019elles ont d\u00e9velopp\u00e9 ces syst\u00e8mes elles sont celles qui les connaissent le mieux et que c\u2019est donc \u00e0 elles de dire aux Etats comment r\u00e9guler\u00bb, poursuit la responsable.<\/span><\/span><\/p>\n

Selon Estelle Pannatier, \u00abce discours tend \u00e0 masquer les int\u00e9r\u00eats \u00e9conomiques de ces entreprises par rapport \u00e0 la r\u00e9gulation. De plus, il faut que d\u2019autres points de vue soient \u00e9galement pris en compte dans la r\u00e9gulation. C\u2019est le cas aussi dans d\u2019autres domaines: il ne nous viendrait pas \u00e0 l\u2019id\u00e9e de laisser les entreprises pharmaceutiques d\u00e9cider seules des r\u00e8gles entourant le d\u00e9veloppement et l\u2019utilisation des m\u00e9dicaments.\u00bb<\/span><\/span><\/p>\n

Pour l\u2019heure, Sam Altman d\u00e9cide quasiment seul des cocktails d\u2019algorithmes qu\u2019il lance sur le march\u00e9\u2026<\/span><\/span><\/p>\n

https:\/\/www.letemps.ch\/economie\/reguler-l-intelligence-a<\/a>
\n<\/span><\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

Est-ce devenu une mission impossible ?<\/p>\n","protected":false},"author":4,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-11620","post","type-post","status-publish","format-standard","hentry","category-non-classe"],"_links":{"self":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/11620","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/comments?post=11620"}],"version-history":[{"count":1,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/11620\/revisions"}],"predecessor-version":[{"id":11621,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/11620\/revisions\/11621"}],"wp:attachment":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/media?parent=11620"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/categories?post=11620"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/tags?post=11620"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}