{"id":10754,"date":"2023-07-01T02:20:50","date_gmt":"2023-07-01T00:20:50","guid":{"rendered":"https:\/\/collectif-accad.fr\/site\/?p=10754"},"modified":"2023-06-27T16:21:40","modified_gmt":"2023-06-27T14:21:40","slug":"loi-sur-lintelligence-artificielle","status":"publish","type":"post","link":"https:\/\/collectif-accad.fr\/site\/loi-sur-lintelligence-artificielle\/","title":{"rendered":"Loi sur l\u2019intelligence artificielle"},"content":{"rendered":"

Notre civilisation est au seuil d\u2019un basculement<\/span><\/strong>
\n<\/span><\/span><\/span><\/p>\n

<\/p>\n

Le Conseil constitutionnel a valid\u00e9 le 17 mai le contenu de la loi relative aux Jeux olympiques, ce malgr\u00e9 une non-conformit\u00e9 avec le projet de loi europ\u00e9enne Artificial Intelligence Act toujours en examen au Parlement et la lev\u00e9e de bouclier de 38 d\u00e9fenseurs du droit dont la CNIL, la Quadrature du Net ou encore Amnesty International, qui d\u00e9noncent une loi dangereuse.<\/span><\/span><\/span><\/p>\n

Marc Gotti, juriste, d\u00e9crypte pour Epoch Times certaines dispositions de ce nouveau texte et des probl\u00e8mes qu\u2019il pose.<\/span><\/span><\/span><\/p>\n

Epoch Times : La nouvelle loi relative aux Jeux olympiques pose les jalons d\u2019une nouvelle surveillance algorithmique. De quoi parle-t-on exactement ?<\/span><\/span><\/span><\/p>\n

Marc Gotti : Cette expression r\u00e9unit trois technologies principales d\u00e9j\u00e0 utilis\u00e9es depuis plusieurs ann\u00e9es. Vous avez, d\u2019une part, la vid\u00e9osurveillance qui est la captation des images ; vous avez ensuite la reconnaissance faciale qui proc\u00e8de \u00e0 l\u2019identification; et enfin l\u2019<\/span>intelligence artificielle <\/span>qui est le traitement des donn\u00e9es primaires. Donc, on peut d\u00e9j\u00e0 partir d\u2019un principe simple : cette combinaison apporte \u00e0 la fois les avantages et les dangers de ces trois technologies individuellement et y ajoute de nouveaux param\u00e8tres et questionnements \u00e9thiques, philosophiques et bien s\u00fbr juridiques.<\/span><\/span><\/span><\/p>\n

Alors, comment cela fonctionne ? On pourrait qualifier ce syst\u00e8me de cha\u00eene de traitement de donn\u00e9es automatis\u00e9. Les cam\u00e9ras, qui sont de la meilleure r\u00e9solution possible, ont la capacit\u00e9 de capter et d\u2019enregistrer une image globale d\u2019une sc\u00e8ne compos\u00e9e d\u2019individus ou de v\u00e9hicules, par exemple, voire d\u2019un flux de d\u00e9placement ou d\u2019un regroupement. Nous avons tous d\u00e9j\u00e0 vu sur nos propres t\u00e9l\u00e9phones la capacit\u00e9 d\u2019un logiciel \u00e0 reconna\u00eetre l\u2019emplacement d\u2019un visage. Je pr\u00e9cise \u00ab logiciel \u00bb car c\u2019est un \u00e9l\u00e9ment important dans la compr\u00e9hension du syst\u00e8me. Les cam\u00e9ras ne sont qu\u2019un outil de captation. Ce sont des logiciels derri\u00e8re qui traitent l\u2019image. Un flux vid\u00e9o peut \u00eatre trait\u00e9 de diff\u00e9rentes mani\u00e8res par des logiciels diff\u00e9rents et \u00e0 diff\u00e9rents endroits.<\/span><\/span><\/span><\/p>\n

En termes de reconnaissance faciale, il s\u2019agit d\u2019une analyse biom\u00e9trique et comportementale.<\/span><\/span><\/span><\/p>\n

On peut analyser l\u2019identit\u00e9 d\u2019une personne \u00e0 ses postures et \u00e0 ses gestes. Le logiciel rep\u00e8re un certain nombre de points de correspondance pour d\u00e9finir l\u2019identit\u00e9 d\u2019une personne d\u2019un point de vue biom\u00e9trique. Il faut alors que le logiciel puisse comparer cette analyse avec une base de donn\u00e9es.<\/span><\/span><\/span><\/p>\n

Apr\u00e8s l\u2019identification, une autre t\u00e2che doit \u00eatre accomplie par le logiciel de traitement de donn\u00e9es : l\u2019analyse du comportement du sujet. On sait que depuis longtemps les entreprises de s\u00e9curit\u00e9 travaillent sur des logiciels capables de d\u00e9tecter un objet pos\u00e9 \u00e0 terre par un individu, par exemple un comportement agressif ou suspect, un mouvement de foule ou un attroupement, etc.<\/span><\/span><\/span><\/p>\n

Des associations d<\/span>\u00e9noncent des possibilit\u00e9s de d\u00e9rives et d\u2019abus qu\u2019ouvrent ces nouveaux dispositifs. Quels sont les motifs d\u2019inqui\u00e9tudes ?<\/span><\/span><\/p>\n

Cela pose beaucoup de questions de s\u00e9curit\u00e9 et de probl\u00e9matiques juridiques, jusqu\u2019au respect de la vie priv\u00e9e qui court un danger de plus en plus important depuis les derniers progr\u00e8s technologiques accomplis. Bien s\u00fbr, il y a de nombreux avantages comme le fait de pouvoir anticiper un grand nombre d\u2019actes mal intentionn\u00e9s.<\/span><\/span><\/p>\n

Mais quelles seront les bases de donn\u00e9es utilis\u00e9es par les autorit\u00e9s ? Ceux qui des personnes fich\u00e9es S ou non-fich\u00e9es S? Les bases de donn\u00e9es m\u00e9dicales ? Tout \u00e0 la fois ? En couplant l\u2019analyse biom\u00e9trique et l\u2019identification, les possibilit\u00e9s d\u2019abus sont augment\u00e9es de fa\u00e7on exponentielle.<\/span><\/span><\/p>\n

Dans notre pays, la libert\u00e9 de circuler devrait \u00eatre la norme. \u00c0 pr\u00e9sent, suivre un opposant politique devient ais\u00e9. On voit que dans le contexte actuel, les autorit\u00e9s ont pris l\u2019habitude d\u2019anticiper et d\u2019emp\u00eacher les regroupements de personnes. Cela sera d\u2019autant plus facile avec ce nouveau syst\u00e8me. Le motif \u00ab Attroupements en vue de commettre des violences \u00bb est d\u00e9j\u00e0 r\u00e9pandu et tr\u00e8s usit\u00e9 par les forces de l\u2019ordre.<\/span><\/span><\/p>\n

Ainsi il y a fort \u00e0 parier qu\u2019un tel syst\u00e8me ne pourra que conduire \u00e0 l\u2019arrestation syst\u00e9matique d\u2019un grand nombre de personnes faisant malheureusement partie de la \u00ab mauvaise base de donn\u00e9es \u00bb.<\/span><\/span><\/p>\n

Les machines devront retenir un crit\u00e8re de surveillance, une discrimination parmi les personnes surveill\u00e9es. Qui porte et assume la responsabilit\u00e9 du choix de ce crit\u00e8re ?<\/span><\/span><\/p>\n

Dans le contexte actuel, il faut noter que la plupart des actes effectu\u00e9s par le programme seraient ill\u00e9gaux s\u2019ils \u00e9taient effectu\u00e9s par un \u00eatre humain. Cet argument d\u2019impunit\u00e9 de la machine a, d\u2019ailleurs, d\u00e9j\u00e0 \u00e9t\u00e9 employ\u00e9 par les logiciels permettant de vous envoyer de la publicit\u00e9 orient\u00e9e et donc d\u2019espionner et \u00e9couter vos \u00e9changes. \u00c0 citer aussi que ce dispositif va d\u00e9multiplier les \u00e9l\u00e9ments \u00ab intentionnels \u00bb et provoquer des interventions dites pr\u00e9ventives.<\/span><\/span><\/p>\n

Les autorit\u00e9s interviendront et pourront restreindre quasi imm\u00e9diatement la libert\u00e9 des individus avant m\u00eame un fait ou un acte condamnable.<\/span><\/span><\/p>\n

De plus, les agents seront conditionn\u00e9s aux alertes pr\u00e9vues par le syst\u00e8me. Ils sont non seulement d\u00e9responsabilis\u00e9s de l\u2019analyse du danger, mais en allant plus loin, la programmation du syst\u00e8me de surveillance pourra d\u00e9pendre d\u2019une hi\u00e9rarchie opaque et la raison m\u00eame de l\u2019alerte d\u00e9clench\u00e9e par le syst\u00e8me pourrait n\u2019\u00eatre que partielle. Donc, on fr\u00f4le les pires dystopies litt\u00e9raires. On se croirait dans la dystopie Minority Report <\/i>o\u00f9 des policiers arr\u00eatent des individus en pr\u00e9disant leurs crimes.<\/span><\/span><\/p>\n

\u00c7a, c\u2019est le cas extr\u00eame. Un individu ne serait pas autoris\u00e9 \u00e0 aller aussi loin dans l\u2019analyse des comportements, dans le fait de faire des arrestations pr\u00e9ventives. Il vous faut une d\u00e9cision de justice, il vous faut quelque chose qui intervienne dans l\u2019ordre juridique, m\u00eame si l\u2019on parle plut\u00f4t de d\u00e9cisions du pouvoir r\u00e9glementaire.<\/span><\/span><\/p>\n

Ce qu\u2019il faut bien comprendre, c\u2019est que l\u2019intervention humaine rentre dans des configurations juridiques qui sont d\u00e9j\u00e0 d\u00e9finies. Un individu par rapport \u00e0 un autre individu ou des individus par rapport \u00e0 d\u2019autres groupes d\u2019individus. Mais une machine a un champ d\u2019action beaucoup plus large qui s\u2019\u00e9tend \u00e0 tout ce que permettent les logiciels utilis\u00e9s.<\/span><\/span><\/p>\n

En comparaison, seuls des psychologues ou des experts pourraient identifier ou comprendre certains gestes ou postures dangereuses d\u2019un individu, et encore sans pouvoir rendre une analyse instantan\u00e9e. La machine, de son c\u00f4t\u00e9, ex\u00e9cutera rapidement toute une analyse, qui, de ce fait, permettra une capacit\u00e9 d\u2019action beaucoup plus n\u00e9faste du point de vue de l\u2019intrusion dans la vie priv\u00e9e des gens.<\/span><\/span><\/span><\/p>\n

La r\u00e9gulation actuelle de l\u2019Union europ\u00e9enne pr\u00e9voit la non-r\u00e9tention de donn\u00e9es dans l\u2019utilisation des syst\u00e8mes de vid\u00e9osurveillance\u2026<\/span><\/span><\/span><\/p>\n

Oui, \u00e0 tout cela s\u2019ajoute toutes les prises en consid\u00e9ration habituelles dans ce genre de syst\u00e8me ultra-s\u00e9curitaire, dont le stockage et le traitement des donn\u00e9es. Qui va le faire ? O\u00f9 est-ce que cela sera situ\u00e9 ? Quel est le d\u00e9lai de conservation de ces donn\u00e9es ? Qui pourra y avoir acc\u00e8s ? De nombreuses entreprises de technologie tirent d\u00e9j\u00e0 la sonnette d\u2019alarme depuis longtemps. Comme la <\/span>Quadrature du Net <\/span>qui publie de nombreux articles sur ce sujet et m\u00e8ne des actions juridiques pour la protection des donn\u00e9es personnelles. Il appara\u00eet tr\u00e8s clairement que le d\u00e9tournement d\u2019un tel syst\u00e8me laisse pr\u00e9sager des abus et le b\u00e9n\u00e9fice d\u2019une technologie aussi intrusive ne semble pas, d\u2019apr\u00e8s ces structures, justifier son utilisation. Cela s\u2019inscrit parfaitement dans la tendance ultra s\u00e9curitaire dans laquelle s\u2019enfonce la France. Et si on analyse l\u2019\u00e9volution du droit dans le num\u00e9rique, la loi Hadopi, la loi AVIA et la loi de s\u00e9curit\u00e9 globale sont le fer de lance de l\u2019actuel minist\u00e8re de l\u2019Int\u00e9rieur et de bien d\u2019autres lois liberticides.<\/span><\/span><\/span><\/p>\n

Nous ne pouvons que constater qu\u2019il y a une v\u00e9ritable bo\u00eete \u00e0 outils juridico-num\u00e9rique en cours de construction dont l\u2019objectif non-admis est clairement plus de contr\u00f4les et des atteintes aux libert\u00e9s individuelles de plus en plus graves.<\/span><\/span><\/span><\/p>\n

Dans le texte vot\u00e9 par les d\u00e9put\u00e9s en France, on a des formulations de la loi qui pr\u00e9voient des d\u00e9rogations et des exp\u00e9rimentations. L\u2019encadrement s\u00e9curitaire des JO semble participer \u00e0 une exp\u00e9rimentation de grande ampleur\u2026<\/span><\/span><\/span><\/p>\n

Oui, tout \u00e0 fait. Il ne faut pas \u00eatre cr\u00e9dule. On sait que d\u00e8s que les \u00c9tats occidentaux ou d\u2019autres \u00c9tats disposent de technologies telles que des syst\u00e8mes d\u2019\u00e9coutes ou de surveillance qui leur permettent de s\u2019introduire dans la vie des citoyens, ils n\u2019h\u00e9sitent pas longtemps \u00e0 les utiliser.<\/span><\/span><\/span><\/p>\n

Le grand public ne le sait pas forc\u00e9ment, mais c\u2019est un secret de polichinelle. Les gouvernements travaillent \u00e0 la ma\u00eetrise des donn\u00e9es individuelles depuis longtemps. Les services de renseignement poss\u00e8dent d\u00e9j\u00e0 tout ce qu\u2019ils veulent. Le r\u00e8glement encadrant la protection des donn\u00e9es personnelles, en anglais General Data Protection Regulation, c\u2019est un peu pour amuser la galerie, cela donne une illusion de contr\u00f4le des donn\u00e9es personnelles pour le public. Mais ce n\u2019est qu\u2019un th\u00e9\u00e2tre, ils ont d\u00e9j\u00e0 tout. Donc c\u2019est pour amuser la galerie.<\/span><\/span><\/span><\/p>\n

La justification de la pr\u00e9vention d\u2019actes terroristes est le principal motif de cette loi. Un d\u00e9put\u00e9 Renaissance a notamment \u00e9voqu\u00e9 durant les discussions parlementaires le fait que l\u2019attentat de Nice aurait pu \u00eatre \u00e9vit\u00e9 avec l\u2019utilisation de la surveillance biom\u00e9trique. Faut-il retenir cette explication ?<\/span><\/span><\/span><\/p>\n

La reconnaissance faciale a \u00e9t\u00e9 exp\u00e9riment\u00e9e dans la ville de Nice, cela n\u2019a pas emp\u00each\u00e9 l\u2019attentat sur la promenade des Anglais. Mais on peut citer des exemples amen\u00e9s pendant la crise sanitaire. Dans la ville de Cannes, la Mairie s<\/span>\u2019est \u00e9quip\u00e9e d\u2019un tel syst\u00e8me pour verbaliser les r\u00e9sidents d\u00e9rogeant au port du masque.<\/span><\/span><\/p>\n

De plus, nous courons tout droit vers l\u2019identit\u00e9 num\u00e9rique, qui viendra sans nul doute nourrir cette cha\u00eene de traitement de donn\u00e9es. Ce n\u2019est pas une id\u00e9e folle de dire qu\u2019il n\u2019y a d\u00e9sormais qu\u2019un pas vers le cr\u00e9dit social \u00e0 la chinoise. La tendance de ces d\u00e9marches est souvent de renforcer la discrimination en augmentant d\u2019abord et avant tout le contr\u00f4le sur les populations d\u00e9j\u00e0 sur-contr\u00f4l\u00e9es.<\/span><\/span><\/p>\n

Et pour finir le tableau, il n\u2019existe pas de logiciels ou de syst\u00e8mes informatiques sans bugs ou dysfonctionnements plus ou moins fr\u00e9quents, surtout dans ses premi\u00e8res applications. Mais quelles peuvent \u00eatre les cons\u00e9quences d\u2019un tel dysfonctionnement? C\u2019est exactement ce genre de questions encore trop peu trait\u00e9es, qui poussent de grands noms de la Tech comme Elon Musk, Stephen Wozniak et quelques autres \u00e0 appeler \u00e0 un moratoire sur les recherches concernant l\u2019intelligence artificielle. Nous voyons nettement qu\u2019aujourd\u2019hui, en d\u00e9pit du bon sens, l\u2019emploi co\u00fbte que co\u00fbte de nouvelles technologies non-suffisamment appr\u00e9hend\u00e9es peut nous impacter tr\u00e8s n\u00e9gativement. D\u2019un point de vue juridique, certainement, et d\u2019un point de vue humain, avec certitude.<\/span><\/span><\/p>\n

La loi ou les juges sont-ils impuissants \u00e0 d\u00e9fendre les citoyens contre ces atteintes ?<\/span><\/span><\/p>\n

Lorsqu\u2019une technologie arrive et que la loi autorise, il faut voir les modalit\u00e9s d\u2019ex\u00e9cution de ces nouvelles technologies utilis\u00e9es par les forces de l\u2019ordre. On a l\u2019impression que les probl\u00e8mes vont arriver sur la table d\u00e8s les premi\u00e8res utilisations. C\u2019est \u00e0 ce moment que l\u2019on mettra sur la table tous les probl\u00e8mes que cela pose au niveau des libert\u00e9s et au niveau purement juridique. C\u2019est le probl\u00e8me qu\u2019on a, souvent le droit a un temps de retard sur les domaines de l\u2019innovation technologique.<\/span><\/span><\/p>\n

Une nouvelle technologie arrive, dans la foul\u00e9e les d\u00e9put\u00e9s votent un texte et puis \u00e7a rentre dans le code \u2013 code civil ou autre. Ensuite arrivent les probl\u00e8mes de cas concrets, pragmatiques. Le litige est l\u00e0 et on se rend compte qu\u2019on a peut \u00eatre pas fait les choses correctement d\u00e8s le d\u00e9part.<\/span><\/span><\/p>\n

Avec les mises en place futures de l\u2019identit\u00e9 num\u00e9rique, d\u2019un euro num\u00e9rique, faut-il craindre l\u2019av\u00e8nement d\u2019une soci\u00e9t\u00e9 et d\u2019un droit progressivement soumis aux innovations technologiques ?<\/span><\/span><\/p>\n

Je pense que sur ce point pr\u00e9cis, notre civilisation est clairement \u00e0 un seuil de basculement.<\/span><\/span><\/p>\n

L\u2019Occident s\u2019est d\u00e9velopp\u00e9 sur la notion des droits de l\u2019homme et des libert\u00e9s individuelles, sur des syst\u00e8mes juridiques et politiques qui se sont d\u00e9velopp\u00e9s depuis plusieurs centaines d\u2019ann\u00e9es apr\u00e8s la r\u00e9volution de 1789. Et l\u00e0, on est clairement dans l\u2019intrusion autoris\u00e9e, g\u00e9n\u00e9ralis\u00e9e dans la vie des gens avec ces nouvelles technologies. Que ce soit l\u2019identit\u00e9 num\u00e9rique, le pass sanitaire vaccinal, le pass carbone, les monnaies num\u00e9riques, etc. bref, tout ceci forme en fait un environnement qui va \u00e0 l\u2019encontre de notre construction civilisationnelle.<\/span><\/span><\/p>\n

Nous vivons actuellement un changement de paradigme et c\u2019est \u00e9galement pour cela que vous avez \u00e9norm\u00e9ment de r\u00e9sistance parmi la population. Certaines personnes s\u2019\u00e9veillent \u00e0 ce genre de probl\u00e9matique et comprennent que bien au-del\u00e0 du simple droit, bien au-del\u00e0 m\u00eame du concept juridique, c\u2019est toute une notion philosophique fondamentale et civilisationnelle qui est compl\u00e8tement remise en cause. Et c\u2019est pour cela qu\u2019il y a des frictions qui, \u00e0 mon avis, vont devenir de plus en plus violentes.<\/span><\/span><\/span><\/p>\n

https:\/\/www.epochtimes.fr\/<\/a> <\/span><\/span><\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

Notre civilisation est au seuil d\u2019un basculement<\/p>\n","protected":false},"author":4,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-10754","post","type-post","status-publish","format-standard","hentry","category-non-classe"],"_links":{"self":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/10754","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/comments?post=10754"}],"version-history":[{"count":1,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/10754\/revisions"}],"predecessor-version":[{"id":10755,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/10754\/revisions\/10755"}],"wp:attachment":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/media?parent=10754"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/categories?post=10754"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/tags?post=10754"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}