{"id":9196,"date":"2022-06-29T02:29:25","date_gmt":"2022-06-29T00:29:25","guid":{"rendered":"https:\/\/collectif-accad.fr\/site\/?p=9196"},"modified":"2022-06-27T08:31:22","modified_gmt":"2022-06-27T06:31:22","slug":"intelligence-artificielle-droits-fondamentaux-et-services-publics","status":"publish","type":"post","link":"https:\/\/collectif-accad.fr\/site\/intelligence-artificielle-droits-fondamentaux-et-services-publics\/","title":{"rendered":"Intelligence Artificielle, droits fondamentaux et services publics"},"content":{"rendered":"

\"\"<\/p>\n

Un tr\u00e8s sympathique court-m\u00e9trage \u00e0 propos d\u2019IA<\/span> <\/b><\/span><\/span><\/p>\n

<\/p>\n

https:\/\/www.arte.tv\/fr\/videos\/107842-000-A\/best-game-ever\/<\/span><\/span><\/a><\/p>\n

Vid\u00e9o int\u00e9ressante car elle nous montre une IA de surveillance en fonctionnement … et sa subversion par une d\u00e9marche iconoclaste, artistique.<\/span><\/span><\/p>\n

Dans le m\u00eame ordre d’id\u00e9es, c’\u00e9tait la perf d’un artiste \u00e0 Berlin qui transportait dans un chariot une ribambelle de smartphones destin\u00e9s \u00e0 affoler l’IA de Google map, et \u00e7a marchait !<\/span><\/span><\/p>\n

L’alliance activistes-artistes face aux machines est une des cl\u00e9s de la lutte !<\/span><\/span><\/p>\n

** **<\/span><\/span><\/p>\n

L’abusivement nomm\u00e9e \u00ab\u00a0<\/span><\/span>intelligence artificielle<\/span><\/span><\/em>\u00a0\u00bb nous est impos\u00e9e depuis plusieurs ann\u00e9es (et cela pourrait s’amplifier avec la 5G qui, avec la technologie du <\/span><\/span>Edge computing<\/span><\/span><\/em>, la diss\u00e9minerait dans des micro data centers locaux). Elle sert notamment \u00e0 r\u00e9organiser l’action publique, le plus souvent au d\u00e9triment des pauvres (nous, qui ne sommes rien, dixit Macron, en relevont !).<\/span><\/span><\/p>\n

Ainsi, P\u00f4le emploi, CAF … se dotent d’algorithmes complexes, particuli\u00e8rement discriminants car d\u00e9ploy\u00e9s avec la volont\u00e9 de r\u00e9duire drastiquement nos droits. Nous relayons l’<\/span><\/span>action du Collectif \u00ab\u00a0<\/span><\/span><\/strong>Changer de cap<\/span><\/span><\/em>\u00a0\u00bb <\/span><\/span><\/p><\/blockquote>\n

https:\/\/halteaucontrolenumerique.fr\/?p=1108<\/span><\/span><\/a><\/p><\/blockquote>\n

qui, justement, <\/span><\/span>demande le d\u00e9mant\u00e8lement du syst\u00e8me d’IA qui piste et discimine les allocataires CAF<\/span><\/span><\/strong>. <\/span><\/span><\/p><\/blockquote>\n

A ce jour, l'\u00a0\u00bb<\/span><\/span>intelligence artificielle<\/span><\/span><\/em>\u00a0\u00bb se d\u00e9ploie sans aucun contr\u00f4le car elle n’est encadr\u00e9e par aucune loi. D’o\u00f9 l’importance d’un <\/span><\/span>projet de loi europ\u00e9en<\/span><\/span><\/strong> n\u00e9goci\u00e9 depuis plus d’un an et qui pourrait \u00eatre arr\u00eat\u00e9 d\u00e8s juin. <\/span><\/span>Le gouvernement fran\u00e7ais<\/span><\/span><\/strong>, actuellement pr\u00e9sident du conseil europ\u00e9en (pas le seul Macron, et pas pour des \u00ab\u00a0m\u00e9rites exceptionnels\u00a0\u00bb, c’est une pr\u00e9sidence tournante, en juillet ce seront les Tch\u00e8ques) <\/span><\/span>pousse pour aller le plus vite possible, et insiste particuli\u00e8rement sur des dispositions r\u00e9pressives qui seraient class\u00e9es comme \u00ab\u00a0exception\u00a0\u00bb<\/span><\/span><\/strong>, donc sans aucun contr\u00f4le\u2026<\/span><\/span><\/p><\/blockquote>\n

Un gros travail est men\u00e9 par un ensemble de collectifs europ\u00e9ens (123 signataires, dont pour la France seulement la LDH et GHETT\u2019UP, la Quadrature du net est adh\u00e9rente de l’EDRI, qui coordonne le tout). Ils obtiennent des possibilit\u00e9s de contr\u00f4le, des interdictions … r\u00e9sum\u00e9es dans l’article en lien \u00ab\u00a0<\/span><\/span>Le projet de loi europ\u00e9enne sur l\u2019Intelligence Artificielle menace nos droits fondamentaux\u00a0\u00bb<\/span><\/span><\/em><\/p><\/blockquote>\n

Extraits<\/b><\/span><\/span><\/em><\/p><\/blockquote>\n

L\u2019appel des organisations de d\u00e9fense des droits (coordonn\u00e9es par l\u2019EDRI<\/a>, European Digital Rights, association dont est adh\u00e9rente La Quadrature du Net) pose neuf exigences :<\/span><\/span><\/p>\n

1. <\/span><\/span>D\u00e9velopper une approche coh\u00e9rente, flexible et \u00e0 l\u2019\u00e9preuve du temps du \u00ab\u00a0risque\u00a0\u00bb des syst\u00e8mes d\u2019IA<\/span><\/span><\/strong><\/p>\n

2. <\/span><\/span>Interdiction des syst\u00e8mes d\u2019IA pr\u00e9sentant un risque inacceptable pour les droits fondamentaux<\/span><\/span><\/strong><\/p>\n

3. <\/span><\/span>Renforcer la responsabilit\u00e9 des fournisseurs et des utilisateurs de syst\u00e8mes bas\u00e9s sur l\u2019IA<\/span><\/span><\/strong><\/p>\n

4. <\/span><\/span>Une transparence publique coh\u00e9rente et significative<\/span><\/span><\/strong><\/p>\n

5. <\/span><\/span>Des droits et des recours significatifs pour les personnes touch\u00e9es par les syst\u00e8mes d\u2019IA<\/span><\/span><\/strong><\/p>\n

6. <\/span><\/span>Accessibilit\u00e9 tout au long du cycle de vie de l\u2019IA<\/span><\/span><\/strong><\/p>\n

7. <\/span><\/span>Durabilit\u00e9 et protection de l\u2019environnement lors du d\u00e9veloppement et de l\u2019utilisation des syst\u00e8mes d\u2019IA<\/span><\/span><\/strong><\/p>\n

8. <\/span><\/span>Des normes am\u00e9lior\u00e9es et \u00e0 l\u2019\u00e9preuve du temps pour les syst\u00e8mes d\u2019IA<\/span><\/span><\/strong><\/p>\n

9. <\/span><\/span><\/em>Une IA vraiment compl\u00e8te qui fonctionne pour tout le monde<\/span><\/span><\/strong><\/p>\n

\u00a0https:\/\/halteaucontrolenumerique.fr\/?p=1120<\/a>\u00a0<\/span><\/span><\/p><\/blockquote>\n

** **<\/span><\/span><\/p><\/blockquote>\n

Ce que la num\u00e9risation fait au service public et \u00e0 ses usagers\u00a0\u00bb<\/span><\/span><\/h1>\n

Pour \u00e9couter le d\u00e9bat\u00a0:<\/span><\/span><\/p><\/blockquote>\n

https:\/\/halteaucontrolenumerique.fr\/?p=1152<\/a> <\/span><\/span><\/p><\/blockquote>\n

A la CAF, \u00e0 P\u00f4le emploi et ailleurs, l\u2019Etat s\u2019appuie sur les technologies num\u00e9riques, particuli\u00e8rement l\u2019IA, pour d\u00e9busquer ceux qui abuseraient des prestations sociales. Cette \u00ab\u00a0bonne gestion\u00a0\u00bb affich\u00e9e par les doctrines lib\u00e9rales est l\u2019un des alibis avanc\u00e9s pour privatiser des pans entiers de l\u2019administration, sous couvert de solutionnisme technologique.<\/span><\/span><\/strong><\/p>\n

Depuis une dizaine d\u2019ann\u00e9es, le propos des <\/span><\/span>politiques<\/span><\/span><\/em> est de limiter les d\u00e9penses publiques, notamment avec l\u2019aide de l\u2019intelligence artificielle. Pr\u00e9c\u00e9demment, les politiques sociales se fondaient sur une approche collective, fixant la norme et ce qui s\u2019en \u00e9loigne. D\u00e9sormais, d\u2019apr\u00e8s le sociologue Vincent Dubois, \u00ab\u00a0<\/span><\/span>l\u2019unit\u00e9 de base n\u2019est plus la population mais les comportements individuels qu\u2019on cherche \u00e0 pr\u00e9dire. Le risque n\u2019est plus la maladie, la vieillesse ou la mort,\u00a0mais la morale personnelle\u00a0\u00bb<\/span><\/span><\/em> en scrutant \u00e0 la loupe le mode de vie des allocataires.<\/span><\/span><\/p>\n

Ciblage des pauvres<\/span><\/span><\/h3>\n

Pour d\u00e9busquer les fraudeurs, la Caisse d\u2019allocations familiales (CAF) \u2014 qui verse notamment le RSA \u2014 exp\u00e9rimente des algorithmes depuis 2004, et a g\u00e9n\u00e9ralis\u00e9 le <\/span><\/span>data mining<\/span><\/span><\/em> depuis 2011. C\u2019est-\u00e0-dire l\u2019exploration de donn\u00e9es diverses, de l\u2019\u00e9tat civil aux habitudes de consommation, compil\u00e9es et crois\u00e9es de fa\u00e7on discr\u00e9tionnaire. Ces outils auraient un impact sur la vie de pr\u00e8s de 13 millions de foyers. Trente millions de personnes en tout. Pr\u00e8s d\u2019un Fran\u00e7ais sur deux. Combien en sont correctement inform\u00e9s\u2009?<\/span><\/span><\/p>\n

Ces organismes peuvent s\u2019appuyer sur quantit\u00e9 de bases de donn\u00e9es qui n\u2019ont pas grand-chose \u00e0 envier \u00e0 la police. Ainsi, la CAF consignerait pas moins de mille donn\u00e9es diff\u00e9rentes par allocataire. De quoi cartographier leur quotidien et leur entourage. Dans un tel syst\u00e8me, plus de place pour l\u2019erreur ou l\u2019oubli, seulement pour la surveillance et la punition. De quoi creuser inexorablement les in\u00e9galit\u00e9s.\u00a0\u00ab\u00a0<\/span><\/span>Seuls les pauvres sont plac\u00e9s sous le microscope de la clart\u00e9 scientifique<\/span><\/span><\/em>\u00ab\u00a0,\u00a0\u00e9crit la politologue am\u00e9ricaine Virginia Eubanks dans <\/span><\/span>Automating Inequality<\/span><\/span><\/em>, \u00e9voquant la cr\u00e9ation d\u2019\u00a0\u00bb<\/span><\/span>hospices digitaux<\/span><\/span><\/em>\u00a0\u00bb\u00a0qui mettent les plus d\u00e9munis au ban de la soci\u00e9t\u00e9.<\/span><\/span><\/p>\n

Dans un rapport traitant de la <\/span><\/span>lutte contre la fraude aux prestations sociales<\/span><\/span><\/em>, la d\u00e9put\u00e9e LREM Carole Grandjean et la s\u00e9natrice Nathalie Goulet (Union centriste) plaidaient pour un \u00e9largissement des outils de <\/span><\/span>data mining<\/span><\/span><\/em> \u00e0 P\u00f4le emploi (qui en poss\u00e8de d\u00e9j\u00e0 plusieurs, po\u00e9tiquement baptis\u00e9s <\/span><\/span>Sillage <\/span><\/span><\/em>ou <\/span><\/span>Ocapi<\/span><\/span><\/em>).<\/span><\/span><\/p>\n

Certains sont plus vis\u00e9s que d\u2019autres\u00a0: ainsi, une circulaire de 2012 de la CAF recommandait de cibler les personnes n\u00e9es hors de l\u2019Union europ\u00e9enne lors des contr\u00f4les.\u00a0Pour le d\u00e9fenseur des droits, \u00ab\u00a0<\/span><\/span>Les ciblages discriminatoires,\u00a0quelle que soit la technologie employ\u00e9e, ne font que relayer pr\u00e9jug\u00e9s et st\u00e9r\u00e9otypes, conduisant \u00e0 une surrepr\u00e9sentation de ces populations parmi les fraudeurs.<\/span><\/span><\/em>\u00ab\u00a0<\/span><\/span><\/p>\n

Vincent Dubois le confirme\u00a0: <\/span><\/span>\u00ab\u00a0L\u2019usage des technologies de statistique pr\u00e9dictive conduit \u00e0 intensifier le ciblage intrusif des populations les\u00a0plus pr\u00e9caires. L\u2019informatisation produit non seulement un effet de d\u00e9shumanisation, mais aussi de d\u00e9r\u00e9alisation\u00a0\u00bb <\/span><\/span><\/em>car\u00a0<\/span><\/span>\u00ab\u00a0Les situations personnelles n\u2019existent plus que sous une forme abstraite, sans tenir compte des r\u00e9alit\u00e9s sociales ou humaines.\u00a0\u00bb<\/span><\/span><\/em><\/p>\n

La <\/span><\/span>fraude sociale<\/span><\/span><\/em> par les allocataires est pourtant estim\u00e9e \u00e0 deux milliards d\u2019euros, donc bien inf\u00e9rieure \u00e0 l\u2019\u00e9vasion fiscale, \u00e9valu\u00e9e entre 80 et 100 milliards d\u2019euros par an, mais aussi au non versement de cotisations par les employeurs\u2026 Mais ces derniers ne sont pas suspect\u00e9s d\u2019abuser de la g\u00e9n\u00e9rosit\u00e9 publique.<\/span><\/span><\/p>\n

Combats europ\u00e9ens contre l\u2019algorithmisation de l\u2019administration<\/span><\/span><\/h3>\n

Deux combats europ\u00e9ens (gagn\u00e9s !) contre l\u2019usage abusif des outils num\u00e9riques en mati\u00e8re de contr\u00f4le social sont \u00e0 relever\u00a0:<\/span><\/span><\/p>\n

\u2013 aux Pays-Bas, une coalition d\u2019ONG (<\/span><\/span>Platform Bescherming Burgerrechten<\/span><\/span><\/em>) a r\u00e9ussi \u00e0 obtenir en f\u00e9vrier 2020 le d\u00e9mant\u00e8lement d\u2019un dispositif algorithme de profilage des individus nomm\u00e9 <\/span><\/span>SyRI<\/span><\/span><\/em> (<\/span><\/span>System risk indication<\/span><\/span><\/em>). Il permettait aux organismes sociaux de combiner des donn\u00e9es \u00e0 caract\u00e8re priv\u00e9 sur l\u2019emploi, les dettes, l\u2019\u00e9ducation, le logement. Pour le tribunal, <\/span><\/span>SyRI<\/span><\/span><\/em> viole la <\/span><\/span>Convention europ\u00e9enne des droits de l\u2019homme<\/span><\/span><\/em>, notamment en discriminant et stigmatisant les citoyens des zones urbaines d\u00e9favoris\u00e9es, selon leur situation socio-\u00e9conomique et leur origine migratoire.<\/span><\/span><\/p>\n

\u2013 en Pologne, au terme d\u2019une bataille juridique conclue en 2014, la fondation <\/span><\/span>Panoptykon<\/span><\/span><\/em>, a contraint les autorit\u00e9s \u00e0 r\u00e9v\u00e9ler les m\u00e9canismes de l\u2019algorithme utilis\u00e9 pour profiler les demandeurs d\u2019emploi. Le tribunal a conclu au caract\u00e8re anticonstitutionnel de ce contr\u00f4le des populations pouvant conduire \u00e0 des discriminations sur des individus vuln\u00e9rables comme les handicap\u00e9s, les femmes seules\u2026<\/span><\/span><\/p>\n

En France, le collectif <\/span><\/span>Changer de cap<\/span><\/span><\/em> m\u00e8ne une campagne d\u2019ampleur contre le d\u00e9ploiement d\u2019un syst\u00e8me algorithmique \u00e0 la CAF au d\u00e9triment des allocataires pauvres. Le site <\/span><\/span>Basta\u00a0!<\/span><\/span><\/em> relaie tr\u00e8s largement leur action (et d\u2019autres) dans une s\u00e9ries d\u2019articles.<\/span><\/span><\/p>\n

Num\u00e9risation pour privatiser<\/span><\/span><\/h3>\n

Les auteurs du livre\u00a0<\/span><\/span>La privatisation num\u00e9rique. D\u00e9stabilisation et r\u00e9invention du service public <\/span><\/span><\/em>analysent l\u2019usage du num\u00e9rique pour privatiser progressivement les services publics (en rapport avec les th\u00e9ories du <\/span><\/span>New Public Management<\/span><\/span><\/em>, promues par les cabinets de conseil, <\/span><\/span>Mc Kinsey<\/span><\/span><\/em> par exemple). Cela conduit \u00e0 la substitution d\u2019algorithmes aux agents publics, \u00e0 la g\u00e9n\u00e9ralisation des m\u00e9canismes de notation et au d\u00e9veloppement de l\u2019ub\u00e9risation des t\u00e2ches.<\/span><\/span><\/p>\n

Ses effets sociaux sont consid\u00e9rables : ces m\u00e9thodes d\u00e9stabilisent les administrations, renforcent les in\u00e9galit\u00e9s sociales d\u2019acc\u00e8s aux services publics et acc\u00e9l\u00e8rent la perte de souverainet\u00e9 publique. Les auteurs proposent une r\u00e9appropriation des communs num\u00e9riques, notamment sous la forme d\u2019un militantisme de fonctionnaires qui ainsi d\u00e9fendraient la souverainet\u00e9 num\u00e9rique nationale.<\/span><\/span><\/p>\n

\n","protected":false},"excerpt":{"rendered":"

Un tr\u00e8s sympathique court-m\u00e9trage \u00e0 propos d\u2019IA<\/p>\n","protected":false},"author":4,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-9196","post","type-post","status-publish","format-standard","hentry","category-non-classe"],"_links":{"self":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/9196","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/comments?post=9196"}],"version-history":[{"count":1,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/9196\/revisions"}],"predecessor-version":[{"id":9197,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/9196\/revisions\/9197"}],"wp:attachment":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/media?parent=9196"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/categories?post=9196"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/tags?post=9196"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}