![\"\"](\"https:\/\/collectif-accad.fr\/site\/wp-content\/uploads\/2025\/03\/IA-250214-3.jpg\")
<\/p>\n<\/p>\n
Un document d\u2019Amnesty International<\/span><\/strong><\/p>\n <\/p>\n Face aux menaces pos\u00e9es par l\u2019intelligence artificielle (IA) sur nos droits fondamentaux, l\u2019urgence de r\u00e9glementations efficaces <\/u><\/span><\/span><\/p>\n Le retour de Donald Trump \u00e0 la pr\u00e9sidence des \u00c9tats-Unis s\u2019est accompagn\u00e9 d\u2019annonces fracassantes des dirigeants de g\u00e9ants am\u00e9ricains de la Tech (X, Meta, Amazon, Apple\u2026) qui l\u2019ont ralli\u00e9, affichant leur volont\u00e9 de d\u00e9r\u00e8glementer les usages des nouvelles technologies, pour favoriser l\u2019innovation et le progr\u00e8s. En ligne de mire notamment, les r\u00e8gles europ\u00e9ennes qui tentent d\u2019encadrer les pratiques, notamment pour contenir les op\u00e9rations de d\u00e9sinformation ou de haine en ligne, ou de faire respecter nos libert\u00e9s individuelles. <\/span><\/span><\/p>\n Cette offensive port\u00e9e par la nouvelle administration am\u00e9ricaine et par les g\u00e9ants de la Silicon Valley intervient alors que le d\u00e9ploiement \u00e0 grande vitesse de l\u2019IA fait peser des menaces exponentielles sur nos droits fondamentaux, notamment en restreignant nos libert\u00e9s ou en renfor\u00e7ant des discriminations existantes. Ces questions, pourtant essentielles, seront largement ignor\u00e9es lors du Sommet mondial pour l\u2019action sur l\u2019IA que la France s\u2019appr\u00eate \u00e0 accueillir les 10 et 11 f\u00e9vrier 2025. Une belle vitrine sur l\u2019avenir qui n\u2019exposera pas les pr\u00e9judices li\u00e9s \u00e0 l\u2019IA d\u00e9j\u00e0 constat\u00e9s et document\u00e9s. <\/span><\/span><\/p>\n Si l\u2019impact de l\u2019IA sur l\u2019environnement ou les enjeux relatifs \u00e0 l\u2019IA g\u00e9n\u00e9rative soul\u00e8vent aujourd\u2019hui de fortes inqui\u00e9tudes, Amnesty International France expose dans ce dossier de presse quatre risques majeurs en mati\u00e8re de droits humains : la surveillance g\u00e9n\u00e9ralis\u00e9e et discriminatoire ; l\u2019automatisation des services publics ; la propagation algorithmique de contenus toxiques, haineux ou erron\u00e9s ; l\u2019autonomisation des armes (<\/span><\/span>partie I<\/i><\/span><\/span>). <\/span><\/span><\/p>\n Face \u00e0 ces risques av\u00e9r\u00e9s et aux pressions exerc\u00e9es par les g\u00e9ants am\u00e9ricains de la Tech pour d\u00e9velopper leurs activit\u00e9s en dehors de tout contr\u00f4le, Amnesty International France souligne l\u2019urgence de mettre en place des r\u00e8gles fortes au niveau international pour que l\u2019IA soit facteur de progr\u00e8s pour toutes et tous, et non d\u2019une r\u00e9gression sans pr\u00e9c\u00e9dent des droits et libert\u00e9s (<\/span><\/span>partie II<\/i><\/span><\/span>). <\/span><\/span><\/p>\n I. LES ATTEINTES AUX DROITS HUMAINS LI\u00c9ES \u00c0 L\u2019IA <\/span><\/span><\/p>\n 1. Surveillance g\u00e9n\u00e9ralis\u00e9e et discriminatoire <\/u><\/span><\/span><\/p>\n Partout dans le monde, les \u00c9tats utilisent des techno\u00adlogies de surveillance, pr\u00e9sent\u00e9es comme efficaces et n\u00e9cessaires pour garantir la s\u00e9curit\u00e9. La surveillance assist\u00e9e par IA permet de contr\u00f4ler, suivre, analyser et identifier des personnes, des lieux et des objets. <\/span><\/span><\/p>\n Les \u00c9tats ont notamment de plus en plus recours aux technologies assist\u00e9 par IA comme aide au maintien de l\u2019ordre lors de manifestations et d\u2019\u00e9v\u00e9nements sportifs ou contre des populations marginalis\u00e9es, en particulier des personnes migrantes ou r\u00e9fugi\u00e9es. Ces outils ont la capacit\u00e9 d\u2019identifier, de suivre, de distinguer et de rep\u00e9rer des personnes, compromet\u00adtant ainsi leurs droits \u00e0 la vie priv\u00e9e, aux libert\u00e9s d\u2019ex\u00adpression et de r\u00e9union pacifique, \u00e0 l\u2019\u00e9galit\u00e9 et \u00e0 la non-discrimination. <\/span><\/span><\/p>\n Les recherches men\u00e9es par Amnesty International aux \u00c9tats-Unis, en Inde ou dans les Territoires pales\u00adtiniens occup\u00e9s ont montr\u00e9 comment les syst\u00e8mes de surveillance num\u00e9ris\u00e9e et de reconnaissance faciale reproduisent des formes dangereuses de discrimina\u00adtion \u00e0 l’encontre des minorit\u00e9s raciales et ethniques, de mani\u00e8re \u00e0 criminaliser leur existence m\u00eame. <\/span><\/span><\/p>\n Les gouvernements utilisent \u00e9galement des logiciels espions, officiellement pour cibler \u00ab les criminels et les terroristes \u00bb. En r\u00e9alit\u00e9, les personnes les plus souvent vis\u00e9es par des logiciels comme Pegasus ou Predator sont des activistes des droits humains, des journalistes et des opposant\u00b7e\u00b7s politiques. Les enqu\u00eates d\u2019Amnesty International men\u00e9es en Arm\u00e9\u00adnie, en Inde, en R\u00e9publique dominicaine et en Ser\u00adbie montrent comment ces logiciels espions haute\u00adment intrusifs portent atteinte \u00e0 de nombreux droits humains, notamment au droit \u00e0 la vie priv\u00e9e et aux droits \u00e0 la libert\u00e9 d\u2019expression, d\u2019opinion, de r\u00e9union et d\u2019association. <\/span><\/span><\/p>\n Par ailleurs, les cons\u00e9quences n\u00e9gatives des logiciels espions ne touchent pas tout le monde de la m\u00eame mani\u00e8re. L\u2019instrumentalisation des donn\u00e9es peut en\u00adtra\u00eener d\u2019autres atteintes aux droits humains, en ligne et hors ligne, notamment pour des personnes subis\u00adsant d\u00e9j\u00e0 de la discrimination en raison de leur iden\u00adtit\u00e9. Ces atteintes peuvent prendre diverses formes, comme le chantage, le doxxing, le stalking en ligne, le harc\u00e8lement et l\u2019intimidation.<\/span><\/span><\/p>\n 2. Automatisation des services publics <\/u><\/span><\/span><\/p>\n Partout dans le monde, les \u00c9tats utilisent des techno\u00adlogies de surveillance, pr\u00e9sent\u00e9es comme efficaces et n\u00e9cessaires pour garantir la s\u00e9curit\u00e9. La surveillance assist\u00e9e par IA permet de contr\u00f4ler, suivre, analyser et identifier des personnes, des lieux et des objets. <\/span><\/span><\/p>\n Les \u00c9tats ont notamment de plus en plus recours aux technologies assist\u00e9 par IA comme aide au maintien de l\u2019ordre lors de manifestations et d\u2019\u00e9v\u00e9nements sportifs ou contre des populations marginalis\u00e9es, en particulier des personnes migrantes ou r\u00e9fugi\u00e9es. Ces outils ont la capacit\u00e9 d\u2019identifier, de suivre, de distinguer et de rep\u00e9rer des personnes, compromet\u00adtant ainsi leurs droits \u00e0 la vie priv\u00e9e, aux libert\u00e9s d\u2019ex\u00adpression et de r\u00e9union pacifique, \u00e0 l\u2019\u00e9galit\u00e9 et \u00e0 la non-discrimination. <\/span><\/span><\/p>\n Les recherches men\u00e9es par Amnesty International aux \u00c9tats-Unis, en Inde ou dans les Territoires pales\u00adtiniens occup\u00e9s ont montr\u00e9 comment les syst\u00e8mes de surveillance num\u00e9ris\u00e9e et de reconnaissance faciale reproduisent des formes dangereuses de discrimina\u00adtion \u00e0 l’encontre des minorit\u00e9s raciales et ethniques, de mani\u00e8re \u00e0 criminaliser leur existence m\u00eame. <\/span><\/span><\/p>\n Les gouvernements utilisent \u00e9galement des logiciels espions, officiellement pour cibler \u00ab les criminels et les terroristes \u00bb. En r\u00e9alit\u00e9, les personnes les plus souvent vis\u00e9es par des logiciels comme Pegasus ou Predator sont des activistes des droits humains, des journalistes et des opposant\u00b7e\u00b7s politiques. Les enqu\u00eates d\u2019Amnesty International men\u00e9es en Arm\u00e9\u00adnie, en Inde, en R\u00e9publique dominicaine et en Ser\u00adbie montrent comment ces logiciels espions haute\u00adment intrusifs portent atteinte \u00e0 de nombreux droits humains, notamment au droit \u00e0 la vie priv\u00e9e et aux droits \u00e0 la libert\u00e9 d\u2019expression, d\u2019opinion, de r\u00e9union et d\u2019association. <\/span><\/span><\/p>\n Par ailleurs, les cons\u00e9quences n\u00e9gatives des logiciels espions ne touchent pas tout le monde de la m\u00eame mani\u00e8re. L\u2019instrumentalisation des donn\u00e9es peut en\u00adtra\u00eener d\u2019autres atteintes aux droits humains, en ligne et hors ligne, notamment pour des personnes subis\u00adsant d\u00e9j\u00e0 de la discrimination en raison de leur iden\u00adtit\u00e9. Ces atteintes peuvent prendre diverses formes, comme le chantage, le doxxing, le stalking en ligne, le harc\u00e8lement et l\u2019intimidation. <\/span><\/span><\/p>\n L\u2019utilisation croissante par les \u00c9tats de technologies dans les services publics, et notamment dans le secteur de la protection sociale, s\u2019est accompagn\u00e9e d\u2019une augmentation des risques en mati\u00e8re de droits humains. <\/span><\/span><\/p>\n Si l\u2019objectif affich\u00e9 de ces initiatives est g\u00e9n\u00e9ralement d\u2019aider les gouvernements \u00e0 mieux cibler les per\u00adsonnes ayant besoin d\u2019aide sociale, d\u2019am\u00e9liorer les syst\u00e8mes administratifs, de d\u00e9tecter les fraudes et de renforcer la s\u00e9curit\u00e9, de nombreux travaux montrent que la d\u00e9mat\u00e9rialisation de la protection sociale fait peser de multiples risques sur les droits humains et peut exacerber les in\u00e9galit\u00e9s. <\/span><\/span><\/p>\n Les recherches men\u00e9es par Amnesty International au Danemark ont par exemple montr\u00e9 comment le syst\u00e8me de protection sociale assist\u00e9 par IA alimente la surveillance de masse et risque d\u2019entra\u00eener une discrimination des groupes marginalis\u00e9s. En Serbie, l\u2019adoption d\u2019un syst\u00e8me de d\u00e9cision semi-automatis\u00e9 a emp\u00each\u00e9 de nombreuses personnes, en particulier des Roms et des personnes en situation de handi\u00adcap, d\u2019acc\u00e9der \u00e0 l\u2019aide sociale. Aux Pays-Bas, l\u2019utili\u00adsation d\u2019un syst\u00e8me de d\u00e9cision algorithmique pour la d\u00e9tection des fraudes discriminait des personnes sur la base de leur nationalit\u00e9. Tandis qu\u2019en France la Caisse nationale des allocations familiales continue d\u2019utiliser un algorithme discriminatoire ciblant les personnes les plus pr\u00e9caires. <\/span><\/span><\/p>\n Bien que les technologies utilis\u00e9es dans le secteur public soient g\u00e9n\u00e9ralement pr\u00e9sent\u00e9es comme \u00e9tant objectives et impartiales, il est pratiquement impos\u00adsible de mettre au point des technologies neutres, car les soci\u00e9t\u00e9s qui les adoptent sont elles-m\u00eames por\u00adteuses de discrimination sociale, politique et structu\u00adrelle. Ainsi, les technologies refl\u00e8tent in\u00e9vitablement les pr\u00e9jug\u00e9s et la vision du monde des personnes qui les con\u00e7oivent. L\u2019int\u00e9gration de technologies dans les syst\u00e8mes de protection sociale peut avoir des cons\u00e9\u00adquences impr\u00e9visibles et ind\u00e9sirables sur les indivi\u00addus. Ces cons\u00e9quences peuvent varier grandement selon que les personnes touch\u00e9es sont d\u00e9j\u00e0 sujettes \u00e0 des formes de discrimination et de marginalisation syst\u00e9miques et intersectionnelles.<\/span><\/span><\/p>\n 3. Propagation algorithmique de contenus toxique, haineux et erron\u00e9s<\/u><\/span><\/span><\/p>\n Les g\u00e9ants du num\u00e9rique exercent un immense pouvoir sur nos vies. Notre d\u00e9pendance de plus en plus forte \u00e0 leur \u00e9gard a permis \u00e0 une poign\u00e9e d\u2019en\u00adtreprises de bafouer notre droit au respect de la vie priv\u00e9e et de suivre tous nos faits et gestes, modifiant ainsi nos interactions et cr\u00e9ant des pr\u00e9dictions sur nos comportements pour leur profit. <\/span><\/span><\/p>\n Leur mod\u00e8le d\u2019activit\u00e9 fond\u00e9 sur la surveillance re\u00adpr\u00e9sente une menace syst\u00e9mique pour les droits humains, notamment pour les droits des enfants. Les recherches d\u2019Amnesty International mettent en lumi\u00e8re les atteintes dont sont victimes les enfants et les jeunes qui utilisent TikTok. En cause : le syst\u00e8me de recommandation de la plateforme qui amplifie les contenus sur la d\u00e9pression et le suicide qui risquent d\u2019aggraver des probl\u00e8mes de sant\u00e9 mentale existants. <\/span><\/span><\/p>\n Par ailleurs, les algorithmes des r\u00e9seaux sociaux con\u00e7us pour maximiser \u00e0 tout prix la participation des internautes permettent et amplifient la diffusion de discours haineux, l\u2019incitation \u00e0 la violence, le har\u00adc\u00e8lement en ligne et la censure de certains groupes menac\u00e9s. Amnesty International a document\u00e9 ce ph\u00e9nom\u00e8ne dans le contexte du conflit \u00e0 Gaza, des violences ethniques contre la communaut\u00e9 tigr\u00e9enne en \u00c9thiopie ou contre les Rohingya au Myanmar. <\/span><\/span><\/p>\n La diffusion d\u2019informations fausses et trompeuses facilit\u00e9e par les g\u00e9ants du num\u00e9rique a des cons\u00e9\u00adquences d\u00e9sastreuses sur les soci\u00e9t\u00e9s du monde en\u00adtier. La m\u00e9sinformation et la d\u00e9sinformation politiques vont probablement prendre de l\u2019ampleur, constituant un risque particuli\u00e8rement grave en p\u00e9riode d\u2019\u00e9lec\u00adtion. Dans de nombreux endroits du monde, des forces politiques r\u00e9pressives ont instrumentalis\u00e9 les r\u00e9seaux sociaux pour s\u2019en prendre \u00e0 des minorit\u00e9s et dresser des communaut\u00e9s les unes contre les autres en vue d\u2019augmenter leurs chances de succ\u00e8s aux \u00e9lections. <\/span><\/span><\/p>\n La technologie doit faciliter l\u2019acc\u00e8s \u00e0 l\u2019information et non la censurer, contrairement \u00e0 ce que l\u2019on peut constater, notamment aux \u00c9tats-Unis o\u00f9 des entre\u00adprises technologiques sont accus\u00e9es de permettre la censure en ligne de contenus li\u00e9s aux droits repro\u00adductifs<\/span><\/span>4.L\u2019autonomisation des armes <\/u><\/span><\/span><\/p>\n Les g\u00e9ants du num\u00e9rique exercent un immense pouvoir sur nos vies. Notre d\u00e9pendance de plus en plus forte \u00e0 leur \u00e9gard a permis \u00e0 une poign\u00e9e d\u2019en\u00adtreprises de bafouer notre droit au respect de la vie priv\u00e9e et de suivre tous nos faits et gestes, modifiant ainsi nos interactions et cr\u00e9ant des pr\u00e9dictions sur nos comportements pour leur profit. <\/span><\/span><\/p>\n Leur mod\u00e8le d\u2019activit\u00e9 fond\u00e9 sur la surveillance re\u00adpr\u00e9sente une menace syst\u00e9mique pour les droits humains, notamment pour les droits des enfants. Les recherches d\u2019Amnesty International mettent en lumi\u00e8re les atteintes dont sont victimes les enfants et les jeunes qui utilisent TikTok. En cause : le syst\u00e8me de recommandation de la plateforme qui amplifie les contenus sur la d\u00e9pression et le suicide qui risquent d\u2019aggraver des probl\u00e8mes de sant\u00e9 mentale existants. <\/span><\/span><\/p>\n Par ailleurs, les algorithmes des r\u00e9seaux sociaux con\u00e7us pour maximiser \u00e0 tout prix la participation des internautes permettent et amplifient la diffusion de discours haineux, l\u2019incitation \u00e0 la violence, le har\u00adc\u00e8lement en ligne et la censure de certains groupes menac\u00e9s. Amnesty International a document\u00e9 ce ph\u00e9nom\u00e8ne dans le contexte du conflit \u00e0 Gaza, des violences ethniques contre la communaut\u00e9 tigr\u00e9enne en \u00c9thiopie ou contre les Rohingya au Myanmar. <\/span><\/span><\/p>\n La diffusion d\u2019informations fausses et trompeuses facilit\u00e9e par les g\u00e9ants du num\u00e9rique a des cons\u00e9\u00adquences d\u00e9sastreuses sur les soci\u00e9t\u00e9s du monde en\u00adtier. La m\u00e9sinformation et la d\u00e9sinformation politiques vont probablement prendre de l\u2019ampleur, constituant un risque particuli\u00e8rement grave en p\u00e9riode d\u2019\u00e9lec\u00adtion. Dans de nombreux endroits du monde, des forces politiques r\u00e9pressives ont instrumentalis\u00e9 les r\u00e9seaux sociaux pour s\u2019en prendre \u00e0 des minorit\u00e9s et dresser des communaut\u00e9s les unes contre les autres en vue d\u2019augmenter leurs chances de succ\u00e8s aux \u00e9lections. <\/span><\/span><\/p>\n La technologie doit faciliter l\u2019acc\u00e8s \u00e0 l\u2019information et non la censurer, contrairement \u00e0 ce que l\u2019on peut constater, notamment aux \u00c9tats-Unis o\u00f9 des entre\u00adprises technologiques sont accus\u00e9es de permettre la censure en ligne de contenus li\u00e9s aux droits repro\u00adductifs. <\/span><\/span><\/p>\n 4. Autonomisation des armes<\/u><\/span><\/span><\/p>\n Les nouvelles technologies bas\u00e9es sur des degr\u00e9s d’autonomie variables se r\u00e9pandent dans les fonc\u00adtions militaires, de s\u00e9curit\u00e9 et de maintien de l’ordre. Certains syst\u00e8mes d\u2019armes autonomes sont au\u00adjourd\u2019hui capables de s\u00e9lectionner et d’attaquer des cibles sans intervention humaine. <\/span><\/span><\/p>\n Le d\u00e9veloppement et l\u2019utilisation de syst\u00e8mes ca\u00adpables de prendre des d\u00e9cisions de vie ou de mort soul\u00e8vent des questions fondamentales concernant les droits \u00e0 la vie et \u00e0 la dignit\u00e9 humaine ainsi que la responsabilit\u00e9 des d\u00e9cisions prises par les forces de s\u00e9curit\u00e9 ou les forces arm\u00e9es au regard du droit international humanitaire. <\/span><\/span><\/p>\n Si les syst\u00e8mes d’armes autonomes commencent \u00e0 \u00eatre d\u00e9ploy\u00e9s par les arm\u00e9es dans des situations de conflit comme en Ukraine, l’adoption de ces techno\u00adlogies par les forces de l’ordre n’est peut-\u00eatre plus tr\u00e8s loin. Elle menacerait alors le droit \u00e0 la vie, \u00e0 la libert\u00e9 et \u00e0 la s\u00e9curit\u00e9 de la personne, le droit de ne pas \u00eatre soumis \u00e0 la torture et \u00e0 d’autres peines ou traitements cruels, inhumains ou d\u00e9gradants, ain\u00adsi que le droit \u00e0 la libert\u00e9 de r\u00e9union pacifique. Elle saperait les principes d’une application de la loi res\u00adpectueuse des droits humains, qui reposent sur des relations humaines entre les agents charg\u00e9s de son application et le public qu’ils servent.<\/span><\/span><\/p>\n II. L\u2019URGENCE DE R\u00c9GLEMENTER L\u2019IA POUR PROT\u00c9GER NOS DROITS FONDAMENTAUX <\/span><\/span><\/p>\n Alors que certains usages de l\u2019IA montrent d\u00e9j\u00e0 l’impact d\u00e9l\u00e9t\u00e8re qu\u2019elle peut avoir sur nos libert\u00e9s et droits fondamentaux, l\u2019emballement des innovations et applications, associ\u00e9 aux attaques contre toute r\u00e9glementation du secteur par des g\u00e9ants de la Tech, montre l\u2019urgence de r\u00e9guler le secteur. <\/span><\/span><\/p>\n 1. Des principes essentiels \u00e0 respecter <\/u><\/span><\/span><\/p>\n Une approche critique du \u00ab technosolutionnisme \u00bb <\/b><\/u><\/span><\/span><\/p>\n Dans les d\u00e9lib\u00e9rations visant \u00e0 relever les d\u00e9fis com\u00adplexes pos\u00e9s par l\u2019IA, les \u00c9tats, ainsi que d\u2019autres acteurs publics et priv\u00e9s, doivent \u00e9valuer de ma\u00adni\u00e8re critique si le recours \u00e0 l\u2019automatisation et \u00e0 l\u2019IA constitue la solution la plus adapt\u00e9e pour atteindre les objectifs vis\u00e9s en mati\u00e8re de politique publique ou d\u2019autres objectifs affich\u00e9s. Les \u201csolutions tech\u00adniques\u201d, simples d\u2019apparence, emp\u00eachent souvent de s\u2019attaquer aux causes profondes de probl\u00e8mes politiques ou sociaux complexes. Dans le cadre de l\u2019\u00e9valuation de la pertinence du recours \u00e0 une tech\u00adnologie donn\u00e9e, il convient : <\/span><\/span><\/p>\n \u2022 d\u2019estimer les ressources financi\u00e8res n\u00e9cessaires \u00e0 son d\u00e9veloppement et \u00e0 son d\u00e9ploiement, ainsi que son impact sur l\u2019environnement ; <\/span><\/span><\/p>\n \u2022 de veiller \u00e0 ce que le d\u00e9ploiement de l’IA n’exacerbe pas les violations des droits humains ou ne pr\u00e9sente pas de risque \u00e0 cet \u00e9gard. Des lignes rouges doivent \u00eatre trac\u00e9es concernant les technologies incompa\u00adtibles avec les droits humains (voir plus bas les me\u00adsures pr\u00e9conis\u00e9es) ; <\/span><\/span><\/p>\n \u2022 d\u2019identifier les probl\u00e8mes syst\u00e9miques sous-jacents qui requi\u00e8rent une attention particuli\u00e8re et recon\u00adna\u00eetre les limites des solutions technologiques propo\u00ads\u00e9es afin d’explorer des solutions et des approches alternatives. Par exemple, si le recours croissant aux cam\u00e9ras de vid\u00e9osurveillance repr\u00e9sente un danger pour nos libert\u00e9s, il ne saurait r\u00e9soudre les probl\u00e8mes de d\u00e9linquance dans l\u2019espace public.<\/span><\/span><\/p>\n Une r\u00e9glementation de l’IA contraignante et fond\u00e9e sur les droits humains <\/b><\/u><\/span><\/span><\/p>\n Les \u00c9tats doivent \u00e9riger en priorit\u00e9 la mise en place d\u2019une r\u00e9glementation de l\u2019IA contraignante et appli\u00adcable \u00e0 tous les niveaux de gouvernance. Cela signi\u00adfie : <\/span><\/span><\/p>\n \u2022 donner la priorit\u00e9 \u00e0 l’adoption et \u00e0 la mise en \u0153uvre de mesures r\u00e9glementaires contraignantes et appli\u00adcables, d\u00e9finies au nom de l\u2019int\u00e9r\u00eat commun, face aux mesures d\u2019autor\u00e9glementation du secteur. Pre\u00adnant la forme de lignes directrices, de principes \u00e9thiques, de codes de conduite ou d\u2019engagements non contraignants, ces mesures d\u2019autor\u00e9glementa\u00adtion restent guid\u00e9es par le bon vouloir et les seuls int\u00e9r\u00eats des principaux acteurs du secteur ; <\/span><\/span><\/p>\n \u2022 de conditionner tout effort de r\u00e9glementation \u00e0 des priorit\u00e9s en mati\u00e8re de droits humains, et non par des objectifs d\u2019harmonisation du march\u00e9 ou de com\u00adp\u00e9titivit\u00e9 mondiale, afin de garantir une innovation respectueuse des droits ; <\/span><\/span><\/p>\n \u2022 prendre en compte les pr\u00e9judices crois\u00e9s (par exemple \u00e0 la fois li\u00e9s au sexe, \u00e0 l’origine ethnique, au statut migratoire et \u00e0 l’appartenance religieuse) susceptibles d\u2019\u00eatre caus\u00e9s par les technologies d\u2019IA ; <\/span><\/span><\/p>\n \u2022 tenir compte non seulement de l\u2019incidence des technologies d\u2019IA au sein de leur territoire, mais aus\u00adsi de l\u2019impact extraterritorial de celles-ci lors de leur d\u00e9veloppement (par exemple, en se penchant sur les pratiques d\u2019extraction des donn\u00e9es et du travail) et d\u00e9ploiement (par exemple, en emp\u00eachant l\u2019expor\u00adtation de technologies d\u2019IA non respectueuses des droits depuis leur territoire).<\/span><\/span><\/p>\n Une participation concr\u00e8te des populations concern\u00e9es <\/b><\/u><\/span><\/span><\/p>\n Les \u00c9tats doivent garantir une participation concr\u00e8te des populations concern\u00e9es afin d\u2019\u00e9laborer une r\u00e9\u00adglementation de l’IA qui prot\u00e8ge et promeuve les droits humains. Cela signifie : <\/span><\/span><\/p>\n \u2022 placer les besoins et priorit\u00e9s des populations concern\u00e9es au c\u0153ur des discussions autour des politiques. Il convient par ailleurs d\u2019engager des ressources pour permettre la participation \u00e9galitaire d\u2019activistes et organisations repr\u00e9sentatifs, de garan\u00adtir des conditions \u00e9gales pour l\u2019ensemble des parties prenantes et d\u00e9tentrices et d\u00e9tenteurs de droits, et enfin de prendre davantage en compte l\u2019expertise empirique ; <\/span><\/span><\/p>\n \u2022 veiller \u00e0 ce que des activistes et organisations re\u00adpr\u00e9sentatifs aient tout autant voix au chapitre quant \u00e0 la d\u00e9finition de r\u00e8gles sur l\u2019IA, et engager des res\u00adsources publiques pour permettre aux organisations locales de participer \u00e0 des processus d\u2019\u00e9laboration de politiques souvent longs et co\u00fbteux ; <\/span><\/span><\/p>\n \u2022 mettre en place des processus d\u2019\u00e9laboration de politiques clairs, faciles d\u2019acc\u00e8s, transparents et ex\u00adplicables qui permettent \u00e0 une grande diversit\u00e9 de d\u00e9tentrices et d\u00e9tenteurs de droits d\u2019y participer de fa\u00e7on concr\u00e8te et \u00e9galitaire ; <\/span><\/span><\/p>\n \u2022 garantir des conditions \u00e9gales permettant la partici\u00adpation d\u2019organisations locales et d\u2019autres actrices et acteurs de la soci\u00e9t\u00e9 civile en limitant le pouvoir de pression du secteur priv\u00e9 et des acteurs \u00e9tatiques ; <\/span><\/span><\/p>\n \u2022 mettre en avant et placer au centre des politiques et discours r\u00e9gionaux et mondiaux sur l\u2019IA les voix et priorit\u00e9s des populations concern\u00e9es et des actrices et acteurs de la soci\u00e9t\u00e9 civile appartenant \u00e0 la majo\u00adrit\u00e9 mondiale. Une approche universelle de la r\u00e9gle\u00admentation de l\u2019IA est \u00e0 proscrire.<\/span><\/span><\/p>\n En effet, si l\u2019on consid\u00e8re que ce sont les efforts r\u00e9glementaires \u00e0 l\u2019initiative du Nord, tels que la loi sur l\u2019IA de l\u2019UE, qui \u00e9tablissent aujourd\u2019hui dans le monde les normes en mati\u00e8re de r\u00e9glementation du num\u00e9rique, il convient d\u2019accorder tout autant d\u2019atten\u00adtion aux initiatives l\u00e9gislatives non moins importantes lanc\u00e9es au Br\u00e9sil, en Inde et d\u2019autres pays du Sud, tant sur le territoire de ces pays qu\u2019au-del\u00e0 de leurs fronti\u00e8res. <\/span><\/span><\/p>\n Une strat\u00e9gie \u00ab universelle \u00bb de r\u00e9glementation de l\u2019IA \u00e9manant du Nord (et pilot\u00e9e par celui-ci) et sou\u00admise aux fortes pressions de ses g\u00e9ants technolo\u00adgiques risque de conduire \u00e0 l\u2019adoption d\u2019une l\u00e9gisla\u00adtion biais\u00e9e, perp\u00e9tuant les rapports de domination, et inadapt\u00e9e aux enjeux et besoins des personnes concern\u00e9es dans les autres pays du monde.<\/span><\/span><\/p>\n 2. Des mesures essentielles \u00e0 adopter<\/u><\/span><\/span><\/p>\n Amnesty International exhorte les responsables poli\u00adtiques \u00e0 appliquer \u00e0 tout le moins les recommanda\u00adtions suivantes dans le contexte de l\u2019\u00e9laboration de cadres de gouvernance locaux, nationaux ou r\u00e9gio\u00adnaux r\u00e9gissant le d\u00e9veloppement et le d\u00e9ploiement de l\u2019IA. <\/span><\/span><\/p>\n \u2022 Proscrire formellement le d\u00e9veloppement et le d\u00e9\u00adploiement de technologies d\u2019IA incompatibles avec les droits humains. Cela inclut : la reconnaissance faciale \u00e0 des fins d\u2019identification, la reconnaissance des \u00e9motions et d’autres pratiques de surveillance bas\u00e9es sur la biom\u00e9trie ; les syst\u00e8mes automati\u00ads\u00e9s d\u2019\u00e9valuation des risques et de profilage dans le contexte de la gestion de la migration ; les syst\u00e8mes d\u2019analyse pr\u00e9dictive servant \u00e0 emp\u00eacher, freiner et pr\u00e9venir la migration ; l\u2019utilisation de l\u2019IA \u00e0 des fins de maintien de l\u2019ordre pr\u00e9dictif ; l\u2019utilisation de syst\u00e8mes d\u2019IA \u00e0 des fins de notation sociale. <\/span><\/span><\/p>\n \u2022 S\u2019opposer aux failles et aux d\u00e9rogations susceptibles d\u2019entra\u00eener des violations de droits humains, notam\u00adment en refusant les d\u00e9rogations sans r\u00e9serve ou disproportionn\u00e9es fond\u00e9es sur des motifs militaires, de maintien de l\u2019ordre ou de s\u00e9curit\u00e9 nationale ; en refusant toute d\u00e9rogation g\u00e9n\u00e9rale qui emp\u00eacherait la r\u00e9glementation de l\u2019IA d\u2019\u00eatre appliqu\u00e9e aux phases de recherche et de d\u00e9veloppement du cycle de vie de l\u2019IA ; en refusant d\u2019accorder aux entreprises qui d\u00e9veloppent des syst\u00e8mes d\u2019IA la possibilit\u00e9 de s\u2019af\u00adfranchir des r\u00e8gles \u00e9tablies ; en veillant \u00e0 ce que des garanties techniques et en mati\u00e8re de droits humains s\u2019appliquent aux technologies d\u2019IA export\u00e9es.<\/span><\/span><\/p>\n \u2022 Faire appliquer la diligence requise en mati\u00e8re de droits humains tout au long du cycle de vie des tech\u00adnologies d\u2019IA, afin de mettre en \u00e9vidence les atteintes aux droits humains susceptibles d\u2019appara\u00eetre au ni\u00adveau de n\u2019importe quel maillon de la cha\u00eene d\u2019ap\u00adprovisionnement ou \u00e0 tout moment du cycle de vie du produit. <\/span><\/span><\/p>\n \u2022 Mettre en place des mesures de transparence obli\u00adgeant les acteurs qui d\u00e9veloppent et d\u00e9ploient des technologies d\u2019IA \u00e0 rendre des comptes au public. <\/span><\/span><\/p>\n \u2022 Donner des moyens d\u2019agir aux personnes et popu\u00adlations concern\u00e9es, notamment en garantissant le droit \u00e0 un recours effectif contre les autorit\u00e9s gouver\u00adnementales et les acteurs qui d\u00e9ploient des syst\u00e8mes d\u2019IA en cas de violation de droits ; en garantissant aux personnes concern\u00e9es le droit \u00e0 l\u2019information et \u00e0 des explications quant aux syst\u00e8mes de prise de d\u00e9cisions recourant \u00e0 l\u2019IA ; en garantissant aux per\u00adsonnes concern\u00e9es des voies de recours judiciaires et non judiciaires en cas de violation de leurs droits par des syst\u00e8mes d\u2019IA.<\/span><\/span><\/p>\n CONCLUSION<\/span><\/span><\/p>\n \u00c0 l\u2019\u00e8re du tout-num\u00e9rique et de l\u2019explosion de l\u2019IA, qui impacte d\u00e9j\u00e0 nos vies et nos soci\u00e9t\u00e9s, la lutte pour pr\u00e9server nos droits fondamentaux et promou\u00advoir les droits humains est essentielle. Toutes et tous nous devons pouvoir nous exprimer en ligne, partager des opinions, cr\u00e9er, utiliser et acc\u00e9der \u00e0 la technologie de mani\u00e8re s\u00fbre et juste. <\/span><\/span><\/p>\n La technologie peut \u00eatre un moyen d\u2019exercer sa li\u00adbert\u00e9 d\u2019expression, de demander des comptes aux gouvernements et de d\u00e9noncer des actes r\u00e9pr\u00e9hen\u00adsibles. <\/span><\/span><\/p>\n Cependant, la technologie peut aussi repr\u00e9senter une menace syst\u00e9mique sur les droits humains, en reproduisant la discrimination structurelle des groupes marginalis\u00e9s dans les domaines du main\u00adtien de l\u2019ordre, de la gestion de l\u2019immigration, des prestations sociales et de l\u2019acc\u00e8s aux soins de sant\u00e9. <\/span><\/span><\/p>\n Les outils de surveillance exercent \u00e9galement une influence n\u00e9faste sur les groupes d\u00e9j\u00e0 marginalis\u00e9s, et ce de diverses fa\u00e7ons et dans le monde entier.<\/span><\/span><\/p>\n Pour que la technologie accorde une place centrale aux personnes et aux droits humains, Amnesty In\u00adternational s\u2019est fix\u00e9e trois objectifs principaux. <\/span><\/span><\/p>\n \u2022 Rec\u00e2bler Internet afin que les personnes et les droits humains occupent une place pr\u00e9pond\u00e9\u00adrante, en veillant \u00e0 ce que les g\u00e9ants technolo\u00adgiques soient soumis \u00e0 une r\u00e9glementation qui prot\u00e8ge efficacement les droits fondamentaux, et \u00e0 ce que les entreprises en g\u00e9n\u00e9ral soient plus transparentes et plus responsables. <\/span><\/span><\/p>\n \u2022 R\u00e9sister \u00e0 une utilisation de la technologie qui vise \u00e0 r\u00e9duire au silence les militant\u00b7e\u00b7s, en em\u00adp\u00eachant la surveillance ill\u00e9gale, la censure et les coupures de l\u2019acc\u00e8s \u00e0 Internet. <\/span><\/span><\/p>\n \u2022 R\u00e9\u00e9crire le code de fa\u00e7on \u00e0 prot\u00e9ger les droits humains, en faisant en sorte que la discrimination et les pr\u00e9jug\u00e9s ne soient plus programm\u00e9s dans les algorithmes qui prennent des d\u00e9cisions sus\u00adceptibles de changer des vies.<\/span><\/span><\/p>\n","protected":false},"excerpt":{"rendered":" Un document d\u2019Amnesty International<\/p>\n","protected":false},"author":4,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-13292","post","type-post","status-publish","format-standard","hentry","category-non-classe"],"_links":{"self":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/13292","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/comments?post=13292"}],"version-history":[{"count":1,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/13292\/revisions"}],"predecessor-version":[{"id":13293,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/13292\/revisions\/13293"}],"wp:attachment":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/media?parent=13292"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/categories?post=13292"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/tags?post=13292"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}