Des nouvelles du garage et de Halte au contrôle numérique

Sans oublier Lève les yeux

Au Garage d’abord !

Cette semaine, on parle de la demi-censure des mouchards policiers par le Conseil constitutionnel, et on profite de notre campagne de dons 2024 pour faire un gros plan sur le droit au chiffrement des communications et les menaces qui pèsent sur lui.

Campagne de soutien 2024 : gros plan sur le Chiffrement

Comme bon nombre d’associations, vous le savez, nous avons lancé la semaine dernière notre campagne de soutien pour l’année qui vient. C’est pour nous l’occasion de présenter les grands chantiers qui nous attendent en 2024, principalement la promotion de l’interopérabilité des services Web, la lutte contre les algorithmes de contrôle social dans les administrations, la réflexion nécessaire autour du numérique nécessaire dans le contexte de la crise écologique, et la défense du droit au chiffrement des communications.

Cette semaine, nos publications ont mis l’accent sur la défense du chiffrement. Vous pouvez retrouver l’ensemble de ces « fils » sur nos réseaux sociaux : ici la présentation générale de la problématique, ici la nécessité du chiffrement pour que les réseaux soient structurellement compatibles avec le droit fondamental à la vie privée, ici les risques que le règlement européen CSAR, surnommé « Chat Control », fait peser sur le chiffrement de bout en bout des messageries instantanées, ici le rappel des fantasmes du ministre de l’Intérieur selon qui le chiffrement des communications par les militant·es politiques couvre la prolifération des projets « clandestins » fomentés par « les extrêmes », et enfin ici nous racontons comment le chiffrement, dans la logique de la DGSI, est carrément devenu un élément à charge dans le procès des inculpé·es de l’affaire du « 8 décembre ».

Nous avons besoin de vous pour travailler en 2024 ! N’hésitez pas à faire un don de soutien à l’association, ou à faire connaître notre campagne de dons autour de vous. Merci pour votre aide !

Présentation des grands chantiers de 2024 :

https://www.laquadrature.net/donner/
Faire un don pour soutenir La Quadrature :

https://don.laquadrature.net/

– – – –

Censure constitutionnelle des mouchards audio, mais la géolocalisation passe l’épreuve

Le 16 novembre dernier, le Conseil constitutionnel, après avoir examiné la loi de programmation et d’orientation du ministère de la justice (LOPJ), a censuré la disposition qui autorisait les services de renseignement et de police à transformer les objets connectés en « mouchards » en les activant à distance (avec des techniques d’intrusion), pour utiliser leur micro ou leur caméra en toute discrétion dans le cadre de leurs enquêtes.

L’Observatoire des Libertés et du Numérique (OLN), dont La Quadrature du Net fait partie, s’était prononcé contre cette légalisation de l’espionnage policier, mal bordée par des conditions trop faciles à élargir dans l’usage, une fois l’idée rendue acceptable et banalisée.

Aujourd’hui, l’OLN se réjouit donc de la censure des « mouchards » comme micros ou comme caméras à distance, tout en soulignant le gros défaut de cette censure : l’activation à distance des objets connectés pour géo-localiser leur propriétaire reste autorisée par la loi. Si cela paraît moins grave, alors la stratégie du « chiffon rouge » chère au gouvernement aura fonctionné encore une fois : introduire une mesure inacceptable pour camoufler une mesure tout aussi contestable mais moins scandaleuse. Vous ne voulez pas être légalement écouté·es par les services de renseignement ? D’accord, d’accord… Mais vous serez légalement localisé·es.

La réaction de l’OLN :

https://www.laquadrature.net/2023/11/23/censure

– – – –

Algorithmes de suspicion de la CAF : la preuve par les faits

C’est une enquête qui a duré 18 mois. Dès avril 2022, conjointement avec le collectif Changer de Cap, nous demandions l’arrêt des pratiques discriminatoires de la Caisse d’allocations familiales (CAF), qui utilise un algorithme pour attribuer un « score de suspicion » aux bénéficiaires des aides sociales, pour détecter les personnes les plus susceptibles de percevoir des sommes indues. Sous prétexte de lutter contre la « fraude sociale » — une ambition très populaire dans l’idéologie de la chasse à « l’assistanat » — fraude réelle dont toutes les études au sein même des agences de l’État ont depuis longtemps démontré qu’elle est majoritairement une fraude aux cotisations de la part des employeurs notamment, il s’agit avec cet algorithme de débusquer plutôt les bénéficiaires qui, du fait de la complexité des règles relatives aux minima sociaux, auraient touché des sommes plus importantes que celles à quoi ils et elles auraient droit.

Le « bon sens » tel qu’il s’exprime sur les réseaux sociaux, et nous avons pu le constater à chaque publication de nos articles, ne trouve pas d’inconvénient à ce procédé : « Il faut bien attraper les fraudeurs ! Vous préférez ne rien faire ? ». On peut discuter le principe, mais ce n’est pas le sujet. Le problème, comme souvent, est dans la manière de faire.

En pratique, la CAF dispose d’environ 1 000 types de données différents sur les allocataires et en utilise une quarantaine pour passer au crible la vie d’environ 13 millions de personnes. Leur vie personnelle et intime, sous prétexte de leur donner ou non de l’argent public, devient l’objet d’une analyse et d’un jugement, de fond en comble. Le logiciel mouline cette masse d’informations avec son petit mécanisme et sort à la fin pour chaque bénéficiaire un « score de suspicion » compris entre 0 et 1. S’il se rapproche de 1, le risque de fraude est considéré comme étant plus grand, et la personne concernée fera l’objet d’un contrôle humain par des agents soumis à une pression de rentabilité. En pratique, la sanction algorithmique touche d’abord les personnes les plus pauvres, soit que l’allocation retirée ou réduite représente une partie importante de leurs revenus de survie, soit qu’elle en représente la totalité.

Plus grave encore : nous avions l’intuition, après l’étude de plusieurs cas particuliers, que les critères qui faisaient augmenter le score de suspicion incluaient le fait d’être d’origine étrangère, de toucher le RSA, ou d’être une femme seule qui élève des enfants. Pour en avoir le cœur net, nous avions demandé à la CAF, par l’intermédiaire d’une « demande Cada », de publier son algorithme de calcul. La CAF a refusé autant qu’elle a pu de fournir le code-source logiciel, sous prétexte que sa publication permettrait aux « fraudeurs » de le contourner — peut-être en arrêtant fourbement d’être une femme noire au RSA, par exemple ?

Mais, faute d’avoir accès à la version actuelle, nous avons enfin obtenu la communication d’une ancienne version de cet algorithme de « scoring », et notre analyse est sans appel : oui, l’algo de flicage de la CAF pénalise, dans sa structure même et dans le poids qu’il donne aux critères d’évaluation, les personnes à l’emploi précaire, qui doivent changer de logement souvent et, de manière générale, qui ont des parcours de vie compliqués. Autrement dit, les personnes les plus précaires se retrouvent traquées et sanctionnées par une administration sociale. Nous demandons par conséquent l’interdiction de cette technologie numérique de contrôle social, qui cache sous la prétendue neutralité de la technique une politique sociale discriminatoire, dégradante et injuste.

Notre analyse complète de l’algorithme de la CAF : 

https://www.laquadrature.net/2023/11/27/notation-des-allocat

– – – –

La Quadrature dans les médias

Reconnaissance faciale et police

Algo de la CAF

** **

2 décembre : contre les ravages des JO

« 15 ans de dettes pour 15 jours de fêtes. » Faisons du 2 décembre une journée de mobilisations contre les ravages des Jeux olympiques et paralympiques (JOP) partout sur nos territoires ! Une coalition de collectifs, associations et syndicats appellent à se mobiliser, alors que les Alpes françaises pourraient être choisies début décembre pour les Jeux olympiques et paralympiques d’hiver 2030.

– – – –

Non à la loi asile et immigration : rassemblement le 3 décembre

Rassemblement le 3 décembre 2023 à 11 heures, place Jean Jaurès à Saint-Etienne, à l’appel du Collectif stéphanois “Pour que Personne ne dorme à la Rue” et du Collectif national Uni.es contre l’immigration jetable Le Sénat a adopté le projet de loi asile/immigration, à l’issue d’une semaine de débats particulièrement éprouvante et dramatique.

– – – –

Implants cérébraux : la nature humaine remise en question

Elon Musk (homme « le plus riche du monde », donc ayant les moyens de réaliser ses rèves d’apprenti sorcier !) vise, à travers Neuralink, l’une de ses sociétés, la création d’une interface entre l’humain et la machine. Cela passe par le développement d’implants cérébraux et la volonté, à terme, de placer le cerveau humain en symbiose avec l’intelligence artificielle…

– – – –

LOPMJ, l’activation par la police des appareils électroniques en partie censurée

Le 16 novembre 2023, le Conseil constitutionnel a censuré l’article de la loi de programmation de la justice (LOPMJ) adoptée en octobre dernier, qui autorisait les forces de l’ordre à activer, à distance, les caméras et les microphones de tout dispositif connecté.

– – – –

Rester en sécurité en ligne…

Israël est l’un des pays les plus techno-surveillés du monde et vend ses matériels partout dans le monde (voir l’affaire Briefcam, logiciel de reconnaissance faciale utilisé illégalement par la police française). Tout cela peut permettre à ses agents un pistage des opposant.es partout, d’où les conseils que délivre l’ONG européenne Access Now.

Collectifs Halte au contrôle numérique et Stop Linky 5G Loire

** **

Des nouvelles de Lève les yeux

Addiction aux écrans et réseaux sociaux

Suite aux déclarations du ministre de l’Éducation Nationale Gabriel Attal appelant à un « sursaut collectif » quant à la question des écrans (Le Parisien), des réponses commencent à se faire entendre : ici une tribune de Yannick Trigance « Addiction aux écrans et réussite scolaire : l’école certes, mais pas que » (Café Pédagogique), là une réponse pour limiter les écrans à l’école, citant l’initiative du Collectif CoLINE (Le Parisien).

Sur le terrain, les plus jeunes sont toujours victimes des stratégies mises en place pour capter leur attention : en Indonésie, les écoliers sont de plus en plus accros aux jeux d’argent en ligne (Courrier International), sans parler des « machines à rendre accros les ados » (Les Échos, et The Guardian) que sont les réseaux sociaux. Meta est par ailleurs accusé d’inaction face au nombre de mineurs âgés de moins de 13 ans sur Instagram et Facebook (Le Monde).

En termes de démocratie et d’information, les réseaux sociaux enferment les citoyens dans des bulles de filtres (JDD), et participent à la « fatigue de la société » selon Sibyle Veil, directrice de Radio France (BFMTV).

Commençons donc par les déserter, à l’image d’Anne Hidalgo qui a quitté Twitter en début de semaine (Le Monde) et tentons de faire décrocher les jeunes des écrans (quelques conseils dans un article de Vincent Gambardella)

Capitalisme de surveillance

Les recours aux technologies de surveillance et de récolte de données foisonnent : La Samaritaine camoufle des caméras dans des détecteurs de fumée pour surveiller ses salariés (Médiapart), l’agglo de Deauville est condamnée pour l’usage d’un logiciel Israëlien de reconnaissance faciale (Médiapart), un projet de loi européen met à mal le principe de chiffrement des messages (ce qui revient à « mettre une caméra dans toutes les maisons » selon le patron de Whatsapp (Le Monde)).

Des pratiques de contrôle qui sont au cœur du projet d’identité numérique de l’Union européenne, et dont les conséquences pourraient être dramatiques en termes de libertés publiques (Boulevard Voltaire).

En France, l’utilisation d’algorithmes de contrôle est déjà à l’œuvre dans les administrations sociales, heureusement dénoncée par la Quadrature du net : « Notation des allocataires : l’indécence des pratiques de la CAF désormais indéniable » et le collectif Changer de Cap.

Numérisation de la santé

Le secteur de la santé n’est pas en reste :

La semaine dernière, L’ARS lançait une campagne « Pour ma santé, je dis oui au numérique » afin de « souligner les valeurs éthiques entourant le développement des outils numériques en santé ». Quelques jours plus tard, le nouveau contrat stratégique de filière « Industries et technologies de santé » était signé (ministère de l’Économie). Enfin, le 14 décembre prochain se déroulera le Conseil du numérique en santé (ministère de la Santé).

Une numérisation déployée à grande vitesse, allant jusqu’à « inventer les métiers médicaux du futurs » (Libération), quitte à accentuer les problèmes du système de santé français déjà à l’agonie : « E-santé : à la e-vôtre ! (L’âge de faire). Rien d’étonnant quand on sait la « mine d’or » que représente le marché de l’« e-santé » (Le Monde Diplomatique)

IA et techno-solutionnisme

Alors que 18 pays signent un accord pour un développement sécurisé de l’IA (Siècle Digital et Le Monde Informatique), son développement continue selon des logiques de profit qui ne sauraient limiter les risques qui pèsent sur la démocratie. Pour Stéphane Lauer, « l’IA générative est une affaire trop sérieuse pour la laisser dans les seules mains du capital » (Le Monde).  

Dans les mains du capital ou des gouvernements, l’IA fait dans tous les cas partie du « fantasme technophile » porté par les dominants (Reporterre, « Conquête spatiale, ville intelligente : l’imaginaire récupéré par les dominants »). Et pour preuve, à la Cop28, les États continuent de miser sur des technologies pour maitriser le climat (L’Express).

Lectures technocritiques

Sorties : 

A parcourir, une bibliographie technocritique par Irénée Regnauld des Moutons numériques.

Bonus

On n’arrête pas le progrès : 

  • Doritos lance une IA qui supprime le bruit de ses chips en visio (Presse Citron)

  • Adieu, clés ! Bientôt toutes les serrures s’ouvriront grâce au numérique (Marianne)