Elle est dop\u00e9e aux Big Data et arrive pr\u00e8s de chez vous\u00a0!<\/p>\n
<\/p>\n
Il y a trois mois, la mairie de Marseille annon\u00e7ait<\/a><\/u> le d\u00e9but du d\u00e9ploiement de son \u00ab\u00a0observatoire Big Data de la tranquillit\u00e9 publique\u00a0\u00bb \u00e0 l\u2019issue d\u2019un appel d\u2019offre remport\u00e9 par l\u2019entreprise Engie In\u00e9o, leader du march\u00e9 de la vid\u00e9osurveillance. La Quadrature, \u00e9crivait alors \u00e0 la mairie et \u00e0 la CNIL en faisant valoir son droit d\u2019acc\u00e8s aux documents administratifs pour obtenir davantage d\u2019informations (a.k.a #CADAlove<\/a><\/u>). \u00c0 quelques heures d\u2019une r\u00e9union publique<\/a><\/u> qui doit se tenir \u00e0 Marseille, La Quadrature publie un premier document en provenance de la mairie de Marseille, le Cahier des Clauses Techniques Particuli\u00e8res<\/a><\/u> (CCTP), qui d\u00e9taille les objectifs et les soubassements techniques du projet.<\/p>\n Mise-\u00e0-jour (7 juin 2018) \u2013 Outre le Cahier des Clauses Techniques Particuli\u00e8res<\/a><\/u>, trois nouveaux documents sont disponibles\u00a0: <\/em><\/p>\n Les responsables municipaux pr\u00e9sentent cet observatoire Big Data, annonc\u00e9 en juillet 2014 et vot\u00e9 par la ville en 2015, comme la premi\u00e8re brique de la Smart City\u2122 du \u00ab\u00a0turfu<\/a><\/u>\u00a0\u00bb, croyant ainsi faire de l\u2019ind\u00e9crottable Marseille une ville pionni\u00e8re de cette clinquante utopie technocratique. Pour ces \u00e9lus marseillais qui n\u2019ont pas de mots<\/a><\/u> assez durs contre cette ville bigarr\u00e9e et ses pauvres, le Big Data appara\u00eet comme une v\u00e9ritable aubaine. Selon Caroline Pozmentier<\/a><\/u>, l\u2019adjointe au maire en charge de la s\u00e9curit\u00e9, il va en effet permettre de \u00ab\u00a0fa\u00e7onner la ville quasi id\u00e9ale\u00a0\u00bb. Rien que \u00e7a\u00a0!<\/p>\n Quelles donn\u00e9es\u00a0? Quels objectifs\u00a0?<\/strong><\/p>\n Alors que les exp\u00e9rimentations en mati\u00e8re de police pr\u00e9dictive sont encore balbutiantes<\/a><\/u> en France, le projet marseillais promet une vaste plateforme d\u2019int\u00e9gration bas\u00e9e \u00ab\u00a0sur les m\u00e9thodes de Big Data\u00a0\u00bb et de \u00ab\u00a0machine learning<\/em>\u00a0\u00bb, capable d\u2019\u00ab\u00a0analyser ce qui s\u2019est pass\u00e9 (hier)\u00a0\u00bb, d\u2019\u00ab\u00a0appr\u00e9cier la situation actuelle\u00a0\u00bb (aujourd\u2019hui)\u00a0\u00bb, et d\u2019\u00ab\u00a0anticiper la situation future ou probable (demain)\u00a0\u00bb (p. 12). Le kiffe. Les r\u00e9dacteurs du CCTP ne s\u2019en cachent pas\u00a0: \u00ab\u00a0l\u2019approche est particuli\u00e8rement exploratoire et cr\u00e9ative\u00a0\u00bb (p. 42). Mais si les Chinois et les Am\u00e9ricains y arrivent, pourquoi pas nous\u00a0?<\/p>\n Madame Pozmentier, bien \u00e0 l\u2019aise dans son r\u00f4le de porteuse de projet qu\u2019elle imagine sans doute \u00e0 fort potentiel \u00e9lectoral, est formelle\u00a0: \u00ab\u00a0Ce big data ne marchera que si l\u2019on assimile toutes les informations police, justice, marins-pompiers, transports, route, m\u00e9t\u00e9o etc.\u00a0\u00bb. L\u2019outil agr\u00e9gera en effet de multiples bases de donn\u00e9es structur\u00e9es et non-structur\u00e9es, notamment celle de la D\u00e9l\u00e9gation G\u00e9n\u00e9rale de la S\u00e9curit\u00e9 (DGSEC) de la ville de Marseille, qui r\u00e9pertorie toutes les mains courantes, les verbalisations, et bien d\u2019autres donn\u00e9es g\u00e9olocalis\u00e9es r\u00e9colt\u00e9es par les acteurs municipaux de la s\u00e9curit\u00e9.<\/p>\n \u00c0 cela s\u2019ajouteront les flux du vaste r\u00e9seau de vid\u00e9o-surveillance rendu \u00ab\u00a0intelligent\u00a0\u00bb gr\u00e2ce au traitement de l\u2019image (2000 cam\u00e9ras \u00e0 terme, et demain des drones1<\/sup>), les donn\u00e9es des h\u00f4pitaux publics, les donn\u00e9es publi\u00e9es par les foules sur les r\u00e9seaux sociaux (Twitter et Facebook sont mentionn\u00e9s page 22 du CCTP<\/a><\/u>). Sans compter les jeux de donn\u00e9es fournis par les partenaires externes de la ville, qu\u2019il s\u2019agisse d\u2019autres collectivit\u00e9s, de l\u2019\u00c9tat (coucou la Place Beauvau, ses statistiques sur la criminalit\u00e9, ses fichiers biom\u00e9triques TES<\/a><\/u> et autres\u00a0!) ou des partenaires priv\u00e9s (op\u00e9rateurs t\u00e9l\u00e9coms, etc.), qu\u2019Engie In\u00e9o aura pour mission de d\u00e9marcher. Il y a de quoi faire.<\/p>\n Enfin, le \u00ab\u00a0crowdsourcing\u00a0\u00bb est \u00e9galement de mise. Si l\u2019on en croit le CCTP<\/a><\/u>, \u00ab\u00a0chaque citoyen\u00a0\u00bb pourra \u00ab\u00a0fournir en temps r\u00e9el des informations (texto, vid\u00e9o, photo, vitesse de d\u00e9placement, niveau de stress, \u2026) via<\/em> une application sur smartphone ou des objets connect\u00e9s\u00a0\u00bb (p.\u00a020). Marseille surench\u00e9rit, alors que Nice va d\u00e9ployer son \u00ab\u00a0app\u00a0\u00bb Reporty<\/a><\/u>.<\/p>\n Gr\u00e2ce \u00e0 toutes ces donn\u00e9es, la ville souhaite donc analyser automatiquement les \u00ab\u00a0incidents\u00a0\u00bb gr\u00e2ce \u00e0 des algorithmes portant sur \u00ab\u00a0leur contexte et leur cause\u00a0\u00bb, sur la \u00ab\u00a0d\u00e9tection et l\u2019investigation des comportements anormaux\u00a0\u00bb, sur la \u00ab\u00a0g\u00e9olocalisation des points dits \u00ab\u00a0chauds\u00a0\u00bb de la ville\u00a0\u00bb. Que de r\u00e9jouissances\u00a0! Comme \u00e9voqu\u00e9 plus haut, il est aussi question de vid\u00e9osurveillance \u00ab\u00a0intelligente\u00a0\u00bb, en lien avec la vid\u00e9o-verbalisation et, demain, la reconnaissance faciale2<\/sup>.<\/p>\n Les joies du public-priv\u00e9<\/p>\n Le prestataire retenu fin novembre, l\u2019entreprise Engie In\u00e9o, n\u2019est pas tomb\u00e9 de la derni\u00e8re pluie en mati\u00e8re de bluff techno-s\u00e9curitaire\u00a0: l\u2019entreprise est en effet leader du march\u00e9 fran\u00e7ais de la vid\u00e9osurveillance, qui lui a rapport\u00e9 en 2013 autour de 60 millions d\u2019euros3<\/sup>. Depuis quelques ann\u00e9es, notamment gr\u00e2ce \u00e0 des partenariats<\/a><\/u> avec des entreprises comme IBM, elle se positionne sur le march\u00e9 en plein extension de la Smart City\u2122 et des solutions Big Data\u2122.<\/p>\n Engie In\u00e9o, donc, est aux manettes de cet outil amen\u00e9 \u00e0 se substituer en partie aux femmes et aux hommes qui travaillent dans la police et qui, \u00e0 terme, leur dictera la marche \u00e0 suivre. L\u2019entreprise promet<\/a><\/u> qu\u2019il sera \u00ab\u00a0pleinement op\u00e9rationnel\u00a0\u00bb fin 2020. 1,8 million d\u2019euros sont pour l\u2019instant mis sur la table. L\u2019essentiel de cette somme vient de la ville et des autres collectivit\u00e9s locales, mais l\u2019Union europ\u00e9enne apporte \u00e9galement 600 000 euros via<\/em> les fonds de d\u00e9veloppement r\u00e9gional FEDER<\/a><\/u> (pdf<\/a><\/u>). Vive l\u2019Europe\u00a0!4<\/sup><\/p>\n Parions que les co\u00fbts li\u00e9s \u00e0 la mise en place d\u2019un outil fonctionnel seront vite amen\u00e9s \u00e0 exploser. Car la privatisation croissante des politiques publiques \u2013\u00a0notamment dans le champ de la s\u00e9curit\u00e9\u00a0\u2013 s\u2019accompagne bien souvent de v\u00e9ritables gabegies financi\u00e8res. On se prend alors \u00e0 r\u00eaver de tout ce qu\u2019on aurait pu faire pour aborder la question de la s\u00e9curit\u00e9 autrement que par le prisme \u00e9triqu\u00e9 de la gestion statistique et du contr\u00f4le social\u2026<\/p>\n Dangers sur les libert\u00e9s<\/p>\n Et la vie priv\u00e9e dans tout \u00e7a\u00a0?<\/p>\n Caroline Pozmentier assure<\/a><\/u> que \u00ab\u00a0sur notre plate-forme, nous n\u2019utiliserons que des donn\u00e9es anonymis\u00e9es. Et nous travaillons avec la CNIL dans le respect strict du r\u00e9f\u00e9rentiel de recommandations que nous appliquons d\u00e9j\u00e0 pour notre syst\u00e8me de vid\u00e9oprotection\u00a0\u00bb. Rassur\u00e9s\u00a0?<\/p>\n Au vu de la description de l\u2019outil, il n\u2019y a aucune raison de l\u2019\u00eatre. La CNIL, o\u00f9 plut\u00f4t son comit\u00e9 de prospective, publiait justement \u00e0 l\u2019automne dernier un rapport sur la Smart City (pdf<\/a><\/u>) o\u00f9 \u00e9tait rappel\u00e9e cette \u00e9vidence\u00a0: \u00ab\u00a0Les comportements suspects ne resteront pas anonymes\u00a0\u00bb. \u00c0 partir des exp\u00e9riences d\u00e9j\u00e0 men\u00e9es aux \u00c9tats-Unis, le rapport soulignait \u00e9galement\u00a0:<\/p>\n Si les syst\u00e8mes bas\u00e9s sur de l\u2019algorithmie pr\u00e9dictive promettent de produire des r\u00e9sultats, ils sont aussi de formidables reproducteurs de biais. Plusieurs exp\u00e9riences ont par exemple d\u00e9montr\u00e9 que les outils d\u2019aide \u00e0 la localisation des forces de l\u2019ordre avaient tendance \u00e0 renforcer certaines discriminations et qu\u2019en termes d\u2019efficacit\u00e9, ils relevaient davantage de la proph\u00e9tie auto-r\u00e9alisatrice5<\/sup>.<\/p>\n Les biais humains dans les jeux de donn\u00e9es, rendus invisibles une fois pass\u00e9s \u00e0 la moulinette des traitements statistiques, risquent en effet de d\u00e9multiplier les discriminations structurelles d\u00e9j\u00e0 subies par celles et ceux qui vivent dans les quartiers pauvres \u2013 ceux que le document municipal d\u00e9signe pudiquement comme les \u00ab\u00a0territoires sensibles sp\u00e9cifiques\u00a0\u00bb. Sans parler du risque de faux-positifs<\/a><\/u> dans la d\u00e9tection des comportements suspects et des infractions.<\/p>\n Sur le plan de la libert\u00e9 d\u2019expression, d\u2019opinion, de conscience, de circulation, de manifestation, le projet pose \u00e9galement question, tant la surveillance des foules est mise en exergue dans le CCTP. Il y est notamment soulign\u00e9 la n\u00e9cessit\u00e9 d\u2019anticiper la \u00ab\u00a0menace\u00a0\u00bb, par exemple \u00ab\u00a0par \u00e9valuation du risque de rassemblements dangereux par analyse des tweets\u00a0\u00bb et par \u00ab\u00a0l\u2019identification des acteurs\u00a0\u00bb (puisqu\u2019on vous dit que la promesse d\u2019anonymisation est un leurre\u00a0!)6<\/sup>.<\/p>\n Pourra-t-on se joindre \u00e0 un \u00e9v\u00e9nement culturel ou une r\u00e9union politique sur la voie publique sans risquer d\u2019\u00eatre mis en fiche par cet outil de surveillance\u00a0? Faut-il comprendre que la simple participation \u00e0 des manifestations et la critique de l\u2019autorit\u00e9 sur les r\u00e9seaux sociaux suffiront \u00e0 \u00eatre identifi\u00e9s comme une menace pour l\u2019ordre public, \u00e0 l\u2019image<\/a><\/u> des leaders du mouvement Black Lives Matter \u00e0 Baltimore\u00a0?7<\/sup> De quelles garanties dispose-t-on pour s\u2019assurer que ce syst\u00e8me ne sera pas utilis\u00e9 pour cibler l\u2019ensemble d\u2019une communaut\u00e9 religieuse, comme l\u2019a fait<\/a><\/u> la police new-yorkaise s\u2019agissant des musulmans de la ville\u00a0?8<\/sup> Aucune.<\/p>\n On nous r\u00e9torquera que, pour l\u2019heure, le projet n\u2019\u00e9voque pas directement ces aspects (\u00e9videmment), mais la nature des outils et les usages qui en sont fait ailleurs dans le monde invitent au plus grand scepticisme.<\/p>\n La CNIL, un alibi bien commode\u00a0?<\/p>\n Peut-on tout de m\u00eame s\u2019attendre \u00e0 ce que la CNIL encadre comme il se doit ces dispositifs de surveillance dop\u00e9s aux Big Data\u00a0?<\/p>\n Malheureusement, elle semble davantage jouer le r\u00f4le d\u2019alibi pour rassurer la population que celui de gardienne des libert\u00e9s publiques. Voulant en savoir plus sur la mani\u00e8re dont elle accompagne (ou pas) ce genre de projets, nous avons demand\u00e9 en d\u00e9cembre un RDV \u00e0 la CNIL et \u00e0 sa pr\u00e9sidente. Aucune r\u00e9ponse \u00e0 ce jour. M\u00eame absence de r\u00e9ponse suite \u00e0 une demande de RDV aupr\u00e8s de la mairie de Marseille.<\/p>\n \u00c0 l\u2019avenir, la CNIL sera carr\u00e9ment emp\u00each\u00e9e de faire quoique ce soit d\u2019un peu efficace si le Parlement ne corrige pas fermement l\u2019ajout<\/a><\/u> d\u00e9lirant de Mme Joissains, rapporteure au S\u00e9nat sur le projet de loi<\/a><\/u> donn\u00e9es personnelles, qui cherche justement \u00e0 l\u2019emp\u00eacher de prononcer la moindre sanction contre une collectivit\u00e9 territoriale. Ben voyons\u00a0!<\/p>\n Et si la Smart City\u2122 n\u2019\u00e9tait qu\u2019un immense jeu de dupes, juste bon \u00e0 g\u00e9n\u00e9raliser le type d\u2019outils de surveillance massive exp\u00e9riment\u00e9s depuis pr\u00e8s de dix ans par les services de renseignement \u00e0 l\u2019ensemble du champ public et priv\u00e9 de la s\u00e9curit\u00e9\u00a0?<\/p>\n <\/p>\n R\u00e9f\u00e9rences<\/p>\n\n