{"id":8855,"date":"2022-04-16T02:50:08","date_gmt":"2022-04-16T00:50:08","guid":{"rendered":"https:\/\/collectif-accad.fr\/site\/?p=8855"},"modified":"2022-04-12T07:13:39","modified_gmt":"2022-04-12T05:13:39","slug":"quest-ce-que-la-videosurveillance-algorithmique","status":"publish","type":"post","link":"https:\/\/collectif-accad.fr\/site\/quest-ce-que-la-videosurveillance-algorithmique\/","title":{"rendered":"Qu’est-ce que la vid\u00e9osurveillance algorithmique\u00a0?"},"content":{"rendered":"

Signez l’appel<\/b><\/span><\/p>\n

<\/p>\n

https:\/\/changerdecap.net\/petition-caf\/<\/a> <\/span><\/p>\n

La position de \u00ab la quadrature du net \u00bb<\/span><\/span><\/strong><\/p>\n

La Quadrature du Net a transmis \u00e0 la CNIL sa position relative \u00e0 la vid\u00e9osurveillance dite \u00ab algorithmique \u00bb, ainsi que plus de 170 contributions de personnes nous ayant mandat\u00e9es dans le cadre d\u2019une contre-consultation populaire.\u00a0<\/span><\/span><\/p>\n

Nous allons revenir prochainement sur le d\u00e9tail des arguments qui conduisent, selon nous, \u00e0 combattre toute l\u00e9gitimation de ces dispositifs. En attendant, il est essentiel de revenir sur ce que signifie ce terme et sur la nature exacte de ces technologies d\u00e9ploy\u00e9es depuis plusieurs ann\u00e9es en France. Alors, de quoi parle t-on ?<\/span><\/span><\/p>\n

D\u00e9finitions<\/span><\/span><\/h2>\n

Selon la CNIL<\/a>, la <\/span><\/span>\u00ab\u00a0vid\u00e9o augment\u00e9e d\u00e9signe ici des dispositifs vid\u00e9o auxquels sont associ\u00e9s des traitements algorithmiques mis en \u0153uvre par des logiciels, permettant une analyse automatique, en temps r\u00e9el et en continu, des images capt\u00e9es par la cam\u00e9ra.\u00a0\u00bb<\/i><\/span><\/span><\/p>\n

Vid\u00e9osurveillance\/Vid\u00e9oprotection \u00ab\u00a0augment\u00e9e\u00a0\u00bb ou \u00ab\u00a0intelligente\u00a0\u00bb, comme l\u2019\u00e9crivent les institutions et les industriels ou encore vid\u00e9osurveillance \u00ab\u00a0algorithmique\u00a0\u00bb ou \u00ab\u00a0automatis\u00e9e\u00a0\u00bb (VSA)<\/b> comme nous pr\u00e9f\u00e9rons la nommer. Tous ces termes recouvrent une m\u00eame r\u00e9alit\u00e9 aux contours plus ou moins flous et aux promesses plus ou moins concr\u00e9tis\u00e9es. Il s\u2019agit de l\u2019ajout d\u2019une couche d\u2019algorithme aux cam\u00e9ras de vid\u00e9osurveillance dites \u00ab\u00a0classiques\u00a0\u00bb. Et ce, dans le but de rendre automatique l\u2019analyse des images capt\u00e9es par cam\u00e9ras, jusqu\u2019\u00e0 pr\u00e9sent r\u00e9alis\u00e9e par des humains, les op\u00e9rateurs vid\u00e9os aux sein des centres de supervision urbains (CSU). Alors pourquoi ces diff\u00e9rences de langage\u00a0?<\/span><\/span><\/p>\n

Parce que les mots ont un poids fort, nous pr\u00e9f\u00e9rons \u00ab\u00a0automatisation\u00a0\u00bb \u2013 ce terme d\u00e9construit la notion d\u2019intelligence qu\u2019apporterait soit-disant la technologie. L\u2019automatisation n\u2019est pas un proc\u00e9d\u00e9 neutre et en dehors du monde social mais qui transporte 1<\/sup> avec lui les repr\u00e9sentations et normes de celui-ci. Et \u00ab\u00a0algorithmique\u00a0\u00bb pour rendre visible l\u2019ajout de ces logiciels fabriqu\u00e9s par des start-up et multinationales dont on ne sait pas grand chose.<\/span><\/span><\/p>\n

Cette surcouche algorithmique vise \u00e0 faire de l\u2019analyse vid\u00e9o, que ce soit en temps r\u00e9el ou apr\u00e8s coup, et \u00e0 rep\u00e9rer\u2026 ce que la police a envie de rep\u00e9rer. Cela va de la \u00ab\u00a0d\u00e9tection de comportement suspect\u00a0\u00bb, au \u00ab\u00a0maraudage\u00a0\u00bb (entendre \u00eatre statique dans l\u2019espace public), en passant par le \u00ab\u00a0d\u00e9passement d\u2019une ligne\u00a0\u00bb, le suivi de personne, la d\u00e9tection d\u2019objet abandonn\u00e9, d\u2019une bagarre, d\u2019un vol etc. <\/b><\/span><\/span><\/p>\n

Le d\u00e9ploiement de la VSA dans les villes<\/span><\/span><\/strong><\/p>\n

Que ce soit \u00e0 Toulouse<\/a> en 2016 avec IBM (projet abandonn\u00e9 en 2019), \u00e0 N\u00eemes<\/a> depuis 2015 avec Briefcam, \u00e0 Marseille<\/a> d\u00e8s 2018 avec la SNEF, \u00e0 Paris avec la RATP<\/a> qui autorise des entreprises \u00e0 tester leur algos sur les utilisateur.ices des m\u00e9tros, ou encore avec la municipalit\u00e9 de Suresnes<\/a> qui met \u00e0 disposition sa population en tant que cobaye pour la start-up parisienne XXII, la vid\u00e9osurveillance algorithmique se d\u00e9ploie aux quatre coins<\/a> de la France. S\u2019il reste compliqu\u00e9 de quantifier le nombre de villes qui utilisent la VSA, d\u00fb au manque criant de transparence de ces derni\u00e8res, il est possible d\u2019en rep\u00e9rer au moins une cinquantaine, le vrai nombre devant malheureusement d\u00e9passer la centaine, rien qu\u2019en France.<\/span><\/span><\/p>\n

Depuis plusieurs ann\u00e9es, nous suivons ce d\u00e9ploiement, souvent tr\u00e8s opaque (toutes les municipalit\u00e9s ne sont pas aussi loquaces que celle d\u2019Estrosi). Alors que la VSA faisait l\u2019objet jusqu\u2019il y a peu de tr\u00e8s nombreuses exp\u00e9rimentations sauvages, la CNIL a explicitement<\/a> demand\u00e9 en janvier 2022 aux industriels du secteur de lui faire des retours sur l\u2019usage de ces technologies \u00ab\u00a0afin d\u2019accompagner leur d\u00e9ploiement\u00a0\u00bb, prenant clairement un parti\u00a0: celui des industriels de la s\u00e9curit\u00e9. La VSA semble en passe d\u2019inonder le march\u00e9 de la s\u00e9curit\u00e9 urbaine num\u00e9rique.<\/span><\/span><\/p>\n

Et ce march\u00e9 de la VSA prend forme\u00a0: si des acteurs comme IBM \u00e0 Toulouse n\u2019ont pas r\u00e9ussi \u00e0 rendre efficace leur produit et semblent s\u2019\u00eatre retir\u00e9s, l\u2019entreprise isra\u00e9lienne Briefcam (entit\u00e9 du groupe Canon) pr\u00e9tend dominer le march\u00e9 en France tandis que des villes signent des partenariats avec des start-up ou firmes fran\u00e7aises, soutenues par les d\u00e9cideurs politiques, afin de rendre les industries fran\u00e7aises concurrentielles sur le march\u00e9 international de la s\u00e9curit\u00e9 urbaine num\u00e9rique.<\/span><\/span><\/p>\n

Les exemples de Briefcam et Two-I<\/span><\/span><\/p>\n

Briefcam est une entreprise qui produit des logiciels de vid\u00e9osurveillance algorithmique tr\u00e8s bien implant\u00e9e en France, aux \u00c9tats-Unis et dans une quarantaine de pays. En 2020, d\u00e9j\u00e0 plus de 35 villes fran\u00e7aises utilisaient son logiciel, dont voici une d\u00e9monstration<\/a> assez r\u00e9v\u00e9latrice.<\/span><\/span><\/p>\n

Dans cette vid\u00e9o, l\u2019entreprise affirme \u00eatre capable de condenser des heures de vid\u00e9os en quelques minutes, de pouvoir faire du suivi de personnes en fonction d\u2019attributs (femme, homme, sac, chapeaux, couleurs d\u2019habits\u2026). On sait aussi que le logiciel de Briefcam est dot\u00e9 d\u2019une option de reconnaissance faciale, que les \u00e9lus \u00e0 la s\u00e9curit\u00e9<\/a> sont tr\u00e8s impatients d\u2019enclencher.<\/span><\/span><\/p>\n

Two-I<\/a> de son c\u00f4t\u00e9 est une start-up fran\u00e7aise, bas\u00e9e du c\u00f4t\u00e9 de Metz. Ayant d\u2019abord tent\u00e9 de se faire une place dans la d\u00e9tection d\u2019\u00e9motions (notamment l\u2019exp\u00e9rimentation avort\u00e9e \u00e0 Nice de d\u00e9tection d\u2019\u00e9motions dans les tramways), elle s\u2019est finalement lanc\u00e9e dans la vid\u00e9osurveillance algorithmique et la conception de ce que les industriels appellent une \u00ab\u00a0plateforme d\u2019hypervision\u00a0\u00bb. Ces plateformes mettent en carte et traduisent les nombreuses donn\u00e9es collect\u00e9es par les cam\u00e9ras et les algorithmes, dans le but \u00ab\u00a0d\u2019optimiser la gestion de la ville\u00a0\u00bb. En somme, ces plateformes permettent de rendre utilisable la vid\u00e9osurveillance algorithmique, via une mise en carte des donn\u00e9es et alertes capt\u00e9es par les cam\u00e9ras et algorithmes.<\/span><\/span><\/p>\n

L\u2019exemple des logiciels de Briefcam ou encore de Two-I (qui ne sont que deux exemples parmi une dizaine d\u2019autres entreprises s\u00e9curitaires du m\u00eame type) est r\u00e9v\u00e9lateur de ce nouveau march\u00e9 de la s\u00e9curit\u00e9 mais aussi d\u2019un basculement dans le concept de s\u00e9curit\u00e9. Dor\u00e9navant, ce sont des entreprises priv\u00e9es qui, concevant les algorithmes vendus aux collectivit\u00e9s territoriales, d\u00e9cident ce qu\u2019il y a derri\u00e8re une alerte pour \u00ab\u00a0comportement anormal ou suspect\u00a0\u00bb. \u00c0 travers l\u2019automatisation, les entreprises acqui\u00e8rent un pouvoir de police et d\u2019\u00e9diction de normes et comportements dans l\u2019espace public, s\u2019inscrivant parfaitement dans l\u2019expansion des politiques s\u00e9curitaires.<\/span><\/span><\/p>\n

Les effets de la vid\u00e9osurveillance algorithmique<\/span><\/span><\/h2>\n

L\u2019ajout d\u2019algorithme \u00e0 la vid\u00e9osurveillance \u00ab\u00a0classique\u00a0\u00bb n\u2019est pas anodin. Cela t\u00e9moigne d\u2019un changement d\u2019\u00e9chelle dans la surveillance par les cam\u00e9ras qui, jusqu\u2019\u00e0 pr\u00e9sent, comme le d\u00e9crit Tanguy Le Goff2<\/sup>, \u00e9tait un \u00ab\u00a0travail de surveillance [\u2026] jug\u00e9 ennuyeux et monotone\u00a0\u00bb au sein duquel les op\u00e9rateurs vid\u00e9os mettaient en place des strat\u00e9gie pour r\u00e9aliser ce travail de mani\u00e8re partielle.<\/span><\/span><\/p>\n

L\u2019automatisation de cette surveillance est cens\u00e9e d\u00e9cupler les yeux derri\u00e8re l\u2019\u00e9cran des cam\u00e9ras. Et cela se traduit notamment par la criminalisation de comportements jusqu\u2019alors anodins ou presque comme le d\u00e9p\u00f4t d\u2019ordures sauvage<\/a>, le non port du masque ou encore les d\u00e9jections canines. L\u2019automatisation permet \u00e0 la police d\u2019\u00e9tendre sa capacit\u00e9 d\u2019action \u00e0 de nouveaux champs sur lesquels elle a maintenant un pouvoir de r\u00e9pression. La police peut d\u00e9cupler sa capacit\u00e9 \u00e0 normaliser l\u2019espace public\u00a0: si le maraudage<\/a>, c\u2019est-\u00e0-dire le fait de rester statique plus de 300 secondes, alerte les forces de l\u2019ordre, on peut craindre pour les personnes qui ne peuvent pas voir la rue comme un \u00ab\u00a0simple endroit de passage\u00a0\u00bb, car ils y vivent ou en font un rep\u00e8re social n\u00e9cessaire. Nous reviendrons dans un prochain article sur le fait que les algorithmes sur les cam\u00e9ras augmentent la r\u00e9pression polici\u00e8re sur les populations d\u00e9j\u00e0 particuli\u00e8rement cibl\u00e9e par les forces de l\u2019ordre.<\/span><\/span><\/p>\n

Un autre aspect de la VSA est la tendance croissante \u00e0 \u00eatre <\/span><\/span>mis en donn\u00e9es<\/i><\/span><\/span>. Au-del\u00e0 de la surveillance de l\u2019espace public et de la normalisation des comportements qu\u2019accentue la VSA, c\u2019est tout un march\u00e9 \u00e9conomique de la data qui se frotte les mains. Le pr\u00e9tendu \u00ab\u00a0encadrement\u00a0\u00bb des dispositifs promis par la CNIL permettrait aux entreprises de la Technopolice d\u2019utiliser les espaces publics et les personnes qui les traversent ou y vivent comme des \u00ab\u00a0donn\u00e9es sur pattes\u00a0\u00bb. Et aux industries de la s\u00e9curit\u00e9 de se faire de l\u2019argent sur nous, d\u2019am\u00e9liorer leurs algorithmes de r\u00e9pression et ensuite de les vendre sur le march\u00e9 international. C\u2019est ce que fait la multinationale fran\u00e7aise Id\u00e9mia<\/a>, qui affine ses dispositifs de reconnaissance faciale aux a\u00e9roports fran\u00e7ais avec les dispositifs PARAFE ou MONA pour ensuite vendre des \u00e9quipements de reconnaissance faciale \u00e0 la Chine et ainsi participer \u00e0 la surveillance de masse et au g\u00e9nocide Ou\u00efghour, ou encore pour remporter les appels d\u2019offres de l\u2019Union Europ\u00e9enne en vue de r\u00e9aliser de la biom\u00e9trie aux fronti\u00e8res de l\u2019UE.<\/span><\/span><\/p>\n

De quoi la VSA est-elle le nom\u00a0?<\/span><\/span><\/h2>\n

Vid\u00e9osurveillance automatis\u00e9e et Smart City nourrissent la m\u00eame fiction\u00a0: celle d\u2019une ville dont les capteurs mettent en donn\u00e9es, o\u00f9 les algorithmes trient et d\u00e9tectent et o\u00f9 une plateforme centrale permettrait \u00e0 la police de g\u00e9rer la ville \u00e0 distance.<\/span><\/span><\/p>\n

La vid\u00e9osurveillance algorithmique, c\u2019est un march\u00e9 de la s\u00e9curit\u00e9 qui tente de s\u2019accro\u00eetre en devenant \u00ab\u00a0num\u00e9rique\u00a0\u00bb c\u2019est-\u00e0-dire avec de l\u2019IA et des algorithmes. Et comme le montre Myrtille Picaud <\/span><\/span>3<\/span><\/span><\/sup>, les industriels et d\u00e9cideurs politiques fran\u00e7ais font pression pour structurer une fili\u00e8re industrielle s\u00e9curitaire forte afin d\u2019\u00eatre concurrentielle sur le march\u00e9 international, qui repr\u00e9sente un march\u00e9 \u00e9conomique \u00e9norme. Les grands \u00e9v\u00e9nements sportifs comme les Jeux Olympiques de Paris en 2024 ou encore la coupe du monde de Rugby en 2023 repr\u00e9sentent une aubaine<\/a> pour acc\u00e9l\u00e9rer le d\u00e9veloppement de technologies s\u00e9curitaires, offrir une vitrine aux industriels fran\u00e7ais et normaliser ces dispositifs.<\/span><\/span><\/p>\n

Pour les industriels, la VSA repr\u00e9sente la possibilit\u00e9 de justifier le d\u00e9ploiement de centaines de milliers de cam\u00e9ras en France. D\u00e9ploiement largement d\u00e9cri\u00e9 4<\/sup> m\u00eame par les institutions publiques, mais qui, par un tour de magie, prendrait tout son sens avec l\u2019ajout d\u2019algorithmes (argument absurde, nous y reviendrons dans un prochain article). La VSA permettrait d\u2019utiliser les cam\u00e9ras \u00e0 leur plein potentiel et m\u00eame d\u2019acc\u00e9l\u00e9rer leur d\u00e9ploiement\u00a0: il en faudra plus et il faudra aussi remplacer les anciennes qui ne seraient pas d\u2019assez bonne qualit\u00e9 pour les algorithmes\u00a0; et surtout s\u2019assurer de poursuivre l\u2019installation d\u00e9mesur\u00e9e de cam\u00e9ras qui continueront \u00e0 rapporter beaucoup d\u2019argent aux entreprises du secteur.<\/span><\/span><\/p>\n

En plus de constituer une justification \u00e0 la multiplication des cam\u00e9ras de vid\u00e9osurveillance, la VSA forme une ressource rentable 5<\/sup> politiquement, expliquant l\u2019engouement immod\u00e9r\u00e9 des \u00e9lus locaux pour la vid\u00e9osurveillance. La VSA est une mesure de court terme que les \u00e9lus locaux peuvent mobiliser pour montrer qu\u2019ils agissent. La s\u00e9curit\u00e9 num\u00e9rique constitue 6<\/sup> \u00e9galement une source d\u2019attractivit\u00e9 et de distinction dans la concurrence territoriale, dans la recherche de capital symbolique pour attirer tourisme et classe cr\u00e9ative.<\/span><\/span><\/p>\n

La vid\u00e9osurveillance algorithmique, c\u2019est un renouveau dans la croyance en la \u00ab\u00a0proph\u00e9tie technologique 7<\/sup>\u00a0\u00bb int\u00e9gr\u00e9e dans les Smart City. Cette croyance permet de continuer \u00e0 d\u00e9ployer des cam\u00e9ras et, surtout, de trouver toujours plus de d\u00e9bouch\u00e9s \u00e9conomiques.<\/span><\/span><\/p>\n

Pour conclure<\/span><\/span><\/h2>\n

En somme, la vid\u00e9osurveillance algorithmique est une technologie en passe d\u2019\u00eatre largement d\u00e9ploy\u00e9e en France et qui l\u2019est peut \u00eatre d\u00e9j\u00e0 beaucoup plus que ce que nous pouvons en douter, qui sert \u00e0 justifier l\u2019existence de l\u2019immense parc de vid\u00e9osurveillance fran\u00e7ais, en tentant de les rendre plus performantes, via l\u2019automatisation de la d\u00e9tection d\u2019infractions. Cette technologie s\u2019int\u00e8gre dans la fiction plus large de la Smart City, qui base la gestion de la ville sur l\u2019IA et repr\u00e9sente un \u00e9norme march\u00e9 \u00e9conomique. Ces technologies d\u2019automatisation r\u00e9duisent encore les espaces de libert\u00e9s dans les rues et sur les places des villes, augmentant la r\u00e9pression sur les populations les plus vis\u00e9es d\u00e9j\u00e0 par la police. Nous reviendrons plus en d\u00e9tail sur ce pour quoi nous sommes contre cette technologie et comment il est possible de lutter contre son d\u00e9ploiement.<\/span><\/span><\/p>\n

** **<\/span><\/span><\/p>\n

Notes<\/span><\/span><\/p>\n

1 Florent Castagnino \u00ab\u00a0Rendre \u00ab\u00a0intelligentes\u00a0\u00bb les cam\u00e9ras\u00a0: d\u00e9placement du travail des op\u00e9rateurs de vid\u00e9osurveillance et red\u00e9finition du soup\u00e7on\u00a0\u00bb, Sciences Po, 2019<\/span><\/span><\/p>\n

2 Le Goff, Tanguy. \u00ab\u00a0Dans les \u00ab\u00a0coulisses\u00a0\u00bb du m\u00e9tier d\u2019op\u00e9rateur de vid\u00e9osurveillance\u00a0\u00bb. Criminologie, vol. 46, n o 2, 2013, p. 91-108.<\/span><\/span><\/p>\n

3 Myrtille Picaud. Peur sur la ville. La s\u00e9curit\u00e9 num\u00e9rique pour l\u2019espace urbain en France. [Rapport de recherche] 01\/2021, Chaire \u201dVilles et num\u00e9rique\u201d, \u00c9cole urbaine de Sciences Po. 2021.<\/span><\/span><\/p>\n

4 Voir ces trois \u00e9tudes\u00a0: Celle de Guillaume Gormand command\u00e9e par le CREOGN<\/span><\/span><\/p>\n

https:\/\/www.aefinfo.fr\/depeche\/663759-pour-le-cherche<\/a>, <\/span><\/span><\/p>\n

l\u2019\u00e9tude sur la vid\u00e9osurveillance dans les villages, novembre 2021 <\/span><\/span><\/p>\n

https:\/\/linc.cnil.fr\/fr\/comment-la-videosurveillance-se-de<\/a> <\/span><\/span><\/p>\n

et le rapport sur les polices municipales, octobre 2020 disponible sur<\/span><\/span><\/p>\n

https:\/\/www.ccomptes.fr\/system\/files\/2020-11\/2020102<\/a> <\/span><\/span><\/p>\n

5 Laurent Mucchielli Vous \u00eates film\u00e9s, Armand Colin, 2018, page 80<\/span><\/span><\/p>\n

6 Guillaume Faburel Les m\u00e9tropoles barbares, Paris, Le passager clandestin, 2020 [2018], page 46<\/span><\/span><\/p>\n

7 Ibid<\/span><\/span><\/p>\n

Blog de la quadrature du net sur mediapart<\/b><\/span><\/span><\/p>\n

** **<\/span><\/span><\/p>\n

Pour en savoir plus<\/b><\/span><\/span><\/p>\n

https:\/\/www.quieryavenir.fr\/blog\/2022\/04\/15\/gaffe-aux-<\/a> <\/span><\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

Signez l’appel<\/p>\n","protected":false},"author":4,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-8855","post","type-post","status-publish","format-standard","hentry","category-non-classe"],"_links":{"self":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/8855","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/comments?post=8855"}],"version-history":[{"count":1,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/8855\/revisions"}],"predecessor-version":[{"id":8856,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/posts\/8855\/revisions\/8856"}],"wp:attachment":[{"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/media?parent=8855"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/categories?post=8855"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/collectif-accad.fr\/site\/wp-json\/wp\/v2\/tags?post=8855"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}