Un livre de poche de Shoshana ZUBOFF
Livre paru en octobre 2020
Censés faciliter notre quotidien, les outils technologiques et les algorithmes sont-ils vraiment à notre service ? Ou représentent-ils une forme inédite de domination, d’autant plus dangereuse qu’elle serait invisible ? Professeure émérite à Harvard, la sociologue Shoshana Zuboff livre, avec L’Âge du capitalisme de surveillance, une enquête vertigineuse sur le pouvoir « monstrueux » des machines intelligentes, un pouvoir qui ne dépend pas tant de leurs interactions au présent que de leurs capacités à prédire et à orienter les comportements humains futurs. Retraçant vingt ans de stratégies marketing en ligne, Shoshana Zuboff montre que ce n’est pas « la technologie » en tant que telle mais bien des choix humains très précis qui ont permis de mettre en place un modèle qu’elle juge menaçant pour la liberté humaine. Très remarqué lors de sa sortie aux États-Unis en 2019, son livre est enfin disponible en français, dans une traduction qui fait honneur à la fluidité luxuriante de l’original.
Le « capitalisme de surveillance », c’est quoi ?
Mobilisant une masse de documents colossale, Shoshana Zuboff résume ce concept ainsi : « Le capitalisme de surveillance revendique l’expérience humaine comme matière première destinée à être traduite en données comportementales. » Concrètement, les données personnelles que nous disséminons chaque jour (un « J’aime » sur Instagram, une recherche sur Google…) représentent un « surplus comportemental » étudié par un bataillon d’algorithmes prédictifs. Ces derniers disposent d’une telle quantité de données qu’ils sont capables d’anticiper sur nos actions et de les cadrer selon les préférences des annonceurs. Les géants du Web (Google, Apple, Facebook, Amazon, Microsoft, les fameux Gafam…) sont ainsi des « mercenaires de la personnalité » dont les clients ne sont pas les consommateurs, comme on pourrait le croire, mais les entreprises à qui ils vendent leurs prévisions. Santé, loisirs, transports, assurance… Tous les domaines de l’existence sont concernés. Un exemple parmi d’autres : le jeu Pokémon Go, qui faisait mine de disséminer des bestioles colorées dans la ville pour mieux guider ses utilisateurs vers des restaurant ou des magasins.
L’histoire aurait toutefois pu s’écrire autrement
Loin d’accabler « le numérique » dans sa globalité, Shoshana Zuboff montre que des choix humains identifiables sont responsables de ce processus. Tout commence en 2001 lorsque Google, acculé par des investisseurs avides de profits, trahit sa promesse de ne pas recourir à la publicité et se met à monétiser ses recherches. Les données personnelles, qui n’étaient alors que des déchets de navigation, deviennent une mine d’or : « Google a découvert que nous avons moins de valeur que les paris de certains sur nos comportements futurs. Cela a tout changé. » Résultat : ces entreprises en savent davantage sur nous que nous-mêmes. Et cette asymétrie est le cœur du problème : « Leur connaissance remplace notre liberté. » Les algorithmes nous privent d’une forme d’autonomie dans nos désirs ou nos jugements. Et gare à ceux qui oseraient s’en indigner ! L’autrice donne un exemple sur le système de gestion thermostatique d’une habitation proposé par Google : « Si vous refusez que vos données domestiques soient partagées, la compagnie cesse de mettre à jour le logiciel. Du coup, vos canalisations risquent de geler. »
Un pamphlet un peu trop éloigné de la réalité ?
Si Shoshana Zuboff critique avec force l’hégémonie du capitalisme de surveillance, on peut se demander si elle ne surévalue pas quelque peu le succès réel des algorithmes. Combien de fois avons-nous tiqué devant une publicité « ciblée » qui n’avait aucune pertinence, ou été déçus par des « suggestions de compte à suivre » sans aucun intérêt ? Le peu de propositions formulées pour lutter contre ce modèle économique laisse également un goût d’inachevé. Shoshana Zuboff s’en tient en effet à des recommandations assez vagues, telles que : « Les utilisateurs doivent se mobiliser selon des stratégies nouvelles […]. Nous avons besoin de déclarations synthétiques institutionnalisées dans de nouveaux centres de pouvoir, d’expertise et de contestation démocratiques qui puissent remettre en cause les asymétries actuelles de la connaissance et du pouvoir. » Reste que son essai, à la fois dense et raconté tambour battant, est une indispensable « cartographie d’une terra incognita » qui nomme clairement un danger pour mieux le combattre.
Article paru en septembre 2020
** **
Sur France culture, le 31 mai 2024
Une émission d’une heure