Après les déboires de la gestion des incidents survenus au Stade de France en marge de la finale de la Ligue des Champions en mai dernier, le ministre de l'Intérieur pousse pour un dispositif de sécurité particulièrement renforcé à l'occasion des Jeux olympiques 2024 - dispositif qui devrait prochainement être consacré par un vote du Parlement.
Ces mesures consistent notamment en le déploiement de nouvelles technologies, comme les caméras augmentées, dont l'expérimentation à la faveur des JO pourrait augurer un pas supplémentaire vers la surveillance et l'analyse généralisées des populations, franchissant ainsi une nouvelle étape dans l'essor de la safe city, pendant sécuritaire de la smart city.
Surveillance et analyse généralisées
Voté par le Sénat en début d'année, le projet de loi olympique, examiné à l'Assemblée nationale à partir d'aujourd'hui, aborde pour une large part la dimension sécuritaire de l'événement et semble fortement dominé par l'inquiétude d'un fiasco similaire à celui survenu au Stade de France en mai 2022. Si la reconnaissance faciale, un moment évoquée, a été écartée du dispositif sécuritaire, le projet de loi propose l'utilisation de scanners corporels - jusque-là réservés aux aéroports - et de caméras dites augmentées.
Le sujet est sensible. Ces caméras s'appuient sur l'intelligence artificielle pour comptabiliser, répertorier et analyser les comportements de la population filmée en temps réel. Amenées à traiter une quantité massive de données au caractère potentiellement personnel, ces caméras font l'objet d'une vigilance renforcée de la CNIL, qui estime dans sa délibération sur le projet de loi que :
« [Ces dispositifs] ne constituent pas une simple évolution technologique, mais une modification de la nature des dispositifs vidéo, pouvant entraîner des risques importants pour les libertés individuelles et collectives et un risque de surveillance et d'analyse dans l'espace public. »
La CNIL s'inquiète notamment d'une faible transparence de ces dispositifs, qui permettront de filmer des lieux difficiles d'accès pour des caméras classiques, sans que les individus soient suffisamment informés de leurs droits en la matière.
Parler de « vidéosurveillance algorithmique » ou « automatisée », plutôt que de caméra augmentée, ainsi que le préconise la Quadrature du Net, nous rappelle que les données enregistrées par les caméras seront aux mains d'algorithmes, dont il reste à savoir sur quelle base ils seront entraînés, et sur quels critères ils fonctionneront.
À ce titre, si on peut se féliciter que le projet de loi du gouvernement ait pris en compte une large partie des recommandations de la CNIL - notamment que la mise en œuvre des traitements algorithmiques soit conditionnée à des mesures de contrôle humain, permettant notamment de corriger des biais éventuels ou une mauvaise utilisation -, il ne faut pas oublier que ces algorithmes sont à l'origine de nombreuses discriminations. Le défenseur des droits le rappelait dans un avis paru en 2020 : « en réalité, il n'y a ni magie technologique ni neutralité mathématique : les algorithmes sont conçus par des humains et à partir de données reflétant des pratiques humaines ».
Solutionnisme technologique et tentation sécuritaire
Si l'utilisation de ces caméras à l'occasion des Jeux olympiques est uniquement expérimentale, il est toutefois à redouter qu'elle inaugure un premier pas vers une acceptation plus généralisée de ces dispositifs dans notre quotidien. Ainsi que le souligne la sociologue Myrtille Picaud, leur déploiement à l'occasion d'événements festifs, apolitiques et consensuels facilite ultérieurement leur banalisation. Or, plus encore qu'une surveillance généralisée des populations, selon la CNIL, la banalisation des caméras augmentées donnerait lieu à une analyse généralisée, grâce aux algorithmes déployés.
Caméras augmentées - Gorodenkoff - @Shutterstock
Le solutionnisme technologique a en effet de beaux jours devant lui, dans un contexte de tentation sécuritaire pressante dans nombre de métropoles - la CNIL elle-même évoque un risque « d'accoutumance » à ces technologies de plus en plus intrusives. La ville de Nice, touchée en 2016 par un attentat à l'origine de 86 victimes, en est sans doute l'exemple le plus connu : un très large dispositif de vidéosurveillance y est déjà déployé, et des expérimentations plus inquiétantes les unes que les autres menacent d'y être développées, telles qu'un dispositif de reconnaissance faciale à l'entrée des lycées - évitée de justesse en 2019 suite au recours au tribunal administratif de Marseille de plusieurs associations de défense des libertés.
Selon la Quadrature du Net, ce sont probablement plus d'une centaine de villes françaises qui ont recours à la vidéosurveillance automatisée - un chiffre difficile à définir, en raison du manque de transparence des municipalités utilisant ces dispositifs. Désireuses de gagner en attractivité, ces villes, majoritairement dirigées par des maires à droite de l'échiquier politique, contractent des marchés avec des entreprises spécialisées dans la vidéosurveillance pour mieux mettre en avant le climat de sécurité qu'elles y garantiraient.
L'avènement du capitalisme de la surveillance sous-tend en effet le développement des safe cities, dont le modèle repose sur la surveillance totale de l'espace public grâce à des technologies forgées par des entreprises privées, avec la complaisance des élus locaux. Un tel modèle représente de juteuses opportunités pour des entreprises souvent étrangères, dont le seul nom évoque généralement une promesse de sécurité, comme « Serenicity » ou « Confidentia », qui, tout alléchante qu'elle soit, masque mal sa dimension dystopique. À cet égard, la démonstration des capacités technologiques du dispositif de vidéosurveillance automatisée de l'entreprise BriefCam laisse l'arrière-goût amer de la lecture de 1984.
Vers un urbanisme éthique
Les enjeux soulevés par le risque d'un essor des caméras augmentées ne sont pas seulement démocratiques, économiques ou financiers. Ils englobent plus généralement l'appropriation de l'espace urbain par ses habitants. En effet, de tels dispositifs se déploient dans des espaces clôturés - stades, fanzones - plus faciles à contrôler, de manière souvent invisible ou du moins difficile à contrôler, faisant craindre une fragmentation accrue de la ville autour de l'émergence d'îlots hypersurveillés.
Par ailleurs, en supervisant la foule - c'est l'objectif principal des caméras qui seront déployées dans le cadre des JO - les algorithmes visent à établir des schémas de circulation fluide, normalisés, qui pourraient par exemple s'appliquer progressivement au parcours des manifestations politiques.
C'est bien la dimension pernicieuse d'une telle expérimentation : en s'appliquant à un événement apolitique, elle fait oublier les enjeux politiques qu'elle sous-tendrait si elle venait à être généralisée. Or, face au développement incontrôlé des technologies de surveillance, la question n'est plus tant celle du techniquement possible que du choix politique et éthique de la société qui se construit.
Photo d'ouverture : Hôtel de ville de Paris, 13 mars 2023 -Alain Jocard - @AFP