Dans ce qui pourrait être le premier cas connu de ce genre, une erreur de reconnaissance faciale a conduit à l'arrestation d'un homme du Michigan pour un délit qu'il n'avait pas commis.
« Ce n'est pas moi », a déclaré Robert Julian-Borchak Williams aux enquêteurs. « Vous pensez que tous les hommes noirs se ressemblent ? » Photo Sylvia Jarrus pour le New York Times
Un jeudi après-midi de janvier, Robert Julian-Borchak Williams était dans son bureau dans une entreprise de fournitures automobiles lorsqu'il a reçu un appel du département de police de Detroit lui disant de se rendre au poste pour être arrêté. Il a d'abord pensé qu'il s'agissait d'une blague.
Une heure plus tard, lorsqu'il est arrivé dans son allée dans un quartier calme de Farmington Hills, Michigan, une voiture de police s'est arrêtée derrière lui, le bloquant. Deux policiers sont sortis et ont menotté M. Williams sur sa pelouse de devant, devant sa femme et ses deux jeunes filles, qui étaient désemparées. La police n'a pas voulu dire pourquoi il était arrêté, mais lui a seulement montré un morceau de papier avec sa photo et les mots « mandat d'arrêt pour délit » et « vol ».
Sa femme, Melissa, a demandé où il était emmené. « Cherchez sur Google », lui a répondu un des agents.
La police a conduit M. Williams dans un centre de détention. Il a été photographié, ses empreintes digitales et son ADN ont été prélevés, et IL a été détenu jusqu'au lendemain. Vers midi le vendredi, deux inspecteurs l'ont emmené dans une salle d'interrogatoire et ont posé trois morceaux de papier sur la table, face cachée.
« Quand êtes-vous allé dans un magasin Shinola pour la dernière fois ? » a demandé l'un des inspecteurs, selon les souvenirs de M. Williams. Shinola est une boutique haut de gamme qui vend des montres, des vélos et des articles en cuir dans le quartier branché de Midtown, à Detroit. M. Williams a déclaré que lui et sa femme avaient visité le magasin lors de son ouverture en 2014.
L'inspecteur a retourné le premier papier. Il s'agissait d'une image fixe tirée d'une vidéo de surveillance, montrant un homme corpulent, vêtu de noir et portant une casquette rouge des St. Louis Cardinals, debout devant un étalage de montres. Cinq montres, d'une valeur de 3 800 $, ont été volées à l'étalage.
« C'est vous ? », a demandé l'inspecteur.
Le deuxième morceau de papier était un gros plan. La photo était floue, mais il est clair que ce n'était pas M. Williams. Il a pris l'image et l'a tenue à côté de son visage.
« Non, ce n'est pas moi », a dit M. Williams. « Vous pensez que tous les hommes noirs se ressemblent ? »
M. Williams savait qu'il n'avait pas commis le délit en question. Ce qu'il ne pouvait pas savoir, alors qu'il était assis dans la salle d'interrogatoire, c'est que son cas pourrait être la première histoire connue d'un USAméricain arrêté à tort sur la base d'une correspondance erronée d'un algorithme de reconnaissance faciale, selon les experts en technologie et en droit.
Un système défaillant
Un débat national fait rage sur le racisme dans les forces de l'ordre. Dans tout le pays, des millions de personnes protestent non seulement contre les actions de certains agents, mais aussi contre les préjugés des systèmes utilisés pour surveiller les communautés et identifier les personnes à poursuivre.
Les systèmes de reconnaissance faciale sont utilisés par les forces de police depuis plus de deux décennies. Des études récentes du M.I.T. et du National Institute of Standards and Technology, ou NIST, ont révélé que si la technologie fonctionne relativement bien sur les hommes blancs, les résultats sont moins précis pour d'autres groupes démographiques, en partie à cause du manque de diversité des images utilisées pour élaborer les bases de données sous-jacentes.
L'année dernière, lors d'une audition publique sur l'utilisation de la reconnaissance faciale à Detroit, un chef de police adjoint a fait partie de ceux qui ont exprimé leurs inquiétudes. « Sur la question des faux positifs - c'est absolument factuel, et c'est bien documenté », a déclaré James White. « Cela me concerne donc en tant qu'homme afro-américain. »
Ce mois-ci, Amazon, Microsoft et IBM ont annoncé qu'ils arrêteraient ou mettraient en pause leurs offres de reconnaissance faciale pour les forces de l'ordre. Les gestes étaient largement symboliques, étant donné que les entreprises ne sont pas de grands acteurs de l'industrie. La technologie que les services de police utilisent est fournie par des sociétés qui ne sont pas des noms connus, comme Vigilant Solutions, Cognitec, NEC, Rank One Computing et Clearview AI.
Clare Garvie, avocate au Center on Privacy and Technology de l'université de Georgetown, a écrit sur les problèmes liés à l'utilisation de la reconnaissance faciale par le gouvernement. Elle soutient que les images de recherche de faible qualité - comme une image fixe provenant d'une vidéo de surveillance granuleuse - devraient être interdites, et que les systèmes actuellement utilisés devraient être testés rigoureusement pour en vérifier l'exactitude et la partialité.
« Il y a des algorithmes médiocres et il y en a de bons, et les forces de l'ordre ne devraient acheter que les bons », a déclaré Mme Garvie.
À propos de l'expérience de M. Williams dans le Michigan, elle a ajouté : « Je soupçonne fortement que ce n'est pas la première fois qu'on identifie mal quelqu'un pour l'arrêter pour un crime qu'il n'a pas commis. C'est juste la première fois que nous en avons connaissance ».
En octobre 2018, quelqu'un a volé cinq montres, d'une valeur de 3 800 dollars, dans un magasin Shinola de Detroit. Photo Sylvia Jarrus pour le New York Times
Dans une parade perpétuelle
Le cas de M. Williams combine une technologie défectueuse et un mauvais travail de police, illustrant comment la reconnaissance faciale peut mal tourner.
Le vol à l'étalage chez Shinola a eu lieu en octobre 2018. Katherine Johnston, une enquêtrice de Mackinac Partners, une entreprise de prévention des pertes, a examiné la vidéo de surveillance du magasin et a envoyé une copie à la police de Detroit, selon leur rapport.
Cinq mois plus tard, en mars 2019, Jennifer Coulson, une examinatrice d'images numériques pour la police d'État du Michigan, a téléchargé une « image de sonde » - une photo de la vidéo, montrant l'homme à la casquette des Cardinals - dans la base de données de reconnaissance faciale de l'État. Le système a dû cartographier le visage de l'homme et rechercher des images similaires dans une collection de 49 millions de photos.
La technologie de l'État est fournie pour 5,5 millions de dollars par une société appelée DataWorks Plus. Fondée en Caroline du Sud en 2000, cette société a d'abord proposé un logiciel de gestion des photos d'identité judiciaire, a déclaré Todd Pastorini, directeur général. En 2005, la société a commencé à développer le produit, en y ajoutant des outils de reconnaissance faciale développés par des fournisseurs extérieurs.
Lorsque l'un de ces sous-traitants développe un algorithme de reconnaissance des visages, DataWorks tente de juger de son efficacité en effectuant des recherches à partir d'images de mauvaise qualité d'individus dont elle sait qu'ils sont présents dans un système. « Nous avons testé beaucoup de déchets », a déclaré M. Pastorini. Ces vérifications, a-t-il ajouté, ne sont pas « scientifiques » - DataWorks ne mesure pas formellement la précision ou la partialité des systèmes.
« Nous sommes devenus des pseudo-expert sde la technologie », a déclaré M. Pastorini.
Dans le Michigan, le logiciel DataWorks utilisé par la police d'État intègre des composants développés par le géant technologique japonais NEC et par Rank One Computing, basé dans le Colorado, selon M. Pastorini et une porte-parole de la police d'État. En 2019, les algorithmes des deux sociétés ont été inclus dans une étude fédérale portant sur plus de 100 systèmes de reconnaissance faciale qui a révélé qu'ils étaient biaisés, identifiant faussement les visages afro-américains et asiatiques de 10 à 100 fois plus que les visages caucasiens.
Le directeur général de Rank One, Brendan Klare, a déclaré que la société avait développé un nouvel algorithme devant être examiné par le NIST qui « resserre les différences de précision entre les différentes cohortes démographiques ».
Après que Mme Coulson, de la police d'État, eut lancé sa recherche sur l'image de sonde, le système aurait fourni une série de résultats générés par le NEC et une série de Rank One, ainsi que des marges de confiance. La photo du permis de conduire de M. Williams figurait parmi les résultats. Mme Coulson l'a envoyée à la police de Detroit en tant que « Rapport de piste d'enquête ».
« Ce document n'est pas une identification positive », peut-on lire en majuscules et en gras en haut du dossier. « l s'agit uniquement d'une piste d'enquête et ne constitue pas une cause probable d'arrestation ».
C'est ce que les fournisseurs de technologie et les forces de l'ordre soulignent toujours lorsqu'ils défendent la reconnaissance faciale : elle est censée n'être qu'un indice dans l'affaire, pas une preuve irréfutable. Avant d'arrêter M. Williams, les enquêteurs auraient pu rechercher d'autres preuves qu'il avait commis le vol, comme un témoignage oculaire, les données de localisation de son téléphone ou la preuve qu'il était propriétaire des vêtements que le suspect portait.
Dans ce cas, cependant, selon le rapport de police de Detroit, les enquêteurs ont simplement inclus la photo de M. Williams dans une « parade d'un pack de 6 photos » qu'ils ont créé et montré à Mme Johnston, la sous-traitante en prévention des pertes de Shinola, et elle l'a identifié. (Mme Johnston a refusé de commenter).
Le Centre de détention de Detroit. M. Williams a été détenu pendant 30 heures. Photo Sylvia Jarrus pour le New York Times
« Je suppose que l'ordinateur s'est planté »
M. Pastorini a été stupéfait lorsque la procédure lui a été décriet. « Cela semble mince sur toute la ligne », a-t-il dit.
M. Klare, de Rank One, a critiqué le rôle de Mme Johnston dans le processus. « Je ne suis pas sûr que cela les qualifie comme témoin oculaire, ou que cela donne plus de poids à leur expérience que d'autres personnes qui ont pu voir cette même vidéo après coup », a-t-il déclaré. John Wise, un porte-parole de NEC, a déclaré : « Une correspondance utilisant uniquement la reconnaissance faciale n'est pas un moyen d'identification positive ».
Le vendredi où M. Williams était assis dans une salle d'interrogatoire de la police de Detroit était la veille de son 42e anniversaire. Ce matin-là, sa femme a envoyé un courriel à son patron pour lui dire qu'il allait s'absenter du travail en raison d'une urgence familiale ; cela a cassé son record de quatre ans d'assiduité parfaite.
Dans les souvenirs de M. Williams, après avoir tenu la capture de la vidéo de surveillance à côté de son visage, les deux inspecteurs se sont penchés en arrière dans leurs chaises et se sont regardés l'un l'autre. L'un d'eux, qui semblait chagriné, a dit à son partenaire : « Je suppose que l'ordinateur s'est planté. »
Ils ont retourné un troisième morceau de papier, qui était une autre photo de l'homme du magasin Shinola à côté du permis de conduire de M. Williams. M. Williams a de nouveau fait remarquer qu'il ne s'agissait pas de la même personne.
M. Williams a demandé s'il était libre de partir. « Malheureusement non », a répondu un inspecteur.
M. Williams a été maintenu en détention jusqu'à ce soir-là, 30 heures après avoir été arrêté, et libéré contre une caution personnelle de 1 000 $. Il a attendu dehors sous la pluie pendant 30 minutes que sa femme puisse venir le chercher. Lorsqu'il est rentré à 22 heures, sa fille de cinq ans était encore éveillée. Elle a dit qu'elle l'attendait parce qu'il avait dit, lors de son arrestation, qu'il reviendrait tout de suite.
Depuis, elle s'est mise à jouer aux « flics et aux voleurs » et accuse son père de voler des choses, insistant pour l' « enfermer » dans le salon.
M. Williams avec sa femme, Melissa, et leurs filles à la maison à Farmington Hills, Mich. Photo Sylvia Jarrus pour le New York Times
Obtenir de l'aide
La famille Williams a contacté des avocats de la défense, dont la plupart, selon eux, supposaient que M. Williams était coupable du délit et ont évoqué des prix d'environ 7 000 dollars pour le représenter. Mme Williams, directrice du marketing immobilier et blogueuse alimentaire, a également tweeté à l'American Civil Liberties Union of Michigan, qui s'est immédiatement intéressée à la question.
« Nous avons activement tenté de tirer la sonnette d'alarme autour de la reconnaissance faciale, à la fois comme une menace pour la vie privée quand elle fonctionne et comme une menace raciste pour tout le monde quand elle ne fonctionne pas », a déclaré Phil Mayor, un avocat de l'organisation. « Nous savons que ces histoires existent, mais elles sont difficiles à entendre car les gens ne se rendent généralement pas compte qu'ils ont été victimes d'une mauvaise recherche de reconnaissance faciale ».
Deux semaines après son arrestation, M. Williams a pris un jour de vacances pour comparaître devant un tribunal du comté de Wayne pour une mise en accusation. Lorsque l'affaire a été appelée, le procureur a demandé un non-lieu, mais « sans préjudice », ce qui signifie que M. Williams pourrait plus tard être à nouveau inculpé.
Maria Miller, porte-parole du procureur, a déclaré qu'un deuxième témoin s'était rendu au magasin en 2018 lorsque le vol à l'étalage a eu lieu, mais qu'on ne lui avait pas demandé de regarder une séance de photos. Si l'individu fait une identification à l'avenir, a-t-elle dit, le bureau décidera s'il y a lieu de porter des accusations.
Une porte-parole de la police de Detroit, Nicole Kirkwood, a déclaré que pour l'instant, le département « a accepté la décision du procureur de classer l'affaire ». Elle a également déclaré que le département a mis à jour sa politique de reconnaissance faciale en juillet 2019 afin qu'elle ne soit utilisée que pour enquêter sur les crimes violents.
Le département, a-t-elle dit dans une autre déclaration, « ne procède pas à des arrestations basées uniquement sur la reconnaissance faciale ». L'enquêteuse a examiné des vidéos, interrogé des témoins, procédé à une séance de parade photographique ».
Mercredi, l'A.C.L.U. du Michigan a déposé une plainte contre de la ville, demandant un rejet absolu de l'affaire, des excuses et le retrait des informations de M. Williams des bases de données criminelles de Detroit.
Le département de police de Detroit « devrait cesser d'utiliser la technologie de reconnaissance faciale comme outil d'enquête », a écrit M. Mayor dans la plainte, ajoutant que « es faits de l'affaire de M. Williams prouvent à la fois que la technologie est défectueuse et que les enquêteurs du DPD ne sont pas compétents pour utiliser cette technologie ».
L'avocat de M. Williams, Victoria Burton-Harris, a déclaré que son client est « chanceux », malgré ce qu'il a subi.
« Il est vivant », a déclaré Mme Burton-Harris. « C'est un homme très grand. Mon expérience, en tant qu'avocate de la défense, est que lorsque des policiers interagissent avec de très grands hommes, de très grands hommes noirs, ils agissent immédiatement par peur. Ils ne savent pas comment désamorcer une situation ».
« C'était humiliant »
M. Williams et sa femme n'ont pas parlé à leurs voisins de ce qui s'est passé. Ils se demandent s'ils doivent faire suivre une thérapie à leurs filles. Le patron de M. Williams lui a conseillé de ne le dire à personne au travail.
« Ma mère n'est pas au courant. Ce n'est pas quelque chose dont je suis fier », a déclaré M. Williams. « C'est humiliant. »
Depuis, il s'est rappelé ce qu'il faisait le soir du vol à l'étalage. Il rentrait chez lui en voiture après le travail et avait posté une vidéo sur son Instagram privé parce qu'une chanson qu'il aimait était passée - "We Are One" de 1983, de Maze et Frankie Beverly. Les paroles disent :
Je ne comprends pas
Pourquoi nous nous traitons ainsi
À perdre du temps
Avec les jeux stupides que nous jouons
Si la police de Detroit avait recherché un alibi, il en avait un.
Aaron Krolik a contribué à ce reportage
Note : En réponse à cet article, le bureau du procureur du comté de Wayne a déclaré que Robert Julian-Borchak Williams pourrait faire effacer l'affaire et ses données d'empreintes digitales. « Nous nous excusons », a déclaré le procureur, Kym L. Worthy, dans une déclaration, ajoutant : « Cela ne compense en aucun cas les heures que M. Williams a passées en prison. »
Courtesy of Tlaxcala
Source: nytimes.com
Publication date of original article: 24/06/2020