15/08/2020 les-crises.fr  19 min #178044

Dataminr : La Police américaine a reçu l'aide d'une start-up affiliée à Twitter pour surveiller les manifestations

Photo illustration: Soohee Cho/The Intercept, Getty Images

Source :  The Intercept, Sam Biddle
Traduit par les lecteurs du site Les-Crises

Photo illustration: Soohee Cho/The Intercept, Getty Images

EN TIRANT PARTI DE SES LIENS ÉTROITS avec Twitter, la start-up controversée spécialisée dans l'intelligence artificielle Dataminr a aidé les forces de l'ordre à surveiller numériquement les manifestations qui ont balayé le pays à la suite de l'assassinat de George Floyd, en relayant à la police des publications sur les médias sociaux montrant les derniers déplacements et actions des manifestants, selon des documents examinés par The Intercept et une source ayant une connaissance directe de la question.

Cette surveillance semble aller à l'encontre des affirmations de Twitter et de Dataminr selon lesquelles aucune des deux sociétés ne se livrerait à une activité de surveillance nationale ou ne faciliterait celle-ci après une série de controverses en 2016. Twitter, jusqu'à récemment investisseur de longue date dans Dataminr aux côtés de la CIA, fournit à la société un accès complet à un flux de contenu connu sous le nom de « firehose » - un privilège rare parmi les entreprises technologiques et qui permet à Dataminr, récemment évaluée à plus de 1,8 milliards de dollars, de scanner chaque tweet public dès que son auteur clique sur « envoyer ». Les deux entreprises ont nié que le suivi des manifestations correspondait à la définition de la surveillance.

Une histoire du travail de la police

Dataminr aide les salles de rédaction, les entreprises et les gouvernements du monde entier à suivre les crises à une vitesse déconcertante qui se déroulent sur les médias sociaux et sur le web. Grâce à une combinaison de personnes et de logiciels, la société alerte les organisations pour qu'elles puissent discuter des crises mondiales (guerres, fusillades, émeutes, catastrophes, etc.), et ainsi avoir un avantage concurrentiel lorsque les nouvelles sont diffusées. Mais la signification de cet avantage concurrentiel, la capacité incroyable à filtrer les événements importants du bruit de centaines de millions de tweets et de messages sur les médias sociaux, variera considérablement selon le client ; les intentions d'un journal utilisant Dataminr pour présenter les dernières nouvelles seront différentes de celles d'une banque ou du FBI. C'est cette dernière catégorie d'activité de Dataminr, un travail lucratif pour les gouvernements, qui a mis l'entreprise sur la défensive ces dernières années.

En 2016, Twitter a été contraint de tenir compte de multiples rapports indiquant que sa plate-forme était utilisée pour permettre une surveillance nationale, notamment un rapport du Wall Street Journal sur la collaboration de Dataminr avec des agences d'espionnage américaines en mai, un rapport de l'Union américaine pour les libertés civiles (ACLU) sur Geofeedia, un concurrent de Dataminr, en octobre, et une autre enquête de l'ACLU sur le travail de surveillance de la police fédérale de Dataminr en décembre. La société a cherché à assurer au public que les tentatives de suivi de ses utilisateurs à des fins de surveillance étaient strictement interdites par ses règles, et que tout contrevenant serait expulsé de la plate-forme. Par exemple, Chris Moody, alors vice-président, a écrit sur le blog de l'entreprise que « l'utilisation des API publiques de Twitter ou des produits de données visant à suivre ou profiler les manifestants et les activistes est absolument inacceptable et interdite ». Dans une lettre à l'ACLU, le responsable de la politique publique de Twitter, Colin Crowell, a également écrit que « l'utilisation des données de Twitter à des fins de surveillance est strictement interdite » et que « le produit de Dataminr ne fournit à aucun client gouvernemental... aucune forme de surveillance ».

Twitter a également déclaré que Dataminr, l'un de ses « partenaires officiels », ne cautionnerait plus « l'accès direct des centres de fusion » à des informations telles que les lieux de tweet ; les centres de fusion sont des installations controversées consacrées au partage de renseignements entre le gouvernement fédéral et la police locale. Dataminr a annoncé au même moment qu'elle ne fournirait plus de dispositif pour effectuer des analyses géospatiales « à ceux qui contribuent aux premières interventions » et a ajouté que ces clients n'avaient pas « d'accès direct au firehose ».

Mais sur la base d'entretiens, de demandes de documents publics et de documents d'entreprises examinés par The Intercept, Dataminr continue de permettre ce qui est essentiellement de la surveillance par des autorités policières américaines, ce qui contredit ses précédentes assurances du contraire, même si elle reste dans les limites techniques étroites qu'elle avait définies il y a quatre ans, comme le fait de ne pas fournir d'accès direct au firehose, de service de géolocalisation des tweets, ou certains accès à des centres de fusion.

Dataminr a relayé des tweets et d'autres contenus de médias sociaux sur les manifestations en hommage à George Floyd et de Black Lives Matter directement à la police, apparemment dans tout le pays. Ce faisant, elle a utilisé avec succès son accès privilégié aux données de Twitter - en dépit des conditions de service actuelles qui interdisent explicitement aux développeurs de logiciels « de suivre, d'alerter ou de surveiller des événements sensibles (tels que des manifestations, des rassemblements ou des réunions d'organisation communautaire) » via Twitter.

Et malgré les affirmations de Dataminr selon lesquelles son service d'application de la loi se contente de « fournir des alertes de dernière minute sur les événements d'urgence, tels que les catastrophes naturelles, les incendies, les explosions et les fusillades », comme l'a déclaré un porte-parole de la société à The Intercept dans le cadre d'un rapport précédent, la société a facilité la surveillance de récentes manifestations, y compris d'activités non violentes, en siphonnant de vastes quantités de données des médias sociaux sur le web et en les convertissant en paquets de renseignements de police bien classés.

Garder un œil sur les protestations pacifiques

La surveillance des manifestations de Black Lives Matter par Dataminr comprenait une surveillance constante des médias sociaux pour informer la police des localisations et des activités des manifestations, des évolutions au sein de rassemblements spécifiques, ainsi que des cas de « pillage » présumé et d'autres dommages matériels. Selon la source ayant une connaissance directe de la surveillance des manifestations effectuée par Dataminr, les affirmations passées de l'entreprise et de Twitter selon lesquelles elles n'approuvent pas ou ne permettent pas la surveillance sont des « conneries », qui reposent sur une définition délibérément restreinte. « Il est vrai que Dataminr ne suit pas spécifiquement les manifestants et les activistes individuellement, mais à la demande de la police, ils suivent les manifestations, et donc les manifestants », a expliqué cette source.

« À la demande de la police, ils suivent les manifestations, et donc les manifestants. »

Selon des documents internes examinés par The Intercept, Dataminr a non seulement suivi méticuleusement les manifestations en cours, mais a également conservé des dossiers complets sur les rassemblements contre les violences policières à venir dans les villes du pays afin d'aider son personnel à organiser ses efforts de surveillance, y compris des informations sur l'heure prévue des événements et leur lieu de départ dans ces villes. Un calendrier des manifestations consulté par The Intercept montre que Dataminr surveillait explicitement des dizaines de manifestations, petites et grandes, de Detroit et Brooklyn à York, en Pennsylvanie, et Hampton Roads, en Virginie.

Les documents de l'entreprise montrent également que la société a demandé aux membres de son personnel de rechercher les cas de « force meurtrière utilisée contre les manifestants par la police ou vice-versa », de « dommages matériels », d' »incendie criminel ou de pillage généralisé contre les infrastructures gouvernementales ou commerciales », de « nouveaux cas de fusillades ou de décès impliquant des officiers avec une interprétation potentielle de préjugés raciaux », et les occasions où une « protestation violente s'étend à une autre grande ville américaine ». Le personnel surveillait également en particulier les médias sociaux afin de repérer les messages concernant les « officiers impliqués dans la mort de Floyd » - qui seraient tous transmis aux clients gouvernementaux de Dataminr par le biais d'un service appelé « First Alert ».

Les documents Dataminr sur la surveillance des manifestations consultés par The Intercept ne précisent pas s'ils sont utilisés pour les clients des médias, les clients de la police, ou les deux. Mais un document Dataminr daté d'octobre 2019 répertorie dans la « trace de l'application de la loi » de la société le Département de police de New York (NYPD), le Département de police de Los Angeles (LAPD), le Département de police de Chicago (CPD) et la police d'État de Louisiane. Le LAPD a déclaré à The Intercept qu'il avait mené un procès contre Dataminr, mais qu'il a choisi de ne pas conclure de contrat et qu'il n'utilisait pas le système en relation avec les manifestations de BLM. La police d'État de Louisiane a refusé de commenter, invoquant une loi sur le secret d'État. Le NYPD n'a pas fait de commentaires et le CPD n'a pas pu être joint pour obtenir ses commentaires. En janvier 2019, un tribunal new-yorkais a ordonné au NYPD de lui remettre des dossiers concernant son utilisation de Dataminr, suite à un procès intenté par la New York Civil Liberties Union pour surveillance présumée de militants de Black Lives Matter.

« Dataminr fournit des informations à la police locale, y compris à des services de police métropolitains [en bon nombre] dans les villes confrontées à des manifestations », a déclaré la source. « Ils sont parmi les plus gros clients de Dataminr et ce sont eux qui établissent le programme ». Le porte-parole de Dataminr, Kerry McGee, a refusé de faire des commentaires sur la clientèle de l'entreprise.

Et les e-mails d'alerte de Dataminr envoyés au département de police de Minneapolis, obtenus via une demande de dossiers publics, montrent que la société a collecté, regroupé et légendé le contenu de Twitter en rapport avec les manifestations contre les brutalités policières et l'a transmis directement à la police au fur et à mesure du déroulement de ces événements, y compris des informations sur des manifestations apparemment non violentes. Les courriels montrent que Dataminr a relayé les positions et les images des manifestants de Black Lives Matter dans la ville où George Floyd a vécu et a été tué, et où la vague d'indignation nationale contre les abus de la police a été lancée, un fait difficile à concilier avec l'affirmation de la société selon laquelle elle ne fournit pas à ses clients gouvernementaux « une quelconque forme de surveillance ». Les informations de localisation contenues dans les alertes soulignent que si Dataminr n'a peut-être pas techniquement un accès direct aux données de géolocalisation jointes à de nombreux tweets par Twitter, les textes et images des tweets transmis à la police contiennent souvent des références géographiques manifestes, ou bien celles-ci y sont ajoutées manuellement par le personnel de Dataminr.

Si certaines des alertes proviennent des tweets de journalistes locaux et nationaux, beaucoup sont attribuées aux récits de simples passants - ce que le système appelle des « témoins oculaires » - qui ont suivi des rassemblements ou y ont assistés et ont tweeté à titre tout à fait personnel. Dans un message de première alerte relayé au département de police de Minneapolis (MPD) le 31 mai, six jours après le meurtre de Floyd, Dataminr a alerté la police à propos d'un tweet qui disait « protestation pacifique devant le US Bank Stadium dans le centre de Minneapolis. Mettez fin au racisme. Mettez fin à la brutalité policière. Mettez fin aux inégalités et aux injustices. #JusticeForFloyd #Minneapolisprotest #BlackLivesMatters », ainsi qu'une photo prise par le tweeteur. La légende, fournie par le personnel de Dataminr, précisait que ce groupe de manifestants avait été « vu à l'US Bank Stadium, au 400ème bloc de Chicago Avenue ». Une autre notification de première alerte envoyée au MPD trois jours auparavant avait averti la police de cette supposée menace à la sécurité publique : « Des manifestants ont été vus assis dans la rue devant des agents de sécurité à Oakdale, MN. » Un autre tweet surveillé et la photo qui l'accompagne, transmis au MPD par Dataminr, dit simplement : « Manifestation pacifique à Lake & Lyndale. »

Un tweet et une photo transmis à la police de Minneapolis dit, simplement : « Manifestation pacifique à Lake & Lyndale. »

First Alert examine également d'autres plateformes populaires comme Snapchat et Facebook, cette dernière étant particulièrement utile aux organisateurs de manifestations qui tentent de mobiliser rapidement leurs communautés. Au moins une fois, selon les dossiers du MPD, Dataminr a pu indiquer à la police la page Facebook d'une manifestation avant qu'elle ne commence.

Certaines des alertes de Dataminr ont transmis des informations douteuses. Par exemple, le 28 mai, la société a transmis une déclaration discréditée concernant le philanthrope milliardaire George Soros, informant le MPD que « la commentatrice Candace Owens prétend que le chef de la police de Minneapolis dit que de nombreux manifestants ne sont pas de la ville et affirme que l'investisseur George Soros finance les manifestants par le biais de l'Open Society Foundation ».

La surveillance, un service public

Cette contradiction visiblement flagrante de Dataminr, qui prétend toujours publiquement qu'elle ne se livrerait jamais à des activités de surveillance tout en facilitant la surveillance des manifestations, n'a pas échappé au personnel de l'entreprise. Lors d'une réunion virtuelle du personnel en juin, dont un enregistrement a été obtenu par The Intercept, un responsable de Dataminr a tenté d'expliquer pourquoi la surveillance persistante des activités du Premier Amendement par l'entreprise au nom de la police n'était pas, en fait, de la surveillance. Le directeur, identifié par la source comme étant le vice-président exécutif Jason Wilcox, a reconnu qu'il y avait probablement des membres du personnel de Dataminr qui réfléchissaient à des questions difficiles : « Quel rôle jouent notre technologie, notre entreprise, notre plate-forme, dans ce genre d'événements qui se déroulent actuellement ? - une allusion aux manifestations nationales qui étaient alors dans leur première semaine de gloire. « Nous vendons aux forces de l'ordre. Qu'est-ce que cela signifie ? » La défense de Wilcox de Dataminr était principalement basée sur une sorte de distinction linguistique : la transmission de données à la police n'est pas une forme de surveillance, mais une forme de collecte d'informations idéologiquement neutre. Dans un autre euphémisme, Wilcox a décrit les alertes de surveillance transmises à la police comme « une connaissance de la situation à travers des événements en temps réel, [dans] lesquels la vie de nombreuses personnes est en jeu, et elle peut répondre plus rapidement et sauver des vies ».

C'est généralement la même raison pour laquelle les équipes de relations publiques de Twitter et de Dataminr décrivent ce produit gouvernemental comme une source d' »alertes d'information » et non de renseignements - un raisonnement qui occulte largement les différences majeures entre ce que, par exemple, un journal pourrait faire avec des informations rapidement mises à jour sur une manifestation contre la police et ce que la police pourrait vouloir faire avec ces mêmes données.

Wilcox a ajouté que la surveillance des manifestations par Dataminr, loin de présenter un quelconque effet paralysant sur l'expression politique ou la liberté de réunion, était une force de progrès et de réforme : « Nous sommes vigilants sur les événements où les membres des forces de l'ordre dépassent leurs limites », a déclaré Wilcox. « Nous avons constaté des abus de pouvoir... En fin de compte, ce que nous faisons, c'est offrir un contrepoids à [la police]... Ces alertes fournissent un éclairage sur le monde qui assure la sécurité des personnes et leur permet de manifester en sécurité d'une manière qui ne vise pas à envahir la vie privée des utilisateurs, bien au contraire. Cela permet d'amplifier leur voix ».

Invité à commenter, M. McGee de Dataminr a écrit : « Dataminr ne commente pas les réunions internes de l'entreprise. » M. Wilcox n'a pas répondu à une demande de commentaires.

Wilcox a également défendu le travail de Dataminr auprès de la police en soulignant les liens étroits de l'entreprise avec Twitter, le grand bienfaiteur du Firehose, qui, selon Wilcox, « est souvent l'une des premières plateformes de médias sociaux à tendre la main et à protéger la vie privée, ils semblent être les plus à l'écoute à ce sujet, ils sont très soucieux de s'assurer que leur plateforme n'est pas utilisée à mauvais escient ».

« Ces alertes fournissent un éclairage sur le monde, assurant la sécurité des personnes. »

La justification en interne du travail de Dataminr pour la police repose également en partie sur l'argument selon lequel il n'est pas aussi néfaste qu'il pourrait l'être : « Nous regardons beaucoup de sociétés différentes qui utilisent les médias sociaux et elles ont souvent, pas toutes, mais souvent, des objectifs très différents », a expliqué M. Wilcox. « Leur but est d'aider à la surveillance. Elles établissent des graphiques des utilisateurs, suivent les utilisateurs lorsqu'ils passent par différentes plateformes de médias sociaux, suivent ce qu'une personne dit au fil du temps. Et nous ne faisons pas cela ». M. Wilcox a cité quelques autres mécanismes qui montrent, dit-il, à quel point il avait « travaillé dur pour s'assurer que notre technologie ne puisse à aucun moment être utilisée de manière abusive », notamment les limites intégrées des mots-clés que la police peut utiliser pour adapter ses « alertes d'information ».

Mais selon la source ayant une connaissance directe de la surveillance des manifestations de Dataminr, cela est trompeur : rien dans First Alert n'empêche la police de filtrer ou de rechercher manuellement des termes spécifiques, tels que « #BLM » ou « antifa », dans les renseignements qu'elle reçoit de Dataminr. Une fois qu'un tweet de protestation est passé par le système de Dataminr et qu'il a été envoyé dans la boîte de réception d'un service de police, en d'autres termes, Dataminr perd le contrôle de l'utilisation des informations. Cette image de contrainte technologique diffère aussi considérablement du discours que Dataminr donne à la police. Dans un diaporama consultable de Dataminr de 2019 tiré d'une présentation d'entreprise au FBI, inclus dans un récent déchargement de données en ligne connu sous le nom de « BlueLeaks », il était indiqué que « la mission de Dataminr est d'intégrer tous les flux de données disponibles au public pour créer la plate-forme dominante de découverte d'informations », et vantait la capacité d'un client à personnaliser des « critères définis par l'utilisateur » pour des alertes comme la « sélection de sujets » et les « filtres géographiques ». L'objectif final : « Réduire la durée séparant un événement de l'action du client ».

Surveillance ou « alertes d'informations » ?

Interrogés sur le travail de Dataminr avec les forces de l'ordre, tel que décrit ci-dessus, Twitter et Dataminr ont adopté une défense similaire : il ne s'agit pas de surveillance car nous avons une politique contre la surveillance, ce qui signifie donc que nous ne faisons pas de surveillance. Aucune des deux sociétés ne souhaite commenter ou exposer en quoi ce qui précède ne correspond pas exactement à la définition de la surveillance, ni donner les définitions institutionnelles de ce terme établies par l'une ou l'autre.

« Nous voyons un avantage sociétal à ce que les données publiques de Twitter soient utilisées pour l'alerte d'informations, le soutien aux premiers intervenants et les secours en cas de catastrophe », a déclaré la porte-parole de Twitter, Lindsay McCallum, qui a ajouté que l'outil First Alert de Dataminr « est conforme à notre politique des développeurs » interdisant la surveillance. « First Alert ne peut être utilisé pour une surveillance de quelque nature que ce soit par ses utilisateurs », a déclaré M. McGee de Dataminr à The Intercept. En réponse à une copie de capture d'écran du tweet que Dataminr a transmis à la police de Minneapolis concernant l'emplacement exact d'un groupe de manifestants, McGee a affirmé que cela avait été signalé au département de police parce que l'image montrait des problèmes de circulation, et non des manifestants. « Les alertes sur le blocage d'un carrefour sont des alertes d'informations, il ne s'agit pas d'une opération de suivi des manifestations ou de surveillance », a déclaré McGee. « Une organisation de presse locale traiterait également le blocage de principaux carrefours comme un sujet d'actualité - ce n'est pas de la surveillance ».

Mais pour certains spécialistes de la surveillance, experts juridiques et militants, il n'y a guère de doute sur ce que fait Dataminr et ce que Twitter permet, quelle que soit la terminologie prudente qu'ils utilisent. Selon Brandi Collins-Dexter, directrice de campagne du groupe de défense des droits civiques Color of Change, les pratiques de Dataminr sont un bel exemple de test du canard en matière de surveillance. [Résumé d'un dicton disant : « S'il marche comme un canard, nage comme un canard, et cancane comme un canard, alors je peux affirmer que c'est un canard », NdT] « Nous savons que les forces de l'ordre dépensent des sommes considérables pour suivre, cibler et surveiller les communautés noires de manière agressive », a déclaré Collins-Dexter. « Twitter ne peut pas avoir le beurre et l'argent du beurre, à savoir courtiser les militants noirs et se présenter comme l'outil principal leur permettant de s'organiser contre l'injustice, tout en fermant les yeux sur le nombre d'entreprises qui passent des contrats avec eux à des fins évidentes de surveillance de ces militants ».

« Twitter ne peut pas avoir le beurre et l'argent du beurre, à savoir courtiser les militants noirs et se présenter comme l'outil principal leur permettant de s'organiser contre l'injustice, tout en fermant les yeux sur les entreprises qui passent des contrats avec eux à des fins évidentes de surveillance de ces militants ».

Steven Renderos, le directeur exécutif du groupe de défense des droits civils MediaJustice, s'est fait l'écho de ce sentiment. « Il est troublant que Dataminr fournisse des services à la police et il n'est pas logique de penser qu'il n'y a aucun mal à remettre les messages Twitter aux flics », a déclaré Steven Renderos. « La police a l'habitude d'utiliser les médias sociaux pour traquer les militants noirs. Les pratiques de Dataminr ne sont que le dernier exemple en date de la façon dont les entreprises technologiques alimentent la police raciste aux États-Unis ».

« Si Dataminr partage des messages sur les manifestations et les manifestants avec la police, c'est extrêmement inquiétant et il est difficile de comprendre comment cette pratique ne facilite pas la surveillance policière en violation des propres politiques de Twitter », a déclaré Matt Cagle, avocat de l'ACLU de Californie du Nord. « Les réseaux sociaux comme Twitter doivent protéger les utilisateurs et s'assurer que les développeurs ne partagent pas leurs opinions exprimées en vertu du Premier Amendement avec les forces de l'ordre, une pratique qui expose potentiellement les gens - en particulier les Noirs, les indigènes et les personnes de couleur - à une surveillance accrue et à la violence d'État ».

Andrew Ferguson, professeur de droit invité à l'American University, a rejeté l'affirmation des entreprises selon laquelle puisque Dataminr n'ingère que des tweets publics, le système n'est capable que de recueillir des informations - comme si la prise de photos de manifestants par la police était mieux comprise comme du photojournalisme, et non comme de la surveillance photographique. « Surveiller les activités et transmettre des informations à la police est clairement de la surveillance », a expliqué Ferguson, auteur de « The Rise of Big Data Policing » : Surveillance, Race, and the Future of Law Enforcement ». « Si la police était une société de publicité basée sur les données, nous dirions qu'il s'agit de surveillance des consommateurs. Si la police traquait directement les manifestants, nous dirions qu'il s'agit d'une surveillance gouvernementale. La transmission des mêmes informations et le fait d'appeler ça de l'information reste de la surveillance ».

La question de savoir si les centaines de millions d'utilisateurs de Twitter accepteront l'argument selon lequel la transmission automatique de tweets à la police n'est qu'une collecte d'informations anodine reste ouverte, mais pour la plupart d'entre eux, elle est sans objet : en dehors des demandes laborieuses de dossiers publics, il est difficile d'imaginer comment quelqu'un pourrait réagir en découvrant que ses tweets de protestation ont été absorbés par les algorithmes d'un sous-traitant du gouvernement. On pourrait aussi penser à la façon dont Jason Wilcox a exhorté son personnel : « Toutes ces voix, nous pouvons les amplifier pour tout le monde... C'est assez impressionnant. C'est un évènement incroyable ».

Source :  The Intercept, Sam Biddle

 les-crises.fr

 Commenter