Soit une population de 18 millions d'individus (1) parmi lesquels on estime qu'il y a 100 terroristes potentiels (soit environ 0,00056%). Le gouvernement met en place un système de surveillance généralisée de toutes les communications pour identifier les 100 terroristes. Ledit système, très perfectionné, retourne un résultat correct dans 99% des cas. Question : lorsque le système détecte un terroriste, quelle est la probabilité pour qu'il soit effectivement un terroriste ?
La réponse intuitive est 99%. Mais cette réponse est fausse : c'est un biais cognitif classique - on appelle ça oubli de la fréquence de base : en réalité, il n'y a que 0,98% de chances pour qu'on ait effectivement affaire à un terroriste.
Au total, le système identifiera 99 des 100 terroristes - c'est-à-dire que l'un d'entre eux passera entre les mailles du filet - et produira un total de 179 999 fausses alertes. C'est-à-dire que, pour que ce système soit efficace sans enfermer des innocents, il faudrait mener 180 098 enquêtes approfondies et mobiliser autant de ressources qui seraient bien mieux employées ailleurs.
Bref, outre le fait qu'il constituerait une atteinte grave à nos vies privées, un tel système serait un gaspillage monumental de ressources.
Notes :
Lire aussi Floyd Rudmin et [Ray Corrigan].
(1) France métropolitaine, hommes âgés de 20 à 64 ans (Insee). [?]