Facebook a commencé à donner à ses utilisateurs des "notes de réputation", qui sont censées prédire leur "crédibilité" sur échelle allant de zéro à un. Le but est de mesurer la "crédibilité" des informations relayées par ses utilisateurs afin d'être capable d'identifier les individus ayant des comportements nocifs. Il s'agit bien entendu de lutter contre le phénomène des fake news, comme l'a affirmé Tessa Lyons, la responsable de la lutte contre la désinformation du réseau social.
Jusqu'ici, Facebook comptait sur la vigilence (la délation ?) de ses utilisateurs pour lutter contre les fake news, mais ceux-ci semblaient désigner des contenus véridiques, simplement parce qu'ils n'étaient pas d'accord.
Tessa Lyons a affirmé au Washington Post que cette notation est un des nombreux indicateurs permettant à l'entreprise de mesurer l'ampleur du phénomène de fake news, et qu'il ne s'agit pas d'agir à partir de cette seule note.
Facebook n'est pas le seul à tenter de mesurer par des algorithmes la crédibilité de ses usagers.
Twitter a fait de même. On ne sait cependant rien du fonctionnement de ces systèmes de notation ou d'estimation de la fiabilité d'un profil numérique. Et évidemment personne ne peut avoir accès à sa note. Ce qui, en un sens, est assez logique : révéler la formule utilisée pour mesurer la fiabilité des utilisateurs permettrait sans aucun doute aux personnes malveillantes de contourner la surveillance.