Conférence sur l'intelligence artificielle et les fake news qui s'est tenue à Nanjing en octobre dernier à l'invitation de l'Association des journalistes chinois.
A l'occasion d'une conférence sur l'intelligence artificielle et les fake news qui s'est tenue à Nanjing en octobre dernier à l'invitation de l'Association des journalistes chinois en présence d'une centaine de représentants de médias d'une cinquantaine de pays, j'ai présenté les sept thèses suivantes qui, après réflexion, échanges et discussions, ont amené à nuancer mon propos sur certains points. Je vous livre une synthèse de ces réflexions qui me paraissent utiles pour comprendre l'univers mental et informationnel dans lequel nous nous apprêtons à entrer.
1.- Nous ne sommes qu'au début de l'ère de l'intelligence artificielle. Nous entrons aujourd'hui dans une ère comparable à celle des années 1980, lorsque Apple a lancé son premier ordinateur personnel, le Macintosh. De grandes innovations, à l'image de ce que fut le world wide web, vont voir le jour au cours des prochaines années et transformeront complètement notre environnement physique et mental. Il est impossible de désinventer l'intelligence artificielle.
2.- L'IA est comme une inondation, comme un fleuve en crue. Il est impossible de faire marche arrière ou de s'y opposer. La seule possibilité consiste à la canaliser afin de maîtriser les transformations qu'elle entraîne et d'éviter les dégâts qu'elle peut provoquer. Nous devons apprendre à réglementer et à maîtriser l'IA, car nous entrons dans une nouvelle ère prométhéenne, tout comme nos ancêtres ont dû apprendre à utiliser et à entretenir le feu sans se brûler.
3.- L'IA met à la disposition des journalistes et des médias de nombreux outils extrêmement utiles, notamment pour l'exploration des données, l'investigation, les statistiques, l'identification des tendances profondes et l'analyse des coulisses de l'actualité. Elle permet de découvrir des informations qui, autrefois, auraient nécessité des jours, voire des mois de recherches. Désormais, le journalisme ne sera plus celui que nous avons connu jusqu'à présent.
4,. L'IA est évidemment artificielle, mais elle n'est pas "intelligente". Elle est peut-être habile et astucieuse, mais certainement pas intelligente au sens profond du terme. En réalité, l'IA n'est qu'un agrégateur de mots : elle ne comprend pas véritablement ce qu'elle dit, dans le sens profond que nous donnons à ce terme. Elle n'a pas conscience d'elle-même. Du moins, pour le moment.
5.- L'IA ne fournira jamais la vérité, ni la vérité complète sur les faits et les choses. Elle peut nous donner accès à 50 %, peut-être 75 %, voire 90 % de la vérité. Elle peut décrire une grande partie de la réalité, mais elle ne peut pas en offrir une vision complète. En effet, elle ne fait que restituer une synthèse agrégée des principales données disponibles sur Internet, sans nécessairement refléter les points de vue des minorités intellectuelles ou des idées marginales, qui existent pourtant bel et bien, même si elles ne sont pas portées à la connaissance du grand public. Reposant sur des informations établies, elle ne peut pas non plus imaginer l'avenir ni sortir de sa "boîte".
Si je vous montre un billet de banque chinois de 10 yuans et que je vous demande ce que vous voyez sur son recto, chacun d'entre vous me répondra : "Je vois la figure du président Mao." Mais je vous répondrai que vous avez complètement tort et que vous êtes peut-être même en train de me mentir. Pourquoi ? Parce que, sur ce même billet, je ne vois pas de président Mao mais la rivière des Trois-Gorges.
Alors, qui a raison ? Vous ou moi ? En réalité, nous avons tous raison. Ce billet est unique mais il a deux faces. Vous avez donc raison et j'ai aussi raison. Personne ne peut jamais prétendre avoir entièrement raison ni entièrement tort. Dans ce cas précis, la réalité - le "fait", diraient les journalistes - possède au moins deux visages. La meilleure approche de la vérité consiste à reconnaître que l'addition de ces deux points de vue offrent une compréhension plus juste des choses qu'un point de vue unique.
6. Venons-en maintenant aux fausses nouvelles (fake news).
Personnellement, je ne crois pas véritablement à l'existence des fausses nouvelles en tant que telles. À mes yeux, les fausses nouvelles n'existent pas indépendamment du sujet : elles n'existent que dans l'esprit de ceux qui les produisent ou les consomment.
Un autre problème se pose : dès qu'une fausse nouvelle a été produite et diffusée, elle devient une nouvelle aussi réelle que n'importe quelle autre. Qu'elle soit vraie ou fausse importe peu et n'est pas pertinent, dans la mesure où elle a été produite, diffusée et reçue par un certain nombre de personnes, qui peuvent ou non y croire. Elle est ainsi devenue une composante de la réalité dont les journalistes doivent tenir compte.
Une pièce de monnaie contrefaite reste une pièce de monnaie, même si elle est fausse.
En d'autres termes, nous devons considérer toute fausse nouvelle comme un fait réel. D'autre part, ce que nous qualifions de fausses nouvelles correspond souvent aux informations que les autres considèrent comme vraies, tandis que ce que nous tenons pour des informations fiables est souvent considéré comme faux par nos adversaires.
C'est notamment le cas, en Europe, dans le conflit ukrainien : les informations russes sont considérées comme fausses par les Occidentaux, tandis que les informations occidentales sont considérées comme fausses par les Russes et par de nombreux médias du Sud global (Global South).
Si nous voulons parvenir à une meilleure compréhension de la réalité, nous devrions reconnaître que la vérité se situe probablement quelque part entre ces deux visions opposées.
7.- Dans cette perspective, je considère que le seul véritable travail de vérification des faits (fact-checking) consiste à ne jamais accepter une information présentée comme une nouvelle confirmée sans l'avoir préalablement vérifiée, étrillée, désossée. Il faut conserver en permanence un esprit sceptique et remettre en question toute information qui n'a pas fait l'objet d'une vérification personnelle, en particulier lorsque cette information provient de notre propre camp.
En conclusion, nous devrions méditer cette parole attribuée à Confucius : "Chaque jour, prends le temps de réfléchir trois fois avant de prononcer le premier mot."
Ou encore cet autre proverbe chinois : "Trente ans sur la rive gauche, trente ans sur la rive droite." Ce dicton signifie que ce qui est considéré comme juste aujourd'hui peut souvent se révéler faux demain. Et inversement, ce que nous considérons aujourd'hui comme faux pourrait être reconnu comme juste demain.
*
Affirmer des thèses personnelles est une chose. Les confronter au point de vue des autres et de l'algorithme en est une autre. Je vous livre donc le résultat de ces cogitations.
Thèse 1. On pourrait même aller plus loin : si l'ordinateur personnel a transformé notre manière de travailler, de communiquer et de nous informer via internet et les réseaux sociaux, l'intelligence artificielle pourrait transformer notre rapport à la connaissance et à la décision car elle touche directement à une fonction traditionnellement considérée comme humaine : la production et l'interprétation de la connaissance.
Un journaliste peut ainsi analyser en quelques minutes des milliers de documents, de rapports financiers ou de déclarations politiques. Dans la diplomatie, l'IA peut comparer des discours, détecter des évolutions sémantiques et identifier des changements dans la doctrine d'un gouvernement. Dans la recherche historique, elle peut croiser des archives, des correspondances et des documents autrefois difficiles à exploiter simultanément. Dans l'économie : elle peut détecter des tendances dans des volumes considérables de données, etc.
2.- Réguler l'IA ne se limite pas à canaliser les excès d'un fleuve en crue. L'enjeu est de préserver la capacité à décider soi-même de son avenir technologique et d'assurer sa souveraineté numérique. La souveraineté numérique deviendra une composante essentielle de la souveraineté politique. Il s'agit de savoir qui contrôlera les infrastructures de l'IA, qui possèdera les données utilisées pour son entraînement, qui définit les règles de modération, qui décidera quelles informations sont considérées comme fiables et qui contrôlera les algorithmes qui sélectionnent et hiérarchisent les connaissances.
3.- Bien utilisée, l'IA peut révolutionner les méthodes de travail journalistiques en développant l'investigation dans tous les domaines : financier (consultation de centaines de documents ; comparaison de registres commerciaux ; examen des rapports financiers ; identification des relations entre les différents acteurs ou reconstitution des réseaux d'influence) ; géopolitique, en comparant par exemple les différentes versions d'un événement ou les déclarations des différents ministères, russe, ukrainien ou américain, en analysant l'évolution des discours de Vladimir Poutine, de Volodymyr Zelensky et des dirigeants européens ou en examinant les différents communiqués militaires et les divergences entre les informations publiées par les médias russes, ukrainiens et occidentaux.
De même l'IA pourrait contribuer à enquêter sur les opérations d'influence, à commencer par celles de son propre camp, qui sont toujours les moins visibles et les moins investiguées... A condition d'être honnête, l'avenir du journalisme pourrait donc reposer sur l'investigation non biaisée, le jugement critique et la compréhension du contexte.
4.- L'IA n'est pas qu'une juxtaposition de mots. Les systèmes d'IA actuels sont capables de certaines formes de raisonnement, de généralisation et de résolution de problèmes. Elle est donc "intelligente". Mais elle reste limitée en matière de compréhension, dans sa capacité à saisir le sens et les relations entre les phénomènes, et nulle en matière de conscience : elle est incapable d'avoir une expérience subjective de soi et du monde.
En résumé, l'IA possède des capacités cognitives fonctionnelles remarquables, mais ne possède ni conscience ni compréhension subjective du monde. Il faut donc éviter d'attribuer à l'IA une autorité intellectuelle qu'elle ne possède pas.
5,- L'IA peut-elle connaître la vérité ? La question est complexe car toutes les informations disponibles sur internet ne sont pas équivalentes. Certaines sont abondantes, d'autres rares. Certaines proviennent d'institutions puissantes, d'autres de chercheurs indépendants, de minorités intellectuelles ou de courants de pensée marginalisés qui peuvent s'imposer comme vrais à l'avenir, à l'exemple de l'héliocentrisme au Moyen-Age, de la théorie microbienne au XIXe siècle, ou de l'émergence d'un monde multipolaire face à la domination du paradigme libéral occidental aujourd'hui.
Par rapport à la guerre en Ukraine, l'IA peut privilégier le point de vue occidental et mettre l'accent sur la liberté des États d'Europe centrale et orientale de choisir leurs alliances, leur volonté de se protéger contre une éventuelle résurgence de la puissance russe ou leur adhésion aux institutions occidentales. Mais une recherche plus fouillée devrait prendre en compte les inquiétudes exprimées par la Russie, les débats diplomatiques des années 1990, les discussions autour de la réunification allemande, les déclarations de responsables américains et européens et les différentes interprétations du concept de sécurité européenne.
Comme pour l'exemple du billet chinois de 10 yuans, la réalité est unique, mais ses interprétations sont multiples. Ainsi la chute du mur de Berlin en 1989 peut-elle être vue par les Allemands de l'Est comme la libération d'un régime autoritaire ; par les Allemands de l'Ouest comme la réunification nationale ; par les États-Unis comme le symbole de la victoire du modèle occidental dans la guerre froide et par les Russes comme le début d'un affaiblissement stratégique majeur de leur pays. Toutes ces interprétations sont vraies mais n'ont pas les mêmes conséquences.
Il est contestable de prétendre que les fake news n'existent pas. La fausse nouvelle existe objectivement. Une photographie truquée présentée comme montrant un bombardement récent peut être identifiée comme une image ancienne prise dans un autre conflit. Sa fausseté peut donc être démontrée.
Mais il est vrai qu'une fausse nouvelle devient un fait social dès qu'elle est diffusée. Une fausse information peut avoir des conséquences parfaitement réelles comme on l'a vu avec la fake news concernant la pseudo-existence d'armes de destruction massive en Irak en 2003. La fausse information, ou l'information erronée, a donc produit des effets dévastataeurs.
Dans le cas du conflit ukrainien, chacun des deux camps développe son propre récit, auquel s'ajoute celui des gouvernements occidentaux. Le souci de vérité consiste à le reconnaître, tout en évitant de tomber dans le relativisme absolu, la fausse moyenne ou le sophisme du juste milieu (middle ground fallacy) comme disent les logiciens. Si un gouvernement affirme que 100 personnes ont été tuées dans une attaque et que l'autre affirme que personne n'a été tué, la vérité ne se situe pas nécessairement à 50.
Conclusion : la vérité ne se trouve pas nécessairement à mi-chemin entre deux récits opposés mais sa recherche exige de confronter systématiquement les récits concurrents, à commencer par ceux auxquels nous adhérons spontanément.
Il convient aussi de distinguer deux ordres de réalités différents, à savoir la vérité factuelle d'une information et son existence sociale et politique. Une fausse nouvelle n'est pas un fait véridique, mais sa diffusion est un fait réel qui peut provoquer une panique, influencer une élection, déclencher une crise diplomatique ou justifier une intervention militaire.
7.-Le fact-checking n'est pas inutile mais à condition de savoir qui contrôle les fact-checkers. Ces derniers n'étant pas à l'abri de biais cognitifs dus à leur idéologie ou aux influences de ceux qui les financent, le doute systématique reste la meilleure arme de la vérité. Avec Descartes, il s'agit de ne jamais confondre une affirmation avec un fait établi. Avec Popper, il faut rechercher activement les éléments susceptibles de contredire notre hypothèse initiale. Et avec Hannah Arendt, il ne faut jamais oublier que les vérités factuelles sont particulièrement face aux intérêts idéologiques et aux stratégies de pouvoir qui cherchent à imposer leur propre représentation du monde.
*
Il y a une trentaine d'années, j'avais proposé, dans le cadre de conférences de l'UNESO, de rédiger non seulement une charte des droits des journalistes mais une charte de leurs devoirs. Peut-être le moment est-il venu d'y repenser autour de principes de base que l'on pourrait résumer ainsi :
Principe 1 : Aucune technologie ne détient le monopole de la vérité. L'IA est un instrument de connaissance, pas une autorité intellectuelle infaillible.
Principe 2 : Toute information doit être replacée dans son contexte. Un fait isolé ne suffit pas à expliquer une situation. Il faut examiner son contexte historique, politique, économique et culturel.
Principe 3 : Toute réalité doit être examinée sous plusieurs angles. La confrontation des points de vue est indispensable, particulièrement dans les relations internationales.
Principe 4 : La vérification doit être indépendante des affiliations politiques et idéologiques. Une information ne devient pas vraie parce qu'elle provient de notre propre camp. Elle ne devient pas fausse parce qu'elle provient du camp adverse.
Principe 5 : Le doute est une condition de l'indépendance intellectuelle. Le journaliste doit conserver sa capacité à remettre en question ses propres convictions et celles de son environnement professionnel, politique et culturel.
Demain encore plus qu'aujourd'hui, la véritable souveraineté intellectuelle consistera à penser par soi-même, à confronter les interprétations, à vérifier les faits et à remettre en question les vérités établies.
Face à l'IA, le principal enjeu n'est pas de savoir si les machines seront capables de penser à notre place, mais de savoir si nous conserverons la capacité de penser contre elles, avec elles et parfois malgré elles.
Par Guy Mettan
Source: arretsurinfo.ch
