Les bombes nucléaires, le 11 septembre et la plus grande crise financière de l'époque moderne... Les médias comparent l'IA à ces trois événements ! Waouh !
Olivier Demeulenaere
*par Kit Knightly
Les bombes nucléaires, le 11 septembre et la plus grande crise financière de l'époque moderne... les médias comparent l'IA à ces trois événements !
Et nous revoilà plongés dans l'univers effrayant de l'IA.
Je sais, j'avais dit que je n'écrirais plus à ce sujet - et, je sais, j'ai une série à poursuivre sur la faillite de l'eau -, mais ils ne le lâchent pas ce sujet, alors je ne peux pas non plus le lâcher.
Juste au moment où je pensais en avoir fini, ils me ramènent dans le tourbillon.
Dans mon dernier article sur le sujet, j'ai décrit ainsi l'IA malveillante...
"Les"IA malveillantes"sont devenues la théorie de la fuite de laboratoire du secteur technologique, un scénario d'horreur de science-fiction qui défie toute raison, feignant de s'appuyer sur de vagues notions de"révélations"et de"responsabilité", tout en encourageant la panique comme réaction et le contrôle social comme solution".
Je ne me doutais pas qu'au moment même où j'écrivais ces mots, le Wall Street Journal s'apprêtait à publier un article d'opinion intitulé :
"La prochaine"fuite de laboratoire"pourrait être l'IA - Les récentes violations de sécurité démontrent la nécessité de mettre en place des garde-fous fédéraux".
C'est drôle, je trouve.
Dans d'autres articles de cette semaine sur les "IA effrayantes", le Washington Post a été stupéfait de découvrir que les interactions avec ChatGPT sont utilisées dans le cadre de procédures judiciaires.
Oui, apparemment, les entreprises spécialisées dans l'IA font ce que TOUTES les grandes entreprises technologiques font depuis des DÉCENNIES : elles espionnent nos données et nos interactions. Mais tout à coup, ça fait la une.
Une nouvelle étude de Yale a révélé que - oh mon Dieu - les chatbots IA pourraient manipuler les utilisateurs à des fins publicitaires !
...encore une fois, exactement comme toutes les grandes entreprises technologiques le font tout le temps et ce, depuis des années.
Un cadre supérieur d'OpenAI a déclaré au Guardian que nous devrions tous nous préparer à des cyberattaques "persistantes" alimentées par l'IA, à moins de "mettre en place de nouvelles normes de sécurité".
Et le Times met en garde contre le fait que l'IA pourrait être utilisée par des terroristes "peu sophistiqués" pour fabriquer des bombes ou des armes biologiques.
Mais la BIG nouvelle, c'est que Big Billy Billions a partagé ses BIG réflexions.
Oui, M. Gates en personne aurait - semble-t-il - rédigé un long essai sur l'avenir de l'IA et sur le caractère potentiellement effrayant de celle-ci. Il commence ainsi...
"L'ère tumultueuse de l'IA est là. Les choix que nous faisons aujourd'hui sont cruciaux".
Ce texte recèle de nombreuses pistes de réflexion (vous devriez vraiment le lire), depuis son appel en faveur d'emplois "réservés aux humains" jusqu'à son idée de taxer l'utilisation de l'IA et des robots, mais surtout ses réflexions sur la nécessité d'une réglementation.
De préférence une réglementation mondiale : "même un pays qui met de l'ordre dans ses propres affaires restera exposé à des risques transfrontaliers. C'est pourquoi il faudra mettre en place une organisation internationale en parallèle".
Voilà "le message". Vous pouvez ignorer la plupart des 10 000 autres mots.
Cela fait écho aux sentiments de plus de 1300 "initiés" de l'IA qui ont tous signé une lettre ouverte appelant les gouvernements à coopérer pour réglementer l'IA et à contraindre le secteur à ralentir ses progrès, invoquant le risque que "le développement des capacités s'accélère rapidement au-delà de notre capacité à comprendre ou à contrôler les systèmes qui en résultent".
Cela renvoie clairement à l'histoire des "agents IA malveillants".
Il est intéressant de noter, et peut-être inquiétant, que l'essai de Bill Gates compare l'IA aux armes nucléaires :
"Il existe un régime d'inspections pour les armes nucléaires, des réglementations pour l'aviation internationale et des accords visant à protéger la couche d'ozone. Une nouvelle organisation mondiale dédiée à l'IA devra intégrer des éléments de ces trois domaines, et bien plus encore".
Ce qui est peut-être encore plus inquiétant, c'est que Billy est loin d'être le seul à avoir fait cette comparaison ces derniers jours.
Cela devient un refrain courant. Étonnamment courant. L'article suivant va même jusqu'à assimiler ces risques, en suggérant que l'IA rendrait possible un lancement nucléaire accidentel.
Mais n'ayez crainte, The Atlantic a une solution :
"Les systèmes d'IA risquent de devenir dangereusement puissants - et il n'y aurait peut-être qu'un seul moyen de contrôler le développement de cette technologie, affirme Rogé Karma" ( t.co).
Quel est le "seul moyen" de contrôler cette technologie ? Le sous-titre est sans équivoque :
"Ce dont l'humanité a besoin, c'est d'un traité international de non-prolifération de l'IA".
Un "traité de non-prolifération"... comme pour les armes nucléaires.
Dans un article publié dans The Guardian, Timothy Garton Ash - l'un des chroniqueurs du Guardian les moins sensés auxquels j'aie jamais répondu, et ce n'est pas peu dire - fait exactement la même comparaison. Il pose la question suivante :
"Nous dirigeons-nous vers un"Hiroshima de l'IA ?""
... et semble assez certain que la réponse est "oui".
Qu'est-ce qu'un "Hiroshima de l'IA" exactement ? Je n'en suis pas sûr, et il ne le précise pas.
Mais - et arrêtez-moi si vous avez déjà entendu cela -, il connaît le meilleur moyen de l'éviter : "agir ensemble pour contrôler le pouvoir surhumain que nous sommes en train de créer".
Un éditorial tout aussi alarmiste publié dans le New York Times titre :
"Nous connaissons les risques liés à l'IA. Nous devons agir".
[REMARQUE : il s'agit du titre original ; ils l'ont entre-temps remplacé par "Les voyants d'alerte clignotent à nouveau". Je ne sais pas pourquoi, peut-être que le titre initial était trop ridicule, même à leurs yeux]
Rédigé par Jen Easterly, ancienne directrice de l'Agence américaine de cybersécurité et de sécurité des infrastructures, l'article souligne que les "signaux d'alerte" clignotent concernant l'IA, et que nous devons agir maintenant avant qu'un événement grave ne se produise.
Elle ne précise pas vraiment en quoi pourrait consister cet événement grave, mais il s'agira manifestement d'un événement d'une ampleur considérable, car elle le compare au 11 septembre et à la crise financière de 2008.
Bien qu'elle ne sache pas vraiment de quoi nous devrions avoir peur, elle est assez claire sur ce qu'il faut faire :
"Ce dont nous avons besoin de toute urgence, c'est d'un mécanisme d'alerte précoce en matière d'IA qui rassemble les signaux faibles, imagine ce qu'ils pourraient signifier ensemble et impose des décisions avant que le tableau ne soit complet".
L'objectif de ce système serait de... "transformer le partenariat public-privé [...] en une véritable collaboration opérationnelle : un partage d'informations opportun, pertinent et, surtout, exploitable".
N'est-ce pas merveilleux ?
Pour ceux qui auraient perdu le fil, jusqu'à présent, nous avons comparé l'IA au 11 septembre, à la crise financière de 2008 ET à Hiroshima. Sans jamais - JAMAIS - entrer dans les détails pour expliquer en quoi elle pourrait, ne serait-ce qu'un tant soit peu, ressembler à l'un de ces événements.
C'est très étrange. Je ne suis pas sûr de me souvenir d'un tel niveau de peur sans qu'on explique clairement ce dont nous sommes censés avoir peur.
Mais cela me fait penser qu'il pourrait bien y avoir un "incident" lié à l'IA dans un avenir proche, même si peut-être ils n'ont pas encore décidé de quoi il s'agira.
Le recours d'Easterly au parallèle avec le 11 septembre n'est peut-être qu'une réaction hystérique et exagérée, une référence d'actualité au 25ème anniversaire qui approche, ou un renforcement presque instinctif du discours, déjà bien fragile, sur le "manque d'imagination". Ou bien il s'agit peut-être d'autre chose. Peut-être une indication de l'ampleur potentielle.
Faut-il s'attendre à une sorte de psy-op de type "faux drapeau" liée à l'IA ?
Un événement d'une ampleur proche de celle du 11 septembre, qui serait imputé à un agent d'IA devenu "incontrôlable" ?
Je ne vais pas prédire une telle chose, mais je ne l'exclus certainement pas.
source : Off-Guardian via Olivier Demeulenaere