Les magnats de la Silicon Valley s'inquiétaient des risques que leur technologie faisait peser sur le monde. Ils ont oublié les gens.
Source : The New York Times, David Wallace-Wells
Traduit par les lecteurs du site Les-Crises
"Je me prépare à survivre", avouait Sam Altman, d'OpenAI, en 2016. "J'ai des armes, des comprimés d'iodure de potassium, des antibiotiques, des piles, de l'eau, des masques à gaz qui me viennent des Forces de défense israéliennes et un grand terrain à Big Sur où je peux me rendre en avion."
Depuis plus d'une décennie maintenant, Altman et ses associés fondateurs vivent dans un état d'anxiété maîtrisée face à l'intelligence artificielle. En fait, c'est l'histoire des débuts de trois des cinq principaux acteurs de la course à l'armement en matière d'IA, chacun motivé par un élan de panique face au fait que les autres acteurs ne prenaient pas suffisamment au sérieux les craintes existentielles suscitées par cette technologie. Ils semblent s'être moins inquiétés du risque de réaction politique de la part des êtres humains, partant du principe que celle-ci ne se concrétiserait pas à temps, serait rapidement contournée par l'intelligence artificielle ou pourrait être achetée, peut-être, grâce à des débats sur le revenu de base ou de vagues promesses de guérir le cancer.
Mais le mois dernier, lorsqu'un cocktail Molotov a été lancé dans la propriété d'Altman à San Francisco, la réaction hostile de la population s'est littéralement abattue à son seuil. Quelques jours plus tard, la maison d'Altman a subi une nouvelle attaque, cette fois-ci à coups de feu. Il était difficile de ne pas penser au meurtre de Brian Thompson, PDG d'UnitedHealthcare, dont Luigi Mangione est accusé. La journaliste Jasmine Sun a qualifié ces événements de "coups de semonce du populisme généré par l'IA".
Les Américains continuent de s'inquièter au sujet des répercussions locales des centres de données, se ruant en masse dans les salles de réunion municipales pour protester. Ils s'inquiètent également des pertes d'emploi et des bouleversements économiques, tout comme un nombre croissant de politiciens qui essaient de voir d'où vient le vent. Mais pour beaucoup, les plus grands laboratoires d'IA apparaissent désormais comme les nouveaux visages de l'oligarchie américaine : une redoutable concentration des pouvoirs économique et social qui engendre un cercle vicieux d'inégalités extrêmes, du genre de celles qui déchirent la société américaine depuis des décennies. Si l'avenir réside dans l'IA, comme on nous le répète si souvent, beaucoup trouvent perturbant, voire scandaleux, que seule une poignée de personnes semble en avoir le contrôle absolu.
D'un certain côté, la vision défendue par les entreprises spécialisées dans l'IA est remarquablement dépourvue de toute dimension humaine : nous confions de plus en plus de responsabilités et de pouvoir de décision à des boîtes noires superintelligentes, qui se mettent rapidement à façonner l'avenir de l'humanité en prenant des décisions qui restent incompréhensibles pour le reste d'entre nous, y compris pour leurs concepteurs. "Les personnes qui ne travaillent pas dans ce domaine sont souvent surprises et inquiètes lorsque nous leur expliquons que nous ne comprenons pas comment fonctionnent nos propres créatures IA", a écrit Dario Amodei, d'Anthropic, l'année dernière. "Elles ont raison de s'inquiéter : ce manque de compréhension est sans précédent dans l'histoire des technologies."
D'un autre côté, et en attendant, l'IA représente peut-être l'argumentaire de vente le plus personnalisé jamais imposé au consommateur américain passif : la vision d'une mainmise quasi totale sur la vie économique, sociale et cognitive du pays par des outils conçus par seulement cinq entreprises, dirigées par cinq personnes bien précises, dont plusieurs sont largement décrites comme des sociopathes. La liste est si courte que vous connaissez probablement la plupart d'entre eux par leur prénom : Sam, Dario, Elon et Mark. (Demis Hassabis, qui dirige DeepMind chez Google, est peut-être moins connu.)
Ces hommes sont tous déjà milliardaires, ou presque, et si l'on en croit leur trajectoire actuelle, leur fortune et leur influence semblent vouées à croître de manière exponentielle, alors que, autour d'eux, l'anti-élitisme ne cesse de gagner du terrain. C'est peut-être l'une des raisons pour lesquelles 50 % des Américains ont déclaré au Pew Research Center l'année dernière qu'ils étaient plus inquiets qu'enthousiastes quant à ce que l'IA leur réserve. Seuls 10 % se sont dits plus enthousiastes. C'est un gouffre béant dans lequel on demande à toute une société de plonger.
En 2026, le débat sur l'IA, tout comme les capacités de l'IA, évoluent à un rythme effréné, presque d'une semaine à l'autre. Mais le texte le plus marquant que j'ai lu sur ce que l'avenir nous réserve reste sans doute un essai publié en 2017 par l'auteur de science-fiction Ted Chiang sur BuzzFeed News. OpenAI venait d'être fondé, juste deux ans auparavant ; ni Elon Musk ni Amodei ne s'étaient encore lancés dans leurs propres projets, et il restait près d'une décennie avant que Mark Zuckerberg ne se lance dans sa frénésie désespérée d'investissements dans l'IA. Mais déjà, des évangélistes alarmistes comme Musk avertissaient l'Association nationale des gouverneurs que "l'IA représente un risque fondamental pour l'existence de la civilisation humaine", entendant par là la possibilité qu'une IA dotée de superpouvoirs décide que le but de l'existence était la fabrication de trombones ou la récolte des fraises, rendant tout le reste, y compris les humains, sans importance.
"Ce scénario semble absurde aux yeux de la plupart des gens, mais il existe un nombre surprenant de spécialistes des technologies qui estiment qu'il illustre un danger bien réel", écrit Chiang. "Lorsque la Silicon Valley tente d'imaginer la superintelligence, ce qu'elle en retire, c'est un capitalisme libéral sans limites."
Les États-Unis sont actuellement confrontés à une crise du coût de la vie très médiatisée, alimentée en grande partie par une pénurie de logements estimée à environ 10 millions d'unités. L'année dernière, le pays a consacré davantage de fonds à la construction d'infrastructures d'intelligence artificielle qu'à celle de maisons individuelles. Nous avons construit dix fois plus de centres de données que le deuxième constructeur mondial (l'Allemagne). Nous avons investi plus de 20 fois plus d'argent dans l'IA que le deuxième plus gros investisseur mondial (la Chine). L'intelligence artificielle représente, parmi d'autres choses, un pari extrêmement risqué pour l'économie américaine.
Et même s'il n'est pas si difficile d'imaginer un scénario dans lequel l'investissement s'avère payant, il n'est pas non plus difficile d'y voir une sorte de parallèle avec ces paraboles bien connues sur l'intelligence artificielle, selon lesquelles une superintelligence quasi divine choisirait de donner la priorité à la fabrication de trombones ou à la cueillette des fraises plutôt qu'à toutes les autres activités humaines.
Pourtant, on entend beaucoup moins parler ces derniers temps des risques existentiels à court terme, même si ceux-ci restent une préoccupation majeure pour certains chercheurs. Il n'y a pas si longtemps, la moitié des personnes interrogées estimaient qu'il existait au moins 10 % de risque que l'intelligence artificielle entraîne l'extinction de l'humanité. Et on n'entend plus guère parler du risque que représente l'IA dans la création d'armes biologiques, bien que de grands modèles d'apprentissage automatique donnent désormais régulièrement des conseils pour la conception de superbactéries, au grand dam des épidémiologistes.
Nous avons surmonté la vague de panique suscitée par les contenus de mauvaise qualité générés par l'IA et la désinformation générative, même si les réseaux sociaux en regorgent encore incontestablement, et les débats sur la bulle de l'IA se sont également apaisés pour l'instant.
Et bien que la crainte d'un chômage de masse reste très répandue, pour le moment, les données sur les pertes d'emploi sont assez floues, et ces derniers temps, les économistes semblent plus rassurants quant à la possibilité d'une perturbation à grande échelle du marché du travail. De plus en plus, ce discours est repris par les grands noms de l'intelligence artificielle eux-mêmes, lesquels ont récemment opéré un revirement rhétorique pour minimiser le risque de chômage de masse.
Cela pourrait ressembler à une opération de relations publiques typique des entreprises, une tentative visant à étouffer le contrecoup populiste après des années passées à susciter l'enthousiasme des investisseurs. Mais dans la mesure où cette campagne met en avant ce petit groupe de visages familiers qui s'emploient aujourd'hui à nous rassurer sur l'avenir de l'emploi et celui de la guerre, sans parler de l'avenir de la médecine, de l'accompagnement humain et du codage, il est difficile de ne pas avoir l'impression que ces mêmes personnes soient désormais, en gros, aux commandes de tout. Lors d'une récente conférence organisée par la Fondation Palantir à Yale, Dean Ball, le spécialiste des politiques publiques qui a été l'un des architectes de la politique initiale de l'administration Trump en matière d'IA, a fait une prophétie effrayante, décrivant l'IA comme "cette gigantesque cuve d'acide" qui dissoudrait les corps intermédiaires que la plupart des Américains considèrent comme la "société". "Ce ne sera pas l'IA au sein du gouvernement, a prédit Ball. Ce sera l'IA en tant que gouvernements." Une enquête menée l'année dernière auprès de gens dans 30 pays a révélé que les Américains figuraient parmi les plus inquiets face à l'IA, et que personne ne faisait moins confiance à son gouvernement pour réglementer l'IA que nous.
Cette semaine, la Maison Blanche a laissé entendre qu'elle pourrait opérer un revirement soudain et radical en matière de politique sur l'intelligence artificielle : alors qu'elle avait auparavant tendance à privilégier une approche non interventionniste pour soutenir la croissance du secteur, l'administration avance désormais une proposition visant à imposer un examen fédéral de tous les nouveaux modèles propriétaires avant leur mise sur le marché. Et les Américains, eux aussi, tracent des lignes rouges là où ils le peuvent. En septembre 2025, selon un sondage Heatmap, les Américains semblaient globalement partagés quant à la construction de nouveaux centres de données dans leurs localités, avec 2 points de plus en faveur de la construction que contre. Quatre mois plus tard, en février 2026, leur opposition avait augmenté pour atteindre 24 points. Il s'agit là d'un revirement d'opinion publique d'une ampleur stupéfiante.
Le nord de la Virginie est le cœur de l'expansion effrénée des centres de données, et entre 2023 et 2025, l'opinion des électeurs de la région a basculé de 69 points contre leur implantation dans leurs propres communautés, passant de 45 points en faveur à 24 points contre. Ce résultat est d'autant plus impressionnant que, dans le comté de Loudon, véritable pôle d'activité, les centres de données devraient générer près de la moitié des recettes fiscales locales en 2027, soit 1,3 milliard de dollars sur les 2,9 milliards que le comté prévoit de percevoir cette année-là, comme l'a récemment déclaré Kristen Umstattd, membre du conseil de comté, au juge Glock du magazine City Journal. "Depuis des années, les experts déplorent que les États-Unis ne construisent plus rien", a fait remarquer Glock. "Pourtant, sous nos yeux, l'un des plus grands booms de la construction de l'histoire américaine s'est déroulé", une expansion spéculative des infrastructures comparable à celle des autoroutes inter-États des années 1960 et 1970, même si elle n'est pas aussi effrénée et imprudente que le boom ferroviaire qui a marqué l'Amérique du XIXe siècle et qui nous a donné ces "barons voleurs" que nous connaissons bien et qui peuplent nos souvenirs de dessins animés du premier Âge d'or.
Peut-être ne faut-il pas s'étonner que, selon un récent sondage Quinnipiac, la seule tranche de revenus dont les membres envisagent cette technologie avec optimisme dans leur vie quotidienne soit celle des personnes gagnant plus de 200 000 dollars par an.
Depuis quelques années, l'intelligence artificielle donne l'impression de faire l'objet d'une course effrénée. Ou peut-être d'une succession de courses : entre grandes entreprises, entre ces dernières et les régulateurs et lobbyistes, entre travailleurs du savoir et robots susceptibles de les remplacer, entre industrie américaine et industrie chinoise. Toutes à leur manière présument d'une certaine ligne d'arrivée, un point au-delà duquel les progrès s'accélèrent si rapidement que tout avantage, qu'il s'agisse d'un modèle, d'une entreprise ou d'un pays, se prolongera dans le temps.
Cet objectif final a été qualifié d'"intelligence artificielle générale" ou de "superintelligence artificielle". De nombreux acteurs du secteur évoquent désormais une phase intermédiaire d'"auto-amélioration récursive", au cours de laquelle l'IA commence à améliorer de manière autonome son propre code source. De nombreux chercheurs en IA estiment que ce moment est imminent ; Jack Clark, d'Anthropic, a prédit cette semaine que l'auto-amélioration récursive totalement indépendante pourrait intervenir d'ici moins de deux ans. Mais il y a moins de deux ans, les investisseurs en capital-risque de la région de la baie de San Francisco discutaient déjà avec enthousiasme pour savoir s'ils pouvaient déjà "sentir l'I.A.G."..
Et peut-être sommes-nous déjà sur la bonne voie. En attendant, il est plus probable que vous entendiez des discussions pragmatiques sur le problème épineux de ce qu'on appelle la "diffusion" : la vitesse et la manière avec lesquelles le public adopte ces nouvelles technologies à mesure qu'elles sortent des laboratoires pour se répandre dans le monde, la recherche d'utilisateurs et d'applications, se heurtant à des obstacles humains et du monde réel, qui nécessitent de nouvelles stratégies ou des modèles plus pointus pour les surmonter ou les contourner.
Il s'agit là d'une vision assez différente, qui verrait l'intelligence artificielle continuer de progresser rapidement, voire transformer une grande partie de nos vies, sans pour autant que tout le pouvoir soit nécessairement tenu par les principaux laboratoires ou les cinq personnes qui les dirigent. De ce point de vue, les avancées de pointe des modèles de classe mondiale importent moins que de savoir qui utilise l'IA et dans quel but.
En avril, en grande pompe, Anthropic a refusé de commercialiser un nouveau modèle, Claude Mythos, qui, selon l'entreprise, était capable de détecter et d'exploiter des failles de sécurité dans tous les logiciels testés, y compris ceux utilisés dans des éléments critiques de l'infrastructure informatique mondiale. On ne sait pas exactement dans quelle mesure Mythos devançait réellement ses concurrents sur ces tests de performance, mais c'est ce qui semble avoir inspiré le revirement apparent de la Maison Blanche. Pourtant, d'ici six mois, il existera inévitablement une version open source de Mythos, peut-être pas tout à fait aussi performante mais bien moins coûteuse à produire, et beaucoup plus d'utilisateurs à travers le monde y auront accès, et ils pourront la personnaliser à leurs propres fins. Peut-être que les modèles de pointe l'emporteront, dans des compétitions comme celle-ci, les laboratoires de pointe conservant une avance suffisante sur les nouveaux venus hétéroclites pour se protéger. Mais s'il s'agit d'une course, elle n'a pas de ligne d'arrivée évidente, et elle ne semble pas vraiment se résumer à un "tout au vainqueur". Le politologue Jeffrey Ding parle d'un "marathon de la diffusion".
Voilà ce dont parlent les spécialistes de l'IA lorsqu'ils décrivent parfois l'IA comme une "technologie à usage général", à l'instar des machines à vapeur, de l'électricité ou, plus récemment, des ordinateurs et d'Internet. Certains des inventeurs et entrepreneurs qui ont développé et perfectionné ces technologies ont amassé d'énormes fortunes à leur époque, bouleversant profondément le monde dont ils avaient hérité et nous léguant, en fin de compte, une grande partie du monde dans lequel nous vivons aujourd'hui. Mais aucun d'entre eux n'a conservé très longtemps le contrôle absolu de ces technologies, et encore moins celui sur l'avenir à long terme qu'ils ont déclenché. Nous connaissons encore les noms de ces barons voleurs, et vivons encore quelque peu dans leur ombre. Mais nous ne sommes pas leurs serfs. Sommes-nous sûrs que l'IA sera différente ?
Source : The New York Times, David Wallace-Wells, 08-05-2026
Traduit par les lecteurs du site Les-Crises