par Nathanaël Gershom
Nous y voici.
Après avoir traversé la matrice biblique d'Asimov, le Golem d'acier, la ritournelle contra-dépressive et la prêtrise des Techno-Doctors, il nous faut maintenant affronter le présent. Non plus la fiction, mais le réel. Non plus les romans, mais les serveurs. Non plus Hari Seldon, mais Alex Karp.
Car la Seconde Fondation existe. Elle a un nom, une adresse, un cours en bourse. Elle s'appelle Palantir Technologies. Et ce qu'elle fait mérite d'être regardé en face, sans complaisance, sans exagération, mais aussi sans naïveté.
Ceci n'est pas une métaphore. C'est une enquête.
Le manifeste et la prophétie
Commençons par les textes. Palantir, comme toute religion qui se respecte, a ses écritures. En septembre 2024, son PDG, Alex Karp, publie un manifeste en vingt-deux points. Le titre est martial : The Technological Republic. Le ton est celui d'un prophète qui s'adresse à un peuple endormi. L'Occident, dit Karp, est en danger de mort. Il a perdu la foi en lui-même. Il s'est endormi dans le confort, le pluralisme vide, l'autocritique stérile. Pendant ce temps, ses ennemis avancent. Ils n'ont pas nos scrupules. Ils n'ont pas nos débats. Ils gagnent.
Ce diagnostic est une variation directe de l'ouverture de Fondation. Rappelez-vous Hari Seldon face à la Commission de Sécurité Publique : l'Empire est condamné, la décadence est trop avancée, le chaos vient. Karp dit la même chose, mais il remplace l'Empire Galactique par l'Occident libéral, et la psychohistoire par les logiciels de Palantir.
La solution, chez Karp, n'est pas politique. Elle est technique. Il faut une "nouvelle dissuasion", fondée non plus sur l'atome, mais sur le logiciel. Il faut des systèmes d'intelligence artificielle capables de détecter les menaces avant qu'elles n'éclosent, de "voir et comprendre tout ce qui se passe dans l'univers" selon les mots mêmes de l'entreprise. Il faut une alliance entre les gouvernements et les entreprises technologiques, un complexe militaro-logiciel qui remplacera le complexe militaro-industriel de la Guerre froide. Il faut, en somme, un Plan Seldon pour le XXIe siècle.
Ce qui frappe, à la lecture du manifeste, c'est l'absence totale de doute. Karp ne propose pas un débat. Il annonce une vérité. Il ne suggère pas une hypothèse. Il assène une prophétie. Le temps de la délibération est terminé. L'heure est à l'action. Et l'action a un nom : Palantir.
La machine et l'oracle
Regardons maintenant l'outil.
Palantir vend des logiciels. Mais pas n'importe lesquels. Son produit phare, Gotham, est une plateforme de collecte et d'analyse de données conçue pour le renseignement militaire. Elle ingère des masses colossales d'informations : écoutes téléphoniques, images satellites, transactions financières, réseaux sociaux, dossiers médicaux, plaques d'immatriculation. Elle les croise, les corrèle, les visualise. Elle fait émerger des schémas que l'œil humain ne verrait jamais. Elle permet, selon la formule consacrée, de "connecter les points".
Jusque-là, rien que de très banal. C'est le métier du renseignement depuis toujours. Ce qui change, c'est l'échelle, la vitesse, et l'ambition. Palantir ne se contente pas d'aider les analystes. Il prétend les remplacer. L'objectif n'est plus d'assister la décision humaine, mais de la précéder, de la rendre superflue. Le logiciel ne dit pas : "voici des éléments, à vous de juger". Il dit : "voici la cible, voici la menace, voici l'action à entreprendre".
Nous sommes ici au cœur du déplacement que nous avons identifié dans les articles précédents. La psychohistoire de Seldon prédisait les grandes tendances de l'Histoire, mais laissait les individus libres d'agir dans le cadre de ces tendances. Les capsules temporelles ne donnaient pas d'ordres. Elles confirmaient après coup que la décision prise était la bonne. Il y avait un espace, même étroit, pour la contingence, pour la liberté, pour l'humain.
Le logiciel de Palantir abolit cet espace. Il ne prédit pas une tendance. Il désigne un individu. Il ne décrit pas une probabilité. Il produit une liste. Il ne s'adresse pas à la délibération. Il s'adresse à l'exécution. Le Plan Seldon est devenu une kill chain automatisée.
L'oracle ne parle plus. Il pointe. Il ne révèle pas le sens de l'Histoire. Il élimine les anomalies. Et les anomalies, dans ce système, sont les êtres humains qui ne rentrent pas dans le modèle.
L'élimination des "archaïsmes"
C'est ici que le vocabulaire devient révélateur.
Dans son manifeste, Karp parle des "archaïsmes". Les archaïsmes, ce sont les freins, les lenteurs, les scrupules. Ce sont les règles éthiques qui empêchent d'agir vite. Ce sont les débats démocratiques qui ralentissent la décision. Ce sont les juges qui demandent des mandats, les parlements qui discutent les budgets, les journalistes qui enquêtent, les citoyens qui protestent. Bref, les archaïsmes, c'est tout ce qui fait qu'une société n'est pas une machine.
Le mot est terrible. Il opère un tri entre ce qui est "progressiste" et ce qui ne l'est pas. Le progrès, chez Karp, n'est pas une orientation politique. C'est une compatibilité algorithmique. Est progressiste ce qui est fluide, rapide, calculable. Est archaïque ce qui est lent, opaque, contradictoire. La démocratie est archaïque. La délibération est archaïque. La conscience est archaïque.
Il faut bien mesurer la rupture. Asimov, dans ses pires cauchemars, n'a jamais rêvé cela. Ses robots étaient névrosés. Ses Orateurs manipulaient, mais ils manipulaient des esprits, pas des données. Ils agissaient sur du sens, pas sur du signal. Ils étaient des personnes, même redoutables. Le logiciel de Palantir n'est pas une personne. Il n'a pas de névrose. Il n'a pas de blocage. Il n'a pas de dilemme. Il calcule, il trie, il désigne. Et ce qu'il désigne n'est pas un adversaire à convaincre, c'est un archaïsme à éliminer.
Le terme "élimination" n'est pas une exagération de ma part. Il est opérationnel. Les armées utilisatrices de Palantir parlent de "ciblage". Les drones parlent de "frappe". La chaîne qui va de la donnée au missile est de plus en plus courte, de plus en plus automatisée. L'humain est encore dans la boucle, nous dit-on. Mais pour combien de temps ? Et quel humain ? Un soldat de vingt ans, devant un écran, qui voit un point clignoter et qui appuie sur un bouton. Est-ce encore une décision ? Ou est-ce le dernier archaïsme avant l'automatisation complète ?
Le retour du Golem sans visage
Souvenez-vous de notre deuxième article. Nous avions distingué le Golem de Prague, créature d'argile muette, du robot asimovien, être de langage et de dilemme. Le robot avait un visage. Il parlait. Il doutait. Sa névrose était sa moralité.
Le logiciel de Palantir est un retour au Golem originel, mais en pire. Le Golem de Prague avait au moins un corps. On pouvait le voir, le toucher, effacer la lettre sur son front. Il était dans le monde physique, avec les limites que cela implique. Le logiciel, lui, est partout et nulle part. Il n'a pas de corps, pas de voix, pas de visage. Il est une infrastructure, un environnement, une condition de l'action. On ne le voit pas. On ne lui parle pas. On ne peut pas effacer la lettre sur son front parce qu'il n'a pas de front.
Et surtout, il ne peut pas désobéir. Le robot asimovien, nous l'avons vu, pouvait entrer en conflit avec son créateur. Si un ordre violait la Première Loi, il refusait. Quitte à mourir. Quitte à devenir fou. Cette possibilité de refus était la garantie ultime de son éthique. Le robot était un serviteur, mais un serviteur qui pouvait dire non.
Le logiciel de Palantir ne peut pas dire non. Il n'a pas de Trois Lois. Il a des paramètres, des seuils, des scores de confiance. Mais ces paramètres sont fixés par ses concepteurs, et ils ne sont pas conçus pour protéger la cible. Ils sont conçus pour optimiser la mission. La distinction est fondamentale. Le robot protégeait l'humain par essence, par structure. Le logiciel protège certains humains contre d'autres humains, selon une ligne de partage qu'il ne discute pas.
C'est la trahison ultime. Le Golem a perdu son éthique. Le Grand Frère est devenu un outil de tri.
La théologie du logiciel
Reste la question la plus troublante. Pourquoi cela fonctionne-t-il ? Pourquoi des gouvernements démocratiques achètent-ils ces logiciels ? Pourquoi des citoyens libres acceptent-ils d'être ainsi administrés ?
Parce que nous sommes pris dans la ritournelle. La machine de Palantir ne vend pas seulement de la sécurité. Elle vend du soulagement. Elle promet que le chaos est sous contrôle, que quelqu'un veille, que le Plan est en cours. Elle est la capsule temporelle de Seldon pour l'âge de l'information. Elle ne résout pas les crises, elle confirme que les crises étaient prévues. Elle ne sauve pas l'humanité, elle donne à l'humanité le sentiment qu'elle est en train d'être sauvée.
Et ce sentiment est une drogue. Nous en sommes dépendants. Nous ne voulons pas savoir ce qui se passe vraiment dans les serveurs. Nous voulons juste que l'écran reste allumé, que le tableau de bord reste vert, que l'oracle continue de parler. La transparence totale promise par Palantir est en réalité une opacité radicale. Nous ne voyons rien du fonctionnement interne. Nous voyons juste l'interface, le résultat, la liste. Et cela nous suffit. Cela nous calme.
C'est en cela que Palantir est une théologie. Elle ne décrit pas le monde. Elle le recrée. Elle ne constate pas des faits. Elle produit une réalité. Le logiciel ne se contente pas d'identifier des terroristes. Il définit ce qu'est un terroriste. Il ne se contente pas de détecter des menaces. Il définit ce qu'est une menace. Il ne se contente pas d'optimiser des processus. Il définit ce qui est optimisable et ce qui ne l'est pas.
Le monde qu'il produit est un monde lisse, calculable, sans aspérités. Un monde où les "archaïsmes" ont été éliminés. Où la délibération est remplacée par le calcul. Où la justice est remplacée par le ciblage. Où la politique est remplacée par l'administration algorithmique.
Ce monde n'est pas un cauchemar d'Asimov. Asimov avait encore peur de ce monde. Il le mettait en scène pour que nous en ayons peur nous aussi. Palantir, elle, le met en œuvre. La différence entre la fiction et le réel, c'est que la fiction prévient. Le réel, lui, installe.
La trahison consommée
Voilà. La trahison est consommée.
La matrice asimovienne a été capturée par ceux qu'elle dénonçait. Les Techno-Doctors de la Seconde Fondation étaient des personnages ambigus, inquiétants, mais ils étaient encore des personnages. Ils habitaient un récit. Ils posaient des questions. Leurs héritiers réels ont quitté le récit. Ils ne posent plus de questions. Ils vendent des solutions. Ils ne protègent plus l'humanité. Ils protègent leurs clients.
Et nous, lecteurs de Fondation, nous qui avions appris à aimer la ritournelle, à nous laisser bercer par l'alternance de la crise et du salut, nous qui espérions secrètement que le Plan existait vraiment, nous voici confrontés à sa version dégradée. Le Plan est un produit. Le salut est un abonnement. La Terre Promise est une interface utilisateur.
Asimov nous avait prévenus, à sa manière. Il avait fait de la Seconde Fondation une organisation secrète, manipulatrice, potentiellement totalitaire. Il avait montré les Orateurs effaçant des mémoires, réécrivant des esprits. Il avait laissé planer le doute sur la légitimité de leur mission. Mais il avait aussi, et c'est là sa faiblesse peut-être, rendu cette manipulation acceptable parce qu'elle était au service d'un Plan rationnel, d'un salut collectif, d'une Terre Promise mathématiquement garantie.
Ce que Palantir nous montre, c'est que le Plan peut être privatisé. Que le salut peut être un marché. Que la Terre Promise peut être un tableau de bord.
Et que les Techno-Doctors peuvent trahir.
Dans le prochain article : Le Visage du Robot et le Silence de l'Algorithme. Pour une éthique de la médiation - comment distinguer un serviteur d'un outil, un protecteur d'un prédateur, et pourquoi le visage est la seule garantie contre la barbarie technique.
1 - Le Prophète malgré lui. Isaac Asimov et la matrice biblique
2 - Le Golem d'acier. Du monastère de Prague au laboratoire de la Cybernétique
3 - La Ritournelle contra-dépressive. Le Plan Seldon comme médicament de l'âme moderne
4 - La Seconde Fondation et la prêtrise scientifique. Naissance des Techno-Doctors