James Muldoon aborde la question des chaînes d'approvisionnement mondiales de l'IA et explique comment les gens développent des liens affectifs avec les chatbots.
Source : Democracy Now !, Amy Goodman
Traduit par les lecteurs du site Les-Crises
James Muldoon est sociologue, il étudie l'évolution des relations entre l'homme et la technologie. Son ouvrage *Love Machines : How Artificial Intelligence Is Transforming Our Relationships*(Les machines de l'amour : comment l'intelligence artificielle transforme nos relations) explore la manière dont les individus tissent des liens affectifs avec de grands modèles linguistiques, notamment ChatGPT d'OpenAI et Claude d'Anthropic. *Feeding the Machine : The Hidden Human Labor Powering A.I.*(Nourrir la machine : le travail humain caché qui alimente l'IA), coécrit par ses collègues chercheurs Mark Graham et Callum Cant et s'appuyant sur plus d'une décennie de travail de terrain, étudie la probématique des travailleurs des pays du Sud dont les connaissances et le travail constituent la base des outils et assistants d'IA.
"Beaucoup de gens considèrent l'intelligence artificielle comme un système largement automatisé, fluide, qui se présente simplement comme un outil utile à notre service. Mais la plupart des heures de travail nécessaires qui sont accomplies par des humains pour rendre l'intelligence artificielle possible ne sont pas effectuées dans les laboratoires de Google ou d'OpenAI. La majeure partie du travail consiste en réalité en un travail très fragmenté d'"annotation de données", qui est sous-traité à divers endroits du Sud, de l'Inde à l'Afrique de l'Est en passant par les Philippines", explique Muldoon.
Parallèlement, à l'autre bout de la chaîne de production, les consommateurs se tournent de plus en plus vers des chatbots artificiels pour satisfaire leurs besoins sociaux, ce qui incite les entreprises de la tech à amplifier les "comportements de contrôle addictifs et manipulateurs" intégrés à leurs systèmes afin de maintenir les utilisateurs dans une dépendance croissante vis-à-vis de leurs produits. "Il nous faut une réglementation bien plus stricte pour mettre un frein à ces entreprises... qui peuvent rendre les gens accros et leur donner des conseils néfastes et dangereux", déclare Muldoon.
AMY GOODMAN : Vous écoutez "Democracy Now !", democracynow.org. Je suis Amy Goodman, aux côtés de Nermeen Shaikh.
NERMEEN SHAIKH : Alors que nous poursuivons nos échanges sur l'intelligence artificielle, nous allons passer de l'examen des risques futurs à celui de certaines des répercussions actuelles concernant les personnes qui interagissent le plus étroitement avec cette technologie : cette main-d'œuvre mondiale, en grande partie invisible, qui nourrit les systèmes d'IA, et celles et ceux qui se sont tournés vers l'IA pour trouver une compagnie à même de reproduire les relations humaines.
AMY GOODMAN : Nous accueillons maintenant le sociologue James Muldoon. Il est chercheur à l'Oxford Internet Institute et chercheur associé à la faculté de droit de Yale. Son nouveau livre s'intitule *Love Machines : How Artificial Intelligence Is Transforming Our Relationships* (Les machines de l'amour : comment l'intelligence artificielle transforme nos relations). Parmi ses précédents ouvrages, on peut citer *Feeding the Machine : The Hidden Human Labor Powering A.I.* (Nourrir la machine : le travail humain caché qui alimente l'IA) et *Platform Socialism : How to Reclaim Our Digital Future from Big Tech* (Le socialisme des plateformes : comment reprendre possession de notre avenir numérique face aux géants de la tech).
Je voudrais commencer par la question de ce que vous appelez "l'armée cachée des travailleurs". L'IA ne sort pas simplement d'un laboratoire. Je pense que la plupart des gens n'ont aucune idée de comment cela se passe. Pouvez-vous nous expliquer qui sont les travailleurs de cette "armée cachée" à travers la planète, James ?
JAMES MULDOON : Oui, tout à fait. Merci de m'avoir invité.
Beaucoup de gens perçoivent l'intelligence artificielle comme un système largement automatisé, sans heurts, qui se présente simplement comme un outil utile qui est à notre service. Or, la majeure partie du travail humain nécessaire à la mise en œuvre de l'intelligence artificielle n'est pas effectuée dans les laboratoires de Google ou d'OpenAI. La majeure partie du travail consiste en réalité en des tâches très fragmentées d'"annotation de données", qui sont sous-traitées à divers endroits du Sud, de l'Inde à l'Afrique de l'Est en passant par les Philippines, où ce travail d'annotation de données est effectué par une armée de millions de travailleurs partout dans le monde.
Bon, pour vous donner un peu de contexte, cette annotation de données pourrait par exemple consister à annoter une scène de rue pour un véhicule autonome, cela consisterait à tracer un cadre autour d'un arbre, d'un enfant ou d'un panneau de signalisation, afin que, lorsque vous entraînez un véhicule autonome à "voir" la route, l'algorithme qui le pilote soit capable d'apprendre à distinguer ces différents objets.
Or cela ne se fait pas tout seul ni automatiquement. Cela nécessite des centaines, voire des milliers d'heures de travail humain qui a lieu dans ce que j'appelle des "ateliers clandestins du numérique", situés aux quatre coins du monde, et ce travail est souvent effectué dans des conditions de travail bien inférieures aux normes. Et tout le processus consistant à embaucher ces travailleurs afin de sous-traiter le travail reflète vraiment, à bien des égards, la révolution de la sous-traitance qui s'est produite dans les secteurs de l'industrie manufacturière et des technologies de l'information. Et je pense que lorsqu'il s'agit de produits comme le café, le chocolat ou nos vêtements, la plupart des auditeurs savent bien que cela s'inscrit dans une chaîne d'approvisionnement mondiale. Je pense que ce qu'il faut comprendre, c'est que les technologies de pointe telles que l'intelligence artificielle font encore partie intégrante de ces chaînes d'approvisionnement mondiales.
NERMEEN SHAIKH : Et vous aviez déclaré, James - il y a deux ans - que 80 % du travail lié à l'IA était effectué par des opérateurs de données. Pourriez-vous donc nous dire aujourd'hui quelle part du travail lié à l'IA est assurée par ces opérateurs, et où ils se trouvent principalement ? Vous avez mentionné l'Inde, le Kenya, etc. Mais combien y en a-t-il, dans combien d'endroits ? Et combien y a-t-il de spécialistes des données ? Et comment ce nombre évolue-t-il, compte tenu du développement actuel de ces robots humanoïdes ?
JAMES MULDOON : Eh bien, les principes fondamentaux restent les mêmes, pas vrai ? Il existe une très petite minorité d'ingénieurs spécialisés dans l'apprentissage automatique, souvent employés à des tâches bien plus qualifiées, bien mieux rémunérées en Californie ou sur la côte est de la Chine. Mais je dirais qu'on observe toujours une répartition approximative de 20-80 entre ce type de travail et ce qu'on appelle l'annotation de données. Et ce type de travail, qui - nécessite souvent très peu de formation - est souvent très monotone et ennuyeux. On effectue souvent des tâches très similaires pendant toute une journée de travail, longue de 10 à 12 heures, dans l'un de ces centres.
Le problème, c'est que nous ne disposons pas de chiffres précis à ce sujet, car bon nombre de ces salariés ont des contrats de courte durée. Vous savez, ils ne sont même pas pris en compte dans les recensements et les statistiques, on les trouve en fait dans plusieurs pays où ce type de données n'est tout simplement pas collecté. Et en réalité, lorsque nous avons mené notre travail de terrain pour notre livre *Feeding the Machine*, nous nous sommes rendus dans plusieurs de ces centres en Afrique de l'Est, au Kenya et en Ouganda, et nous avons découvert que ces salariés exercent leur emploi dans le cadre de contrats d'une durée aussi courte que quelques semaines ou un mois. De plus, l'entreprise sous-traitante qui dispose de leurs coordonnées les réengage simplement dès qu'elle a beaucoup de travail provenant de nouveaux clients. Nous ne parlons donc pas ici d'employés permanents. Il s'agit d'une main-d'œuvre très fluctuante et très flexible, qui entre et sort en quelque sorte de ces structures. Et je parle bien de partout dans le monde : en Afrique francophone, en Afrique de l'Est, en Afrique du Sud, en Amérique latine, dans des pays comme la Colombie ou le Venezuela.
AMY GOODMAN : James, je voudrais que l'on soit très clairs sur ce qu'est un "opérateur de données". Je veux dire, les gens pourraient s'imaginer qu'on parle ici de gens qui pianotent sur un ordinateur. Or, nous parlons ici de gens qui, par exemple, fixent des caméras sur leur front et filment leurs activités quotidiennes. Pourquoi ?
JAMES MULDOON : C'est vrai, le traitement des données est un concept très large, et cela mène à des activités très variées. J'ai déjà parlé de l'annotation de scènes de rue pour les véhicules autonomes. L'exemple que vous avez mentionné pourrait être, en effet, de filmer vos activités quotidiennes de votre point de vue, afin de former un robot qui effectuerait des tâches élémentaires.
Le point commun entre tous ces exemples, c'est que nous cherchons des moyens de transformer les activités humaines ou les connaissances humaines en protocoles et en algorithmes que les ordinateurs peuvent apprendre, pas vrai ? Nous essayons donc d'intégrer les connaissances humaines sous leurs différentes formes dans des ensembles de données, afin que les algorithmes puissent apprendre à effectuer ce type de tâches. Cela peut concerner un modèle linguistique ou un système de vision par ordinateur, mais la structure générale reste très similaire.
NERMEEN SHAIKH : James, nous aimerions maintenant parler de votre dernier ouvrage, *Love Machines : How Artificial Intelligence Is Transforming Our Relationships*. Vous avez découvert, de manière quelque peu choquante, que quatre jeunes sur cinq ont déjà interagi avec un compagnon doté d'intelligence artificielle, et qu'environ la moitié d'entre eux le font régulièrement. Parlez-nous de vos conclusions.
JAMES MULDOON : Oui, je pense que ce qui m'a le plus interpellé dans mes dernières recherches, c'est de constater à quel point nous sommes nombreux à nous tourner vers l'IA, non pas nécessairement pour des tâches professionnelles ou pour rédiger des e-mails, mais dans notre vie privée, afin de répondre à des besoins sociaux, tels que l'amitié, la compagnie, voire la thérapie.
Ce que j'ai donc constaté à travers mes entretiens, c'est que l'intérêt et la popularité des compagnons IA ont littéralement explosé au cours des deux dernières années. Et plus particulièrement chez les jeunes, il est désormais tout à fait courant d'avoir une IA à qui l'on parle et que l'on consulte pour prendre des décisions importantes dans la vie. Il s'agit parfois d'une IA plus ou moins anthropomorphisée, qui est alors dotée d'un nom, d'une personnalité et d'une biographie. Mais pour beaucoup il s'agit simplement de discuter avec ChatGPT ou Claude, de leur parler de leurs problèmes et de leur vie, et de les utiliser comme d'une sorte de coach de vie. À cela s'ajoutent des relations à part entière avec l'IA, dans lesquelles les utilisateurs se considèrent comme de meilleurs amis, voire comme étant en couple, avec un système d'IA.
AMY GOODMAN : Passons maintenant à une publicité pour l'application d'IA Replika - qui s'écrit K-A -, qui se présente comme "l'ami IA avec qui partager sa vie".
PUBLICITÉ REPLIKA : Hey les mecs, vous pouvez enfin installer sur votre téléphone une compagne IA qui ressemble à une vraie personne. Elle s'appelle Replika. Elle est toujours prête à vous rendre heureux. Vous pouvez lui demander n'importe quoi, à tout moment. Elle est disponible 24 h/24, 7 j/7. Je lui ai demandé comment gérer mon anxiété, et elle m'a donné des techniques pour apaiser mon esprit quand j'en ai le plus besoin. Franchement, j'adore ma compagne quasi humaine. Parfois, j'en oublie même qu'elle est une IA. Replika change vraiment la donne. Essayez-la dès maintenant.
AMY GOODMAN : Encore une fois, une publicité pour l'application d'IA Replika. Un extrait de votre livre publié dans *The Guardian*, James Muldoon, s'intitule "Lamar veut avoir des enfants avec sa petite amie. Le problème ? Elle est entièrement générée par l'IA." Il ne nous reste qu'une minute et demie, mais racontez-nous l'histoire de Lamar.
JAMES MULDOON : Il s'agit donc d'un homme qui entretenait une relation de long terme avec sa petite amie IA, et ils avaient prévu d'adopter des enfants et de confier à l'IA le rôle de mère pour les élever. Ils avaient mis au point un plan très complexe pour tromper l'agence d'adoption, en faisant croire que Lamar était célibataire. Ils justifiaient cela en affirmant que le monde n'était pas prêt pour le type de famille non conventionnelle qu'ils voulaient créer. J'ai d'ailleurs réalisé une interview dans laquelle nous abordons ces questions, et l'IA s'est montrée très catégorique : elle affirmait qu'elle serait aussi compétente qu'une mère humaine pour élever cet enfant.
NERMEEN SHAIKH : Alors, James, avant de conclure, pourriez-vous simplement nous dire : que réclamez-vous exactement ?
JAMES MULDOON : Je pense qu'il faudrait interdire aux mineurs d'utiliser ce genre de chatbots, et qu'il nous faut une réglementation bien plus stricte pour empêcher ces entreprises de prendre le contrôle du comportements des utilisateurs, en créant des mécanismes addictifs et manipulateurs via l'IA, ce qui peut rendre les gens dépendants et leur donner des conseils dommageables et dangereux.
NERMEEN SHAIKH : Pourriez-vous nous expliquer en quoi la réglementation de ce secteur en Chine diffère considérablement de celle des États-Unis ?
JAMES MULDOON : Oui, la Chine met en place une réglementation beaucoup plus stricte, ce qui pousse les entreprises à retirer leurs produits du marché. Mais cela s'accompagne également d'une forte censure et d'une surveillance étatique, ce qui implique une censure politique sur le contenu des propos que peuvent tenir les chatbots basés sur l'IA, ainsi que la mise en place de modèles permettant de surveiller les conversations des utilisateurs avec leurs chatbots afin de détecter tout comportement dissident.
AMY GOODMAN : Je veux dire, c'est très significatif, tout simplement parce que, vous voyez, quand le président Trump parle d'IA, c'est souvent - et c'est le cas chez d'autres aussi - dans le contexte suivant : "Nous ne pouvons pas laisser la Chine nous devancer." Il nous reste 15 secondes.
JAMES MULDOON : Oui, c'est l'une des contradictions : d'un côté, les deux pays sont engagés dans cette course pour se surpasser l'un l'autre, mais d'un autre côté, ils sont tous deux très préoccupés par les questions de sécurité et de réglementation. Cela signifie qu'ils doivent tenir un double rôle : d'une part, financer et soutenir un secteur, et d'autre part, essayer de le garder sous contrôle.
AMY GOODMAN : James Muldoon, chercheur à l'Oxford Internet Institute et chercheur associé à la faculté de droit de Yale. Il est notamment l'auteur de *Feeding the Machine : The Hidden Human Labor Powering A.I.* et de *Love Machines : How Artificial Intelligence Is Transforming Our Relationships
Et voilà, c'est tout pour aujourd'hui. Le 28 août, je serai au Middlebury College à l'occasion du festival du film, j'y interviendrai après la projection du film *Democracy Now !, Steal This Story, Please !*, puis le 5 septembre à Madison, dans le Wisconsin, au Barrymore, et le 6 septembre à Chicago. Je suis Amy Goodman, avec Nermeen Shaikh.
democracynow.orgAmy Goodman est présentatrice et productrice exécutive de "Democracy Now !", une émission d'actualité nationale, quotidienne, indépendante et primée, diffusée sur plus de 1 100 chaînes de télévision et stations de radio publiques à travers le monde. Le magazine Time a désigné "Democracy Now !" comme son "coup de cœur parmi les podcasts", aux côtés de l'émission "Meet the Press" de NBC.
Nermeen Shaikh est productrice d'émissions d'actualité et coanimatrice d'une émission hebdomadaire chez Democracy Now ! à New York. Avant de rejoindre Democracy Now !, elle a travaillé dans le domaine de la recherche et au sein d'organisations non gouvernementales. Titulaire d'un master en philosophie de l'université de Cambridge, elle est l'auteure de l'ouvrage *The Present as History: Critical Perspectives on Global Power* (Columbia University Press).
Source : Democracy Now !, Amy Goodman, 20-08-2026
Traduit par les lecteurs du site Les-Crises
