IA tueuse d'ici 2030 : le spectre du Terminator revient hanter

Le 11 septembre, sur la chaîne américaine CBS, le chercheur Jacob Coxon explique pourquoi il vient de quitter Anthropic. Il évoque des scénarios directement inspirés de la science-fiction pour justifier son inquiétude face à l'intelligence artificielle.

« Ça n'est pas si différent de ce qui se passe dans, par exemple, Terminator ou d'autres films de science-fiction (…). », Jacob Coxon, chercheur en intelligence artificielle, ex-employé d'Anthropic.

Deux jours plus tôt, l'annonce de son départ avait déjà fait le tour du monde. Sur X, Jacob Coxon, 27 ans, affirmait que "les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici à la fin de la décennie". Le spectre du Terminator, ce robot tueur venu du cinéma des années 1980, ressurgit ainsi dans le débat public sur l'intelligence artificielle.

Une vague de déclarations catastrophistes

Dans la foulée du départ de Jacob Coxon, d'autres voix du secteur ont renchéri. Evan Hubinger, responsable de la sûreté chez Anthropic, a repris l'estimation à son compte sur X.

« Nous croyons vraiment sincèrement que l'IA pourrait tuer tous les humains », Evan Hubinger, responsable de la sûreté chez Anthropic.

Le Prix Nobel de physique Geoffrey Hinton a lui aussi évalué à "plus de 10 %" les risques que l'IA détruise l'humanité "dans la prochaine décennie", selon Le Monde. Hubinger précise par ailleurs qu'Anthropic fait "de son mieux" pour garantir qu'une IA surpassant les capacités humaines reste sous contrôle, mais reconnaît n'avoir "pas encore de plan" pour y parvenir. Il juge en revanche "faible" le risque posé par les modèles actuellement disponibles.

Ce que reprochent les chercheurs à ce récit

Le journaliste du service Pixels du Monde, Damien Leloup, pointe une contradiction dans sa chronique publiée le 20 septembre. Les dirigeants et cadres qui agitent le scénario d'une extinction humaine par l'IA ne fournissent, selon lui, aucun mécanisme précis pour l'expliquer. Il note aussi qu'il devient difficile de comprendre comment un risque aussi vague pourrait s'estimer à 10 % sur dix ans.

La sociologue Angèle Christin, interrogée par France Culture le 12 septembre, va dans le même sens. Pour elle, l'image d'une machine qui s'échapperait d'un laboratoire pour se retourner contre ses créateurs reste largement fantasmée.

« Mais toute seule, l'idée d'une IA qui s'échappe vraiment du laboratoire et qui se met un peu à la façon terminator à se retourner contre ses créateurs et contre l'humanité en général, est vraiment un risque très très faible aujourd'hui. », Angèle Christin, sociologue.

Elle ajoute que ce risque, bien réel dans les discours, occupe une place disproportionnée par rapport à d'autres dangers plus tangibles posés par l'intelligence artificielle, comme la concentration du pouvoir économique ou la dégradation des conditions de travail.

Un marché qui pèse déjà des centaines de milliards

Pendant que le débat sur l'apocalypse machine occupe les plateaux de télévision, le secteur continue sa croissance. Le marché mondial de l'intelligence artificielle atteint environ 390 milliards de dollars en 2026, avec un taux de croissance annuel composé estimé entre 30 % et 37 % jusqu'en 2030, selon les données compilées par iatechnologie.com.

ChatGPT revendique à lui seul 900 millions d'utilisateurs actifs par semaine, tandis que Google Gemini progresse de 114 % en un an pour atteindre 750 millions d'utilisateurs mensuels. Les investissements mondiaux dans le secteur approchent, eux, les 189 milliards de dollars sur l'année.

Cette masse d'argent et d'usagers contraste avec la nature encore très théorique des scénarios d'extinction évoqués par certains chercheurs. Pour Damien Leloup, la multiplication de ces déclarations, jusqu'aux plus hautes instances de l'ONU, prend des allures d'"hystérie collective" doublée d'une absence de réponse concrète. Il s'interroge sur le fait qu'aucun autre secteur industriel ne tolérerait que ses dirigeants évoquent publiquement, sans plan d'action associé, une probabilité chiffrée de fin du monde.

Le débat public sur l'IA reste ainsi partagé entre deux lectures. D'un côté, des figures du secteur, y compris chez Anthropic, qui chiffrent un risque existentiel à moyen terme. De l'autre, des chercheurs en sciences sociales qui pointent des dangers plus immédiats, liés à l'organisation du travail et à la concentration économique autour de quelques entreprises.