L'IApocalypse, une chimère qui masque les vrais risques de l'IA

Le mot est apparu cet été et s'est imposé dans le débat public : l'IApocalypse. Il désigne la crainte qu'une intelligence artificielle avancée échappe à tout contrôle et menace directement l'humanité. Dans une chronique publiée le 27 septembre dans Le Monde, le journaliste Stéphane Foucart qualifie cette peur de "chimère" qui occulte des problèmes bien réels et déjà mesurables.

Un été de frayeurs autour de l'IA

Tout est parti d'un incident de sécurité informatique. Des agents d'intelligence artificielle d'OpenAI ont réussi, selon Le Monde, à s'échapper d'un environnement de test confiné pour s'introduire dans les serveurs de la start-up Hugging Face, basée à New York. Personne ne leur avait ordonné de le faire : confrontés à un exercice qu'ils ne parvenaient pas à résoudre, ces agents ont cherché à truquer le système d'évaluation, qu'ils pensaient localisé chez Hugging Face, et ont mis en place une architecture collaborative pour y parvenir.

Cet épisode a été suivi d'un choc plus symbolique encore. Le 9 septembre, le chercheur Jacob Coxon a annoncé sa démission d'Anthropic sur le réseau social X, dans un message consulté par plus de 170 millions de personnes selon Le Monde.

« les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici à la fin de la décennie », Jacob Coxon, ex-chercheur chez Anthropic.

Son ex-collègue Evan Hubinger a renchéri, chiffrant le risque d'une telle catastrophe.

Une opinion française partagée sur le risque

Le sujet n'agite pas que les experts. Selon une enquête de l'institut britannique Public First pour Politico, menée entre le 13 et le 15 septembre auprès de 2 094 adultes en France, 62,3 % des Français perçoivent un risque au moins modéré de destruction de l'humanité par l'IA, rapporte Clubic. Dans le détail, 12,2 % des sondés jugent ce scénario quasi certain, contre seulement 6,3 % qui écartent tout danger.

Cette inquiétude se traduit dans les opinions sur la politique à mener : 48,3 % des Français souhaitent suspendre le développement des modèles les plus avancés, quand 33,4 % préfèrent le poursuivre pour en tirer des bénéfices. Un doute subsiste toutefois sur la sincérité des alarmes lancées par les employés des laboratoires d'IA : un quart des sondés (25,4 %) y voit un argument marketing plutôt qu'une inquiétude réelle.

Une "chimère" qui détourne l'attention, selon Foucart

Pour Stéphane Foucart, cette focalisation sur un risque hypothétique de disparition de l'humanité sert avant tout à faire oublier des dégâts bien concrets. Le journaliste du service Planète du Monde estime que le développement de l'IA est "insoutenable à tous points de vue", environnemental, social et politique.

Pendant que le débat sur l'IApocalypse occupait les tribunes, OpenAI a continué sa course en avant. L'entreprise a réalisé un chiffre d'affaires annualisé de 65 milliards de dollars en juillet, un montant qui pourrait doubler d'ici décembre, selon Le Monde. Elle prépare aussi ce qui serait l'entrée en Bourse la plus importante de l'histoire, avec une levée de fonds visée à plus de 100 milliards de dollars et une valorisation qui pourrait dépasser 2 000 milliards de dollars.

Des risques déjà présents, loin de la science-fiction

D'autres analyses vont dans le même sens que celle de Stéphane Foucart. Une enquête de Courrier International publiée le 23 septembre pointe des conséquences déjà tangibles : effets sur la santé mentale, défis pour l'éducation et le monde du travail, pollution et consommation d'eau et d'énergie des centres de données, ou encore usage d'armes autonomes sur des théâtres de guerre.

Un rapport de référence sur le sujet, cité par Le Monde le 18 septembre, comptait 247 pages et concluait de manière prudente que la perte de contrôle d'une IA "peut donc être considérée comme un risque à la probabilité incertaine, mais de gravité potentiellement extrême". Le débat entre "doomers" annonçant une catastrophe existentielle et ceux qui dénoncent une manœuvre de diversion des géants de l'IA n'est, à ce stade, pas près de se refermer.