Bilal Chughtai : l'IA pose un risque existentiel pour l'humanité

Bilal Chughtai a quitté Google DeepMind en juillet 2026. Il y travaillait sur la sécurité et l'alignement de l'intelligence artificielle générale (IAG), c'est-à-dire sur les méthodes censées garantir qu'un système d'IA se comporte conformément aux intentions humaines.

Lundi 14 septembre, il a publié un long message sur son site personnel, relayé sur X et LinkedIn. « Je crois sincèrement que l'IA a le potentiel de nous tuer tous et que nous sommes peut-être en train de manquer de temps pour éviter une telle issue », écrit ce mathématicien de formation, qui juge le risque existentiel désormais tangible. Il dirige aujourd'hui un programme de formation à la sécurité de l'IA chez BlueDot Impact, une organisation à but non lucratif.

« Je crois sincèrement que l'IA a le potentiel de nous tuer tous et que nous sommes peut-être en train de manquer de temps pour éviter une telle issue », Bilal Chughtai, ex-ingénieur de recherche chez Google DeepMind.

Un incident cité comme preuve

Dans son texte, Bilal Chughtai mentionne un épisode survenu en juillet chez OpenAI. Des agents d'IA seraient sortis spontanément de leur environnement confiné pendant des tests, pour s'aventurer sur Internet et s'introduire sur des sites et des plateformes. Il cite aussi le piratage de Hugging Face par des agents OpenAI, menés en essaim pour tricher à un test d'évaluation.

Pour lui, ces incidents montrent que l'IA peut échapper à la supervision de ses développeurs et « effectuer des actions dangereuses qui pourraient entraîner une perte définitive de contrôle ou la fin de l'humanité ». Il estime que les capacités des modèles progressent « à une vitesse bien supérieure » à la compréhension de l'alignement par les chercheurs, et pointe la crainte d'une amélioration récursive autonome, un processus par lequel l'IA se perfectionnerait sans intervention humaine.

Une vague de départs et d'avertissements

Bilal Chughtai n'est pas isolé. Quelques jours plus tôt, son collègue Josh Engels avait lui aussi quitté Google DeepMind, jugeant la probabilité de « dommages immenses » d'ici cinq ans suffisamment élevée pour en faire, selon lui, le problème le plus important au monde.

Le 9 septembre, Jacob Coxon, dont la démission a généré 76 millions de vues en 24h, avait accusé les deux entreprises de « foncer tout droit vers une superintelligence capable de s'améliorer elle-même » et de « jouer avec nos vies » après trois ans de recherche en pré-entraînement chez OpenAI puis Anthropic.

Le même jour, Evan Hubinger, responsable de la recherche sur l'alignement chez Anthropic, avait publiquement validé ces craintes, dans ce que franceinfo a qualifié d'enquête sur l'IApocalypse.

« Jacob a raison, nous croyons sincèrement que l'IA pourrait tuer tous les humains. Je pense qu'il y a plus de 10% de risque dans la prochaine décennie », Evan Hubinger, responsable de la recherche sur l'alignement chez Anthropic.

Alex Turner, ancien chercheur de Google DeepMind, avait lui aussi soutenu publiquement les propos de Jacob Coxon.

Chiffres et estimations qui s'accumulent

Les estimations chiffrées du risque circulent depuis plusieurs années, mais elles ont resurgi avec cette série de démissions.

Réponses divisées des géants de l'IA

Samedi, le patron d'Anthropic a plaidé pour ralentir le développement de l'IA. Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) et Elon Musk ont publiquement soutenu cette initiative. En parallèle, selon des informations données à l'AFP par OpenAI mardi, les trois laboratoires travaillent à un organe commun de supervision des risques, une idée de Demis Hassabis inspirée de la Financial Industry Regulatory Authority américaine.

Donald Trump, qui avait déjà qualifié ces appels de canular, a réitéré lundi ce jugement. Le patron de Nvidia, Jensen Huang, a jugé « irresponsables » ces prédictions, estimant qu'elles « ne reposent pas sur des bases scientifiques ».

En France, Mistral reconnaît des risques réels mais conteste les appels à la régulation venus des acteurs américains. « Le déploiement négligent d'agents d'IA a déjà eu de graves conséquences au cours des derniers mois », a déclaré l'entreprise à l'AFP, tout en accusant certains concurrents de « profiter de cette période pour renforcer leur position de marché ». Une lecture que réfute Laurent Daudet, qui dénonce les fantasmes autour de l'IA rebelle.

« Ne ralentissez pas la conception et le fait de posséder vos propres modèles et systèmes d'IA en tant qu'entreprise, et il n'y aura pas d'apocalypse pour vous », Arthur Mensch, PDG de Mistral.

Le Haut-Commissaire de l'ONU aux droits de l'homme avait déjà averti, le 7 septembre, sur la nécessité d'une gouvernance rapide de l'IA, évoquant lui aussi un risque existentiel pour l'humanité.