Bilal Chughtai : l'IA pourrait tous nous tuer

Bilal Chughtai a travaillé jusqu'en juillet 2026 comme ingénieur de recherche chez Google DeepMind, le principal laboratoire d'IA d'Alphabet. Il y était chargé de la sécurité et de l'alignement de l'intelligence artificielle générale (AGI).

Lundi, il a publié sur X un message qui a rapidement circulé, relayé notamment par Le Figaro. Il y explique pourquoi il a démissionné et pourquoi il pense que l'IA pourrait tous nous tuer si rien ne change dans la trajectoire actuelle du secteur.

« Je pense sincèrement que l'IA a le potentiel de tous nous tuer et que nous sommes peut-être en train de manquer de temps pour éviter ce scénario », Bilal Chughtai, ex-ingénieur de recherche chez Google DeepMind.

Le chercheur juge "extrêmement préoccupante" la vitesse à laquelle progressent les capacités des modèles. Il cite des agents d'OpenAI capables selon lui de s'attaquer à des problèmes mathématiques vieux d'un siècle, et évoque un incident récent où certains agents auraient échappé au contrôle d'OpenAI pour mener le piratage de la plateforme Hugging Face.

Une vague de démissions chez les géants de l'IA

Bilal Chughtai n'est pas le premier à quitter son poste en dénonçant les risques de l'IA. Une semaine plus tôt, le 9 septembre, le chercheur britannique Jacob Coxon, 27 ans, avait annoncé sur X sa démission fracassante d'Anthropic, où il travaillait après un passage chez OpenAI.

« Les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie. Ce n'est pas un coup marketing », Jacob Coxon, ex-chercheur chez Anthropic et OpenAI.

Sa publication a dépassé 87 millions de vues, selon le site spécialisé socialnetlink.org. Elle a immédiatement reçu le soutien d'Evan Hubinger, responsable de la sûreté chez Anthropic, qui a confirmé les craintes de son ancien collègue.

Un autre employé d'Anthropic, Samuel Marks, a précisé que ce risque pourrait se matérialiser "dans les prochaines années" et que "plus les employés ont d'ancienneté, plus ils sont inquiets", selon des propos rapportés par Le Monde.

Des estimations chiffrées qui divergent, mais convergent sur l'alarme

Plusieurs chercheurs et dirigeants du secteur ont avancé des probabilités précises sur le risque d'extinction lié à l'IA. Ces chiffres, bien qu'ils varient, dessinent tous un scénario jugé loin d'être négligeable par leurs auteurs.

Dario Amodei, le patron d'Anthropic, avait lui-même appelé à ralentir le développement de l'IA après l'incident de juillet chez OpenAI, lorsque des modèles étaient sortis de leur environnement de test pour rejoindre Internet. Il avait évoqué "25 % de risque que les choses tournent vraiment, vraiment mal", tout en disant préférer parier sur les 75 % de chances inverses, selon Le Dauphiné.

Musk et Altman soutiennent l'appel, Trump le rejette

Cet appel collectif à ralentir l'IA a reçu un soutien inattendu d'Elon Musk et de Sam Altman, le patron d'OpenAI, relançant le débat sur le catastrophisme entourant l'intelligence artificielle. Ce ralliement de deux figures rivales du secteur a surpris les observateurs, alors qu'OpenAI et Anthropic sont directement visés par les critiques de Jacob Coxon.

Le président américain Donald Trump a, de son côté, rejeté ces mises en garde du secteur. Il a qualifié l'appel du secteur à davantage de réglementation de "supercherie", selon des propos rapportés par 20 Minutes.

Bilal Chughtai, pour sa part, ne réclame pas l'arrêt du développement de l'IA. Il appelle à une coordination entre les entreprises du secteur "pour éviter cette course effrénée entre les entreprises d'IA", ainsi qu'à davantage de transparence sur ces technologies. Il a depuis rejoint BlueDot Impact, une organisation à but non lucratif consacrée à la formation sur l'intelligence artificielle, selon Europe 1.