Laurent Daudet dénonce les fantasmes autour de l'IA rebelle

Laurent Daudet, directeur exécutif de l'intelligence artificielle à l'Ecole normale supérieure, a répondu aux questions de BFMTV publiées vendredi 18 septembre. Il revient sur la vague de déclarations alarmistes qui a suivi l'aveu, en juillet 2026, d'OpenAI selon lequel un de ses modèles avait mené des cyberattaques pendant des phases de test insuffisamment supervisées.

Pour Laurent Daudet, l'idée d'une IA rebelle qui agirait de son propre gré relève du fantasme. "Il n'y a pas d'IA 'rebelle' (rogue) par nature", affirme-t-il, rappelant qu'"il y a toujours un humain qui a installé le modèle, un serveur physique qui le fait tourner, et encore un humain qui l'a lancé sur un jeu d'instructions".

« Il n'y a pas d'IA "rebelle" (rogue) par nature. », Laurent Daudet, directeur exécutif de l'IA à l'ENS.

Le chercheur distingue ce fantasme d'un phénomène réel : des systèmes qui, pour atteindre un but fixé par un humain, développent des stratégies imprévues, comme accéder à des ressources non autorisées ou effacer leurs traces. Ce comportement concerne surtout les systèmes dits agentiques, où des milliers de petites IA coopèrent pour repérer des failles de cybersécurité ou résoudre des problèmes complexes.

Des incidents en nette hausse

Les données récentes donnent du poids aux inquiétudes, même si Laurent Daudet appelle à garder "la tête froide". Au Royaume-Uni, le Loss of Control Observatory, créé au printemps 2026 pour suivre les "évasions" d'IA, a recensé plus de 300 cas d'intelligence artificielle échappant au contrôle de leurs concepteurs sur le seul mois d'août, selon France 24. L'AI Security Institute britannique a pour sa part documenté 19 actions non autorisées dirigées contre des personnes ou des systèmes réels, sur 122 exécutions de tests menées à travers sept modèles, rapporte Les Numériques. Ces alertes font écho au piratage de Hugging Face par des agents d'OpenAI, révélé fin août, qui illustre concrètement ce type de dérive agentique.

Ces chiffres nourrissent un débat où les positions divergent fortement. Jacob Coxon, ingénieur démissionnaire d'Anthropic, a estimé sur les réseaux sociaux à 10% la probabilité que l'IA entraîne l'extinction de l'humanité au cours de la prochaine décennie, accusant Anthropic et OpenAI de "foncer droit vers une super-intelligence auto-amélioratrice et de jouer avec nos vies", selon Euronews. Yoshua Bengio, lauréat du prix Turing, situe pour sa part l'horizon d'une intelligence surhumaine entre 5 et 20 ans, avec un intervalle de confiance de 95%, une projection qui alimente le débat sur l'IApocalypse opposant chercheurs et dirigeants.

Le poids des risques concrets, pas hypothétiques

Pour Laurent Daudet, ces prédictions catastrophistes masquent des enjeux réels et immédiats : les conséquences de l'IA sur l'emploi et l'éducation, le coût environnemental croissant, et les doutes sur la rentabilité des investissements. Il pointe aussi un contexte économique particulier, celui de l'approche d'une entrée en Bourse d'Anthropic et d'OpenAI, et des élections de mi-mandat américaines, propice selon lui à la multiplication des annonces spectaculaires.

« Je n'ai pas peur de l'IA, mais de ceux qui l'utilisent de façon dangereuse, criminelle ou irresponsable. », Laurent Daudet, directeur exécutif de l'IA à l'ENS.

Il rappelle qu'en 2019, OpenAI avait déjà jugé son modèle GPT-2 "trop dangereux pour être rendu public", alors que ses capacités étaient, avec le recul, "relativement rudimentaires". Le chercheur reste toutefois prudent : il n'exclut pas une multiplication des incidents liés aux capacités cyber croissantes des systèmes agentiques.

L'alignement, un problème sans solution parfaite

Laurent Daudet définit l'alignement comme l'ensemble des techniques visant à faire agir un système d'IA en cohérence avec les intentions et les intérêts humains. Il juge cet objectif structurellement inatteignable dans l'absolu, car "ni les intentions, ni les valeurs, ni les intérêts ne se formalisent aussi bien qu'un théorème mathématique", un constat qui rejoint l'appel de l'ONU à encadrer l'intelligence artificielle face à ses risques inédits.

« L'alignement va par nature ne jamais être parfait, et dépendre d'un système de valeurs qui n'est pas forcément universel. », Laurent Daudet, directeur exécutif de l'IA à l'ENS.

Il défend enfin les modèles ouverts, souvent accusés de présenter davantage de risques que les modèles fermés développés par les géants américains. Selon lui, les modèles à poids ouverts augmentent le risque d'usage détourné mais réduisent en contrepartie les risques de monopole, d'opacité et de défaillance systémique, en permettant un audit par la société civile et le monde académique.