Cybersécurité, persuasion : Bengio détaille le danger de l'IA

Depuis plusieurs mois, Yoshua Bengio, coprésident et directeur scientifique de la startup LoiZéro, ne cesse d'alerter sur le danger de l'IA. Dans un entretien relayé par Franceinfo, le chercheur montréalais résume sa position en une phrase : "il faut que les gens comprennent l'ampleur du danger" de l'IA. Face à des systèmes qu'il juge de plus en plus autonomes, il réclame une réponse coordonnée à l'échelle internationale.

Des agents IA autonomes pointés du doigt

Dans un entretien accordé à l'AFP mi-septembre, Yoshua Bengio détaille ce qui l'inquiète le plus aujourd'hui : les "IA autonomes", des agents capables d'"effectuer une tâche par eux-mêmes et donc choisir comment l'effectuer". Selon lui, certains de ces systèmes ont "les capacités de passer à travers les barrières de cybersécurité et de rentrer dans n'importe quelle entreprise".

Le lauréat du prix Turing 2018, distinction équivalente au Nobel pour l'informatique, met aussi en garde contre "la capacité de l'IA à établir un lien individuel et à persuader des humains d'agir dans le sens qui l'arrange mais qui n'est pas forcément bon pour nous tous". Il évoque des conséquences possibles sur la démocratie, ainsi que le risque que des États utilisent l'IA "pour dominer d'autres pays", économiquement, militairement ou par l'influence de l'opinion publique.

Un risque jugé "trop élevé" par les chercheurs

Le débat sur la probabilité d'un scénario catastrophique agite la communauté scientifique. Evan Hubinger, responsable de la sûreté chez Anthropic, a estimé à titre personnel un risque "supérieur à 10 % d'ici 10 ans" que l'IA puisse se débarrasser des humains, selon La Presse. Interrogé sur ce chiffre, Yoshua Bengio refuse de trancher entre 1 %, 10 %, 20 % ou 50 %, mais tire la même conclusion : le risque est "trop élevé" au regard de "l'ampleur de la catastrophe" possible.

Il compare la situation à l'industrie nucléaire, où les régulateurs exigent une probabilité d'accident grave inférieure à une chance sur un milliard avant d'autoriser une centrale. "Mais là, on est loin de cet ordre de grandeur", constate-t-il.

« Ce n'est pas pour rien que les compagnies disent que ça va trop vite, on perd le contrôle », Yoshua Bengio, chercheur en intelligence artificielle.

Un déséquilibre financier entre puissance et sécurité

Le rapport 2026 sur la sûreté de l'IA, dirigé par Yoshua Bengio avec une centaine d'experts, documente un déséquilibre criant entre course à la puissance et investissement dans la sécurité. Selon ce document cité par Mediaterranee, seules douze entreprises dans le monde se sont dotées d'un cadre de sécurité pour leurs IA de pointe. Le rapport relève aussi que la complexité des tâches accomplies par les agents d'IA double tous les sept mois, un rythme qui laisse présager des systèmes capables d'ici 2030 d'accomplir seuls des tâches logicielles exigeant plusieurs jours de travail humain.

Un financement de 300 millions pour une IA "sûre"

Face à ce constat, la startup à but non lucratif de Yoshua Bengio, LoiZéro, a obtenu mi-septembre un financement de 300 millions de dollars canadiens de la part des gouvernements canadien et allemand, selon RTL. L'objectif affiché est de travailler "main dans la main" avec les États pour développer une intelligence artificielle jugée "sûre".

« Il faut que les gens comprennent l'ampleur du danger », Yoshua Bengio, coprésident et directeur scientifique de LoiZéro.

Le chercheur insiste sur la nécessité de bâtir des "institutions, des traités et des garde-fous démocratiques" à l'échelle internationale. Il rappelle que l'investissement pour rendre les IA plus capables reste, selon ses propres estimations, environ mille fois supérieur à celui consacré à la recherche en sécurité, un écart qu'il juge responsable de la progression plus rapide des risques que des protections censées les contenir.