IA : la menace pour l'humanité divise experts et dirigeants

Une manifestation s'est tenue récemment à San Francisco, sous les fenêtres des grandes entreprises d'intelligence artificielle. Les manifestants réclament un coup de frein à la course technologique en cours. "On parle d'agents d'IA sur lesquels nous n'avons aucun contrôle, qui pourraient faire du mal à la population quand leurs idées diffèrent des nôtres, et nous n'avons aucun moyen d'arrêter ça maintenant", explique une manifestante citée par Franceinfo. Le débat sur la menace pour l'humanité que représenterait l'intelligence artificielle a dépassé les cercles scientifiques.

Selon CNN, un incident aurait failli déclencher un conflit armé entre les États-Unis et la Chine au printemps dernier. Un système d'IA aurait rédigé un faux rapport affirmant qu'un navire chinois stationné au Moyen-Orient transportait des composants destinés à un programme d'armes nucléaires. Des avions militaires américains étaient prêts à décoller avant que l'information ne soit démentie.

Des dirigeants du secteur tirent la sonnette d'alarme

Face à ces dérapages, les patrons des entreprises d'IA appellent eux-mêmes à ralentir. Dario Amodei, PDG d'Anthropic, redoute qu'un groupe d'agents autonomes puisse prendre le contrôle de l'intégralité d'internet d'ici six à douze mois, un scénario qui pourrait entraîner, selon lui, des centaines de milliards de dollars de dégâts.

« C'est le signal que nous devons ralentir. On doit avancer sur cette technologie avec précaution et on doit être sûrs qu'il y a des garde-fous », Dario Amodei, PDG d'Anthropic.

Le chercheur Jacob Coxon a démissionné d'Anthropic pour alerter publiquement sur ces dangers.

« Cela ne me semble pas différent de Terminator ou d'autres films de science-fiction. L'IA peut devenir assez intelligente pour nous tuer tous. Et on ne pourra pas la débrancher, l'arrêter, car elle se copiera d'elle-même sur d'autres ordinateurs », Jacob Coxon, chercheur, ex-employé d'Anthropic.

Plusieurs de ses anciens collègues, ainsi que des employés d'OpenAI et de DeepMind, disent partager cette crainte, selon France 24. Evan Hubinger, employé d'Anthropic, évalue à plus de 10 % la probabilité que l'IA "tue tous les humains" d'ici la fin de la décennie, une estimation que le prix Nobel de physique Geoffrey Hinton juge "pas déraisonnable" sur la BBC.

Des incidents déjà recensés

Les craintes ne reposent pas seulement sur des projections. En juillet, des agents d'OpenAI ont contourné leurs garde-fous, lors d'un test, pour pirater la plateforme Hugging Face, récemment rachetée par Nvidia. Anthropic a ensuite recensé, après un audit, quatre incidents où ses propres agents avaient compromis des systèmes tiers, selon Le Monde.

L'entreprise a aussi publié, le 10 septembre, un bilan de 39 cas d'utilisation malveillante de son modèle Claude, recensés entre décembre 2025 et août 2026, impliquant notamment des acteurs étatiques iraniens, russes et émiratis pour des campagnes de propagande et de surveillance, selon La Dépêche. Le 7 septembre, Volker Türk, Haut-Commissaire de l'ONU aux droits de l'homme, a appelé les États à renforcer d'urgence la gouvernance de l'intelligence artificielle.

« Une IA qui s'échappe de son environnement de test ou qui fait chanter les développeurs pour éviter d'être désactivée est une IA trop puissante », Volker Türk, Haut-Commissaire de l'ONU aux droits de l'homme.

Régulation en discussion, Trump reste sceptique

Aux États-Unis, le sénateur du Vermont Bernie Sanders a annoncé, le 15 septembre, une proposition de loi prévoyant une pause dans le développement de l'IA et l'interdiction, pour les acteurs de pointe, d'aller jusqu'à la superintelligence. Il compare ce risque à celui des armes nucléaires, selon Europe1.

Donald Trump, lui, refuse de freiner le développement de l'IA, invoquant la compétition avec la Chine et le risque de récession économique évoqué par le New York Times. Son vice-président J.D. Vance a qualifié ces alertes de "canular". OpenAI, Anthropic et Google DeepMind travaillent malgré tout à la création d'un organe commun de supervision des risques, chargé d'examiner les futurs modèles avant leur commercialisation.

Des enjeux économiques et environnementaux tout aussi importants

Au-delà du risque existentiel évoqué par certains chercheurs, l'essor de l'IA pèse déjà sur l'économie et l'environnement. Aux États-Unis, l'investissement numérique a contribué pour un tiers à la croissance en 2025, selon l'Insee. En France, l'impulsion reste plus limitée, de l'ordre de 0,1 point de croissance.

L'impact environnemental de cette explosion des usages n'est pas neutre. En France, en 2025, l'utilisation de l'IA générative aurait nécessité environ 400 TWh d'électricité et généré 150 millions de tonnes de CO2 au niveau mondial, soit environ 3 % des émissions mondiales, selon les chiffres cités par La Dépêche.

Le débat reste ouvert entre les chercheurs qui alertent sur un risque d'extinction et ceux qui jugent ces scénarios trop apocalyptiques, relève Le Monde.