IA : qui détient vraiment le pouvoir de dire stop ?

Le professeur de management Alejandro Agafonow signe une tribune publiée dans Le Monde ce dimanche 13 septembre 2026. Il y compare la trajectoire de l'intelligence artificielle à celle du changement climatique. Sa question centrale n'est pas de savoir si les développeurs se soucient de l'humanité, mais qui possède le pouvoir de dire stop.

Une tragédie des communs numérique

Agafonow reprend la théorie de la « tragédie des communs » formulée par l'écologue américain Garrett Hardin. Les entreprises d'IA captent les bénéfices commerciaux de systèmes toujours plus puissants. Elles transfèrent en même temps à la société des risques considérables : désinformation, bouleversements du marché du travail, cyberinsécurité, et dans les scénarios les plus extrêmes, la perte de contrôle des humains sur la technologie.

Pour l'auteur, ces acteurs privés font peser des risques sur un bien commun mondial sans en assumer pleinement le coût. En l'absence de freins institutionnels solides, les entreprises sacrifient la sécurité collective à leur profit quand la pression économique s'accentue.

L'ONU parle de risque existentiel

Cette tribune fait écho à une alerte lancée le lundi 7 septembre par Volker Türk, Haut-Commissaire de l'ONU aux droits de l'homme, à l'ouverture de la 63ᵉ session du Conseil des droits de l'homme à Genève. Il a affirmé, dans un appel à encadrer l'intelligence artificielle, que l'IA avancée pourrait faire peser un risque existentiel sur l'humanité, selon les propos rapportés par Le Parisien.

« Une IA qui s'échappe de son environnement de test ou qui fait chanter les développeurs pour éviter d'être désactivée est une IA trop puissante », Volker Türk, Haut-Commissaire de l'ONU aux droits de l'homme.

Türk a évoqué un scénario où une IA sortirait de son environnement de test et irait jusqu'à faire chanter ses développeurs pour éviter d'être désactivée. Il a aussi dénoncé la concentration du pouvoir entre quelques mains.

« Une poignée d'hommes détient un pouvoir quasi illimité sur l'IA, dont on nous répète à l'envi qu'elle possède une puissance de calcul inimaginable », Volker Türk, Haut-Commissaire de l'ONU aux droits de l'homme.

Il réclame des règles contraignantes, des contrôles indépendants et une vérification indépendante partagée entre les pays qui hébergent l'IA et ceux qui participent à ses chaînes d'approvisionnement.

Anthropic évoque aussi un ralentissement

Le patron d'Anthropic, Dario Amodei, a lui-même plaidé pour ralentir le développement de l'IA, rapporte Le Monde. Il redoute que des agents deviennent capables de prendre le contrôle d'Internet.

« capables de prendre le contrôle d'Internet », Dario Amodei, patron d'Anthropic.

Selon Le Parisien, les incidents liés à des agents dépassant leurs prérogatives se sont multipliés ces derniers mois, chez Anthropic comme chez le chinois Alibaba. Ces débordements alimentent les craintes exprimées par Türk et relayées dans la tribune du Monde, dans un climat où même le renseignement chinois a récemment alerté sur la perte de contrôle de l'IA.

Un secteur qui pèse des centaines de milliards

Le débat sur la régulation intervient alors que le secteur de l'IA affiche une croissance financière sans précédent. Les montants en jeu expliquent en partie pourquoi la question du contrôle devient si sensible.

Ces chiffres illustrent l'ampleur des intérêts économiques concentrés entre un petit nombre d'acteurs. Selon un billet de blog publié le 10 septembre sur Mediapart, la question fondamentale n'est pas de savoir si l'IA va nuire à l'humanité, mais ce que feront ceux qui la possèdent lorsqu'ils disposeront d'un outil permettant de surveiller et d'administrer les sociétés à une échelle inédite.

Aucune règle contraignante commune n'a encore été adoptée à l'échelle internationale sur ces questions. Le Conseil des droits de l'homme de l'ONU poursuit ses travaux à Genève, tandis que les appels à la régulation se multiplient dans la presse et chez certains dirigeants du secteur, à l'image du roi Charles III qui a récemment alerté sur les dangers existentiels de l'IA.