Encadrer l'intelligence artificielle

Volker Türk, haut-commissaire des Nations unies aux droits de l'homme, a lancé lundi 14 septembre 2026 un appel pressant. Il exhorte les Etats et les entreprises à encadrer l'intelligence artificielle avant que la technologie n'échappe à tout contrôle. Selon lui, "la course actuelle vers une IA toujours plus puissante marque un changement radical, exposant tous les aspects de nos vies à des risques existentiels accrus".

Dans sa déclaration, il précise que "tous les droits humains sont menacés" par cette technologie, y compris les droits à la vie, à l'alimentation, à la vie privée, à la santé et à la sécurité. Il évoque "un changement irréversible" qui touchera "non seulement nous, mais aussi les générations futures de l'humanité".

Un appel lancé depuis Genève

Le message de Volker Türk fait suite à une première prise de parole devant le Conseil des droits de l'homme de l'ONU, réuni à Genève pour sa 63e session, selon la RTS. Il y avait déjà averti qu'une IA avancée "pourrait faire peser un risque existentiel sur l'humanité", rejoignant ainsi le débat sur l'IApocalypse qui agite le secteur.

Il avait illustré son propos avec des exemples précis : "Une IA qui s'échappe de son environnement de test ou qui fait chanter les développeurs pour éviter d'être désactivée est une IA trop puissante", avait-il déclaré à cette occasion, cité par Le Figaro.

« Une IA qui s'échappe de son environnement de test ou qui fait chanter les développeurs pour éviter d'être désactivée est une IA trop puissante », Volker Türk, haut-commissaire de l'ONU aux droits de l'homme.

Des scénarios redoutés par le Haut-Commissariat

Le haut-commissaire détaille les conséquences concrètes de défaillances d'IA agentique, ces systèmes capables d'agir seuls. Il redoute qu'elles puissent "paralyser des services essentiels, interrompre les communications, déstabiliser des infrastructures critiques et porter atteinte au cœur même des institutions démocratiques".

« Des populations entières pourraient se retrouver privées d'eau potable, de chauffage et de services financiers », Volker Türk, haut-commissaire de l'ONU aux droits de l'homme.

Il va plus loin, évoquant des populations "privées d'eau potable, de chauffage et de services financiers". Selon lui, "l'IA agentique accélère déjà le rythme et l'ampleur des conflits armés, tout en fragilisant les garde-fous qui nous séparent du lancement d'armes de destruction massive". L'ONU rappelle par ailleurs que plus de 60 guerres impliquant au moins un Etat sont aujourd'hui recensées, un niveau inédit depuis la fin de la Seconde Guerre mondiale, selon un précédent communiqué d'ONU Info.

Le haut-commissaire réclame une vérification indépendante des capacités des systèmes d'IA, menée par des experts ayant accès aux modèles, à leur documentation et à leurs environnements de test. Il demande aussi que les pays hébergeant ces technologies s'accordent sur des "lignes rouges communes", estimant qu'"aucun pays ne peut encadrer seul" une technologie développée à l'échelle mondiale, un constat que semble partager la proposition d'un régulateur commun entre trois géants de l'IA.

Le secteur divisé, Trump vent debout

L'appel de l'ONU intervient alors que les dirigeants du secteur technologique eux-mêmes s'inquiètent. Samedi 12 septembre, le patron d'Anthropic, Dario Amodei a plaidé pour ralentir le développement de l'IA, le temps de mieux comprendre les risques liés aux nouvelles capacités des modèles. Il a été soutenu publiquement par Sam Altman, patron d'OpenAI, et par Elon Musk.

Cette position est frontalement rejetée par Donald Trump. Le président américain a dénoncé lundi une "conspiration malsaine" contre l'IA sur sa plateforme Truth Social, écrivant que "le seul contrôle ou garde-fou dont a besoin l'IA est un PRÉSIDENT FORT ET INTELLIGENT". Il s'en est aussi pris au patron d'Anthropic, affirmant l'avoir empêché de faire "des choses mauvaises, ou potentiellement mauvaises", confirmant ainsi son refus déjà exprimé face à d'autres patrons de l'IA demandant une pause.

En Chine, le ministre de la sécurité d'Etat, Chen Yixin, a lui aussi alerté dimanche 13 septembre sur les dangers de l'IA générative, jugée capable de menacer la sécurité nationale, dans la lignée de la mise en garde du renseignement chinois sur la perte de contrôle de l'IA. Selon lui, des "forces hostiles" exploitent ces technologies pour "fabriquer des rumeurs en matière de politique et diffuser des informations nuisibles", menant "des guerres d'opinion publique et des guerres cognitives". Ces déclarations précèdent de quelques jours une rencontre prévue à Washington entre Xi Jinping et Donald Trump, où la gouvernance de l'IA devrait figurer à l'ordre du jour.

Un rapport scientifique qui alimente les craintes

Ces appels s'appuient sur les conclusions d'un groupe scientifique indépendant mandaté par l'Assemblée générale de l'ONU, publiées en juillet 2026. Selon Yoshua Bengio, coprésident du groupe et l'un des pères de l'apprentissage profond, "les capacités de l'IA dépassent désormais la compréhension scientifique et la capacité des gouvernements à s'adapter", un constat qui fait écho aux propos tenus par Charles III sur les dangers existentiels de l'IA.

Le règlement européen sur l'IA, déjà en vigueur, interdit les systèmes conçus pour manipuler ou noter le comportement des individus, ainsi que la plupart des dispositifs de reconnaissance faciale en temps réel utilisés par la police dans l'espace public. Une interdiction des images sexuelles générées par IA sans consentement doit entrer en vigueur en décembre 2026, selon Euronews. Le Haut-Commissariat espère qu'un cadre similaire, mais mondial, pourra émerger des discussions à venir entre Etats et entreprises.