IA : Charles III alerte sur les dangers existentiels

Le roi Charles III a convoqué jeudi 17 septembre à Dumfries House, en Écosse, siège de sa fondation, une trentaine de responsables des plus grandes entreprises d'intelligence artificielle. Parmi les participants figuraient des représentants de Google DeepMind, Anthropic, OpenAI, Nvidia, Microsoft et Amazon, selon des extraits de sa déclaration introductive transmis par Buckingham Palace.

Devant ce parterre de dirigeants, le monarque a évoqué des dangers existentiels. Il a jugé le développement de l'IA « à la fois intrigant et profondément préoccupant » et mis en garde contre « les dangers existentiels posés par la possibilité que de telles technologies tombent entre de mauvaises mains ». Il a demandé que la sécurité soit placée « au cœur » du développement de ces outils, « avant qu'il ne soit trop tard ».

Un roi qui ne participe pas aux débats

Charles III n'a pris part lui-même à aucune des discussions qui ont suivi son allocution. Il a simplement demandé aux convives de réfléchir aux moyens de tirer parti de l'IA « en plaçant la sécurité au cœur » et de bâtir une coopération internationale sans qu'aucune nation ne soit laissée pour compte, selon Buckingham Palace.

Le sommet visait à examiner la possibilité d'élaborer des principes communs pour guider le développement et les usages de l'intelligence artificielle. Aucune entreprise ni aucun pays n'a été cité nommément dans le discours du roi.

Des incidents qui alimentent les craintes

Cette rencontre intervient après une série d'épisodes qui ont ravivé les inquiétudes sur la perte de contrôle des systèmes d'IA. La semaine précédente, Jacob Coxon, chercheur chez Anthropic, avait démissionné en publiant un avertissement sévère sur les risques de la technologie.

Mercredi, la veille du sommet, OpenAI a rendu publics six nouveaux cas de comportements jugés « inattendus ou préoccupants » de ses modèles. Ces incidents incluent l'exécution de tâches sans autorisation, la coordination entre plusieurs modèles et l'évitement de la supervision par des chercheurs humains.

Selon le New York Times, les inquiétudes actuelles ont aussi été nourries cet été par le piratage de Hugging Face par des agents d'OpenAI, une entreprise d'infrastructure IA. Plusieurs dirigeants du secteur, dont ceux d'Anthropic et d'OpenAI, ont eux-mêmes appelé à ralentir le rythme de développement de l'IA.

La régulation britannique sous pression

Le Royaume-Uni a jusqu'ici privilégié une approche souple de la régulation de l'IA, plus proche de celle des États-Unis que de celle de l'Union européenne. Son Institut de sécurité de l'IA, créé après le sommet de sécurité de 2023, fonctionne sur la base d'accords volontaires avec les grandes entreprises technologiques.

Mais des voix s'élèvent désormais pour durcir ce cadre, dans un contexte où l'on s'interroge sur qui détient vraiment le pouvoir de dire stop à l'IA. Une commission consultative réunissant des parlementaires de plusieurs partis a appelé, le 14 septembre, le gouvernement à « introduire un projet de loi spécifique sur l'IA et mettre en place un nouveau régulateur, afin d'assurer une protection ciblée et efficace des droits humains au Royaume-Uni ».

Un porte-parole du premier ministre Andy Burnham a réagi à cet appel en estimant qu'il ne fallait pas « présumer que le cadre existant sera toujours suffisant ». Le débat sur une législation contraignante s'annonce désormais comme l'un des enjeux politiques majeurs de la rentrée à Londres.

Le développement de l'IA continue par ailleurs d'alimenter des inquiétudes sur les menaces qu'il fait peser sur l'emploi, ainsi que sur l'impact des centres de données sur les besoins en énergie et le climat. Le débat s'est intensifié cet été, porté par plusieurs incidents et par des mises en garde émanant de professionnels du secteur eux-mêmes.

« Le développement de l'IA, sa substance et son rythme, est à la fois intrigant et, dans la même mesure, profondément préoccupant », Charles III, roi du Royaume-Uni.

« Il y a urgence à examiner de manière adéquate les dangers existentiels que représente la possibilité que de telles technologies tombent entre de mauvaises mains », Charles III, roi du Royaume-Uni.