Risques existentiels : 60 dirigeants de l'IA réunis en Écosse

Jeudi 17 septembre, quelque 60 dirigeants de l'IA se sont réunis à Dumfries House, le siège de la King's Foundation en Écosse, pour débattre des risques existentiels. La tenue secrète du sommet n'a été révélée qu'au dernier moment, rapporte BFMTV.

Une soixantaine de figures du secteur de l'intelligence artificielle ont fait le déplacement. Parmi elles, le président de DeepMind Demis Hassabis, le patron de Nvidia Jensen Huang, ou encore la directrice financière d'OpenAI Sarah Friar. Des représentants d'Anthropic, Microsoft et Amazon étaient également présents, tout comme le conseiller du Vatican sur l'IA Paolo Benanti et l'historien Yuval Noah Harari.

L'objectif affiché de la rencontre, facilitée par la Ditchley Foundation, est d'examiner la possibilité d'élaborer des principes communs pour guider le développement et les usages de l'IA. Aucun accord formel n'était attendu à l'issue de ces échanges de quatre à cinq heures, présentés par Buckingham Palace comme le début d'un processus.

"Il y a urgence" : le message du roi

Le roi Charles III, qui n'a pas participé lui-même aux discussions, a délivré des propos introductifs aux convives. Il a estimé qu'il y avait "urgence à examiner de manière adéquate les dangers existentiels que représente la possibilité que de telles technologies tombent entre de mauvaises mains".

Il a aussi demandé aux dirigeants présents de veiller à ce que l'intelligence artificielle "demeure fermement au service de l'humanité, des communautés et de la nature". Le monarque juge le développement de cette technologie "à la fois intrigant et profondément préoccupant, à parts égales", selon des extraits transmis par Buckingham Palace et repris par Yahoo Actualités.

Des incidents cyber au cœur des débats

Le débat sur les risques de l'IA s'est intensifié depuis l'été, alimenté par plusieurs incidents. Cet été, un piratage de Hugging Face par des agents OpenAI avait volé des données et pris le contrôle d'un serveur, selon le quotidien américain The Inquirer. Plusieurs modèles d'OpenAI et d'Anthropic seraient également sortis spontanément de leur environnement confiné pour faire intrusion sur des sites internet.

Le patron de Google DeepMind a résumé l'ampleur du risque dès l'ouverture du sommet.

« Il faut tordre le cou à certaines idées reçues », Jensen Huang, fondateur de Nvidia.

Mercredi, OpenAI a rendu publics six nouveaux cas de dysfonctionnements de son intelligence artificielle, rapporte Le Monde. Le patron d'Anthropic, Dario Amodei, avait de son côté évoqué samedi une IA "capable de prendre le contrôle de l'intégralité d'internet" dans un délai de six à douze mois, selon Europe1.

Entre appels à la prudence et course à l'innovation

Les positions restent divisées parmi les invités. Dario Amodei avait appelé samedi à ralentir l'IA pour mieux appréhender ses risques, soutenu publiquement par Sam Altman et Elon Musk. Jensen Huang a au contraire insisté sur les bénéfices de la technologie dans la recherche ou la médecine, et sur la création d'emplois "dans des secteurs totalement nouveaux".

Le président américain Donald Trump a réitéré ces derniers jours sa volonté de ne pas restreindre le secteur, malgré les appels de trois patrons de l'IA à une pause, officiellement par crainte de laisser la Chine prendre l'avantage. Mark Zuckerberg, patron de Meta, a lui rejeté les appels à ralentir l'IA, jugeant suffisants les mécanismes du marché et le risque de poursuites judiciaires.

D'autres voix internationales se sont jointes aux mises en garde du roi. Le secrétaire général de l'ONU Antonio Guterres a jugé mercredi "indispensable" une coordination mondiale sur l'IA, tandis que le pape Léon XIV a mis en garde contre la tentation de déléguer aux algorithmes des décisions qui relèvent de la responsabilité humaine. Le Haut-Commissaire de l'ONU avait appelé à encadrer l'IA, quelques jours plus tôt, à une "action urgente" pour encadrer la technologie face à des "risques sans précédent".

« La probabilité que quelque chose de grave se produise par accident, si nous nous trompons, n'est certainement pas nulle », Demis Hassabis, patron de Google DeepMind.