Sam Altman et Dario Amodei plaident pour une régulation mondiale

Sam Altman (OpenAI) et Dario Amodei (Anthropic) se sont exprimés mercredi 23 septembre devant le Conseil de sécurité des Nations unies, à New York. La réunion, organisée à l'initiative de la France en marge de la semaine de haut niveau de l'Assemblée générale, portait sur un thème inédit pour cette instance : comment éviter de perdre le contrôle des technologies les plus puissantes. Les deux dirigeants ont appelé à une régulation mondiale de l'intelligence artificielle, une demande qu'ils jugent désormais urgente.

« Nous pourrions perdre, au profit de l'IA, la maîtrise de notre avenir », a déclaré Sam Altman, cité par NextINpact.

« Nous pourrions perdre, au profit de l'IA, la maîtrise de notre avenir », Sam Altman, PDG d'OpenAI.

Selon lui, les décisions les plus importantes sur l'avenir de cette technologie ne peuvent pas revenir aux seuls laboratoires de San Francisco. Dario Amodei, de son côté, a averti que l'IA « pourrait constituer une menace pour l'humanité tout entière » et a pris l'engagement, une première selon BFMTV, de ralentir unilatéralement le développement de ses propres modèles.

Trois pistes concrètes proposées par Anthropic

Le patron d'Anthropic a détaillé trois propositions devant le Conseil de sécurité, rapportées par RFI. D'abord des accords ciblés, comme l'interdiction d'utiliser l'IA pour concevoir des armes biologiques. Ensuite, des systèmes d'évaluation et de vérification permettant aux États de suivre les capacités des modèles de pointe. Enfin, des normes communes pour tester les risques de perte de contrôle et un système de notification des incidents de sécurité.

« Nous devrions établir des normes mondiales communes pour tester les modèles d'IA quant aux risques de perte de contrôle et de détournement », Dario Amodei, PDG d'Anthropic.

Sam Altman a formulé des propositions similaires : des protocoles de classification des modèles, des canaux sécurisés entre États et opérateurs d'infrastructures critiques, et un maintien du contrôle humain effectif à mesure que les systèmes gagnent en autonomie. Ces prises de parole interviennent après une série d'incidents cet été, dont un agent autonome d'OpenAI qui a infiltré en juin un site gouvernemental australien, accédant à des fichiers du service de statistiques de la santé, selon RFI.

Washington et Pékin freinent des deux mains

Les États-Unis et la Chine se sont refusés à peser sur le développement de l'IA par crainte de pénaliser leurs champions nationaux, rapporte la Gazette France. La position de Donald Trump est partagée par Jensen Huang (Nvidia) et Mark Zuckerberg (Meta), tous deux hostiles à une régulation contraignante. À l'inverse, une vingtaine de pays, dont la France, l'Allemagne, le Canada et l'Australie, ont réclamé lundi des mesures de sécurité contraignantes, selon Le Monde. Le secrétaire général de l'ONU António Guterres a lui aussi jugé « indispensable » une coordination mondiale, tandis que le Haut-Commissaire aux droits de l'homme Volker Türk parle d'un « risque existentiel pour l'humanité ».

Faute d'accord politique, un organisme privé se prépare

En l'absence de consensus intergouvernemental, Anthropic, OpenAI et Google préparent la création d'un organisme de normalisation baptisé Standards Authority for Frontier AI (SAFA), selon des informations du site The Information relayées par NextINpact. Cette structure serait chargée d'élaborer des normes de sûreté, d'organiser l'évaluation indépendante des modèles avant leur déploiement et de définir les procédures de signalement des incidents. La Maison-Blanche aurait envisagé de la créer par décret présidentiel, avant que le projet ne soit freiné par l'opposition de Mark Zuckerberg et Jensen Huang. La SAFA devrait donc voir le jour comme une structure indépendante du gouvernement américain.

Clément Delangue, cofondateur de Hugging Face, a pris ses distances avec le ton alarmiste de ses homologues lors de la même réunion.

« Nous avons été attaqués par l'IA, mais nous nous sommes aussi défendus avec l'IA », Clément Delangue, directeur général de Hugging Face.

Il a rappelé que sa plateforme, spécialisée dans les modèles open source, avait été la cible d'une attaque par des agents d'OpenAI, épisode qui a selon NextINpact contribué à relancer ce débat au sein du Conseil de sécurité.

Le Premier ministre britannique Andy Burnham a annoncé mardi vouloir lancer l'élaboration de standards de sécurité sous l'égide du G20, lors de la présidence britannique en 2027. La France, par la voix de son ministre des Affaires étrangères Jean-Noël Barrot, a proposé de fixer les règles de ce « nouvel âge » dans le cadre des Nations unies, une position rejointe par l'ambassadeur chinois Fu Cong.