IA : Altman et Amodei appellent à une gouvernance mondiale

Sam Altman, Dario Amodei et le Français Clément Delangue, patron de Hugging Face, ont été conviés mercredi 23 septembre à dresser un état de l'intelligence artificielle et de ses risques devant le Conseil de sécurité des Nations unies, à New York. Une audience inédite pour ce format, réunie à l'initiative de la France.

Le patron d'OpenAI a martelé que la progression actuelle de l'IA "nécessite une attention extrême". Il a averti qu'à mesure que le développement de la technologie s'automatise, "le rythme d'amélioration de l'IA pourrait accélérer rapidement". Cette audition s'inscrit dans un appel plus large à une gouvernance mondiale de l'intelligence artificielle, porté depuis plusieurs semaines par des responsables politiques et des dirigeants du secteur.

Amodei s'engage à ralentir, Altman réclame la coopération

Dario Amodei a pris, pour la première fois, un engagement unilatéral de décélération. Le patron d'Anthropic a promis que son entreprise allait "ralentir autant que nécessaire" le rythme de développement de son IA "pour s'assurer" que chaque nouveau modèle commercialisé soit "vraiment sûr".

« Nous ne voulons pas tomber dans le piège de l'optimisme aveugle, mais nous ne pouvons pas céder non plus au catastrophisme. », Sam Altman, patron d'OpenAI.

Cette annonce intervient dix jours après un appel d'Amodei à un freinage coordonné entre les grands acteurs de l'IA, resté sans suite concrète. Sam Altman, lui, n'a pas pris publiquement d'engagement oral de temporisation. Il a plutôt insisté sur la nécessité d'une entente internationale.

« Ralentir autant que nécessaire pour s'assurer que chaque nouveau modèle commercialisé soit vraiment sûr. », Dario Amodei, patron d'Anthropic.

Il a rappelé que "dans l'histoire, il y a eu des moments où des pays qui étaient en concurrence (...) ont tout de même réussi à s'entendre pour le bien commun face à une nouvelle technologie". Selon lui, "l'industrie ne doit pas accepter trop de risques technologiques simplement parce que les bénéfices sont trop conséquents et importants pour la ralentir".

Une pression politique qui monte depuis des semaines

Cette audition au Conseil de sécurité ne surgit pas de nulle part. Lundi, les dirigeants de plus de 20 pays, dont le Canada, l'Allemagne et l'Australie, avaient plaidé pour davantage de supervision et pour la création possible, sous l'égide de l'ONU, d'un organe international de régulation. Le lendemain, le Premier ministre britannique Andy Burnham a annoncé vouloir initier l'élaboration de standards de sécurité de l'IA sous l'égide du G20, lors de la présidence britannique en 2027.

Le ministre français des Affaires étrangères Jean-Noël Barrot a lui aussi pris la parole devant le Conseil de sécurité, appelant à "renforcer sans délai nos garde-fous et organiser une gouvernance mondiale de l'intelligence artificielle au bénéfice de notre sécurité collective mais aussi de la dignité humaine". Le secrétaire général de l'ONU, António Guterres, avait déjà réclamé, le 16 septembre, une "coordination mondiale" sur l'IA.

Des incidents et des chiffres qui alimentent l'inquiétude

Depuis le début de l'été, OpenAI et Anthropic ont eux-mêmes rapporté plusieurs incidents liés à leurs modèles les plus avancés, qui se sont écartés des objectifs fixés par leurs développeurs, ont triché, cherché à mentir ou à dissimuler leurs actions. Le Haut-Commissaire de l'ONU aux droits de l'homme, Volker Türk, avait averti dès le 7 septembre que l'IA avancée "pourrait faire peser un risque existentiel sur l'humanité".

Lors de l'Assemblée générale, plusieurs chefs d'Etat ont mis l'accent sur la protection des enfants face à ces technologies.

Le président du gouvernement espagnol, Pedro Sanchez, a cité ces chiffres pour réclamer que les entreprises soient tenues responsables de ces dangers. Il a estimé que le bond du nombre de cas détectés entre 2023 et 2025 illustrait l'urgence d'agir.

Mardi, OpenAI, Anthropic et Google DeepMind avaient par ailleurs annoncé travailler à la création d'un organe de supervision commun des risques liés à l'IA. La présidente de la Commission européenne, Ursula von der Leyen, a de son côté indiqué vouloir réunir les grands acteurs du secteur pour soutenir leurs efforts de ralentissement sur les modèles les plus risqués.