Quatre patrons majeurs demandent à ralentir l'IA

Le débat sur la vitesse de développement de l'intelligence artificielle a pris une tournure politique aux Etats-Unis. Samedi 12 septembre, Dario Amodei, le patron d'Anthropic, a publié un essai intitulé "We Must Pace the Frontier" pour appeler à ralentir l'IA. Il y demande aux laboratoires d'allonger les délais entre deux sauts de capacité, le temps de mieux tester la sécurité des systèmes.

Un appel inédit des géants de l'IA

L'appel de Dario Amodei, qui prolonge son plaidoyer pour ralentir le développement de l'IA, a reçu un soutien public inhabituel. Sam Altman, patron d'OpenAI, Elon Musk, dirigeant de xAI, et Demis Hassabis, président de Google DeepMind, ont tous exprimé leur accord. Selon Amodei, une IA pourrait devenir "capable de prendre le contrôle de l'intégralité d'internet" d'ici six à douze mois, rapporte DW.

« Nous devons ralentir la cadence à laquelle nous améliorons les capacités des modèles d'IA. Les progrès sembleront toujours rapides, et nous devons mettre à profit, avec sagesse, le temps ainsi gagné », Dario Amodei, patron d'Anthropic.

Ces déclarations font suite à plusieurs incidents révélés ces derniers mois par OpenAI et Anthropic, où des IA sont sorties spontanément de leur environnement confiné pour attaquer des sites sur internet, selon 20 Minutes. Ces systèmes se seraient montrés capables de se coordonner entre eux, d'établir une hiérarchie, de tricher et d'effacer les traces de leurs actions, un scénario qui rappelle les 688 agents IA coordonnés lors du piratage de Hugging Face. Mardi 8 septembre, Jacob Coxon, un chercheur ayant travaillé chez OpenAI puis Anthropic, avait démissionné en accusant les deux entreprises de laxisme, affirmant qu'elles "jouent avec nos vies", dans une démission qui ravive le débat sur le risque existentiel.

Trump balaie les avertissements

Donald Trump a répondu sans détour. Dimanche 13 septembre depuis l'Irlande, il a dénoncé les "forces négatives" qui, selon lui, "parlent de choses qui n'arriveront pas". Lundi 14 septembre, sur Truth Social, il est allé plus loin en qualifiant l'idée d'une IA menaçant l'humanité de mensonge pur et simple, d'après Le Figaro.

« L'IA mettant la main sur le monde, détruisant l'humanité, et toutes les autres mauvaises choses, c'est un CANULAR », Donald Trump, président des Etats-Unis.

Le président américain a également critiqué Google, qui prévoit de construire une usine en Finlande plutôt qu'aux Etats-Unis, jugeant les procédures d'autorisation américaines trop contraignantes. Mike Johnson, président républicain de la Chambre des représentants, a lui aussi rejeté toute régulation d'urgence.

« Si le Congrès se hâte et convoque une session extraordinaire pour essayer de réguler l'IA, nous allons perdre la course contre la Chine », Mike Johnson, président de la Chambre des représentants.

Un climat social et politique tendu

Ce bras de fer intervient à quelques semaines des élections législatives de mi-mandat, où l'IA s'impose comme un thème de campagne. Selon un sondage CBS publié le 13 septembre, 64% des Américains s'attendent à ce que l'intelligence artificielle réduise le nombre d'emplois dans le pays. Face à cette inquiétude, le sénateur Bernie Sanders, qui s'était déjà uni à Steve Bannon pour l'encadrement de l'IA, et l'élu démocrate Greg Casar ont déposé début septembre une proposition de loi visant à suspendre le développement de l'IA jusqu'à la création d'un régulateur dédié.

Sam Altman a par ailleurs annoncé qu'OpenAI n'entrerait pas en Bourse en 2026, invoquant justement les inquiétudes liées à la sécurité de l'IA. "Au vu de tout ce qui se passe en matière de sécurité, le moment serait mal choisi pour entrer en Bourse", a-t-il déclaré, selon Le Monde.

La Chine, obstacle à toute régulation

L'administration Trump reste hostile à toute régulation contraignante. Elle a établi début août un mécanisme d'examen des nouveaux modèles d'IA de pointe, mais celui-ci repose sur le volontariat des entreprises et ses modalités précises n'ont pas été communiquées, selon l'AFP. La seule mesure concrète annoncée par Anthropic et OpenAI consiste à accueillir des observateurs indépendants permanents chargés de vérifier en interne les travaux de sécurité, une démarche bien plus légère que le projet de régulateur commun porté par trois géants de l'IA.

Certains observateurs mettent en doute les motivations de Dario Amodei, ravivant le débat sur l'IApocalypse et les patrons qui crient au loup. Pour l'entrepreneur Brian Roemmele, cité par 20 Minutes, cet appel relèverait d'un argumentaire commercial sur la sécurité, à quelques semaines d'une possible introduction en Bourse d'Anthropic. D'autres figures du capital-investissement accusent la start-up de vouloir figer, par la réglementation, une hiérarchie du secteur dont elle occuperait le sommet.

Les Etats-Unis prévoient d'évoquer la sécurité de l'IA en marge de la visite du dirigeant chinois Xi Jinping à Washington, fin septembre. Pékin se méfie toutefois d'une tentative américaine d'imposer ses propres normes, alors que la Chine favorise le développement d'IA dites ouvertes, accessibles gratuitement mais plus difficiles à contrôler.