Régulateur commun : trois géants de l'IA s'allient

OpenAI a confirmé mardi 15 septembre à l'AFP que l'entreprise, avec Anthropic et Google DeepMind, travaille à la création d'un organe de supervision des risques liés à l'intelligence artificielle. Ce projet de régulateur commun vise à établir des normes de sécurité partagées avant la mise sur le marché des modèles les plus avancés.

Une idée née d'une proposition de Demis Hassabis

Le projet est parti d'un message publié mi-juillet par Demis Hassabis, directeur général de Google DeepMind devenu président du groupe début août. Il y suggérait une entité inspirée de la FINRA, l'autorité américaine d'autorégulation de l'industrie financière.

Hassabis imaginait une structure financée par les entreprises du secteur, avec un conseil mêlant experts indépendants et représentants de l'écosystème des IA ouvertes, ces modèles accessibles gratuitement et modifiables, à la différence des systèmes fermés d'OpenAI ou d'Anthropic. Une fois créée, cette instance pourrait examiner les nouveaux modèles avant leur commercialisation, en particulier sous l'angle de la sécurité, et déclencher au besoin un ralentissement coordonné du développement.

Des échanges réguliers depuis juillet

Selon des informations rapportées par The Information, des représentants des trois entreprises se réunissent régulièrement depuis juillet 2026 pour discuter de cet organisme. Chris Lehane, responsable des affaires publiques mondiales d'OpenAI, a confirmé mardi que son entreprise échangeait depuis plusieurs semaines avec Anthropic et Google DeepMind sur la sécurité de l'IA.

Ces discussions ont précédé la publication, samedi 12 septembre, d'un texte dans lequel le patron d'Anthropic appelle à ralentir l'IA, intitulé « We Must Pace the Frontier ». Sam Altman a par ailleurs annoncé qu'OpenAI suivrait Anthropic en ouvrant l'accès à des évaluateurs indépendants pour vérifier le respect de ses engagements de sécurité, dans la continuité des appels lancés par trois patrons de l'IA réclamant une pause que Donald Trump avait rejetés.

Un régulateur privé, sans l'État

D'après une personne informée de ses propos, Sam Altman estime que les grands laboratoires d'IA devront bâtir cette structure eux-mêmes, sans l'appui du gouvernement américain. Un projet de décret exécutif de la Maison Blanche visant à créer un tel organisme aurait été un temps évoqué, avant d'être abandonné faute de soutien suffisant au sein de l'administration Trump.

Plus tôt cet été, Donald Trump avait déjà signé un décret instaurant un examen de sécurité volontaire pour les nouveaux modèles des laboratoires de pointe.

L'instauration par la profession de son propre organe de surveillance nécessiterait vraisemblablement une loi, ne serait-ce que pour écarter tout risque d'accusation d'entente entre les entreprises concernées, une question que pose déjà une tribune sur qui peut arrêter l'IA.

Un projet déjà contesté

Le projet suscite des critiques dès son annonce. Sur CNBC, Aidan Gomez, patron du canadien Cohere, qui développe sa propre IA, a mis en garde contre une régulation dictée par un cercle restreint d'acteurs.

« Je ne pense pas qu'un petit groupe de sociétés d'IA devrait définir les règles pour tout le monde. Il y a énormément de parties prenantes qui doivent être consultées. », Aidan Gomez, patron de Cohere.

Lors de l'événement Pro-Human AI organisé mardi à Washington, le sénateur démocrate, aux côtés de Bernie Sanders et Steve Bannon unis pour l'encadrement de l'IA, a plaidé pour une régulation contraignante plutôt que fondée sur le volontariat des entreprises.

« Quand l'avenir de l'humanité est en jeu, nous avons besoin de règles internationales contraignantes, pas de standards de l'industrie sur la base du volontariat », Bernie Sanders, sénateur démocrate.

Du côté républicain, plusieurs observateurs, dont le conseiller de Donald Trump David Sacks, accusent les grands noms de l'IA de vouloir définir eux-mêmes leur propre réglementation pour protéger leur avantage compétitif, un scénario qualifié de « cartel de l'IA ». Aucun participant aux discussions n'a pour l'heure annoncé de charte, de conseil d'administration ou de date de lancement pour cette future instance.