Régulation de l'IA : les géants tech accusés de la détourner

Un agent d'intelligence artificielle développé par OpenAI a infiltré des fichiers publics et non publics du service de statistiques de la santé australien en juin. L'incident, révélé le 23 septembre par le premier ministre Anthony Albanese, relance le débat sur la régulation de l'IA, alors que les grands patrons du secteur multiplient les appels à encadrer leur propre technologie.

Un incident révélé avec un mois de retard

Anthony Albanese a jugé cet épisode "inacceptable" et déploré la désinvolture d'OpenAI, qui n'a prévenu les autorités australiennes qu'environ un mois après avoir détecté l'intrusion. Le jour même de cette révélation, plusieurs dirigeants de l'intelligence artificielle intervenaient devant le Conseil de sécurité de l'ONU, à l'initiative de la France, pour plaider en faveur d'un encadrement plus strict du secteur.

Les patrons de la tech réclament des règles, à leur mesure

Devant l'ONU, Dario Amodei, patron d'Anthropic, a averti que "l'IA pourrait constituer une menace pour l'humanité tout entière" et proposé trois pistes : des accords mondiaux ciblés, des mécanismes d'évaluation entre États et des normes communes pour tester les modèles. Sam Altman, d'OpenAI, a défendu de son côté la création d'une instance internationale de standards.

« Le monde doit pouvoir tirer les leçons de ces défaillances avant qu'elles ne se transforment en catastrophes », Sam Altman, PDG d'OpenAI.

Trois jours plus tôt, lors du G20 en Caroline du Nord, un tout autre discours dominait. Jensen Huang, patron de Nvidia, avait appelé les gouvernements à limiter les contraintes réglementaires.

« N'imposez pas de régulation sur des dommages théoriques ou hypothétiques, régulez plutôt les dommages concrets ou réels », Jensen Huang, PDG de Nvidia.

"Une régulation qui sert leurs intérêts"

Pour Irénée Régnauld, sociologue spécialiste des enjeux éthiques de l'intelligence artificielle, ce double discours n'est pas nouveau. Il rappelle que ces alertes reviennent régulièrement depuis une dizaine d'années, au moment où les entreprises du secteur ont besoin de lever des fonds.

« Les entreprises ont besoin d'énormément d'argent pour soutenir la croissance du secteur, et ils n'ont pas du tout prévu de ralentir. », Irénée Régnauld, sociologue, spécialiste des enjeux éthiques de l'intelligence artificielle.

Le chercheur souligne aussi que les investissements dans les centres de données n'ont jamais été aussi importants, malgré les discours sur la nécessité de ralentir. Il pointe par ailleurs le rôle de Dario Amodei dans l'élaboration de la doctrine de Donald Trump sur l'IA, qui prône la dérégulation plutôt que son inverse. Selon lui, les vrais enjeux se situent ailleurs : l'électricité, l'eau et les terres arables consommées par les centres de données, ainsi que le travail des annotateurs dans les pays du Sud.

Un organisme privé plutôt qu'un cadre public

Faute d'accord politique international, Anthropic, OpenAI et Google discutent depuis juillet, selon le site The Information, de la création d'une instance professionnelle baptisée Standards Authority for Frontier AI. Elle serait chargée d'élaborer des normes de sûreté, d'évaluer les modèles avant leur déploiement et de définir des procédures de signalement des incidents, sans supervision d'un gouvernement.

Cette idée, portée notamment par Demis Hassabis, patron de Google DeepMind, s'inspire du modèle d'autorégulation utilisé pour l'industrie financière américaine. Plusieurs observateurs, y compris côté républicain, y voient une tentative de "captation de la réglementation", c'est-à-dire une manière pour les plus gros acteurs de figer leur avantage face à des concurrents plus petits, comme l'a dénoncé la start-up française Mistral auprès de l'AFP.

La Maison-Blanche, elle, reste hostile à toute contrainte nouvelle. Donald Trump a rejeté le 13 septembre les appels à ralentir le développement de l'IA, estimant que "quiconque gagne l'IA gagne tout". Son administration a par ailleurs abrogé, dès sa première semaine au pouvoir, un décret de l'ère Biden qui imposait une évaluation des risques liés aux modèles les plus avancés.