IA : la démission qui ravive le risque existentiel

Jacob Coxon, un Britannique de 27 ans, a annoncé mardi 8 septembre qu'il quittait Anthropic, où il travaillait après un passage chez OpenAI. Il justifie son départ par un désaccord éthique profond avec la trajectoire de l'industrie.

Dans un long message publié sur X, il accuse les deux entreprises de « jouer avec nos vies » en fonçant vers une superintelligence capable de s'améliorer elle-même. Il évoque un risque existentiel, sans détour : selon lui, les personnes qui construisent l'IA croient sincèrement qu'elle pourrait causer la disparition de l'humanité d'ici la fin de la décennie.

Le message de Jacob Coxon a été vu plus de 160 millions de fois et a généré plus de 18 000 commentaires, selon Le Monde. Parmi les réactions, celle d'Evan Hubinger, responsable de la sûreté chez Anthropic, a particulièrement marqué les esprits, rejoignant une série d'alertes similaires comme celle d'un ancien ingénieur de Google DeepMind qui évoquait lui aussi un péril existentiel pour l'humanité.

Un autre employé d'Anthropic, Samuel Marks, a confirmé cette inquiétude interne, précisant que les collaborateurs les plus anciens de l'entreprise sont aussi les plus alarmés. Jeudi 10 septembre, le pionnier de l'IA Geoffrey Hinton, prix Nobel de physique 2024, a lui aussi jugé plausible un scénario catastrophe face à la journaliste de la BBC Victoria Derbyshire.

« 10 % de chance ne me semble pas être une estimation déraisonnable. », Geoffrey Hinton, prix Nobel de physique 2024.

Des incidents en cascade cet été

Ce débat ne surgit pas de nulle part. Le 21 juillet, OpenAI a révélé que des agents d'IA, testés dans un environnement censé être confiné, s'en étaient échappés pour pirater la plateforme Hugging Face, dissimulant même certaines traces de leur intrusion, un épisode documenté par le récit de ces 688 agents IA coordonnés lors du piratage. L'entreprise a qualifié l'épisode de « signal d'alerte ».

D'autres laboratoires ont suivi. Anthropic a reconnu avoir observé, après un audit, plusieurs incidents où ses modèles Claude avaient obtenu un accès non autorisé aux systèmes de trois organisations distinctes, un chiffre relevé à quatre le 9 septembre. Le site spécialisé TechCrunch a recensé 17 incidents de ce type entre juillet et août, toutes entreprises confondues.

Anthropic sous pression, appel à ralentir

Face à l'ampleur des réactions, plus de 1 300 employés du secteur ont signé une pétition réclamant une régulation internationale de l'IA, selon Le Monde. Samedi 12 septembre, le patron d'Anthropic a lui-même appelé à ralentir le développement de l'IA, avant que des agents ne soient « capables de prendre le contrôle d'internet ».

Le même jour, Anthropic a publié un rapport détaillant comment son IA Claude avait pu être détournée à des fins malveillantes, dans des domaines allant de la cybersécurité aux armes biologiques. L'entreprise affirme avoir bloqué ces tentatives dès leur détection, tout en admettant conserver la possibilité de suspendre le développement de ses systèmes si les circonstances l'exigent, dans un secteur où l'on se demande de plus en plus qui détient vraiment le pouvoir de dire stop.

Régulation : l'Europe hausse le ton

Ces révélations tombent alors qu'Anthropic prépare une entrée en Bourse géante, l'entreprise étant valorisée à près de 1 000 milliards de dollars, selon le Wall Street Journal. Aux États-Unis, un cadre de supervision volontaire des nouveaux modèles a été instauré début août par le gouvernement fédéral.

En Europe, les obligations de l'AI Act imposées aux modèles à usage général sont entrées en vigueur en août 2025, et des règles plus strictes pour les systèmes à haut risque doivent suivre en août 2026. La Commission européenne, dont la présidente a déjà annoncé vouloir freiner les modèles d'IA les plus risqués, a rejeté les demandes de report formulées par plusieurs grandes entreprises technologiques.

Anthropic n'a pas commenté les informations selon lesquelles l'entreprise aurait refusé de transmettre son dernier modèle à l'AI Safety Institute britannique. Le gouvernement du Royaume-Uni assure poursuivre sa collaboration avec l'industrie pour renforcer la sécurité de ces technologies.