Démission d'un chercheur en IA : 76 millions de vues en 24h

Un chercheur en IA de 27 ans a claqué la porte d'Anthropic mardi 8 septembre 2026. Jacob Coxon, mathématicien britannique, avait quitté OpenAI plus tôt cette année pour rejoindre ce concurrent, qu'il jugeait plus prudent en matière de sûreté des modèles.

Il a annoncé son départ dans un long fil publié sur X, où il accuse ses deux anciens employeurs de "jouer avec nos vies". Le fil a dépassé les 76 millions de vues dès le lendemain matin, selon Frandroid.

Trois ans sur le pré-entraînement des modèles

Jacob Coxon travaillait depuis trois ans sur le pré-entraînement, l'étape où les grands modèles de langage absorbent d'immenses quantités de données. Il a occupé ce poste chez OpenAI, où il a notamment travaillé sur GPT-4o, puis chez Anthropic cette année, selon Frandroid.

Selon lui, les deux entreprises foncent vers une "superintelligence capable de s'améliorer elle-même", un stade que les laboratoires appellent "l'auto-amélioration récursive". Il rapporte qu'en interne, ses collègues emploient les termes "crunchtime" (moment décisif) et "endgame" (fin de partie) pour décrire cette trajectoire, d'après ses propos rapportés par 20 Minutes. Cette alerte rejoint une vague de mises en garde similaires, à l'image de celle formulée par un ancien ingénieur de Google DeepMind.

« Les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie. Ce n'est pas un coup marketing. », Jacob Coxon, ex-chercheur en pré-entraînement chez OpenAI et Anthropic.

Il établit une distinction entre ses deux anciens employeurs. Chez OpenAI, écrit-il selon Numerama, beaucoup de salariés n'auraient pas pleinement intégré l'ampleur des enjeux. Chez Anthropic en revanche, ces enjeux seraient bien compris en interne, mais l'entreprise se sentirait prise au piège d'une logique de course, de peur qu'un concurrent moins prudent n'arrive le premier à des systèmes surpuissants.

Un responsable de la sûreté d'Anthropic lui donne raison

Evan Hubinger, responsable de la sûreté chez Anthropic, a réagi sur X en soutenant les propos de Jacob Coxon. Il a écrit croire "vraiment sincèrement que l'IA pourrait tuer tous les humains", tout en jugeant "faible" le risque posé par les modèles actuels, selon 20 Minutes.

Il a précisé qu'Anthropic faisait "de son mieux" mais n'avait "pas encore de plan" pour garantir qu'une IA dépassant les capacités humaines reste sous contrôle. Ce constat rappelle que le patron d'Anthropic avait lui-même appelé à ralentir le développement de l'IA. En février 2026, Anthropic avait retiré de sa charte de sûreté l'engagement de suspendre le développement de ses modèles si elle ne parvenait pas à en maîtriser les risques, rapporte 20 Minutes.

Une régulation réclamée aux États-Unis et en Europe

Cette démission survient alors qu'Anthropic prépare une entrée en Bourse géante, avec une valorisation visée de 2 000 milliards de dollars selon Science et Vie. Elle intervient aussi après un été marqué par des piratages menés, sans autorisation, par des agents IA testés par OpenAI dans plusieurs laboratoires, selon 20 Minutes.

Aux États-Unis, le sénateur déjà mobilisé pour l'encadrement de l'IA Bernie Sanders et l'élu démocrate Greg Casar ont déposé début septembre une proposition de loi visant à suspendre le développement de l'IA jusqu'à la création d'un régulateur dédié, précise 20 Minutes. En Europe, les obligations imposées aux modèles d'IA à usage général par l'AI Act sont entrées en vigueur en août 2025, avec des règles plus strictes pour les systèmes à haut risque prévues en août 2026, selon Euronews, dans la foulée de l'appel de la présidente de la Commission européenne à freiner l'IA risquée.

Dan Hendrycks, dirigeant du Center for AI Safety, avait déjà comparé le risque d'extinction lié à l'IA à celui des pandémies ou des armes nucléaires. Certains chercheurs relativisent toutefois ces scénarios, comme le directeur exécutif de l'IA à l'ENS. Jacob Coxon estime, lui, que sans intervention des États ou un ralentissement coordonné, aucune entreprise ne peut développer seule une IA surpassant les humains de manière responsable, selon Science et Vie. Il juge que les scénarios les plus extrêmes pourraient devenir incontrôlables dès la fin de l'année 2027, selon des propos rapportés par Le Figaro.