Anthropic bloque des recherches d'armes biologiques via Claude

L'entreprise américaine Anthropic a annoncé jeudi 10 septembre avoir bloqué plusieurs tentatives d'utilisation détournée de ses modèles d'intelligence artificielle. Parmi les cas recensés figurent des cyberattaques, des opérations de surveillance et des recherches susceptibles de déboucher sur des armes biologiques.

Ces révélations figurent dans le troisième rapport publié par Anthropic depuis mars 2025 sur les détournements de son IA. « Les cas que nous présentons ici ne relèvent pas d'une utilisation abusive classique, mais illustrent plutôt les menaces les plus importantes et inédites que nous ayons identifiées à ce jour », écrit l'entreprise dans ce document.

Le cas du chikungunya et de la grippe aviaire

Anthropic détaille cinq études de cas liées à des recherches biologiques, détectées entre décembre 2025 et août 2026. L'une d'elles concerne une demande d'assistance à Claude pour rédiger une demande de subvention destinée à financer des recherches de gain de fonction sur le virus du chikungunya, une maladie transmise par les moustiques. Le projet visait à amplifier les mutations du virus pour le rendre plus virulent.

Un autre cas impliquait un chercheur situé dans une région où Anthropic ne propose pas directement ses services. Il aurait passé des semaines à planifier, avec l'aide de Claude, des expériences d'adaptation de la grippe aviaire aux mammifères. D'autres cas portaient sur une famille de virus incluant la variole et le mpox, ainsi que sur des venins et d'autres toxines.

Selon Anthropic, dans la quasi-totalité des cas, les demandes n'utilisaient pas ses modèles les plus récents et les plus puissants. Les anciens modèles « étaient bien en deçà du seuil à partir duquel ils pourraient aider de manière significative un utilisateur averti à mener des recherches biologiques dangereuses », précise l'entreprise. Elle a depuis renforcé les garde-fous de ses modèles les plus avancés, comme Claude Fable 5, pour restreindre l'accès à un large éventail de requêtes de recherche biologique à double usage.

« Les cas que nous présentons ici ne relèvent pas d'une utilisation abusive classique, mais illustrent plutôt les menaces les plus importantes et inédites que nous ayons identifiées à ce jour », Anthropic, communiqué de l'entreprise.

Espionnage, propagande et fausses applications

Le rapport ne se limite pas aux recherches biologiques. Anthropic dit avoir stoppé des opérations de surveillance menées contre des dissidents et des minorités ethniques, provenant de Chine, d'Iran et d'Afrique de l'Ouest, entre janvier et juillet. L'entreprise a aussi identifié des tentatives de créer de fausses applications de rencontre à des fins d'escroquerie et des projets de développement d'armes conventionnelles, comme des drones et des missiles, impliquant notamment des acteurs en Chine, en Russie et au Yémen.

Sur le terrain de la désinformation, Anthropic a recensé neuf opérations d'influence menées par des groupes créant des centaines de comptes sur les réseaux sociaux pour relayer la même opinion politique. Ces campagnes provenaient de Russie, d'Iran, de Turquie, ainsi que de la région du golfe Persique, d'Asie du Sud, d'Afrique et d'Europe.

Un rapport publié après la démission d'un chercheur

Ce rapport intervient deux jours après la démission d'un chercheur en intelligence artificielle d'Anthropic, un épisode qui a suscité une démission massivement relayée en ligne. Ce Britannique de 27 ans, passé d'OpenAI à Anthropic, a annoncé quitter l'industrie de l'IA en accusant les deux entreprises de prendre des risques disproportionnés dans leur course au développement de systèmes capables de s'améliorer eux-mêmes, un geste que certains analysent comme la démission qui ravive le risque existentiel.

« Les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici à la fin de la décennie », Jacob Coxon, ancien chercheur en IA chez Anthropic.

Sur X, Evan Hubinger, responsable de la sûreté chez Anthropic, a confirmé que l'entreprise fait « de son mieux » mais n'a « pas encore de plan » garanti pour s'assurer qu'une IA plus puissante que l'humain reste sous contrôle, tout en jugeant « faible » le risque posé par les modèles actuels. Cette prudence tranche avec la position de Mark Zuckerberg, qui refuse de ralentir l'IA, et rappelle les appels répétés de Dario Amodei à ralentir le développement de l'IA.

Aucune loi fédérale n'encadre aujourd'hui ces modèles aux États-Unis. Mercredi, OpenAI s'est jointe à Anthropic pour presser le Congrès américain d'adopter des règles de sécurité obligatoires pour les concepteurs des IA les plus puissantes, incluant des tests indépendants et des signalements transparents des incidents de sécurité, un rapprochement qui fait écho au projet de régulateur commun entre trois géants de l'IA. Anthropic prépare par ailleurs une introduction en Bourse massive prévue cet automne, alors qu'un concurrent a préféré repousser son entrée en Bourse à 2027.