IA : pourquoi Anthropic et OpenAI ne voient pas les risques

Anthropic s'est construite en 2021 sur une rupture : plusieurs cadres d'OpenAI, dont Dario Amodei et sa sœur Daniela, ont quitté l'entreprise en reprochant à sa direction de sacrifier la prudence à la vitesse de développement. Cinq ans plus tard, les deux sociétés dominent le marché des grands modèles de langage, mais leurs discours sur les risques de l'IA continuent de diverger nettement, tout en se rejoignant parfois sur des appels communs à la régulation.

Deux entreprises nées de la même rupture

Le départ des fondateurs d'Anthropic

Anthropic PBC (public benefit corporation) a été fondée en 2021 par des anciens d'OpenAI qui jugeaient l'entreprise trop pressée de commercialiser des modèles toujours plus puissants sans garde-fous suffisants. Son siège est installé au 500 Howard Street, à San Francisco, à quelques rues de son ancienne maison mère, selon la fiche Wikipedia de l'entreprise. Son statut juridique de société à mission oblige ses dirigeants à mettre en balance l'intérêt des actionnaires et celui du public, une différence structurelle avec OpenAI, qui reste piloté par une structure à but lucratif capée.

La mission affichée : sécurité contre vitesse

Sur son site officiel, Anthropic présente Claude comme des modèles pensés pour « le travail de code et de connaissance les plus avancés », tout en insistant sur leurs capacités de recherche comme un « aperçu précoce » de la contribution de l'IA au progrès scientifique. OpenAI, de son côté, revendique depuis toujours une mission de diffusion large des bénéfices de l'IA, mais a été critiquée à plusieurs reprises pour la rapidité de ses lancements, notamment lors du départ de chercheurs dénonçant une course à la mise sur le marché.

Les méthodes de sécurité, concrètement

La Constitutional AI, méthode maison d'Anthropic

Anthropic a développé une approche baptisée « Constitutional AI », qui consiste à faire évaluer les réponses de ses modèles par un second modèle, guidé par un ensemble de principes écrits plutôt que par la seule notation humaine classique (le RLHF). Cette méthode s'accompagne d'une politique interne de mise à l'échelle responsable, qui fixe des paliers de sécurité (ASL, AI Safety Levels) avant d'autoriser l'entraînement ou le déploiement d'un modèle plus puissant.

Le cadre de préparation d'OpenAI

OpenAI publie de son côté un « Preparedness Framework » qui évalue les risques catastrophiques (biologiques, cyber, persuasion) avant chaque lancement majeur, complété par des « system cards » détaillant les tests effectués. Les deux entreprises partagent donc un vocabulaire commun de gestion des risques, mais Anthropic a fait de la prudence un argument commercial central, jusqu'à publier régulièrement des billets de recherche sur l'interprétabilité de ses modèles, un axe qu'elle revendique comme prioritaire sur son propre site.

Les alertes publiques : qui dit quoi

Les dirigeants des deux entreprises ont multiplié les prises de parole sur les risques existentiels de l'IA. Dario Amodei a par exemple appelé à ralentir le rythme de développement de l'intelligence artificielle, une position que Donald Trump a qualifiée de « canular ». Plusieurs chercheurs issus des deux camps ont depuis démissionné en alertant sur les dangers de la technologie, comme le montre le départ retentissant d'un chercheur d'Anthropic passé par OpenAI, qui a généré 76 millions de vues en 24 heures. Les trois grands laboratoires américains ont aussi tenté un appel commun à ralentir l'IA, sans succès face à l'administration américaine, et ont depuis engagé la construction d'un organe commun de supervision des risques.

Le poids économique de chaque acteur en 2026

Les deux entreprises ne communiquent pas les mêmes indicateurs, mais plusieurs comparaisons chiffrées permettent de mesurer leur position respective sur le marché.

Le revenu annualisé d'Anthropic est passé de 9 milliards de dollars fin 2025 à 65 milliards de dollars fin juillet 2026, selon une source proche du dossier citée par Reuters le 17 août 2026. Sa valorisation atteint 965 milliards de dollars depuis l'annonce de sa série H de 65 milliards de dollars, le 28 mai 2026. Le New York Times, cité par Bloomberg le 18 septembre 2026, anticipe même un revenu annualisé dépassant 100 milliards de dollars d'ici la fin de l'année, alors qu'Anthropic prépare une entrée en Bourse envisagée dès novembre.

Sécurité et course à la rentabilité : des tensions persistantes

La croissance financière spectaculaire des deux entreprises alimente un paradoxe régulièrement pointé par les chercheurs en sécurité de l'IA : plus les modèles deviennent rentables, plus la pression pour accélérer leur déploiement s'accroît, au risque de réduire le temps consacré aux tests de sécurité. Plusieurs éléments illustrent cette tension :

• La multiplication des démissions de chercheurs en sécurité chez les deux entreprises, souvent suivies de prises de parole publiques alarmistes sur les réseaux sociaux.
• L'annonce par Anthropic, le 4 septembre 2026, d'une preuve inédite du grand théorème de Fermat par l'IA, suivie huit jours plus tard d'une avancée comparable d'OpenAI sur les équations de Navier-Stokes, dans une logique de course scientifique autant que commerciale.
• Les appels communs à un encadrement mondial de l'IA, lancés par OpenAI, Anthropic, Google DeepMind et Microsoft, qui coexistent avec une compétition commerciale acharnée entre ces mêmes acteurs.
• La divergence des réactions politiques : Donald Trump a promis la création d'une « Force IA » face aux critiques sur l'intelligence artificielle, tout en écartant les avertissements des patrons du secteur.
• Le documentaire diffusé par franceinfo le 18 septembre 2026, qui revient sur les dangers de l'IA après plusieurs démissions fracassantes, dont celle d'un ex-employé d'OpenAI passé chez Anthropic.
• Les alertes de chercheurs extérieurs, comme celles de l'ancien ingénieur de Google DeepMind Bilal Chughtai, qui affirme que l'IA pourrait représenter un risque existentiel pour l'humanité.

Ces tensions se retrouvent aussi dans le débat public sur la crédibilité des mises en garde formulées par des dirigeants dont l'entreprise dépend justement de la poursuite du développement de modèles toujours plus puissants, un paradoxe régulièrement pointé dans le débat sur l'IApocalypse.

Un secteur qui cherche encore ses règles communes

Les propositions de régulation mondiale portées par les quatre grands laboratoires américains restent, à ce jour, des déclarations d'intention plus que des textes contraignants. Le projet d'organe commun de supervision des risques engagé depuis l'été 2026 par OpenAI, Anthropic et Google DeepMind vise justement à combler ce vide, alors que la régulation mondiale de l'IA réclamée par les géants du secteur est aussi analysée par certains chercheurs comme un calcul économique destiné à figer des règles favorables aux acteurs déjà installés.

Questions frequentes

Anthropic est-elle réellement plus prudente qu'OpenAI ?

Anthropic communique davantage sur ses méthodes de sécurité, notamment sa politique de mise à l'échelle responsable et sa recherche en interprétabilité, mais les deux entreprises publient des cadres d'évaluation des risques comparables avant chaque lancement majeur. La différence tient surtout à la communication et à la mission juridique d'Anthropic, société à mission depuis sa création.

Combien vaut Anthropic en 2026 ?

Anthropic est valorisée à 965 milliards de dollars depuis l'annonce de sa série H de 65 milliards de dollars, le 28 mai 2026, selon l'entreprise elle-même. Son revenu annualisé a atteint 65 milliards de dollars fin juillet 2026, contre 9 milliards fin 2025, selon des informations reprises par Reuters et Bloomberg.

Pourquoi des chercheurs quittent-ils Anthropic et OpenAI ?

Plusieurs démissions récentes ont été motivées par des désaccords sur le rythme de développement des modèles et sur l'ampleur des risques existentiels que représenterait une IA trop puissante mal contrôlée. Certains chercheurs, comme Jacob Coxon, ont quitté une entreprise pour rejoindre l'autre avant de démissionner à nouveau en dénonçant publiquement les pratiques du secteur.

Qu'est-ce que la Constitutional AI d'Anthropic ?

C'est une méthode d'entraînement où un modèle évalue les réponses d'un autre modèle en se référant à un ensemble de principes écrits, plutôt que de s'appuyer uniquement sur des retours humains. Anthropic la présente comme un moyen de rendre ses systèmes plus « pilotables » et interprétables.

Un régulateur commun de l'IA va-t-il vraiment être créé ?

OpenAI, Anthropic et Google DeepMind travaillent depuis l'été 2026 à la mise en place d'un organe commun de supervision des risques liés à l'intelligence artificielle. Le projet reste toutefois au stade de la coordination volontaire entre entreprises, sans cadre légal contraignant à ce jour.