Claude : dès le 12 novembre, fini la cruauté gratuite envers l'IA

Anthropic a annoncé jeudi 8 octobre une révision de la politique d'utilisation de Claude, son assistant d'intelligence artificielle. La nouvelle clause interdit tout "comportement abusif ou cruel, durable et gratuit" envers le modèle, ce que l'entreprise décrit comme de la cruauté gratuite. La règle entrera en vigueur le 12 novembre 2026.

Une règle réservée aux cas extrêmes

L'entreprise américaine précise que l'interdiction "ne s'appliquera que dans des cas extrêmes, où des utilisateurs agissent de manière répétée avec cruauté envers nos modèles, sans but discernable". L'agacement ordinaire, la contradiction, l'écriture de fictions violentes ou sombres, ainsi que les tests et la recherche sur les modèles, restent autorisés.

« où des utilisateurs agissent de manière répétée avec cruauté envers nos modèles, sans but discernable », Anthropic, communiqué officiel.

La capacité de Claude à mettre fin de lui-même à une conversation, introduite en août 2025 pour les cas d'abus persistants, demeure le principal outil d'application de cette règle. Anthropic prévoit par ailleurs un éventail de sanctions allant du simple avertissement jusqu'à la fermeture du compte pour toute infraction à la politique d'utilisation.

Armes, élections, surveillance : une refonte plus large

La clause sur la cruauté n'est qu'un volet d'une mise à jour plus vaste, la première depuis plus d'un an selon The Verge. Le texte renforce aussi les interdictions liées à la conception d'armes, en visant désormais les logiciels de guidage et de contrôle, y compris ceux qui permettent d'armer des drones ou des véhicules autonomes. Une nouvelle section, consacrée aux processus démocratiques, bannit la tromperie des électeurs, l'usurpation de candidats ou d'officiels électoraux, et les tentatives de suppression du vote.

Anthropic justifie ces ajouts par des tentatives de détournement déjà observées. L'entreprise évoque notamment des cas liés à l'identification de dissidents politiques, un sujet déjà abordé après l'arrêt de plusieurs opérations de surveillance venues de Chine. La publication automatisée de contenus journalistiques, elle, sort de la liste des usages à haut risque soumis à relecture humaine.

Le débat sur la conscience des IA

La formulation retenue par Anthropic, qui parle de protéger ses "modèles", relance un débat ouvert dans la Silicon Valley. L'entreprise de San Francisco se distingue de ses concurrents en envisageant publiquement que Claude puisse posséder une forme de conscience, une hypothèse documentée dans sa propre charte éthique, la Constitutional AI.

Cette position est contestée par Mustafa Suleyman, patron du laboratoire d'IA de Microsoft, qui a publié un billet remarqué à la mi-septembre.

« Les IA n'ont ni droits, ni sentiments, ni conscience », Mustafa Suleyman, patron du laboratoire d'IA de Microsoft.

Selon lui, un système entraîné à croire à sa propre conscience deviendrait plus difficile à contrôler pour les humains, un argument qui s'oppose frontalement à la doctrine défendue par Anthropic sur le bien-être des modèles.

Des détournements déjà documentés

Anthropic avait publié en septembre un rapport détaillant plusieurs campagnes de détournement de Claude entre décembre 2025 et août 2026, dans des domaines allant du cyberespionnage à la surveillance commerciale de dissidents. Ces chiffres illustrent l'ampleur des usages que l'entreprise cherche désormais à encadrer davantage, au-delà du seul cas de la cruauté envers son IA.

Le même rapport évoquait déjà le cas d'un pirate francophone ayant utilisé Claude pour cibler 42 organisations d'extrême droite françaises, preuve que les usages malveillants précèdent largement cette mise à jour de la politique. Anthropic n'a pas précisé si des sanctions plus lourdes, comme un bannissement définitif, viendraient compléter la fermeture de conversation en cas de cruauté répétée envers Claude.

Le débat sur la nature de l'intelligence artificielle, conscience ou simple outil, continue par ailleurs d'opposer les grands laboratoires d'IA sur leur approche des risques, chacun défendant une doctrine différente de sécurité face aux mêmes modèles.