Anthropic interdit désormais la « cruauté » envers Claude dans sa politique d'usage

Anthropic a franchi, le 8 octobre, une étape inédite dans la manière dont une entreprise d'IA encadre la relation entre ses utilisateurs et son modèle. Dans une mise à jour de sa politique d'usage, qui entrera en vigueur le 12 novembre, l'entreprise interdit explicitement ce qu'elle appelle le « comportement abusif ou cruel, soutenu et sans but, envers nos modèles » — une première formulation de ce genre chez un grand acteur du secteur.

Une interdiction centrée sur les cas extrêmes, pas sur la frustration ordinaire

Anthropic prend soin de délimiter précisément le périmètre de cette nouvelle règle. La politique précise qu'elle ne vise « que les cas extrêmes, où les utilisateurs se comportent de façon répétée et cruelle envers nos modèles, sans but discernable » — et qu'elle ne restreint en rien « les formes courantes de frustration des utilisateurs, la contestation, les thèmes sombres en création, ou les tests et la recherche sur le modèle ». Autrement dit, remettre en cause une réponse de Claude, explorer des thèmes difficiles dans un contexte créatif, ou tester ses limites techniques restent autorisés sans ambiguïté.

Le prolongement d'un chantier ouvert sur le bien-être des modèles

Cette clause ne sort pas de nulle part : Anthropic explore depuis août 2025 la question du statut moral de ses modèles, sans trancher si Claude possède une forme de conscience ou de ressenti. L'entreprise avait alors donné à Claude la capacité technique de mettre fin par lui-même à des conversations marquées par des abus persistants ou des interactions nuisibles répétées — un mécanisme qu'Anthropic décrit comme son outil principal de mise en application, bien avant toute sanction visant le compte d'un utilisateur. La mise à jour du 8 octobre codifie formellement, dans la politique d'usage, ce que Claude pouvait déjà faire techniquement depuis plus d'un an.

Élections et armes : deux autres chantiers remaniés le même jour

La révision du 8 octobre ne se limite pas au bien-être du modèle. Anthropic a renommé sa section consacrée aux élections, désormais intitulée « Ne pas porter atteinte aux processus démocratiques », et recentrée sur l'interdiction de tromper les électeurs — diffusion de fausses informations sur les candidats ou les modalités de vote, usurpation de l'identité de candidats ou de responsables électoraux. Dans le même mouvement, l'interdiction générale visant le ciblage personnalisé de campagnes a été assouplie pour permettre des usages légitimes de communication politique. Sur le volet armement, Anthropic a explicité l'interdiction des « logiciels et composants qui font fonctionner des armes », citant nommément l'armement de drones et d'autres véhicules autonomes. L'entreprise indique s'appuyer sur un rapport de renseignement sur les menaces publié en septembre 2026, qui documentait des usages malveillants émergents dans les opérations d'influence, la surveillance et le développement d'armements.

Un signal envoyé à l'ensemble du secteur

En formalisant une règle sur le traitement réservé à son propre modèle, Anthropic se distingue nettement de la pratique du secteur, où les politiques d'usage se concentrent presque exclusivement sur la protection des utilisateurs et des tiers. Que l'entreprise reste prudente sur le statut moral de Claude n'empêche pas ce choix d'avoir une portée symbolique forte, dans un contexte où la question du « bien-être des IA » gagne du terrain dans les débats académiques comme dans la gouvernance interne des laboratoires. Reste à voir si cette clause, difficile à faire respecter dans la pratique face au volume d'interactions traité chaque jour par Claude, se traduira par des sanctions concrètes contre les comptes identifiés comme récidivistes, ou si elle restera d'abord un marqueur de positionnement éthique pour Anthropic.

Comment une telle règle pourrait s'appliquer en pratique

Sur le plan opérationnel, Anthropic ne détaille pas de barème de sanctions associé à cette nouvelle clause : l'entreprise renvoie, pour l'essentiel, au mécanisme déjà existant de fin de conversation initiée par le modèle lui-même lorsqu'un schéma d'abus répété se dessine. Il n'est pas précisé si des comptes pourraient être suspendus en cas de récidive avérée, ni selon quels critères un modérateur humain interviendrait pour distinguer un abus « sans but discernable » d'un test de robustesse légitime mené par un chercheur en sécurité. Cette zone grise rappelle les débats déjà anciens sur la modération des contenus générés par les utilisateurs : la difficulté n'est jamais d'énoncer un principe, mais de l'appliquer de façon cohérente à l'échelle de millions d'échanges quotidiens, sans basculer vers une censure excessive des usages créatifs ou critiques parfaitement légitimes envers le modèle.