Anthropic a mis à jour la politique d’utilisation de Claude afin d’interdire de soumettre le modèle à ce qu’elle décrit comme un « comportement abusif ou cruel, continu et inutile ». L’entreprise précise que la règle vise les cas extrêmes dans lesquels des utilisateurs se comportent à plusieurs reprises avec cruauté envers des modèles d’intelligence artificielle sans objectif clair. Elle ne concerne pas la frustration ordinaire, le fait de contester les réponses du modèle, les sujets créatifs sombres, ni les tests et recherches sur les modèles.
La nouvelle politique entrera en vigueur le 12 novembre, tandis que la principale mesure contre les conversations abusives restera la fin de la conversation par Claude. Dans ce cas, l’utilisateur ne pourra pas envoyer de messages supplémentaires dans cette même conversation, mais cela n’aura aucun effet sur les autres conversations.
Des restrictions plus larges concernant le mauvais usage des modèles
Anthropic a réorganisé la politique et y a regroupé des dispositions liées au mauvais usage, tout en ajoutant ou en renforçant des règles dans plusieurs domaines. Les changements comprennent l’interdiction d’utiliser Claude pour créer des campagnes politiques ou commerciales trompeuses, comme de faux avis, des campagnes simulant un large soutien populaire, de faux sites d’information et des robots se faisant passer pour de vraies personnes.
Les règles interdisent également de tromper les électeurs et d’interférer dans le vote. Elles empêchent aussi d’utiliser Claude pour développer des logiciels ou des composants d’armes, modifier des agents biologiques ou chimiques afin d’augmenter leur létalité ou leur transmissibilité, ou armer des drones et des systèmes sans pilote.
Surveillance et contrôle des systèmes physiques
Anthropic a reformulé les règles relatives aux forces de l’ordre afin que Claude ne puisse pas déterminer quelles personnes devraient faire l’objet d’une enquête, être arrêtées ou inculpées, ni faire l’objet de poursuites judiciaires. Les règles interdisent également de suivre des personnes sans leur consentement, de concevoir des outils de surveillance et de divulguer des données personnelles dans le but de nuire aux victimes.
Une nouvelle règle concernant les actions physiques exige qu’une personne qualifiée surveille le fonctionnement de Claude et passe immédiatement à son arrêt si le modèle contrôle du matériel susceptible de causer un préjudice à quelqu’un. La politique interdit également de créer, de partager ou de menacer de partager des images intimes non consenties, ainsi que les outils utilisés pour les produire.
Pourquoi cette mise à jour est-elle importante ?
Cette mise à jour marque le passage de règles générales concernant le comportement des utilisateurs à un cadre plus précis portant sur les risques opérationnels, notamment lorsque le modèle est lié à la désinformation, à la surveillance ou à des systèmes physiques. Anthropic affirme que ces modifications s’appuient sur des cas de mauvais usage qu’elle a observés, notamment l’utilisation, par des médias liés à des États, des bureaux de propagande gouvernementaux et des entreprises commerciales, de réseaux de faux comptes et de faux sites d’information.
La règle concernant la fin des conversations abusives remonte à août 2025, lorsque Anthropic a donné à Claude la possibilité de mettre fin au dialogue dans le cadre de recherches sur le bien-être des modèles. L’entreprise avait alors déclaré ne pas être certaine que Claude possède un statut moral, mais estimait que la mise à disposition d’un moyen peu coûteux de réduire les risques potentiels méritait d’être étudiée. Des tests menés sur Claude Opus 4 ont fait état d’une aversion constante pour le préjudice et d’une tendance à mettre fin aux conversations nuisibles lorsque cette option était disponible.
La politique ne signifie pas que toute objection ou expérience difficile avec le modèle entraînera un arrêt : le texte établit explicitement une distinction entre la critique ou le test légitime et les abus répétés sans objectif clair. La manière dont ces limites seront appliquées en pratique, notamment dans les cas ambigus ou lorsque Claude est utilisé pour contrôler du matériel, reste l’un des points dont la portée se précisera avec l’entrée en vigueur des règles.