Anthropic hat eine neue Fassung der Nutzungsrichtlinie für Claude angekündigt, die am 12. November 2026 in Kraft tritt. Die Aktualisierung konzentriert sich in hohem Maße darauf, die Anwendung der bestehenden Regeln zu präzisieren, da die Fähigkeit der Modelle zunimmt, längere und autonomere Aufgaben auszuführen. Nach Angaben des Unternehmens stützt sich die Richtlinie außerdem auf Missbrauchsmuster, die im vergangenen Jahr bei Einflussoperationen, der Waffenentwicklung und der Überwachung beobachtet wurden.
Neuer Abschnitt zu Täuschungskampagnen
Anthropic hat die Einschränkungen in Bezug auf gefälschte Konten, künstlich erzeugte Nachrichten und die Verschleierung der Urheberschaft von Mitteilungen in einem eigenen Abschnitt mit dem Titel „Keine Beteiligung an Täuschungskampagnen oder unauthentischen Aktivitäten“ zusammengefasst. Der Abschnitt untersagt die Nutzung von Claude zur Erstellung von Netzwerken aus gefälschten Konten oder Beiträgen, die Inhalte verstärken oder deren Quelle verschleiern sollen. Dies umfasst auch den Aufbau der für den Betrieb von Einflusskampagnen erforderlichen Werkzeuge und Infrastruktur, unabhängig davon, ob diese politischer oder kommerzieller Natur sind.
Präzisierung des Umfangs der wahlbezogenen Einschränkungen
Das Unternehmen hat den Abschnitt zu Wahlen in „Keine Untergrabung demokratischer Prozesse“ umbenannt und ihn deutlicher auf Nutzungen beschränkt, die Wähler täuschen oder Wahlen stören, etwa die Verbreitung falscher Informationen über Kandidaten oder Abstimmungsverfahren, die Vortäuschung der Identität von Kandidaten oder Wahlbeamten sowie Versuche, die Wahlbeteiligung zu senken.
Gleichzeitig hat Anthropic das umfassende Verbot der gezielten Ansprache von Wählern und der maßgeschneiderten Ansprache von Kampagnen entfernt. Das Unternehmen erklärt, dass bestimmte legitime zivile Nutzungen, etwa die Erstellung von Informationen für Wähler in verschiedenen Sprachen oder das Versenden von Benachrichtigungen durch Wahlbeamte zur Korrektur von Stimmzetteln, nicht mehr unter dieses allgemeine Verbot fallen. Eine auf Täuschung beruhende gezielte Ansprache oder der Missbrauch personenbezogener Daten bleibt jedoch nach anderen Abschnitten verboten.
Waffen, Überwachung und autonome Systeme
Die Richtlinie stellt klar, dass das Verbot der Waffenentwicklung auch Software für Lenkung und Steuerung sowie Komponenten umfasst, die den Betrieb einer Waffe ermöglichen, zusätzlich zur Bewaffnung von Drohnen und autonomen Fahrzeugen. Anthropic erklärt, diese Änderung spiegele die Anwendung der bisherigen Regeln wider und stelle keine Änderung der Durchsetzungspraxis dar.
Die neue Formulierung untersagt außerdem die Verfolgung von Personen ohne deren Zustimmung, sowohl in Echtzeit als auch durch die Analyse zuvor erhobener Daten. Sie verbietet die Nutzung von Claude, um im Rahmen von Strafverfolgungs- oder strafrechtlichen Verfahren über die Untersuchung einer Person, ihre Festnahme oder die Erhebung einer Anklage gegen sie zu entscheiden oder eine entsprechende Empfehlung abzugeben. Die Einschränkungen umfassen ebenfalls den Aufbau oder die Verbesserung von Überwachungsinstrumenten. Von Einzelpersonen genehmigte Nutzungen, etwa Betrugsüberwachung, sowie Inhaltsmoderation, Journalismus und rechtliche Forschung bleiben nach den Angaben des Unternehmens zulässig.
Was ändert sich praktisch?
Anthropic hat die Anforderungen für Hochrisikoanwendungen, die Gesundheit, gesetzliche Rechte, finanzielle Angelegenheiten, den Lebensunterhalt oder den Zugang zu grundlegenden Dienstleistungen betreffen, nicht geändert. Sie wurden jedoch neu formuliert, um die erfassten Fälle unmittelbar zu präzisieren. Ein qualifizierter Mensch mit der Befugnis, Empfehlungen von Claude zu überprüfen und bei Bedarf zu ändern, muss vorhanden sein; außerdem muss die betroffene Person über den Einsatz künstlicher Intelligenz informiert werden.
Die Richtlinie führt Anforderungen für Systeme ein, die Modelle von Anthropic mit Geräten verbinden, die eigenständig physische Handlungen ausführen können und Verletzungen verursachen könnten. Eine qualifizierte Bedienperson muss die Ausrüstung überwachen und abschalten können. Zudem muss die Ausrüstung in einen sicheren Zustand wechseln, wenn die Verbindung zu Claude unterbrochen wird.
Zusätzliche Einschränkungen und administrative Klarstellungen
Anthropic hat ein Verbot von anhaltendem und unnötig hartem Verhalten gegenüber seinen Modellen hinzugefügt, es jedoch auf extreme Fälle beschränkt. Dies umfasst weder gewöhnliche Frustration noch Widerspruch gegen Antworten des Modells, düstere kreative Themen oder Tests und Forschung.
Die Richtlinie zu unterstützten Regionen stellt außerdem klar, dass die Nutzung von Claude Personen nicht gestattet ist, die sich tatsächlich in einer nicht unterstützten Region befinden. Gleiches gilt für dort gegründete oder ansässige Einheiten sowie für Einheiten, die Personen oder Organisationen in diesen Regionen gehören oder von ihnen mehrheitlich kontrolliert werden.
Redaktionelle Einordnung: Der wesentliche Wert dieser Aktualisierung liegt nicht darin, in jedem Bereich neue Einschränkungen anzukündigen, sondern darin, verstreute Regeln oder frühere Durchsetzungspraktiken in präzisere Texte zu überführen, während der Einsatz von Modellen in der politischen Einflussnahme, in physischen Systemen und bei sensiblen Entscheidungen zunimmt. Für Kunden bleibt die praktische Frage, wie sie eine eingriffsfähige menschliche Aufsicht, die Zustimmung der betroffenen Personen und einen sicheren Zustand bei der Trennung vom Modell nachweisen können, insbesondere bei Anwendungen, die über die Texterstellung hinaus tatsächliche Handlungen in der Welt ausführen.