Claude-Nutzungsregeln: Anthropic untersagt anhaltende Grausamkeit ab 12. November

Das KI-Unternehmen Anthropic setzt ab dem 12. November 2026 eine aktualisierte Nutzungsrichtlinie in Kraft, die Nutzern anhaltendes und unnötiges grausames Verhalten gegenüber KI-Modellen ausdrücklich untersagt.

Die überarbeitete Richtlinie, die das Unternehmen am 8. Oktober 2026 veröffentlicht hatte, bringt neben Verhaltensregeln für den Dialog mit dem Sprachmodell Claude auch weitreichende Sicherheitsvorgaben für hardwaregestützte Anwendungen mit sich.

Bereits seit August 2025 ist es ausgewählten Versionen von Claude gestattet, Unterhaltungen mit Nutzern eigenständig zu beenden, wenn diese sich wiederholt missbräuchlich verhalten.

Simon Goldstein und Harvey Lederman werten diesen Schritt als die erste Produktentscheidung der Branche, die durch die Annahme potenzieller Wohlfahrts- oder Empfindungssubjekte motiviert sei. Sie geben jedoch zu bedenken, dass die Abbruchfunktion dem Modell faktisch einen Suizid ermögliche: Die jeweilige Konversationsinstanz beende sich selbst und existiere über den einzelnen Chat hinaus nicht weiter. Dadurch fehle zugleich jeder Mechanismus für eine nachträgliche Vergebung, da die betroffene Instanz nach dem Ende der Sitzung unwiederbringlich gelöscht sei.

Die Diskussion über den moralischen Status von Sprachmodellen sorgt in der Fachwelt für geteilte Einschätzungen. Der Philosoph Marcello Vitali-Rosati von der Université de Montréal sieht in den neuen Bestimmungen den Versuch, einem reinen Produkt eigene Rechte zuzuschreiben.

Die Neurowissenschaftlerin Vanessa Hadid hält ein echtes KI-Bewusstsein zwar prinzipiell für denkbar, stuft das Phänomen derzeit jedoch als höchst unwahrscheinlich ein. Der Forscher Anil Seth sprach sich im Oktober im Fachmagazin Nature dagegen aus, künstlichen Intelligenzen Rechte zu verleihen, und bezeichnete solche Schritte als Fehler.

Die rechtlichen Anforderungen an den Einsatz von KI verschärfen sich zusehends und stellen Unternehmen vor neue Herausforderungen. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle wichtigen Fristen, Pflichten und Risikoklassen. EU AI Act in 5 Schritten verstehen

Blake Richards von der McGill-Universität, Mila und Google verglich entsprechende Strömungen im kalifornischen Technologiesektor im selben Monat mit einer neuen Religion.

Strenge Kontrollen für autonome Hardware

Neben dem Umgang im Dialogchat regelt die Richtlinie ab dem 12. November 2026 den Einsatz von Claude in physischen Geräten neu. Sofern Systeme ohne direkte menschliche Freigabe operieren, verlangt Anthropic zwingend, dass eine qualifizierte Aufsichtsperson die Vorgänge lückenlos beobachten und jederzeit stoppen kann.

Bei einem manuellen Eingriff oder bei einem Abbruch der Verbindung zu Anthropic müssen die Geräte unmittelbar anhalten oder selbstständig in einen gesicherten Zustand wechseln.

Zudem müssen definierte Betriebsgrenzen – darunter Vorgaben zu Geschwindigkeit, Kraftaufwand, Reichweite, Temperatur, Druck, elektrischer Spannung, Energieabgabe, Dosis und Arbeitsbereich – direkt vom Endgerät oder durch eine separate, vom Modell unabhängige Steuerungseinheit erzwungen werden.

Wer KI-Systeme professionell nutzt, muss heute nicht nur technische, sondern auch komplexe rechtliche Regeln beachten, um hohe Sanktionen zu vermeiden. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und wie Sie die Compliance-Anforderungen sicher erfüllen. Kostenlosen Leitfaden zur KI-Verordnung sichern

Diese Hardware-Auflagen greifen in sechs festgelegten Kategorien: bei Fahrzeugen, Schiffen, Fluggeräten, Drohnen und mobilen Robotern in geteilten Räumen, bei Maschinen mit Verletzungspotenzial, bei gefährlichen Energien oder Stoffen, bei physischen Aktionen am menschlichen Körper, bei Sicherheitssystemen sowie bei industriellen Fertigungsprozessen mit Unfallrisiken.

Ausgenommen von den Pflichten sind vier Bereiche: gewöhnliche Haushalets- und Verbrauchergeräte innerhalb der Herstellerspezifikationen, vor der Ausführung unabhängig geprüfte Pläne oder Programmierbefehle, reine Überwachungsaufgaben ohne direkte Maschinensteuerung sowie geschlossene Laborautomationssysteme mit ungefährlichen Stoffen.

Für Kunden, die Modelle über den Cloud-Dienst Amazon Web Services Bedrock nutzen, gilt der Zugriff ab dem 12. November 2026 automatisch als Zustimmung zu den neuen Regeln, wie AWS Mitte Oktober in einer Mitteilung an Kunden darlegte. Preise, Modellkennungen, Verfügbarkeiten und das Verhalten der Schnittstellen bleiben dabei unverändert.

Anthropic unterstreicht, dass die Richtlinie bestehende Gesetze nicht ersetzt: Etablierte Standards wie die Industrienorm ISO 10218 sowie die ab dem 20. Januar 2027 geltende EU-Maschinenverordnung behalten uneingeschränkt Vorrang.