Claude-API: Anthropic sperrt bei Regelverstößen nur einzelne Nutzerprofile

Das KI-Unternehmen Anthropic führt eine neue Funktion für Wiederverkäufer und Anwendungsentwickler seines Sprachmodells Claude ein. Ab sofort können Anbieter für jeden Endkunden ein eigenes, kostenloses Nutzerprofil anlegen, ohne dass sich die Preise für die Schnittstellennutzung ändern.

Der zentrale Vorteil dieser Neuerung liegt im Risikomanagement: Verstößt ein einzelner Nutzer gegen Sicherheitsvorgaben, sperrt das System künftig lediglich dessen individuelles Profil. Bislang drohte in solchen Fällen eine Sperrung des gesamten Organisationskontos, was auch unbeteiligte Kunden lahmlegen konnte.

Trennung von Endnutzern minimiert Ausfallrisiken

Bisher trugen Entwickler und Reseller, die Claude über Schnittstellen in eigene Software eingebunden oder an Dritte weiterverkauft haben, ein erhebliches Betriebsrisiko. Wenn ein einzelner Endanwender Richtlinien verletzte und dadurch Sicherheitsmechanismen auslöste, gefährdete dies die gesamte Plattform des Anbieters. Ohne getrennte Profile bestand die Gefahr, dass ein einzelner Kunde den Zugang für alle anderen Nutzer gleichzeitig mitriss.

Die technologische Entwicklung von KI-Systemen bringt auch neue rechtliche Rahmenbedingungen mit sich, die für Anbieter und Nutzer gleichermaßen gelten. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen und Pflichten, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen

Mit der neuen Struktur registrieren Entwickler die jeweilige Profil-Identifikationsnummer einmalig beim Anbieter. Anschließend wird diese Kennung bei jedem Schnittstellenaufruf im Header der Anfrage mitgesendet. Werden Anfragen hingegen ohne Profil übermittelt, stuft Anthropic diese wie gewohnt als direkte Eigennutzung der Organisation ein.

Zwei Profiltypen für Entwickler und Plattformanbieter

Anthropic unterscheidet bei der Umsetzung zwischen zwei verschiedenen Szenarien:

• App-Entwickler: Bei Endanwendungen wird für jeden registrierten Nutzer jeweils ein eigenes Profil angelegt.
• Gateway-Wiederverkäufer: Plattformen, die als Vermittler auftreten, weisen jedem bedienten Unternehmen ein eigenes Profil zu, statt einzelne Mitarbeiter separat zu erfassen.

Die neuen Profile lassen sich über die reguläre Claude-API, die Claude-Plattform auf Amazon Web Services sowie über von Anthropic gehostete Microsoft-Foundry-Bereitstellungen nutzen. Über Drittanbieterdienste wie Amazon Bedrock und Google Cloud stehen diese spezifischen Endpunkte derzeit hingegen nicht zur Verfügung.

Während Anbieter technische Sicherheitsvorkehrungen treffen, müssen Unternehmen auch die gesetzliche Risikoeinstufung ihrer eingesetzten Systeme im Blick behalten. Ein kostenloser Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Kostenlosen KI-Umsetzungsleitfaden herunterladen

Zusätzlich testet Anthropic eine automatisierte Benachrichtigungsfunktion in einer geschlossenen Beta-Phase. Über organisationsweite Webhooks können sich Betreiber künftig in Echtzeit darüber informieren lassen, sobald ein Profil gesperrt oder eine bestehende Sperrung wieder aufgehoben wird. Der Zugang zu diesen Webhooks erfolgt vorerst auf Anfrage über das zuständige Betreuungsteam des Unternehmens.