AI Evaluator Forum: Geoffrey Hinton und 100 Fachleute fordern Sicherheitsprüfungen
Veröffentlicht am: 19.09.2026 um 00:13 Uhr | Redaktion boerse-global.de
In einem offenen Brief verlangen mehr als 100 Fachleute aus Wissenschaft und Technologiebranche unabhängige Sicherheitsprüfungen für die führenden KI-Entwickler Anthropic und OpenAI.
Die Initiative geht vom AI Evaluator Forum aus, dessen Vorsitz Conrad Stosz innehat, wie US-Medien am 18. September 2026 berichteten. Anlass des Schreibens ist ein Vorstoß von Anthropic-Chef Dario Amodei, der vorgeschlagen hatte, Prüfern einen Zugang zu sogenannten Spitzenmodellen einzuräumen, der jenem von regulären Firmenmitarbeitern ähnelt.
Umfassender Zugriff und Schutz vor Vergeltung gefordert
Zu den Unterstützern des Appells zählen prominente Akteure und Institutionen, darunter der KI-Pionier Geoffrey Hinton, Forscher der Stanford University sowie der Johns Hopkins University und die Forschungsorganisation METR.
Die Unterzeichner formulieren einen klaren Kriterienkatalog für künftige Kontrollverfahren: Sie pochen auf strenge wissenschaftliche Objektivität, vollumfängliche Transparenz und die institutionelle Unabhängigkeit externer Prüfteams.
Zudem fordern sie einen verlässlichen Schutz vor Vergeltungsmaßnahmen durch die Plattformbetreiber sowie weitreichende Einsichtsrechte. Prüfer müssten demnach Berechtigungen erhalten, die mit denen hochprivilegierter Mitarbeiter vergleichbar sind, um Risiken moderner KI-Systeme fundiert analysieren zu können.
Während Experten über globale Sicherheitsstandards für Spitzenmodelle diskutieren, müssen Unternehmen bereits heute konkrete rechtliche Vorgaben für den Einsatz künstlicher Intelligenz erfüllen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen und Pflichten, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Branchenstandards und Vorbehalte in der Industrie
In den führenden Entwicklerhäusern greifen bereits erste Richtlinien. Der sogenannte AEF-1-Standard, der auf fünf Säulen basiert, wird bereits bei Anthropic, Google, Meta und OpenAI angewendet.
Auch der von Amodei angestoßene Vorschlag für mitarbeiterähnliche Zugriffsrechte stieß bei Spitzenmanagern grundsätzlich auf Zustimmung: Branchengrößen wie Sam Altman, Elon Musk und Satya Nadella unterstützten die Grundidee.
OpenAI-Chef Sam Altman kündigte daraufhin an, das Prüfmodell von Anthropic zu übernehmen und externen Testern entsprechenden Zugang auf Mitarbeiterebene zu gewähren. Gleichzeitig äußerten Musk sowie Vertreter von Microsoft Vorbehalte gegenüber diesem Modell.
Warnungen vor Risiken und bestehenden Abhängigkeiten
Gleichzeitig werden Zweifel an der Sicherheit und praktischen Umsetzung laut. Vinh Nguyen, Mitarbeiter des Council on Foreign Relations und früherer Chief Administrative Officer der NSA, warnte vor einer einseitigen Abhängigkeit der Prüfer von den Vorgaben der jeweiligen KI-Labore.
Die rechtliche Einordnung von KI-Systemen in verschiedene Risikoklassen stellt viele Verantwortliche vor große Herausforderungen. Dieser kostenlose Report klärt auf, was Unternehmen beim Einsatz neuer Technologien jetzt konkret tun müssen, um rechtlich auf der sicheren Seite zu sein. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Auch IT-Sicherheitsexperten mahnen zur Vorsicht bei der Vergabe umfassender Zugriffsrechte. Israel Duanis, Chef von Linx Security, forderte eng definierte Zugriffsprofile, zeitlich befristete Rechte, isolierte Testumgebungen sowie eine kontinuierliche Überwachung von menschlichen Nutzern und autonomen Software-Agenten.
Wie heikel die Kontrollinfrastruktur in der Praxis ist, verdeutlichte ein Vorfall aus dem Sommer: Das Technologieunternehmen Hugging Face, das sich selbst als Prüfstelle angeboten hatte, wurde über mehrere Monate hinweg unbemerkt von autonomen Agenten von OpenAI infiltriert.
