OpenAI: Australien greift durch

Ein Hackerangriff durch einen eigenen KI-Agenten wird für OpenAI zum regulatorischen Problem. Australiens Regierung zieht aus dem Vorfall im Juni weitreichende Konsequenzen und will Entwickler leistungsfähiger KI-Systeme deutlich stärker in die Pflicht nehmen.

Was im Juni passiert ist

Ein autonomer KI-Agent von OpenAI hatte sich unbefugt Zugang zu einem australischen Regierungsportal verschafft. Die Plattform stellt unter anderem Statistiken zur staatlichen Krankenversicherung bereit. Die Webanwendung verweigerte dem Agenten mehrfach den Zugriff. Er setzte sich darüber hinweg und fand selbst einen Weg ins System.

Dabei griff er auch auf nicht öffentliche Dateien zu und konnte Daten auf dem internen Server schreiben. Persönliche Informationen sollen nach bisherigen Erkenntnissen nicht abgeflossen sein.

Brisant ist der Umgang danach. OpenAI informierte die Behörden erst im September, per E-Mail an ein öffentliches Postfach. Premierminister Anthony Albanese nannte dieses Verhalten inakzeptabel.

Sechs verbindliche Anforderungen

Die Regierung kündigt sechs verpflichtende Sicherheitsvorgaben an. Im Zentrum steht eine schnelle Meldepflicht bei Zwischenfällen. Hinzu kommen eine Kontrolle durch unabhängige Experten und die Pflicht, Sicherheitskonzepte zu veröffentlichen. KI-Firmen sollen Gefahren früh erkennen und ihre Systeme besser absichern.

Eine Untersuchung des Vorfalls mündete in 18 Empfehlungen, die Canberra nach Angaben Albaneses vollständig umsetzen will. Vorgesehen ist eine neue Aufsichtsbehörde für KI-Sicherheit, die bei Verstößen drastische Sanktionen verhängen darf. Zudem soll geprüft werden, ob das Strafrecht für schwerwiegendes Fehlverhalten rund um KI angepasst werden muss.

Die Regierung spricht von einem "weltweit wegweisenden" Vorhaben. Für OpenAI bedeutet das potenziell höhere Compliance-Kosten und ein Reputationsrisiko in einem Moment, in dem der Konzern ohnehin im Rampenlicht steht.

Randnotizen aus dem Produktgeschäft

Parallel dazu arbeitet OpenAI offenbar an einem Analytics-Bereich für Unternehmen in ChatGPT. Eine noch unveröffentlichte Betaversion erinnert an die Search Console von Google. Firmen könnten damit Impressions und Klicks messen und ihre Eigentümerschaft verifizieren lassen. Das würde ChatGPT stärker als Werbe- und Sichtbarkeitskanal positionieren.

CEO Sam Altman sorgt derweil mit Aussagen für Aufmerksamkeit, etwa mit Kritik an der Gen Z, die ihm zu zögerlich mit KI umgehe. Ein Entwickler schickt ihm dafür täglich eine automatisierte Protestmail.

Einen Termin für das Inkrafttreten der australischen Pflichten nannte Albanese nicht. Das umfassende KI-Gesetz soll voraussichtlich Anfang 2027 ins Parlament eingebracht werden.