KI-Gesetzgebung: US-Senat verabschiedet NO FAKES Act heute

Neue Zahlen zeigen: Auf Streaming-Diensten stammt bereits knapp die Hälfte aller täglichen Uploads von Algorithmen. Während US-Senat und EU-Kommission gesetzliche Schranken errichten, warnen Bildungseinrichtungen und Krankenhäuser vor unzuverlässigen Erkennungstools.

Die neue EU-KI-Verordnung stellt Unternehmen vor komplexe Herausforderungen bei der Kennzeichnung und Risikodokumentation von KI-Systemen. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle neuen Pflichten und Fristen des AI Act. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Gesetzesoffensive gegen digitale Fälschungen

Der US-Senat stimmt heute über den NO FAKES Act ab. Das Gesetz soll ein bundesweites Recht an der eigenen Stimme und dem eigenen Abbild schaffen. Plattformen, die unerlaubte digitale Kopien hosten, drohen Strafen von bis zu 750.000 Dollar pro Werk. Der Vorstoß folgt dem ELVIS Act in Tennessee und wird von Branchengrößen wie Sony, Universal Music Group und Google unterstützt.

Parallel dazu nähert sich die EU mit dem AI Act der finalen Umsetzung. Ab dem 2. August drohen Unternehmen bei Verstößen Bußgelder von bis zu 15 Millionen Euro. Der Zeitdruck ist enorm: Der Musikdienst Deezer meldet, dass rund 44 Prozent seiner täglichen Uploads – etwa 75.000 Stücke pro Tag – KI-generiert sind.

Detektionssoftware: Zwischen 26 und 61 Prozent Genauigkeit

Das Massachusetts General Hospital veröffentlichte heute einen Leitfaden, der die Zuverlässigkeit von KI-Erkennungstools infrage stellt. Die Spannbreite der Treffsicherheit reicht von alarmierenden 26 Prozent bis zu maximal 61 Prozent. Die Experten warnen vor einer hohen Fehlerquote bei falsch-positiven Ergebnissen. Ihre Empfehlung: Menschliche Prüfung bleibt unverzichtbar – etwa durch Kontrolle auf fehlende Links, nicht existierende DOIs oder übermäßig generische Formulierungen.

Mit der zunehmenden Integration von KI in den Arbeitsalltag wachsen auch die regulatorischen Anforderungen an Unternehmen drastisch. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko eingestuft werden und wie Sie die neuen Regeln rechtssicher in Ihre IT-Struktur integrieren. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?

Auch Schulen reagieren. Der Schulbezirk Wake County in North Carolina verabschiedete gestern eine neue Richtlinie, die den Einsatz von KI-Detektoren untersagt. Grund sind Bedenken wegen Ungenauigkeit und potenzieller Benachteiligung von Schülern, deren Muttersprache nicht Englisch ist. Das irische Bildungsministerium schloss sich an und riet Schulen ebenfalls von automatischen Prüfprogrammen ab. Beide Einrichtungen setzen künftig auf prozessorientierte Bewertungen: mündliche Präsentationen und handschriftliche Arbeiten im Unterricht statt Software-Kontrollen.

Technische Innovationen und Gegenstrategien

Während die Skepsis wächst, entwickelt die Forschung neue Spezialwerkzeuge. Das Los Alamos National Laboratory stellte gestern den Prelim Attention Score vor. Das Tool erkennt Halluzinationen in Computer-Vision-Modellen, indem es prüft, ob die Ausgaben tatsächlich auf Bilddaten beruhen. Parallel dazu veröffentlichte ein Forschungsteam auf arXiv einen neuen Benchmark mit über 8.000 Bildern zur besseren Erkennung von KI-Text in komplexen Grafiken wie Infografiken oder Quittungen.

Die Musikindustrie reagiert mit einer Mischung aus Abwehr und Kooperation:

• Betrugsbekämpfung: Die Nashville-Band Sons of Legion ließ mithilfe von Deepfake-Erkennungsdiensten hunderte KI-generierte Fake-Profile entfernen, die in Liebesbetrugsmaschen eingesetzt wurden.
• Neue Plattformen: Der Streaming-Dienst Second Press startet morgen in Australien und Neuseeland. Das Versprechen: Nur menschliche Musik, KI-Verbot.
• Lizenzierung: Spotify und Universal Music Group haben eine lizenzierte KI-Remix-Plattform gestartet. Fans können autorisierte Inhalte erstellen, während Künstler vergütet werden.

Parallel dazu treibt Google die Standardisierung von Echtheitsnachweisen voran. Die Integration von SynthID und C2PA-Wasserzeichen in Google Search und Chrome soll digitale Signatureen für Nutzer weltweit zugänglich machen – ein Schritt hin zu mehr Transparenz im KI-Zeitalter.

de | wissenschaft | 69572267 |