KI-Wearable Looki L1: Datenschutz-Mängel gefährden deutsche Nutzer

In einem aktuellen Praxistest hat die Redaktion von c’t 3003 das neue KI-Wearable Looki L1 unter die Lupe genommen. Der kompakte Kameraanhänger, der als smarter Alltagsbegleiter konzipiert ist, weist demnach erhebliche Mängel in den Bereichen Datenschutz und Compliance auf. Trotz technischer Finessen und einer europäischen Cloud-Infrastruktur bewerten Experten die rechtliche Situation des Geräts, insbesondere für den Einsatz im deutschen Raum, als äußerst problematisch.

Technische Spezifikationen und Funktionsumfang des Looki L1

Der Looki L1 ist ein KI-gestützter Kameraanhänger, der mit einem Gewicht von lediglich 32 Gramm auf eine unauffällige Trageweise ausgelegt ist. Das Gerät wird zu einem Preis von 221 Euro angeboten und verfügt über eine Hardware-Ausstattung, die hochwertige Aufnahmen ermöglichen soll. Dazu gehören eine Kamera für 4K-Fotos sowie die Option, Videos in einer Auflösung von 1080p aufzuzeichnen.

Für die akustische Erfassung sind insgesamt drei Mikrofone in das Gehäuse integriert. Die Kombination aus visuellen und auditiven Sensoren dient dazu, Umgebungsinformationen zu sammeln, die anschließend durch künstliche Intelligenz verarbeitet werden können. Ziel solcher Wearables ist es in der Regel, dem Nutzer Kontextinformationen zu liefern oder Alltagssituationen digital zu dokumentieren.

Defizite bei der Signalisierung und Inhaltsfilterung

Wer sich mit der Einführung neuer Technologien befasst, muss heute komplexe rechtliche Rahmenbedingungen wie den EU AI Act berücksichtigen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über Pflichten und Risikoklassen für den sicheren Einsatz von KI. EU AI Act in 5 Schritten verstehen

Ein zentraler Kritikpunkt im Testbericht betrifft die physischen Schutzmaßnahmen zur Wahrung der Privatsphäre Dritter. Der Looki L1 verfügt zwar über ein sogenanntes Privacy Light, das eine laufende Aufnahme optisch signalisieren soll. Dieses Licht lässt sich jedoch nach Angaben der Tester abschalten. Damit entfällt die für Außenstehende notwendige Erkennbarkeit einer aktiven Aufzeichnung, was die Gefahr verdeckter Aufnahmen massiv erhöht.

Zudem wurden die integrierten Software-Filter des Herstellers geprüft, die darauf ausgelegt sind, unangemessene oder rechtlich kritische Inhalte automatisch zu blockieren. Die Ergebnisse fielen hierbei unzureichend aus. So versagten die Filtermechanismen im Test bei der Erkennung von Nacktheit sowie beim Konsum von Zigaretten. Diese Unzuverlässigkeit bei der automatisierten Inhaltskontrolle stellt ein erhebliches Compliance-Risiko dar, da das Gerät somit potenziell illegale oder ethisch bedenkliche Aufnahmen ungehindert verarbeiten kann.

Cloud-Infrastruktur und rechtliche Bewertung im deutschen Markt

Hinsichtlich der Datenspeicherung bemüht sich der Anbieter um die Einhaltung europatischer Standards. Die für den Looki L1 genutzte Cloud-Infrastruktur befindet sich an einem Standort in Frankfurt am Main. Dies soll sicherstellen, dass die verarbeiteten Daten den hiesigen Datenschutzrichtlinien unterliegen. Ein weiterer Sicherheitsaspekt ist die programmierte Löschroutine: Die auf die Server übertragenen Daten werden laut Herstellerangaben automatisch nach 24 Stunden gelöscht.

Die rasante Entwicklung bei KI-Systemen stellt Unternehmen vor neue Herausforderungen hinsichtlich rechtlicher Pflichten und Cyberrisiken. Erfahren Sie in diesem Gratis-Report, welche Anforderungen die EU-KI-Verordnung stellt und wie Sie Ihr Unternehmen proaktiv absichern. Kostenlosen Report zu neuen Cyberrisiken anfordern

Trotz dieser serverseitigen Vorkehrungen wird die Nutzung des Looki L1 in Deutschland als rechtlich problematisch eingestuft. Die Kombination aus unauffälliger Bauweise, der Möglichkeit, das Signallicht zu deaktivieren, und der unzuverlässigen Inhaltsfilterung kollidiert mit den strengen Persönlichkeitsrechten und dem Verbot von Spionagekameras. Juristen und Datenschutzexperten mahnen bei derartigen KI-Wearables regelmäßig zur Vorsicht, da das Erstellen von Bild- und Tonaufnahmen ohne explizite Einwilligung der betroffenen Personen in der Öffentlichkeit gravierende rechtliche Konsequenzen nach sich ziehen kann.

Unternehmen und Privatanwender, die den Einsatz solcher Technologien in Erwägung ziehen, müssen sich der bestehenden Haftungsrisiken bewusst sein. Die technische Machbarkeit kleiner, KI-gestützter Aufnahmegeräte stößt hierbei zunehmend an die Grenzen der geltenden Gesetzgebung zum Schutz der Privatsphäre.

de | wirtschaft | 69926620 |