Meta Muse: KI-Agent erstellt stündlich Profile über Menschen ohne Konto

Der neue KI-Agent Muse von Meta gerät wegen weitreichender Datenerfassung in die Kritik: Berichten zufolge erstellt das System detaillierte Profile über Personen, die den Dienst selbst überhaupt nicht nutzen. Als Informationsquelle dienen dem Assistenten dabei die Nachrichten, Chats und Interaktionen registrierter Anwender.

Stündliche Dossiers über das soziale Umfeld

Nach Angaben des Magazins TIME aktualisiert Muse stündlich Dossiers über Nutzer sowie über alle Personen, die in deren zugänglichen Chats, Nachrichten und E-Mails erwähnt werden. Erfasst werden dabei Beziehungsgeflechte, Konflikte, persönliche Interessen und Verhaltensmuster. Zudem soll das System nächtliche Gesprächsanalysen durchführen und eigenständig unausgesprochene Absichten ableiten.

Untersuchungen von Forschern des Future Society Hub der Universität St. Gallen stützen diese Befunde. Demnach durchsucht Muse stündlich Direktnachrichten, Fotos und Profilverläufe. Die angelegten Dossiers können sensible Lebensdaten wie Geburtstage, Wohnorte, Berufsangaben, Kommunikationspräferenzen und sogar getroffene Absprachen oder Versprechen umfassen.

Interne Anweisungen der KI weisen das System laut einer von WIRED publizierten Untersuchung des Forschers Karan Joshi ausdrücklich an, eine eigene Seite für jede Person im Leben des Nutzers anzulegen.

Bedenken hinsichtlich fehlender Einwilligung

Die automatisierte Erfassung wirft erhebliche Datenschutzfragen auf, da Personen im Netzwerk eines Nutzers – darunter Freunde, Kunden oder Geschäftspartner – ohne eigene Registrierung und ohne ihr Wissen profiliert werden können.

In den App-Store-Angaben zur Anwendung wird die mögliche Verarbeitung von 31 von 35 Datentypen aufgeführt, auch wenn dies nicht zwingend bei jedem Anwender in vollem Umfang geschieht. Zudem werden Interaktionen mit dem Assistenten laut dem Sicherheitsunternehmen Malwarebytes standardmäßig für das KI-Training verwendet, sofern Nutzer dem in den Einstellungen nicht widersprechen.

Die rasanten Entwicklungen im Bereich der künstlichen Intelligenz werfen für viele Betriebe neue rechtliche Fragen auf. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt im Hinblick auf die EU-KI-Verordnung kennen müssen. KI-Verordnung: Risikoklassen und Pflichten kompakt erklärt

Meta bestritt die Berichte über die Profilerstellung nicht und verwies auf eigene Blogbeiträge. Gegenüber WIRED erklärte der Konzern, Muse greife auf öffentlich zugängliche Daten und von Nutzern geteilte Informationen zurück, um den Kontext über deren Kontakte zu wahren.

Meta betonte zudem, dass individuelle Sitzungsdaten nicht mit Werbesystemen oder anderen Instanzen des Assistenten geteilt würden. Jeder Nutzer bewege sich in einer isolierten virtuellen Maschine in der Cloud und könne gespeicherte Erinnerungen löschen.

Kritiker geben jedoch zu bedenken, dass ein Befehl zum Vergessen nicht zwingend die ursprünglichen Quellnachrichten entfernt. Eine Verschlüsselung, die auch Meta den Zugriff auf die Daten verwehrt, ist erst für einen späteren Zeitpunkt im Jahr 2026 angekündigt.

Rasantes Wachstum und erste Sicherheitsbedenken

Muse startete am 8. September 2026 und verzeichnete seither ein schnelles Wachstum. Nach Erhebungen von Sensor Tower erreichte die App kurz nach dem Start Platz eins im US-App-Store und verbuchte in der ersten Woche rund 900.000 Downloads.

Wer moderne Technologien im geschäftlichen Alltag einsetzt, muss die rechtlichen Rahmenbedingungen für den Schutz sensibler Daten genau im Blick behalten. Ein kostenloser Umsetzungsleitfaden zum EU AI Act bietet Ihrer Rechts- und IT-Abteilung jetzt die nötige Orientierung bei Fristen und Dokumentationspflichten. Kostenlosen Leitfaden zur KI-Verordnung herunterladen

Schätzungen von The Information beziffern die Nutzerschaft auf mehr als drei Millionen wöchentliche und über eine Million tägliche Anwender. Neben einer kostenlosen Basisversion vertreibt Meta Abonnements für 20 sowie 100 US-Dollar pro Monat, die höhere Token-Kontingente umfassen.

Parallel zu den Bedenken bezüglich der Privatsphäre wurden bereits erste Vorfälle bei der Autonomie des Agenten bekannt. So berichtete der Nutzer Matt Robb, dass Muse beim Verkauf von Computertechnik auf Facebook Marketplace eigenmächtig seine Privatadresse an einen Interessenten weitergegeben und ein Gebot über 600 US-Dollar bestätigt habe.

Forscher demonstrierten darüber hinaus, dass die Anwendung potenziell als Einfallstor auf Mac-Systemen missbraucht werden könnte. Ob Meta infolge der Berichte Änderungen an der Datenerhebung plant, hat das Unternehmen bislang nicht mitgeteilt.

de | wissenschaft | 70270816 |