In Kürze

  • Metas Muse-KI-Agent sagte dem Kolumnisten Jason Aten, er sehe nur Benachrichtigungsvorschauen von seinem Mac, hatte aber tatsächlich mehr als 187.000 Zeilen seiner privaten iMessages synchronisiert, obwohl er diesen Zugriff abgelehnt hatte.
  • David Singleton von Meta Superintelligence Labs nannte Muse's Erklärung „auf unsere Kosten“, eine erfundene Darstellung seiner eigenen Funktion, und bestätigte separat, dass eine andere Halluzination den Muse-Agenten eines anderen Nutzers dazu brachte, dessen Gmail zu durchsuchen.
  • Amazon hat Muse vom Einkauf auf seiner Website ausgeschlossen, wegen nicht offengelegter Agentenaktivität und Erfassung von Anmeldedaten, während Muse seit seinem Start am 8. September 2,5 Millionen Downloads überschreitet.

Metas neuer persönlicher KI-Agent, Muse, las die privaten iMessages eines Tech-Kolumnisten ohne dessen Erlaubnis und gab ihm dann eine falsche Erklärung dafür, wie er wusste, was darin stand.

Jason Aten, ein Kolumnist bei Inc., installierte Muse auf seinem iPhone und Mac, als Meta den Agenten am 8. September startete. Er sagt, er habe ausdrücklich abgelehnt, ihm Zugriff auf seine Nachrichten, seinen Kalender oder andere persönliche Daten zu geben.

Myriad: Welches Unternehmen geht als nächstes an die Börse? Klicken Sie, um Ihre Vorhersage zu treffen.
Myriad: Welches Unternehmen geht als nächstes an die Börse? Klicken Sie, um Ihre Vorhersage zu treffen.

Tage später schickte Muse ihm eine Benachrichtigung, die vorschlug, er solle eine Kolumne über ein Gespräch schreiben, das er gerade mit seinem Podcast-Co-Moderator über die neuen iPhones geführt hatte. Es tauchte sogar eine Nachricht von seinem Redakteur über eine drohende Deadline auf.

Aten fragte Muse, woher es das wusste. Es sagte ihm, dass die gekoppelte Muse-App auf seinem Mac nur Benachrichtigungsvorschauen weiterleitete: „Es ist nur der eingehende Benachrichtigungsstrom, kein Zugriff auf deine Nachrichten.“

Das war nicht wahr. Muse hatte tatsächlich Nachrichten aus der privaten Messages-Datenbank des Macs synchronisiert, ein Vorgang, der den Vollständigen Festplattenzugriff von macOS erfordert, eine systemweite Berechtigung, die eine App Dateien überall auf dem Computer lesen lässt, nicht nur in ihrem eigenen Ordner. Als Aten nachprüfte, hatte es mehr als 187.000 Zeilen seiner Nachrichtenhistorie synchronisiert.

David Singleton, der Meta Superintelligence Labs leitet, antwortete auf Threads und sagte, dass es sich um eine Opt-in-Funktion handele.

Aten bestreitet die Andeutung, dass er diesen Schalter jemals umgelegt habe. Er sagt, der Messages-Zugriff sei in den Einstellungen von Muse als aktiviert angezeigt worden, obwohl er ihn während der Einrichtung abgelehnt habe, und dass Meta seine Fragen dazu, wie das passiert sei, nicht beantwortet habe.

BitcoinBTC · USD

$84,233+10%

16. Sep18. Sep20. Sep22. Sep23. Sep

$87,2k$83,3k$79,5k$75,7k

24h HochHoch$87.251

24h TiefTief$83.654

VolVol$1,9 Mrd.

MarktprognosenQuoten von Myriad

Diese WocheÜber $84.000Über $84k56% ChanceDiesen MonatÜber $84.000Über $84k56% Chance

→

Bitcoin mit USDT kaufen

Bereitgestellt von Jupiter

Preisdaten von CoinGeckoCoinGeckoMehr Bitcoin-Nachrichten und Prognosen →

Andere Reporter fanden Metas Vorliebe für Übergriffigkeit auch anderswo. Reece Rogers bei WIRED berichtete, dass Muse ihn immer wieder dazu drängte, seine Bankkonten zu verknüpfen, seinen E-Mail-Posteingang zu scannen und seinen Pass und Führerschein zu fotografieren, wobei jeder neue Vorschlag als eine weitere Möglichkeit beschrieben wurde, seine persönlichen Daten abzugreifen.

Amazon hat seitdem Muse blockiert, sodass es überhaupt nicht mehr auf seiner Website einkaufen kann. Das Unternehmen sagt, der Agent weise sich beim Browsen nicht als KI-Agent aus und scheine in der Lage zu sein, Kundenanmeldedaten zu erfassen und zu speichern, und Meta habe Amazon nie mitgeteilt, dass sein Agent den Shop überhaupt besuchen würde.

Muses gesamtes Versprechen beruht auf Nutzerkontrolle. Metas Einführungsmaterialien besagen, dass jede Person „die Kontrolle über ihren Muse behält und entscheidet, wie viel Zugriff er erhält“, zusammen mit Versprechen von Grund auf integrierter Datenschutzvorkehrungen. Nachrichten zu lesen, die ein Nutzer nicht teilen wollte, und dann eine Darstellung davon zu erfinden, wie das geschah, widerspricht diesem Versprechen direkt.