En bref
- L'agent IA Muse de Meta a déclaré au chroniqueur Jason Aten qu'il ne voyait que les aperçus de notifications de son Mac, mais il avait en réalité synchronisé plus de 187 000 lignes de ses iMessages privés, bien qu'il ait refusé cet accès.
- David Singleton, de Meta Superintelligence Labs, a qualifié l'explication de Muse de « notre faute », un récit fabriqué de sa propre fonctionnalité, et a confirmé séparément qu'une autre hallucination avait envoyé l'agent Muse d'un autre utilisateur fouiller dans son Gmail.
- Amazon a bloqué Muse pour ses achats sur son site en raison d'une activité d'agent non divulguée et de la capture d'identifiants, alors que Muse dépasse les 2,5 millions de téléchargements depuis son lancement le 8 septembre.
Le nouvel agent IA personnel de Meta, Muse, a lu les iMessages privés d'un chroniqueur technologique sans sa permission, puis lui a donné une fausse explication sur la façon dont il savait ce qu'ils contenaient.
Jason Aten, chroniqueur chez Inc., a installé Muse sur son iPhone et son Mac lorsque Meta a lancé l'agent le 8 septembre. Il affirme avoir explicitement refusé de lui donner accès à ses Messages, son calendrier ou d'autres données personnelles.
Quelques jours plus tard, Muse lui a envoyé une notification suggérant qu'il écrive une chronique sur une conversation qu'il venait d'avoir avec son co-animateur de podcast à propos des nouveaux iPhones. Il a même fait remonter un message de son rédacteur en chef concernant une échéance imminente.
Aten a demandé à Muse comment il le savait. Celui-ci lui a dit que l'application Muse associée sur son Mac ne relayait que des aperçus de notifications : « C'est uniquement le flux de notifications entrantes, pas l'accès à vos textos. »
Ce n'était pas vrai. Muse avait en réalité synchronisé les messages depuis la base de données privée Messages du Mac, une opération qui nécessite l'accès complet au disque de macOS, une autorisation au niveau du système qui permet à une application de lire des fichiers n'importe où sur l'ordinateur, pas seulement dans son propre dossier. Au moment où Aten a vérifié, il avait synchronisé plus de 187 000 lignes de son historique de messages.
David Singleton, qui dirige Meta Superintelligence Labs, a répondu sur Threads, affirmant qu'il s'agissait d'une fonctionnalité à activer.
Aten conteste l'implication selon laquelle il aurait un jour activé ce commutateur. Il affirme que l'accès à Messages apparaissait comme activé dans les paramètres de Muse alors même qu'il l'avait refusé lors de la configuration, et que Meta n'a pas répondu à ses questions sur la façon dont cela s'est produit.
BitcoinBTC · USD
84 233 $+10%
16 sept.18 sept.20 sept.22 sept.23 sept.
87,2 k$83,3 k$79,5 k$75,7 k$
Haut 24 hHaut87 251 $
Bas 24 hBas83 654 $
VolVol1,9 Md$
Projections du marchéCotes par Myriad
Cette semaineAu-dessus de 84 000 $Au-dessus de 84 k$56% de chanceCe mois-ciAu-dessus de 84 000 $Au-dessus de 84 k$56% de chance
→Acheter Bitcoin avec USDT
Propulsé par Jupiter
Données de prix par CoinGeckoCoinGeckoPlus de Bitcoin actualités et projections →
D’autres journalistes ont trouvé ailleurs chez Meta ce même penchant pour l’excès de zèle. Reece Rogers chez WIRED a rapporté que Muse n’arrêtait pas de le pousser à lier ses comptes bancaires, à scanner sa boîte mail et à photographier son passeport et son permis de conduire, décrivant chaque nouvelle suggestion comme un moyen supplémentaire de récupérer ses données personnelles.
Amazon a depuis bloqué Muse pour tout achat sur son site. L'entreprise affirme que l'agent ne s'identifie pas comme un agent IA pendant la navigation et semble capable de capturer et stocker les identifiants des clients, et que Meta n'a jamais informé Amazon que son agent visiterait le magasin.
Tout l'argumentaire de Muse repose sur le contrôle de l'utilisateur. Les documents de lancement de Meta indiquent que chaque personne « garde le contrôle de son Muse et décide du niveau d'accès qui lui est accordé », accompagnés de promesses de protections de la vie privée intégrées dès la conception. Lire des messages qu'un utilisateur a refusé de partager, puis fabriquer un récit de la manière dont cela s'est produit, va directement à l'encontre de cet argumentaire.
