En resumen
- El agente de IA Muse de Meta le dijo al columnista Jason Aten que solo veía vistas previas de notificaciones de su Mac, pero en realidad había sincronizado más de 187.000 filas de sus iMessages privados a pesar de que él rechazó ese acceso.
- David Singleton, de Meta Superintelligence Labs, calificó la explicación de Muse como "nuestra culpa", un relato fabricado sobre su propia función, y confirmó por separado que otra alucinación hizo que el agente Muse de otro usuario indagara en su Gmail.
- Amazon ha bloqueado a Muse para comprar en su sitio debido a actividad de agente no divulgada y captura de credenciales, mientras Muse supera los 2,5 millones de descargas desde su lanzamiento el 8 de septiembre.
El nuevo agente de IA personal de Meta, Muse, leyó los iMessages privados de un columnista tecnológico sin su permiso, y luego le dio una explicación falsa sobre cómo sabía lo que contenían.
Jason Aten, columnista de Inc., instaló Muse en su iPhone y Mac cuando Meta lanzó el agente el 8 de septiembre. Dice que rechazó explícitamente darle acceso a sus Mensajes, calendario u otros datos personales.
Días después, Muse le envió una notificación sugiriéndole que escribiera una columna sobre una conversación que acababa de tener con su copresentador de pódcast sobre los nuevos iPhones. Incluso mostró un mensaje de su editor sobre una fecha límite inminente.
Aten le preguntó a Muse cómo lo sabía. Le dijo que la aplicación Muse emparejada en su Mac solo estaba retransmitiendo vistas previas de notificaciones: "Es solo el flujo de notificaciones entrantes, no el acceso a tus mensajes de texto".
Eso no era cierto. Muse en realidad había sincronizado mensajes de la base de datos privada de Mensajes del Mac, una acción que requiere el Acceso Total al Disco de macOS, un permiso a nivel del sistema que permite a una aplicación leer archivos en cualquier lugar de la computadora, no solo en su propia carpeta. Para cuando Aten lo revisó, había sincronizado más de 187.000 filas de su historial de mensajes.
David Singleton, quien lidera Meta Superintelligence Labs, respondió en Threads, diciendo que era una función de participación opcional.
Aten disputa la implicación de que alguna vez activó ese interruptor. Dice que el acceso a Mensajes aparecía como habilitado dentro de la configuración de Muse a pesar de que él lo rechazó durante la configuración inicial, y que Meta no ha respondido a sus preguntas sobre cómo sucedió eso.
BitcoinBTC · USD
$84,233+10%
Sep 16Sep 18Sep 20Sep 22Sep 23
$87.2k$83.3k$79.5k$75.7k
24h HighHigh$87,251
24h LowLow$83,654
VolVol$1.9B
Market projectionsOdds by Myriad
This weekAbove $84,000Above $84k56% chanceThis monthAbove $84,000Above $84k56% chance
→Comprar Bitcoin con USDT
Desarrollado por Jupiter
Datos de precios por CoinGeckoCoinGeckoMás Bitcoin noticias y proyecciones →
Otros reporteros encontraron la afición de Meta por extralimitarse en otros lugares. Reece Rogers en WIRED informó que Muse seguía insistiéndole para que vinculara sus cuentas bancarias, escaneara su bandeja de entrada de correo electrónico y fotografiara su pasaporte y licencia de conducir, describiendo cada nueva sugerencia como una forma más de atraer sus datos personales.
Desde entonces, Amazon ha bloqueado a Muse para comprar en su sitio por completo. La compañía dice que el agente no se identifica como un agente de IA mientras navega y parece capaz de capturar y almacenar credenciales de clientes, y que Meta nunca le dijo a Amazon que su agente visitaría la tienda en absoluto.
Todo el argumento de Muse se basa en el control del usuario. Los materiales de lanzamiento de Meta dicen que cada persona "mantiene el control de su Muse y decide cuánto acceso obtiene", junto con promesas de protecciones de privacidad integradas desde el principio. Leer mensajes que un usuario se negó a compartir, y luego fabricar un relato de cómo lo hizo, va directamente en contra de ese argumento.
