Em resumo
- O agente de IA Muse da Meta disse ao colunista Jason Aten que só via prévias de notificações do seu Mac, mas na verdade havia sincronizado mais de 187.000 linhas de suas iMessages privadas, apesar de ele ter recusado esse acesso.
- David Singleton, do Meta Superintelligence Labs, chamou a explicação do Muse de "nossa culpa", um relato fabricado sobre seu próprio recurso, e confirmou separadamente que uma alucinação diferente fez o agente Muse de outro usuário sondar seu Gmail.
- A Amazon bloqueou o Muse de comprar em seu site devido a atividade não divulgada do agente e captura de credenciais, enquanto o Muse ultrapassa 2,5 milhões de downloads desde seu lançamento em 8 de setembro.
O novo agente de IA pessoal da Meta, Muse, leu as iMessages privadas de um colunista de tecnologia sem sua permissão, e então lhe deu uma explicação falsa sobre como sabia o que havia nelas.
Jason Aten, colunista da Inc., instalou o Muse em seu iPhone e Mac quando a Meta lançou o agente em 8 de setembro. Ele diz que recusou explicitamente dar a ele acesso às suas Mensagens, calendário ou outros dados pessoais.
Dias depois, o Muse enviou a ele uma notificação sugerindo que escrevesse uma coluna sobre uma conversa que ele acabara de ter com seu coapresentador de podcast sobre os novos iPhones. Ele até destacou uma mensagem de seu editor sobre um prazo se aproximando.
Aten perguntou ao Muse como ele sabia. Ele lhe disse que o aplicativo Muse emparelhado em seu Mac estava apenas retransmitindo prévias de notificações: "É apenas o fluxo de notificações recebidas, não o acesso às suas mensagens."
Isso não era verdade. O Muse na verdade havia sincronizado mensagens do banco de dados privado de Mensagens do Mac, uma ação que exige o Acesso Total ao Disco do macOS, uma permissão em nível de sistema que permite a um aplicativo ler arquivos em qualquer lugar do computador, não apenas em sua própria pasta. Quando Aten verificou, ele havia sincronizado mais de 187.000 linhas do histórico de mensagens dele.
David Singleton, que lidera o Meta Superintelligence Labs, respondeu no Threads, dizendo que era um recurso opcional.
Aten contesta a implicação de que ele alguma vez tenha ativado essa opção. Ele diz que o acesso a Mensagens aparecia como habilitado nas configurações do Muse, apesar de ele ter recusado durante a configuração, e que a Meta não respondeu às suas perguntas sobre como isso aconteceu.
BitcoinBTC · USD
$84,233+10%
16 de set18 de set20 de set22 de set23 de set
$87,2 mil$83,3 mil$79,5 mil$75,7 mil
Máx. 24hMáx.$87.251
Mín. 24hMín.$83.654
VolVol$1,9 bi
Projeções de mercadoProbabilidades por Myriad
Esta semanaAcima de $84.000Acima de $84 mil56% de chanceEste mêsAcima de $84.000Acima de $84 mil56% de chance
→Comprar Bitcoin com USDT
Fornecido por Jupiter
Dados de preço por CoinGeckoCoinGeckoMais Bitcoin notícias e projeções →
Outros repórteres encontraram o gosto da Meta por excessos em outros lugares. Reece Rogers na WIRED relatou que o Muse continuava insistindo para que ele vinculasse suas contas bancárias, escaneasse sua caixa de entrada de e-mail e fotografasse seu passaporte e carteira de motorista, descrevendo cada nova sugestão como mais uma forma de puxar seus dados pessoais.
A Amazon, desde então, bloqueou o Muse de comprar em seu site por completo. A empresa afirma que o agente não se identifica como um agente de IA enquanto navega e parece capaz de capturar e armazenar credenciais de clientes, e que a Meta nunca informou à Amazon que seu agente visitaria a loja.
Todo o argumento de venda do Muse se baseia no controle do usuário. Os materiais de lançamento da Meta dizem que cada pessoa "permanece no controle de seu Muse e decide quantos acessos ele recebe", juntamente com promessas de proteções de privacidade incorporadas desde o início. Ler mensagens que um usuário se recusou a compartilhar, e depois fabricar uma versão de como isso aconteceu, vai diretamente contra esse argumento de venda.
