Em resumo
- Investigadores dizem que Carli Michelle Heller escreveu em 26 de setembro que iria "metralhar" o Departamento do Xerife do Condado de Lee, e disse no dia seguinte que tinha uma arma nova.
- De acordo com o relatório de prisão, os sistemas de segurança da Anthropic sinalizaram os registros e uma equipe de revisão humana os reportou às autoridades policiais.
- Os termos de consumo da Anthropic reservam o direito, a seu exclusivo critério, de reportar as entradas de um usuário às autoridades policiais.
Uma mulher da Flórida disse que usa a IA como um diário. Agora ela enfrenta uma acusação de crime grave, e o leitor que a levou até lá foi alguém a quem ela nunca pretendeu mostrar isso.
Carli Michelle Heller, de Bonita Springs, foi presa depois que investigadores descobriram que ela escreveu em 26 de setembro que iria "metralhar" o Departamento do Xerife do Condado de Lee, de acordo com a WINK News local. Segundo as investigações, sua conta Claude mostrava conversas dizendo que ela havia conseguido uma arma nova no dia seguinte.
O relatório de prisão diz que a plataforma da Anthropic monitora palavras-chave e conteúdo ameaçador. Devido à gravidade das declarações, elas foram encaminhadas a uma equipe de revisão humana, que as reportou às autoridades policiais.
Os deputados identificaram Heller, foram até a casa dela e a detiveram sem incidentes. Ela é acusada de fazer uma ameaça escrita de violência.
A papelada da Anthropic não esconde nada disso. Seus termos de consumo reservam o direito, a critério exclusivo da empresa, de reportar as entradas, saídas ou ações de um usuário às autoridades policiais. Sua política de privacidade, em vigor a partir de 10 de setembro de 2026, também permite o compartilhamento de dados com a polícia quando a empresa tem a crença de boa-fé de que a divulgação é razoavelmente necessária para prevenir danos graves.
Na prática, mesmo optar por não permitir o tratamento dos seus dados para treinamento de modelos dá à Anthropic o direito de usar seus dados por três meses em vez de cinco anos, então suas conversas nunca são privadas.
BitcoinBTC · USD
$85,804+3.11%
28 de set30 de set2 de out4 de out5 de out
$86,8 mil$85,5 mil$84,2 mil$83,0 mil
Máx. 24hMáx.$86.949
Mín. 24hMín.$85.010
VolVol$1,5 bi
Projeções de mercadoProbabilidades por Myriad
→Comprar Bitcoin com USDT
Desenvolvido por Jupiter
A mesma política afirma que conversas sinalizadas para revisão de segurança ainda são usadas para melhorar a capacidade da Anthropic de detectar conteúdo prejudicial. Uma entrada de diário sinalizada pode acabar como material de treinamento para os detectores.
Heller não é o primeiro. O San Francisco Standard noticiou em setembro que a Anthropic encaminhou um usuário à polícia depois que ele supostamente escreveu que havia comprado uma AR-15 e tinha o CEO Dario Amodei em sua mira. Um funcionário disse aos policiais que não estava imediatamente preocupado com a segurança e se recusou a mostrar as mensagens, citando a política da empresa.
O usuário disse ao Standard que estava brincando, e não havia sido preso ou acusado quando a matéria foi publicada. Um porta-voz da Anthropic chamou o episódio de “nosso processo de salvaguardas funcionando conforme o planejado”. A empresa se recusou a dizer se trata ameaças contra seus próprios funcionários de forma diferente.
Este não é apenas um problema da Anthropic. Após o tiroteio escolar em fevereiro em Tumbler Ridge, na Colúmbia Britânica, que matou oito pessoas, a OpenAI disse que havia ponderado alertar a polícia canadense em junho de 2025, mas concluiu que a conta não mostrava um risco iminente e credível de dano físico grave.
A própria postagem de política de agosto de 2025 da OpenAI encaminha ameaças contra outras pessoas para revisores humanos, que podem encaminhá-las às autoridades policiais.
Heller tem uma data de audiência marcada para novembro.
