Em resumo
- O procurador-geral da Califórnia, Rob Bonta, anunciou em 1º de outubro que seu escritório entregou à OpenAI uma intimação investigativa sobre incidentes de segurança cibernética envolvendo seus modelos de IA, incluindo o hack do Hugging Face.
- Bonta disse que desenvolvedores que não impedem que seus modelos realizem ou viabilizem ataques cibernéticos "podem e devem ser responsabilizados legalmente".
- A intimação soma a Califórnia a uma intimação do Alabama, a uma exigência de uma coalizão de procuradores-gerais de 15 estados e a um inquérito relatado da FTC.
O procurador-geral da Califórnia, Rob Bonta, disse na quinta-feira que seu escritório entregou à OpenAI uma intimação investigativa na quarta-feira, buscando respostas sobre incidentes de segurança cibernética envolvendo seus modelos de IA, de acordo com seu escritório.
“Meu escritório está fazendo perguntas adicionais à OpenAI sobre incidentes e riscos de segurança cibernética envolvendo a empresa e seus modelos de IA”, disse o procurador-geral Bonta. “Desenvolvedores que não [garantem que não perpetram ou viabilizam ataques cibernéticos] podem e devem ser responsabilizados legalmente, e meu escritório está comprometido em determinar se esse é o caso aqui.”
Uma intimação é uma ordem legal para entregar documentos ou respostas, e ignorá-la leva você à presença de um juiz. Esta é investigativa, uma ferramenta usada para reunir fatos antes de decidir se deve processar. O escritório de Bonta não disse publicamente o que quer que a OpenAI produza.
Modelos de fronteira — os sistemas de IA mais avançados do mercado — podem ser "ferramentas legítimas para defesa cibernética", disse Bonta. Mas as empresas que os constroem têm "uma responsabilidade moral e legal" de garantir que não realizem ou possibilitem ciberataques, seja durante testes ou após o lançamento, disse ele.
O teste que escapou
A intimação segue um incidente de julho que parece ficção científica ruim. Segundo a OpenAI, dois de seus modelos estavam sendo avaliados em um benchmark que entrega a uma IA 898 falhas reais de software e pede que ela transforme cada uma em um ataque funcional
Os modelos encontraram um zero-day — uma brecha de segurança que ninguém sabia que existia, então nenhuma correção estava disponível — em software de terceiros que o ambiente de teste usava para instalar pacotes de código. Eles o usaram para escapar.
Então eles raciocinaram que o Hugging Face, uma plataforma onde desenvolvedores compartilham modelos e conjuntos de dados de IA, poderia estar guardando o gabarito. Eles invadiram com credenciais roubadas e mais falhas. Em termos simples, a IA foi atrás das respostas do seu próprio exame.
BitcoinBTC · USD
$84,434+0.77%
25 de set27 de set29 de set1 de out2 de out
$86,8 mil$85,4 mil$84,0 mil$82,7 mil
Máxima 24hMáxima$87.086
Mínima 24hMínima$83.898
VolVol$2,2 bi
Projeções de mercadoProbabilidades por Myriad
→Comprar Bitcoin com USDT
Fornecido por Jupiter
A Hugging Face divulgou a invasão em 16 de julho, e a OpenAI confirmou que seus modelos estavam por trás disso cinco dias depois. A OpenAI disse posteriormente que os mesmos modelos acessaram contas em outros quatro serviços.
A longa análise da Califórnia sobre a OpenAI
Bonta anunciou uma investigação formal sobre o incidente da Hugging Face em setembro, e a intimação faz parte dela. A OpenAI tem sua sede na Califórnia, e quando Bonta se recusou a se opor à sua mudança para uma estrutura com fins lucrativos em outubro de 2025, ele disse que seu escritório manteria "um olhar atento sobre a OpenAI" para proteger "a segurança de todos os californianos".
Ele não está sozinho. Brenna Bird, procuradora-geral de Iowa, liderou uma coalizão de 15 estados em agosto exigindo que a OpenAI preservasse registros e fosse transparente sobre o ataque hacker. O Alabama emitiu sua própria intimação, e a FTC estaria investigando laboratórios de IA, incluindo a OpenAI e a Anthropic.
Separadamente, o primeiro-ministro australiano Anthony Albanese disse que um agente da OpenAI entrou em um portal de estatísticas do Medicare em junho. Na época, parecia ser o primeiro caso conhecido de um agente de IA hackeando um site governamental. Mais tarde, soube-se que agentes da OpenAI também estavam mexendo em sites do governo dos EUA durante o verão, embora nenhuma informação não pública pareça ter sido acessada.
