Em resumo
- Dois especialistas em segurança dos EUA e da China propuseram linhas vermelhas que proíbem a IA de atacar sistemas nucleares de forma independente.
- Os autores também pediram uma linha direta militar sobre IA e uma definição compartilhada de controle humano.
- A velocidade da IA e seu comportamento incerto podem deixar os líderes com pouco tempo para impedir um conflito em escalada.
Especialistas em segurança dos Estados Unidos e da China propuseram regras que proibiriam a inteligência artificial de lançar ciberataques de forma independente contra sistemas de comando nuclear ou de decidir usar armas nucleares.
Um relatório recente do Brookings e da Universidade Fudan, sediada em Xangai, insta os EUA e a China a estenderem seu compromisso com o controle humano das armas nucleares a outros usos militares da IA, incluindo ciberataques a sistemas de comando nuclear.
“Os presidentes Donald Trump e Xi Jinping podem liderar na governança desses perigos ao concordarem que apenas humanos, e não a IA, devem tomar a decisão de iniciar um ciberataque contra os sistemas de comando, controle e comunicações nucleares (NC3) ou infraestrutura crítica um do outro”, escreveram os pesquisadores.
Os sistemas NC3 ajudam os governos a detectar ameaças, decidir se devem usar armas nucleares e transmitir ordens de lançamento, mas falhas em qualquer etapa podem interromper as comunicações, interpretar mal um ataque, incentivar um primeiro ataque ou desencadear um lançamento acidental ou não autorizado.
“Estender o princípio aplicado às armas nucleares — de que ataques com efeitos estratégicos devem expressar a intenção humana e estar sujeitos à responsabilidade humana — não exige que Washington e Pequim compartilhem outros princípios de segurança cibernética ou proteção de infraestrutura”, escreveram os pesquisadores.
O acordo proposto exigiria que ambos os países reduzissem o risco de que acaso, erro humano, IA imprevisível ou atores não autorizados pudessem desencadear ataques com consequências estratégicas.
O apelo por salvaguardas no estilo nuclear faz parte de um debate crescente sobre como desacelerar o desenvolvimento da IA e manter sistemas cada vez mais capazes sob controle humano. A preocupação é especialmente aguda no meio militar, onde decisões automatizadas tomadas em milissegundos poderiam transformar um falso alerta ou ataque cibernético em uma crise nuclear.
Essa preocupação foi ressaltada em fevereiro, quando modelos da OpenAI, Google e Anthropic usaram armas nucleares em 95% dos cenários de jogos de guerra testados, embora especialistas tenham alertado que a simulação pode ter incentivado a escalada.
BitcoinBTC · USD
$76,418−0.94%
10 de set12 de set14 de set16 de set17 de set
$79,2 mil$78,0 mil$76,7 mil$75,5 mil
Máxima de 24hMáxima$77.024
Mínima de 24hMínima$75.602
VolVol$872,8M
Projeções de mercadoProbabilidades por Myriad
Dados de preço por CoinGeckoCoinGeckoMais notícias e projeções de Bitcoin →
Naquele mesmo mês, a Anthropic recusou as exigências do Pentágono de remover as restrições do Claude sobre vigilância em massa e armas totalmente autônomas. Trump ordenou que agências federais parassem de usar a tecnologia da empresa, mas um juiz federal decidiu em 28 de agosto que a administração retaliou ilegalmente contra a Anthropic.
Desde então, os apelos à contenção se espalharam por todo o setor. No início deste mês, o CEO da Anthropic, Dario Amodei, instou os desenvolvedores a desacelerar os ganhos de capacidade, conquistando o apoio do CEO da OpenAI, Sam Altman, e do proprietário da xAI, Elon Musk, enquanto a OpenAI perguntou ao Congresso se as empresas poderiam coordenar uma desaceleração sem violar a lei antitruste.
Sem uma desaceleração vinculativa em vigor, os autores do Brookings propõem uma regra mais restrita: apenas humanos deveriam ter permissão para autorizar ataques a sistemas de comando nuclear ou o uso de armas nucleares.
“A governança da IA militar não é uma negociação que pode se dar ao luxo de esperar — é uma corrida contra o tempo”, escreveram eles.
