Em resumo
- Anthropic, OpenAI, DeepSeek e Moonshot estão todos prontos para discursar perante o Conselho de Segurança da ONU sobre os riscos da IA nesta quarta-feira.
- O briefing segue o apelo do CEO da Anthropic, Dario Amodei, para desacelerar o desenvolvimento da IA, ao mesmo tempo em que insta a manutenção das restrições dos EUA à exportação de chips para a China.
- A reunião ocorre dois dias antes da cúpula do presidente Trump com Xi Jinping em 24 de setembro.
O Conselho de Segurança da ONU passará a tarde de quarta-feira ouvindo as pessoas que constroem a tecnologia que mais o preocupa.
O CEO da OpenAI, Sam Altman, o CEO da Anthropic, Dario Amodei, o pesquisador de segurança de IA Yoshua Bengio e o CEO da Hugging Face, Clément Delangue estão todos agendados para informar o conselho de 15 membros — o órgão da ONU com poder de autorizar sanções e ações militares — sobre os riscos apresentados pela inteligência artificial.
A DeepSeek também foi convidada. A startup chinesa que eliminou cerca de US$ 600 bilhões do valor de mercado da Nvidia quando lançou um modelo de preço reduzido em janeiro de 2025 foi convidada a fazer uma declaração, ao lado de outra empresa chinesa, a Moonshot, desenvolvedora dos modelos Kimi..
A França organizou a sessão de quarta-feira e detém a presidência rotativa do conselho este mês. O ministro das Relações Exteriores, Jean-Noël Barrot, irá presidi-la, e a nota conceitual por trás da reunião, segundo relatos, centra-se em sistemas de IA saindo do controle humano.
Espera-se que o mesmo briefing aborde a IA que poderia eventualmente executar ciberataques, influenciar eleições ou projetar armas sem uma pessoa no circuito, razão pela qual um conselho criado para guerras e sanções está ouvindo CEOs de tecnologia em vez de generais esta semana.
Amodei participará remotamente em vez de comparecer pessoalmente. Em 12 de setembro, ele publicou um ensaio chamado "We Must Pace the Frontier", argumentando que a indústria deveria deliberadamente desacelerar a velocidade com que constrói modelos de fronteira mais capazes — os maiores e mais avançados sistemas de IA que qualquer laboratório já lançou. Ele disse que a Anthropic daria a avaliadores externos acesso permanente, em nível de funcionário, para verificar suas promessas de segurança. Sam Altman e Elon Musk disseram que concordaram em questão de horas.
Amodei chamou a China de "o país autocrático com, de longe, as capacidades de IA mais avançadas" e argumentou que os EUA deveriam continuar restringindo as exportações de chips avançados para Pequim, mesmo enquanto pedem a Pequim que coopere em regras globais de segurança. O Ministério das Relações Exteriores da China chamou o ensaio de contraproducente, e a mídia estatal o rotulou de "manual da Guerra Fria" destinado a conter a China.
O presidente Donald Trump, enquanto isso, não quer nenhuma parte do esforço de desaceleração. Depois que o ensaio de Amodei foi publicado, o presidente chamou os avisos de tomada de controle pela IA de "farsa" ligada à "Esquerda Radical" e acusou Amodei diretamente de irregularidades sem oferecer evidências.
Dias depois, o rei Charles recebeu executivos da Anthropic, OpenAI, Nvidia e Google DeepMind em sua propriedade escocesa para uma cúpula de segurança de IA que produziu conversa, mas nenhum acordo publicamente conhecido.
A sessão de quarta-feira provavelmente também não produzirá um acordo vinculativo. Ela acontece dois dias antes de Trump se reunir com o presidente chinês Xi Jinping em Washington, em 24 de setembro, uma cúpula onde a segurança da IA está, segundo relatos, na agenda junto com o comércio.
