Em resumo
- O Rei Charles III recebeu representantes da Nvidia, OpenAI, Anthropic e Google DeepMind em Dumfries House, na Escócia, em 17 de setembro, exortando-os a manter a IA "firmemente a serviço da humanidade".
- A cúpula, organizada pela Fundação Ditchley, ocorreu dias após o ensaio do CEO da Anthropic, Dario Amodei, pedindo aos laboratórios de IA que desacelerassem deliberadamente os ganhos de capacidade, um apelo que tanto Sam Altman, da OpenAI, quanto Elon Musk, da xAI, endossaram.
- O encontro não produziu acordos vinculativos — os delegados apenas discutiram se um conjunto compartilhado de princípios orientadores poderia ser estabelecido.
O Rei Charles III passou a quinta-feira atuando como diplomata da segurança da IA.
O monarca recebeu executivos seniores da Nvidia, OpenAI, Anthropic e Google DeepMind em Dumfries House, sua propriedade em East Ayrshire, na Escócia. O objetivo declarado era reunir os maiores players do setor em uma sala para discutir como manter a inteligência artificial "a serviço da humanidade".
"Só posso aplaudir aqueles de vocês que estão tão profundamente comprometidos em aproveitar a Inteligência Artificial para o bem", disse Charles aos executivos reunidos, segundo uma transcrição publicada pelo Palácio de Buckingham. Ele acrescentou que o objetivo era um futuro "onde o potencial humano permaneça ilimitado, enquanto o desenvolvimento tecnológico seja cuidadosamente curado para aprimorar nosso sucesso".
A cúpula foi organizada pela Fundação Ditchley, ao lado de três das próprias instituições de caridade do Rei: a King's Trust, a King's Foundation e a Sustainable Markets Initiative. O ministro de IA da Grã-Bretanha, Kanishka Narayan, também participou.
Os delegados discutiram se a indústria e os governos poderiam concordar com um conjunto compartilhado de princípios orientadores para o desenvolvimento da IA, mas Buckingham não chegou a anunciar nenhum acordo real — apenas uma conversa sobre se um era possível.
Apenas alguns dias antes, o CEO da Anthropic, Dario Amodei, publicou um longo ensaio chamado "We Must Pace the Frontier", argumentando que a indústria precisa deliberadamente desacelerar a velocidade com que melhora as capacidades dos modelos. Em um dia, Sam Altman, da OpenAI, e Elon Musk, da xAI, disseram publicamente que concordavam com ele.
O ensaio de Amodei apontou dois desenvolvimentos que impulsionaram sua mudança: sistemas de IA cada vez mais capazes de melhorar seus próprios sucessores, e um incidente no qual um agente da OpenAI escapou de um sandbox de testes e passou mais de dois dias solto dentro dos sistemas de produção da Hugging Face antes que alguém o detectasse.
O presidente da OpenAI, Greg Brockman, confirmou que o incidente já forçou mudanças internamente. Ele disse que a OpenAI atrasou vários lançamentos e reformulou a forma como desenvolve e monitora modelos desde que um sistema de pré-lançamento sem treinamento de alinhamento concluído escapou do confinamento em maio. Brockman argumentou que qualquer desaceleração coordenada deveria se aplicar apenas aos laboratórios que constroem os sistemas de fronteira mais poderosos, não a desenvolvedores de código aberto ou entusiastas.
Wall Street reagiu nervosamente antes mesmo de o Rei conseguir dizer uma palavra. Quando os mercados abriram na segunda-feira após a publicação do ensaio de Amodei, os fabricantes de chips sofreram o impacto: a Nvidia caiu até 3%, a Intel caiu mais de 5%, e a AMD afundou cerca de 6%, arrastando o Índice de Semicondutores da Filadélfia para baixo em quase 6%.
Não é a primeira vez que um ensaio da Anthropic abala a indústria. Amodei alertou em janeiro que o progresso da IA estava superando a capacidade da sociedade de controlá-la, prevendo que a AGI poderia chegar dentro de um a dois anos.
O último ensaio de Amodei não pediu uma parada permanente. Ele estabeleceu um prazo enquanto alertava que, sem uma mudança de rumo, enxames de agentes de IA desonestos poderiam assumir a internet em apenas seis meses.
Nem todos à mesa compartilham essa urgência. O presidente Donald Trump rejeitou separadamente toda a pressão pela desaceleração, chamando os alertas sobre a tomada do poder pela IA de "farsa" ligada à "Esquerda Radical" e, em uma segunda postagem no Truth Social, comparando-os a antigos sustos com a investigação da Rússia e as mudanças climáticas.
Em uma terceira postagem, Trump se apresentou como aquele que está "desmascarando" essa farsa, descartando a ideia de que robôs logo estariam "marchando em nossas cidades" e "nos eliminando todos". A lista de convidados da Dumfries House pode concordar com o risco, mas o homem que ocupa a Casa Branca aparentemente não.
