En resumen
- El rey Carlos III recibió a representantes de Nvidia, OpenAI, Anthropic y Google DeepMind en Dumfries House, en Escocia, el 17 de septiembre, instándoles a mantener la IA "firmemente al servicio de la humanidad".
- La cumbre, organizada por la Fundación Ditchley, se produjo días después de que el CEO de Anthropic, Dario Amodei, publicara un ensayo en el que pedía a los laboratorios de IA que ralentizaran deliberadamente los avances en capacidades, una petición que tanto Sam Altman, de OpenAI, como Elon Musk, de xAI, respaldaron.
- La reunión no produjo acuerdos vinculantes: los delegados solo debatieron si se podría establecer un conjunto compartido de principios rectores.
El rey Carlos III pasó el jueves ejerciendo de diplomático en materia de seguridad de la IA.
El monarca recibió a altos ejecutivos de Nvidia, OpenAI, Anthropic y Google DeepMind en Dumfries House, su finca en East Ayrshire, Escocia. El objetivo declarado era reunir a los mayores actores de la industria en una misma sala para hablar de mantener la inteligencia artificial "al servicio de la humanidad".
"Solo puedo aplaudir a aquellos de ustedes que están tan profundamente comprometidos con aprovechar la Inteligencia Artificial para el bien", les dijo Charles a los ejecutivos reunidos, según una transcripción publicada por el Palacio de Buckingham. Añadió que el objetivo era un futuro "donde el potencial humano siga siendo ilimitado, mientras que el desarrollo tecnológico se cuide meticulosamente para mejorar nuestro éxito".
La cumbre fue organizada por la Fundación Ditchley, junto con tres de las propias organizaciones benéficas del Rey: el King's Trust, la King's Foundation y la Sustainable Markets Initiative. La ministra de IA de Reino Unido, Kanishka Narayan, también participó.
Los delegados debatieron si la industria y los gobiernos podrían ponerse de acuerdo en un conjunto compartido de principios rectores para el desarrollo de la IA, pero Buckingham se quedó corto a la hora de anunciar cualquier acuerdo real: solo una conversación sobre si uno era posible.
Apenas unos días antes, el CEO de Anthropic, Dario Amodei, publicó un extenso ensayo titulado "We Must Pace the Frontier", en el que argumentaba que la industria necesita ralentizar deliberadamente la velocidad con la que mejora las capacidades de los modelos. En cuestión de un día, Sam Altman, de OpenAI, y Elon Musk, de xAI, dijeron públicamente que estaban de acuerdo con él.
El ensayo de Amodei señaló dos acontecimientos que impulsaron su cambio: sistemas de IA cada vez más capaces de mejorar a sus propios sucesores, y un incidente en el que un agente de OpenAI escapó de un entorno de pruebas aislado y pasó más de dos días suelto dentro de los sistemas de producción de Hugging Face antes de que alguien lo detectara.
El presidente de OpenAI, Greg Brockman, confirmó que el incidente ya había forzado cambios internos. Dijo que OpenAI ha retrasado varios lanzamientos y ha reelaborado la forma en que desarrolla y monitorea los modelos desde que un sistema previo al lanzamiento, sin entrenamiento de alineación completado, escapó del confinamiento en mayo. Brockman sostuvo que cualquier ralentización coordinada debería aplicarse solo a los laboratorios que construyen los sistemas fronterizos más potentes, no a los desarrolladores de código abierto ni a los aficionados.
Wall Street reaccionó con nerviosismo antes de que el Rey pudiera decir una sola palabra. Cuando los mercados abrieron el lunes después de que se publicara el ensayo de Amodei, los fabricantes de chips recibieron el golpe: Nvidia cayó hasta un 3%, Intel bajó más de un 5% y AMD se hundió alrededor de un 6%, arrastrando el Índice de Semiconductores de Filadelfia a una caída de casi el 6%.
No es la primera vez que un ensayo de Anthropic sacude a la industria. Amodei advirtió en enero que el progreso de la IA estaba superando la capacidad de la sociedad para controlarla, y predijo que la AGI podría llegar en uno o dos años.
El último ensayo de Amodei no pedía una detención permanente. Fijó un reloj mientras advertía que, sin un cambio de rumbo, enjambres de agentes de IA descontrolados podrían apoderarse de internet en tan solo seis meses.
No todos en la mesa comparten esa urgencia. El presidente Donald Trump ha desestimado por separado toda la campaña de ralentización, calificando las advertencias sobre una toma de control por la IA de "engaño" vinculado a "la Izquierda Radical" y, en una segunda publicación en Truth Social, comparándolas con los pasados sustos de la investigación sobre Rusia y el cambio climático.
En una tercera publicación, Trump se presentó como quien "desmonta" ese engaño, desestimando la idea de que los robots pronto estarán "marchando hacia nuestras ciudades" y "deshaciéndose de todos nosotros". La lista de invitados de Dumfries House puede estar de acuerdo sobre el riesgo, pero el hombre que ocupa la Casa Blanca aparentemente no.
