En resumen
- Anthropic, OpenAI, DeepSeek y Moonshot están todos listos para abordar los riesgos de la IA ante el Consejo de Seguridad de la ONU el miércoles.
- La sesión informativa sigue al llamado del CEO de Anthropic, Dario Amodei, a frenar el desarrollo de la IA mientras insta a continuar con las restricciones de exportación de chips de EE. UU. a China.
- La reunión se produce dos días antes de la cumbre del presidente Trump con Xi Jinping el 24 de septiembre.
El Consejo de Seguridad de la ONU pasará la tarde del miércoles escuchando a las personas que construyen la tecnología que más le preocupa.
El CEO de OpenAI, Sam Altman, el CEO de Anthropic, Dario Amodei, el investigador de seguridad de IA Yoshua Bengio y el CEO de Hugging Face, Clément Delangue están todos programados para informar al consejo de 15 miembros—el órgano de la ONU con poder para autorizar sanciones y acción militar—sobre los riesgos que plantea la inteligencia artificial.
DeepSeek también está invitada. A la startup china que borró aproximadamente $600 mil millones del valor de mercado de Nvidia cuando lanzó un modelo de bajo costo en enero de 2025 se le ha pedido hacer una declaración, junto con otra empresa china, Moonshot, desarrolladores de los modelos Kimi..
Francia organizó la sesión del miércoles y ostenta la presidencia rotatoria del consejo este mes. El ministro de Asuntos Exteriores, Jean-Noël Barrot, la presidirá, y la nota conceptual detrás de la reunión, según se informa, se centra en los sistemas de IA que se escapan del control humano.
Se espera que la misma sesión informativa aborde la IA que podría eventualmente ejecutar ciberataques, influir en elecciones o diseñar armas sin una persona en el circuito, razón por la cual un consejo creado para guerras y sanciones escucha esta semana a directores ejecutivos de tecnología en lugar de a generales.
Amodei se unirá de forma remota en lugar de presentarse en persona. El 12 de septiembre publicó un ensayo titulado "Debemos marcar el ritmo de la frontera", en el que argumentaba que la industria debería ralentizar deliberadamente la velocidad con la que construye modelos fronterizos más capaces: los sistemas de IA más grandes y avanzados que cualquier laboratorio haya lanzado. Dijo que Anthropic daría a evaluadores externos acceso permanente, a nivel de personal, para verificar sus promesas de seguridad. Sam Altman y Elon Musk dijeron que estaban de acuerdo en cuestión de horas.
Amodei calificó a China como "el país autocrático con, con diferencia, las capacidades de IA más avanzadas" y argumentó que Estados Unidos debería seguir restringiendo las exportaciones de chips avanzados a Pekín, incluso mientras pide a Pekín que coopere en normas de seguridad globales. El Ministerio de Asuntos Exteriores de China calificó el ensayo de contraproducente, y los medios estatales lo tildaron de "manual de la Guerra Fría" destinado a contener a China.
El presidente Donald Trump, mientras tanto, no quiere saber nada del impulso de ralentización. Después de que se publicara el ensayo de Amodei, el presidente calificó las advertencias sobre la toma de control por la IA de "engaño" vinculado a la "Izquierda Radical" y acusó directamente a Amodei de irregularidades sin ofrecer pruebas.
Días después, el rey Carlos recibió a ejecutivos de Anthropic, OpenAI, Nvidia y Google DeepMind en su finca escocesa para una cumbre sobre seguridad de la IA que produjo conversación pero ningún acuerdo públicamente conocido.
Es probable que la sesión del miércoles tampoco produzca un acuerdo vinculante. Llega dos días antes de que Trump se reúna con el presidente chino Xi Jinping en Washington el 24 de septiembre, una cumbre en la que, según se informa, la seguridad de la IA está en la agenda junto con el comercio.
