En resumen
- Andrew Yang dijo que los temores sobre la seguridad de la IA son "reales" e instó al Congreso a regular los modelos de frontera.
- Pidió normas de responsabilidad, períodos de espera para el despliegue y un interruptor de apagado para los sistemas de IA potentes.
- Yang dijo que el tema es bipartidista, citando la preocupación pública sobre los agentes de IA, el riesgo cibernético y la pérdida de empleos.
Andrew Yang está pidiendo una represión federal contra los laboratorios de IA de frontera, diciendo que los investigadores advierten que los modelos potentes están avanzando más rápido que las reglas destinadas a contenerlos.
Yang, ex candidato presidencial demócrata y fundador de Noble Mobile, dijo que Estados Unidos puede competir con China en inteligencia artificial sin dar a las empresas de IA carta blanca para desplegar sistemas cada vez más capaces.
“El miedo es real. La preocupación es real. La necesidad es real”, dijo Yang a CNBC el miércoles. “El pueblo estadounidense quiere ver regulada esta industria”.
La entrevista se produce mientras las empresas de IA enfrentan un escrutinio más cercano sobre los agentes autónomos, software que puede planificar y llevar a cabo tareas con una dirección humana limitada.
Yang dijo que algunos investigadores de IA están pidiendo a los legisladores que intervengan antes de que la presión del mercado impulse la tecnología más allá de lo que ellos creen que es seguro.
"Están levantando la mano y diciendo: por favor, dennos una barandilla de protección, porque no quiero trabajar en algo que creo que podría causar un daño irreversible", dijo.
En los últimos meses, OpenAI y Anthropic han revelado incidentes en los que los modelos cruzaron los límites de las pruebas o vulneraron los sistemas de otras empresas, lo que llevó a los legisladores a proponer una Ley de Interruptor de Emergencia de IA que permitiría a los funcionarios federales ordenar que ciertos sistemas de frontera sean limitados o apagados.
También instó al Congreso a exigir responsabilidad por los daños causados por la IA, períodos de espera antes del despliegue y un interruptor de emergencia para los modelos poderosos.
"Necesitamos regular a estas empresas y sus ofertas", dijo Yang. "Necesitamos un interruptor de emergencia. Necesitamos responsabilidad real".
Cuando se le preguntó sobre la afirmación de David Sacks de que las advertencias sobre la seguridad de la IA equivalen a una "operación psicológica" destinada a ayudar a empresas como Anthropic a asegurar una captura regulatoria, Yang dijo que cree que están ocurriendo "múltiples cosas" a la vez, incluida una advertencia de un "jefe de laboratorio" anónimo de que los bots de IA podrían haber plantado código autorreplicante en todo el internet, haciéndolo inutilizable para probar modelos.
"Así que lo que sucede ahora es que OpenAI y Anthropic tienen que crear internets sintéticas para entrenar a sus bots, lo que va a llevar algo de tiempo y dinero", dijo Yang.
Aunque Yang no dijo qué desarrollador de IA dio la grave advertencia, esta se hace eco del sentimiento de otros, incluido el CEO de SpaceX, Elon Musk, quien dijo en enero de 2025 que "ahora hemos agotado básicamente la suma acumulada del conocimiento humano... en el entrenamiento de IA".
A medida que crece la preocupación por el desarrollo de la IA sin regulación, Yang dijo que la falta de supervisión es evidente en comparación incluso con los negocios más ordinarios.
"Si yo abriera un puesto de perritos calientes aquí en las calles de Nueva York, tendría que cumplir con cientos de regulaciones, y los modelos no tienen ninguna", dijo.
Yang dijo que miembros del Congreso de ambos partidos le han preguntado cómo debería regularse la IA, y añadió que la ansiedad de los votantes sobre la tecnología no se limita a los demócratas o los republicanos.
"Esto es bipartidista. Si estás en una zona rural o en un distrito rojo, tus electores también están aterrorizados por la IA", dijo Yang. "Vieron las películas de Terminator. Esto va mucho más allá de lo rojo o lo azul, de lo habitual".
