Empleados de Microsoft se preguntaron si el scraping de IA era 'el mayor robo de trabajo de la historia'

Los empleados de Microsoft discutieron si el uso de artículos de noticias por parte de OpenAI equivalía a "el mayor robo de trabajo en la historia de la humanidad", y podría desencadenar un "bucle de perdición" que degradara los modelos que estaban construyendo, según documentos judiciales desellados el jueves yreportados por el New York Times.

Las presentaciones provienen de la demanda que el Timesinterpuso contra ambas compañías a finales de 2023, a la que desde entonces se han unido otros once editores. OpenAI haimpugnado las afirmaciones en todo momento, y el caso ya la ha obligado apreservar 20 millones de registros de conversaciones de ChatGPT. El juez Sidney Stein del Distrito Sur de Nueva York está evaluando mociones de juicio sumario, y los documentos se están desellando mientras lo hace.

"Millones de personas en todo el mundo pronto considerarán que los grandes modelos 'aspiran' todo su trabajo como un asombroso robo de proporciones sin precedentes", decía un documento interno de Microsoft de 2023. Los grandes modelos de IA "son un producto que destruye su cadena de suministro", escribió el mismo autor.

Microsoft dice que esos memorandos fueron escritos por Brent Hecht, un director de ciencia aplicada que también ocupaba un puesto en la Universidad Northwestern, y no representan las opiniones de la compañía. No era un tomador de decisiones y fue empleado para "presentar perspectivas divergentes y asimétricas", dijo en una presentación.

“Dejando un desastre en la alfombra”

Satya Nadella, director ejecutivo de Microsoft, testificó que "cualquier cosa que esté detrás de un muro de pago debería ser licenciada por cualquiera que quiera usarla", y dijo que si hubiera sabido que OpenAI estaba entrenando con contenido de pago, habría ejercido el derecho de Microsoft a hacer que reentrenara sus modelos. Un portavoz dijo que "habló de principios amplios" con respecto a cómo las personas encuentran y consumen información.

En OpenAI, un empleado le contó al presidente Greg Brockman sobre la construcción de un "hack" para eludir el muro de pago del NYT. Brockman respondió: "ah, genial".

Nick Turley, quien dirigió el equipo de ChatGPT, escribió en junio de 2023 que la IA representaba una "amenaza existencial" para los editores, y en febrero de 2024 que los productos de IA "se volverán cada vez más sustitutivos a medida que mejoren". En otro lugar escribió que los "productos de IA son en gran medida sustitutivos, punto".

Un ingeniero de OpenAI escribió en febrero de 2023 que "sin importar cuán prominentemente mostremos los enlaces, los usuarios no harán clic", un hallazgo que contradice el argumento de que los chatbots devuelven tráfico a los editores.

En un memorando de 2020 dirigido a Brockman y Sam Altman, el entonces director de políticas Jack Clark advirtió que la compañía estaba "creando sistemas que sustituyen la labor de las personas que definen la 'cultura' de la sociedad", y que "se convertiría en el símbolo de cómo Silicon Valley está entrando sin pensar en otras partes de la vida y dejando un desastre en la alfombra". Clark se marchó para cofundar Anthropic, que remitió una solicitud de comentarios del Times a OpenAI.

Tanto Microsoft como OpenAI sostienen que el entrenamiento fue uso legítimo, transformando artículos en una obra nueva en lugar de sustituir los originales. "El mundo puede ver lo que OpenAI y Microsoft pensaron todo el tiempo sobre la equidad de su propio comportamiento", dijo Steven Lieberman, quien representa al New York Daily News y a otros siete periódicos.

The Times, un demandante en el caso, se negó a comentar a sus propios reporteros, quienes dijeron que OpenAI no respondió a las solicitudes de comentarios.