Des employés de Microsoft se demandent si l'exploitation des données par l'IA constitue « le plus grand vol de travail de l'histoire de l'humanité »

Des employés de Microsoft ont discuté de la question de savoir si l'utilisation par OpenAI d'articles de presse équivalait au « plus grand vol de travail de l'histoire de l'humanité », et pourrait déclencher une « boucle de malheur » qui dégraderait les modèles qu'ils construisaient, selon des documents judiciaires déclassifiés jeudi etrapportés par le New York Times.

Les documents proviennent de la poursuite que le Timesa intentée contre les deux entreprises fin 2023, à laquelle se sont depuis jointes onze autres éditeurs. OpenAI acontesté ces allégations tout au long de la procédure, et l'affaire l'a déjà contraint àconserver 20 millions de journaux de conversation ChatGPT. Le juge Sidney Stein, du district sud de New York, examine les requêtes en jugement sommaire, et les documents sont déclassifiés au fur et à mesure.

« Des millions de personnes dans le monde considéreront bientôt que les grands modèles qui « aspirent » tout leur travail constituent un vol stupéfiant d'une ampleur sans précédent », indiquait un document interne de Microsoft de 2023. Les grands modèles d'IA « sont un produit qui détruit sa chaîne d'approvisionnement », écrivait le même auteur.

Microsoft affirme que ces notes ont été rédigées par Brent Hecht, un directeur des sciences appliquées qui occupait également un poste à l'université Northwestern, et ne représentent pas les opinions de l'entreprise. Il n'était pas un décideur et était employé pour « présenter des perspectives divergentes et asymétriques », a-t-elle déclaré dans un document judiciaire.

« Laisser un désordre sur le tapis »

Satya Nadella, le directeur général de Microsoft, a témoigné que « tout ce qui est payant devrait être licencié par quiconque souhaite l'utiliser », et a déclaré que s'il avait su qu'OpenAI s'entraînait sur du contenu payant, il aurait exercé le droit de Microsoft de lui faire réentraîner ses modèles. Un porte-parole a déclaré qu'il « parlait de principes généraux » concernant la façon dont les gens trouvent et consomment l'information.

Chez OpenAI, un employé a parlé au président Greg Brockman de la création d'un « hack » pour contourner le paywall du NYT. Brockman a répondu : « ah sympa. »

Nick Turley, qui dirigeait l'équipe ChatGPT, a écrit en juin 2023 que l'IA représentait une « menace existentielle » pour les éditeurs, et en février 2024 que les produits d'IA « deviendront de plus en plus substitutifs à mesure qu'ils s'améliorent ». Ailleurs, il a écrit que les « produits [d'IA] sont largement substitutifs, point final ».

Un ingénieur d'OpenAI a écrit en février 2023 que « peu importe avec quelle visibilité nous affichons les liens, les utilisateurs ne cliqueront pas », une conclusion qui va à l'encontre de l'argument selon lequel les chatbots renvoient du trafic aux éditeurs.

Dans une note de 2020 adressée à Brockman et Sam Altman, le alors directeur des politiques Jack Clark a averti que l'entreprise « créait des systèmes qui se substituent au travail des personnes qui définissent la “culture” de la société », et qu'elle « deviendrait le symbole de la manière dont la Silicon Valley s'immisce sans réfléchir dans d'autres parties de la vie et laisse un désordre sur le tapis ». Clark est parti pour cofonder Anthropic, qui a renvoyé à OpenAI une demande de commentaire du Times.

Microsoft et OpenAI soutiennent tous deux que l'entraînement relevait de l'usage équitable, transformant les articles en une nouvelle œuvre plutôt que de se substituer aux originaux. « Le monde peut voir ce qu'OpenAI et Microsoft ont toujours pensé de l'équité de leur propre comportement », a déclaré Steven Lieberman, qui représente le New York Daily News et sept autres journaux.

Le Times, un plaignant dans cette affaire, a refusé de commenter auprès de ses propres journalistes, qui ont indiqué qu'OpenAI n'avait pas répondu aux demandes de commentaire.