Des chercheurs de l'ETH Zurich, de l'organisation de recherche sur la sécurité de l'IA MATS et d'Anthropic ont développé un pipeline automatisé de LLM capable de relier des publications anonymes à des identités réelles. Le pipeline a identifié les identités réelles de centaines d'utilisateurs de Hacker News pour un coût aussi faible que 1 $ par personne et avec une précision de 90 %.
Cet article, publié en février, est redevenu viral cette semaine sur X et Reddit.
L'article est intitulé « Large-scale online deanonymization with LLMs » et a été publié pour la première fois sur arXiv le 18 février, puis inclus dans les actes du 35e Symposium USENIX sur la sécurité.
Les auteurs sont Simon Lermen, Daniel Paleka, Joshua Swanson, Michael Aerni, Nicholas Carlini et Florian Tramèr. Carlini travaille chez Anthropic, le développeur de Claude, et les autres auteurs sont affiliés respectivement à l'ETH Zurich et à MATS.
Quatre étapes : réduire 89 000 candidats à une liste restreinte
L'ensemble du processus n'implique aucun vol de données ni intrusion dans un serveur. L'agent lit du contenu public que tout le monde peut déjà voir, puis travaille comme un enquêteur extrêmement patient—mais moins cher et plus rapide.
Les chercheurs ont décomposé l'attaque en quatre étapes, nommées Extract, Search, Reason et Calibrate. D'abord, le modèle de langage extrait des indices d'identité à partir des publications brutes, tels que des traces d'une profession, d'un lieu ou d'une habitude de formulation distinctive.
Ensuite, des plongements sémantiques réduisent un large vivier allant jusqu'à 89 000 candidats à une liste restreinte. Le modèle de raisonnement note les meilleures correspondances et détermine si deux comptes appartiennent à la même personne.
L'étape Calibrate permet à l'ensemble du pipeline de choisir de s'abstenir en cas d'incertitude, réduisant ainsi les faux positifs.
Le pipeline fonctionne avec des outils standards : recherche web, modèles de plongement et grands modèles tels que GPT-5.2. Les attaques de désanonymisation précédentes, comme la réidentification en 2008 des données de notation anonymes de Netflix, reposaient sur des données structurées.
Identifier 226 des 338 utilisateurs de Hacker News avec une précision de 90 %
Pour évaluer la méthode sans mettre en danger de vraies personnes, l'équipe a sélectionné 338 utilisateurs de Hacker News dont les profils pointaient vers des pages LinkedIn, chacune avec une identité réelle connue comme réponse.
À partir uniquement des commentaires et du contenu des publications, l'agent a correctement identifié 226 personnes, soit un taux de réussite d'environ 67 % avec une précision de 90 %. Il a fait 25 identifications incorrectes et a choisi de s'abstenir sur 86 comptes.
Dans les tests de correspondance à plus grande échelle de l'article, les méthodes de référence traditionnelles non-LLM avaient une précision proche de zéro. Le coût total de toutes les expériences était inférieur à 2 000 $, ce qui équivaut à seulement 1 à 4 $ par profil.
Deux autres ensembles de données ont été utilisés pour la validation : l'un faisant correspondre des utilisateurs de Reddit à travers deux communautés de films différentes, et l'autre divisant l'historique d'un seul utilisateur de Reddit en deux périodes puis tentant de le recoller. Dans chaque test, la méthode LLM a largement surpassé les techniques plus anciennes.
Les auteurs énumèrent des scénarios de risque pour ce type de capacité : des gouvernements ciblant des journalistes ou des militants ; des entreprises construisant des profils publicitaires de plus en plus précis ; des escrocs fabriquant des profils personnels pour des scripts d'ingénierie sociale.
« La combinaison de ces informations constitue souvent une empreinte unique », a écrit Lermen dans un billet de blog le 24 février. Il a ajouté que si une équipe d'enquêteurs astucieux pouvait identifier quelqu'un à partir de ses seules publications, alors les agents LLM peuvent probablement le faire aussi, et le coût ne cessera de baisser.
Les chercheurs n'ont pas publié le code, les invites, ni divulgué aucune des identités réelles que le système a découvertes. L'étude a été examinée par le comité d'éthique de l'ETH Zurich avant sa publication.
L'article conclut : « L'“obscurité pratique” qui protège les utilisateurs anonymes en ligne n'existe plus. »
Un jour avant que l'article ne relance la discussion, la commissaire de la SEC, Hester Peirce, venait de mettre en garde contre la collecte à grande échelle de données KYC. Peirce a déclaré que cette pratique équivaut à « construire des meules de foin de données toujours plus grandes ».
Les récentes violations de données chez Revolut et chez un fournisseur lié au fabricant de portefeuilles matériels Trezor ont intensifié les inquiétudes concernant les « attaques à la clé » — dans lesquelles quelqu'un découvre qui détient de la cryptomonnaie et se présente ensuite en personne pour proférer des menaces physiques.
