Les États-Unis et leurs alliés détruisent une ferme de robots russes qui diffuse de la propagande grâce à l’intelligence artificielle

Avec des détails étonnamment détaillés ConsultantDes agences aux États-Unis, aux Pays-Bas et au Canada ont pu identifier divers logiciels utilisés pour gérer le réseau, notamment un programme appelé Meliorator, qui créait des utilisateurs fictifs appelés « esprits » dans divers pays. Le FBI a gagné un procès. demander Cela lui a permis de saisir deux domaines Web que l’opération utilisait pour enregistrer les adresses e-mail derrière les comptes.

Le directeur du FBI, Christopher A. Ray a déclaré dans un communiqué : « Les actions d’aujourd’hui représentent la première perturbation de la ferme de robots sociaux d’IA parrainée par la Russie. » déclaration« La Russie avait l’intention d’utiliser cette ferme de robots pour diffuser la désinformation étrangère générée par l’IA et d’étendre la portée de l’IA pour saper nos partenaires en Ukraine et influencer les récits géopolitiques du gouvernement pro-russe. »

Les comptes automatisés avec des biographies plus détaillées ont publié du contenu original, tandis qu’un groupe de comptes plus généraux a aimé et repartagé ces publications. Les responsables n’ont pas répondu aux questions sur le nombre d’utilisateurs réels qui ont vu les publications et si l’un d’entre eux a diffusé les messages plus largement, de sorte que l’on ne sait pas exactement quelle a été l’efficacité de la campagne.

Le système a pu échapper à l’une des techniques d’authentification des utilisateurs en copiant automatiquement les codes d’accès à usage unique envoyés aux adresses e-mail enregistrées. Les responsables ont déclaré que les références à Facebook et Instagram dans le code du logiciel suggéraient que l’opération était destinée à s’étendre à ces plateformes.

Les agences ont recommandé aux sociétés de médias sociaux d’améliorer leurs méthodes pour détecter les comportements automatisés cachés.

X s’est conformé au tribunal demander La société a fourni des informations sur les comptes au FBI, puis les a supprimés. La société n’a pas répondu aux questions du Washington Post.

Le ministère de la Justice a remercié la société X pour sa coopération au cours de l’enquête, signe d’une amélioration des communications entre le gouvernement et les principales sociétés de médias sociaux après que la Cour suprême a confirmé le droit des fonctionnaires de signaler des opérations d’influence étrangère.

Les pays ont fourni des informations très détaillées sur les opérations internes du botnet pour aider les enquêteurs et d’autres entreprises à savoir quoi rechercher, a déclaré John Scott-Railton, chercheur au Citizen Lab canadien à but non lucratif.

« Ils ne pensent pas que ce problème va disparaître, c’est pourquoi ils le partagent largement », a déclaré Scott-Railton.

Il a déclaré que les documents montrent que les modèles linguistiques massifs utilisés par l’intelligence artificielle ont aidé les prédicateurs russes à étendre leurs opérations et à les aider à traduire. Cela les aide également à éviter les programmes de détection qui recherchent l’utilisation répétée des mêmes adresses IP et autres identifiants.

Mais de nombreux autres systèmes fonctionnent déjà et s’amélioreront à mesure qu’ils s’adapteront à ce qui sera découvert et transmis, a déclaré Scott-Railton. « Ce n’est même pas la pointe de l’iceberg. C’est la goutte de l’iceberg », a-t-il déclaré.