Des photos de profils Facebook générés par IA pour des messages pro-Trump

Dans le cadre de son ménage régulier visant des comptes, groupes ou pages inauthentiques et concernant aussi bien son réseau social principal qu'Instagram, Facebook indique avoir effectué des suppressions pour des contenus en faveur de Donald Trump.

Avec plus de 600 comptes sur Facebeook et Instagram, ces tentatives de manipulation de l'opinion étaient pilotées depuis le Vietnam et les États-Unis avec des messages principalement - mais pas seulement - à destination des utilisateurs américains.

" Les individus derrière cette activité ont largement utilisé de faux comptes, dont beaucoup avaient été automatiquement supprimés par nos systèmes, pour gérer des Pages et des groupes, automatiser des publications à très haute fréquence et diriger du trafic vers d'autres sites ", explique Nathaniel Gleicher, responsable de la politique de sécurité de Facebook.

Il a été découvert que pour certains des comptes, les photos des profils avaient été générées par des technologies d'intelligence artificielle avec pour but de se faire passer pour des Américains et rejoindre par exemple des groupes pour publier des contenus du réseau dénommé TheBL (The Beauty of Life). Ce dernier a été banni de Facebook pour de multiples violations de ses conditions d'utilisation.

Selon des chercheurs de Graphika et Digitial Forensics Research Lab, c'est la première fois que des visages générés par IA sont déployés à une si grande échelle pour une campagne de désinformation sur les réseaux sociaux.

Des éléments comme par exemple des oreilles déformées ont aidé à l'identification de faux, mais " la technologie évolue rapidement vers la création d'images plus crédibles. "