Facebook épingle un réseau de faux comptes avec des photos de profil générées avec l’IA

A moins d’un an de la prochaine élection présidentielle aux Etats-Unis, Facebook accentue sa lutte contre la désinformation. Le réseau social lancé en 2004 par Mark Zuckerberg vient de supprimer un important réseau de faux groupes, pages et comptes sur ses plateformes Facebook et Instagram :

• 610 comptes Facebook
• 89 pages Facebook
• 156 groupes Facebook
• 72 comptes Instagram

Plus de 55 millions d’utilisateurs, en majorité des communautés vietnamiennes, espagnoles et chinoises aux Etats-Unis, ont suivi l’un de ces faux comptes sur Facebook et 92 000 personnes étaient abonnées à l’un de ces faux profils sur Instagram.

Qui se cachait derrière ce réseau de faux comptes Facebook et Instagram ?

Dans un communiqué, Facebook explique que cette campagne de désinformation était pilotée depuis les Etats-Unis et le Vietnam par un réseau connecté au groupe de média américain conservateur Epoch Media Group, qui diffuse des informations dans 35 pays et dans de nombreuses langues, dont l’anglais, le chinois ou encore le français.

Le réseau de faux comptes agissait en postant et en likant massivement du contenu en faveur du président américain Donal Trump, via les pages et les groupes du média « The BL » sur Facebook et Instagram.

Comment ont-il procédé pour contourner les règles de Facebook ?

La particularité du réseau démantelé réside dans leur utilisation détournée des règles de Facebook. Pour être suivis par autant de followers, ces faux comptes ont utilisé l’intelligence artificielle pour générer de fausses photos de profil. Ils ont également alterné des faux comptes avec ceux de personnes réelles aux Etats-Unis pour administrer les faux groupes et pages sur Facebook.

Les posts étaient publiés à de très hautes fréquences, afin d’inciter les Américains à rejoindre ces groupes et partager le contenu des pages de « The BL ». Pour augmenter leur visibilité, une campagne d’affichage publicitaire à hauteur de 9,5 millions de dollars a même été mise en place sur les deux plateformes. La somme aurait été réglée en plusieurs devises différentes (dollars américains, canadiens, wons coréens, dongs vietnamiens, etc.).

Selon des chercheurs de Graphika et Digitial Forensics Research Lab, il s’agirait de la première campagne de désinformation à grande échelle, orchestrée sur les réseaux sociaux et utilisant de l’intelligence artificielle pour générer de faux visages.

A lire aussi : notre interview de Jean-François Goudou sur les mythes et légendes de l’intelligence artificielle.

Source : Facebook