Twitter accorde le badge de vérification à des faux comptes par erreur

Selon le thread publié lundi par le data scientist Conspirador Norteño, 6 comptes, qui ont été créés le même jour (le 16 juin 2021) ont obtenu le badge de vérification bleu de la part de Twitter. Il s’agit de : @aykacmis, @degismece, @anlamislar, @aykacti, @kayitlii et @donmedim. La particularité de ces profils : ils n’ont publié aucun tweet et présentent 977 abonnés en commun, dont @verified, qui suit tous les comptes vérifiés sur la plateforme. Le data scientist précise que les 976 autres abonnés sont des comptes qui ont vu le jour entre le 19 et le 20 juin dernier, et qui appartiennent tous au botnet Astroturf.

Meet @aykacmis, @degismece, @anlamislar, @aykacti, @kayitlii, and @donmedim, a sextet of blue-check verified Twitter accounts created on June 16th, 2021. None has yet tweeted and all have roughly 1000 followers (and mostly the *same* followers).

cc: @ZellaQuixote pic.twitter.com/V82Wtu0SNr

— Conspirador Norteño (@conspirator0) July 12, 2021

Qu’est-ce que le botnet Astroturf ?

Ce réseau de bots serait composé de 1 212 comptes Twitter, qui suivent eux aussi les mêmes profils et qui utilisent des photos de profil générées par les réseaux adverses génératifs (Generative Adversarial Networks ou GAN), une technique de machine learning permettant de créer des images très réalistes. Parmi celles détectées par Conspirador Norteño, il s’agirait notamment de 160 faux visages humains féminins, 169 faux chats et 183 photos d’animés.

This botnet uses multiple varieties of GAN-generated profile pics. (GAN = « generative adversarial network », the AI technique used by https://t.co/AxF5723Pje.)

• 160 fake human faces (all female)
• 169 fake cats
• 183 anime pics pic.twitter.com/VYJDitjGxM

— Conspirador Norteño (@conspirator0) July 12, 2021

Dans la suite de son thread, il poursuit son enquête et indique : « la majorité du contenu du tweet est du spam en coréen envoyé via le service d’automatisation dlvr(dot)it faisant la promotion d’un site web ».

Very few of the accounts in this network have tweeted. The majority of the tweet content is spam in Korean sent via automation service dlvr(dot)it promoting a website. As always, be wary of clicking links to unknown sites posted by dodgy accounts. pic.twitter.com/DPDnmugx0g

— Conspirador Norteño (@conspirator0) July 12, 2021

Twitter suspend ces faux comptes et la majorité des profils du botnet

5 des 6 comptes ayant obtenu le badge bleu de Twitter ont été suspendus par la plateforme et le 6e, @aykacmis, n’existe plus. La majorité des comptes appartenant au botnet Astroturf ont également été suspendus.

Interrogé par PCMag, la plateforme a confirmé que les certifications de ces 6 faux comptes leur ont été accordées par erreur, mais sans expliquer comment ce badge bleu a pu leur être attribué.

Des questions soulevées autour du processus de certification des comptes

Cet exemple pose de nombreuses questions vis-à-vis du processus de vérification de Twitter pour accorder son badge bleu, pourtant si prisé par d’authentiques profils. En mai dernier, le réseau social avait relancé son programme de demande de certification des comptes. 6 catégories de profils sont actuellement éligibles et peuvent en faire la demande :

• Des membres de gouvernement,
• Des entreprises, des marques et des organisations,
• Des organismes de presse et des journalistes,
• Des comptes de divertissement,
• Des profils liés au secteur du sport et du gaming,
• Des activistes, des organisateurs et d’autres personnes influentes.

Lundi, Twitter Verified a précisé dans un autre fil de discussion les conditions requises pour obtenir un compte vérifié :

• Authenticité : si vous utilisez un site web pour vérifier l’authenticité de votre compte, il doit s’agir du site d’une organisation certifiée et ce dernier doit faire référence à votre nom et à votre compte Twitter,
• Nombre d’abonnés : pour toute entreprise, marque ou organisation et les profils qui postulent en tant qu’activiste ou individu influent, votre nombre d’abonnés doit figurer parmi les 0,05 % des comptes actifs situés dans la même région géographique,
• Journalistes : votre profil doit faire référence au média d’information auquel vous êtes affilié et présenter un lien vers son site web officiel, les organes de presse auxquelles vous faites référence doivent être des organisations vérifiées, comme indiqué dans la politique de Twitter. Les journalistes indépendants doivent fournir 3 liens vers des publications vérifiées dans les 6 mois avant leur demande de certification.