Facebook interdit les deepfakes

À quelques mois des élections américaines, Facebook modifie sa politique de retrait des montages de vidéos, qui utilisent l’intelligence artificielle pour changer le visage des personnes, appelés deepfakes. Le réseau social vise en particulier les vidéos qui altèrent la réalité, mais aussi tous les types de contenus visant à manipuler les utilisateurs de la plateforme. Dans un billet de blog, Facebook précise qu’il s’appuie sur deux critères :

• Si la vidéo a été modifiée de sorte qu’une personne lambda ne puisse pas le détecter et que le sujet a été détourné de son discours d’origine
• Si la vidéo est le produit d’une intelligence artificielle ou du machine learning, qui a fusionné, remplacé ou superposé du contenu par-dessus la vidéo, dans le but de la rendre authentique.

Cette nouvelle politique de Facebook ne s’applique pas aux contenus parodiques ni aux vidéo satiriques, précise le réseau social.

Visibilité réduite dans le newsfeed

50 experts mondiaux, qui bénéficient d’un bagage technique, politique, médiatique, juridique, civique et académique, ont été sollicités pour accompagner Facebook dans sa démarche et aider le réseau social à détecter les contenus altérés.

Si une photo ou une vidéo est jugée comme fausse ou partiellement fausse par l’un de ces experts, sa visibilité sera fortement réduite dans le feed. S’il s’agit d’une publicité, elle sera supprimée de la plateforme. Si des utilisateurs ont déjà vu la publication, ils en seront notifiés.

Les fausses vidéos seront labellisées pour prévenir les internautes

Facebook va plus loin : il labellisera les vidéos truquées comme étant fausses, si ces dernières circulent sur la toile ou sur d’autres réseaux sociaux. L’objectif : les internautes seront ainsi prévenus du type de contenu qu’ils s’apprêtent à visionner, même si la vidéo a déjà été supprimée sur Facebook.

Pour déterminer quelles vidéos sont du deepfake et lesquelles ne le sont pas, Facebook a lancé en septembre 2019 un challenge de détection, en association avec Microsoft, AWS et des universités américaines de renom. Le programme récompensera à hauteur de 10 millions de dollars l’équipe qui trouvera le meilleur algorithme capable de repérer le moindre pixel suspect sur un visage dans une photo ou une vidéo.

A lire aussi : Facebook épingle un réseau de faux comptes avec des photos de profil générées avec l’IA