ZAO, l’appli qui remplace le visage des acteurs par vos selfies, génère des milliers de deepfakes

ZAO, pour modifier une scène de film en quelques secondes

En Chine, c’est l’application du moment. Elle s’appelle ZAO. Le principe : vous permettre de remplacer le visage de vos acteurs préférés par votre propre visage. Vous pouvez ainsi partager avec vos amis de courtes scènes de films cultes avec votre tête à la place de celles de stars reconnues. Le principe intéresse et les résultats impressionnent : regardez ce qu’on obtient en utilisant un seul selfie pour remplacer Leonardo DiCaprio…

In case you haven't heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of 'Deepfake'-style AI facial replacement I've ever seen.

Here's an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) 🤯 pic.twitter.com/1RpnJJ3wgT

— Allan Xia (@AllanXia) September 1, 2019

Des milliers de deepfakes partagés sur les réseaux sociaux

L’application fonctionne très bien et permet de générer un deepfake, une vidéo truquée, en seulement quelques secondes – et avec un seul selfie, les résultats sont déjà très bons. L’application ZAO est rapidement devenue virale en Chine, pour des raisons évidentes : le catalogue proposé (des centaines de films et séries TV cultes), la rapidité d’exécution et la qualité bluffante des vidéos générées par ZAO. Les très nombreux utilisateurs de ZAO ont partagé leurs vidéos sur les réseaux sociaux, diffusant ainsi des milliers de deepfakes sur ces plateformes.

Le débat des deepfakes relancé par ZAO

Pour éviter la propagation de fausses vidéos, WeChat a rapidement réagi en bloquant automatiquement les vidéos ZAO. L’application ZAO est encore peu présente en Europe et aux États-Unis, Facebook et Twitter sont donc relativement épargnés pour le moment. En juin 2019, Mark Zuckerberg avait évoqué l’intérêt d’une politique anti-deepfake pour éviter la propagation de vidéos trafiquées, alors qu’il était directement concerné.

Des deepfakes de plus en plus convaincants

Dans le cas de ZAO, le deepfake est relativement acceptable : les scènes sont connues, on remplace intégralement le visage d’un acteur par son propre visage. Mais la technologie qui permet la génération de deepfakes est parfois utilisée à mauvais escient, pour modifier le discours d’une personnalité ou d’un homme politique par exemple. Si ZAO n’entre pas dans cette catégorie mais plutôt dans celle des applications ludiques, elle relance évidemment le débat sur la propagation des deepfakes. La qualité des montages vidéo réalisés par ces applications ne permettra bientôt plus de distinguer le vrai du faux.

Une polémique sur l’appropriation des données personnelles

Outre les interrogations sur l’impact des deepfakes, une polémique a rapidement fait son apparition concernant la politique de confidentialité appliquée par ZAO. Avant que l’application ne truste les premières places de l’App Store en Chine, les photos téléchargées sur ZAO devenaient une propriété de l’éditeur (droit d’usage irrévocable et permanent). ZAO a depuis réagi en adoucissant sa politique de confidentialité : vos photos et vidéos pourront toujours être utilisées en interne, pour améliorer les résultats obtenus ; mais ZAO ne pourra pas s’en servir dans un autre cadre. Vous pourrez également supprimer directement vos photos et vidéos des serveurs de ZAO.

Cette application – et la polémique sur l’usage des données personnelles – rappelle évidemment FaceApp. En juin dernier, cette application pour vieillir ses propres selfies avait cartonné ; mais ses CGU avait inquiété la presse et les utilisateurs les plus avertis.