Deepfake : quand modifier une vidéo devient aussi simple que modifier un texte

Un algorithme crée des vidéos truquées

Le Deepfake est une technique qui permet de combiner et superposer des images et des vidéos existantes et de les manipuler grâce à l’intelligence artificielle et l’apprentissage automatique. La technologie ne cesse de s’améliorer et peut, comme toute nouvelle technologie, bouleverser des secteurs d’activité en proposant des services innovants mais aussi causer du tort si elle est mal utilisée. Par exemple, l’intelligence artificielle permet de donner le mouvement à des tableaux ou des photos mythiques de façon très réaliste mais aussi modifier une séquence vidéo pour faire dire à une personne quelque chose qu’elle n’a jamais dit.

Modifier la transcription du texte d’une vidéo

Des chercheurs de l’Université de Stanford, de la Max Planck Institute for Informatics, de l’Université de Princeton et d’Adobe Research ont présenté un nouveau logiciel qui utilise l’apprentissage automatique afin de modifier le script des paroles d’une personne qui a été filmée afin d’ajouter, de supprimer ou de modifier les mots qu’elle énoncera de façon naturelle. Cette démonstration montre ainsi que la capacité de l’IA à éditer ce que les gens disent dans les vidéos ne cesse d’évoluer et que créer des vidéos réalistes en changeant des mots ou tout un discours est de plus en plus facile. Un des exemples montrait par exemple une personne filmée prononcer une phrase tirée d’Apocalypse Now «J’aime l’odeur du napalm au petit matin». Le script du texte a ensuite été modifié et le mot «napalm» a été remplacé par « pain grillé » pour un résultat vraiment surprenant. Pour parvenir à ce résultat, l’Intelligence Artificielle analyse un échantillon vidéo de près de 40 minutes d’une personne qui parle et associe les phonèmes aux mouvements de la bouche et du visage. Pour le moment, le logiciel gère uniquement la langue anglaise et les scientifiques ont expliqué que le procédé fonctionnait certes avec des modifications mineures mais qu’il n’était pas encore capable de générer un faux discours en intégralité prononcé par une personne connue.

La réaction des plateformes

Face à l’arrivée annoncée des Deepfakes, la réaction des plateformes est attendue avec impatience. Et pour l’instant, il semble que la liberté d’expression l’emporte. Instagram ainsi laissé 2 vidéos Deep Fakes de personnalités américaines, un concerne Nancy Pelosi, l’autre Mark Zuckerberg. Pour l’instant le problème reste marginal, et il est évident que ces vidéos sont des faux.

Mark Zuckerberg reveals the truth about Facebook and who really owns the future… see more @sheffdocfest VDR technology by @cannyai #spectreknows #privacy #democracy #surveillancecapitalism #dataism #deepfake

Il sera en revanche important à l’avenir de voir comment filtrer (ou non) ces contenus entretenant volontairement la confusion. Quand on voit la facilité avec laquelle les internautes adhèrent aux thèses conspirationnistes, platistes ou anitvax, les deepfakes ne vont pas aider à une information de qualité…

Via The Verge