Vidéos générées par IA : les contenus truqués envahissent les réseaux sociaux

Ces derniers mois sur les réseaux sociaux, vous avez probablement vu apparaître de nombreux contenus générés par l’intelligence artificielle : parodies de personnalités politiques, de youtubeurs, fausses chansons, résurgence de personnages historiques, etc. Les avancées récentes en matière d’intelligence artificielle ont démocratisé cette technologie, produisant des résultats parfois confondants. Si la plupart de ces vidéos ont été créées dans un esprit humoristique, la perspective d’une confusion entre contenus authentiques et falsifiés soulève des préoccupations.

L’essor de l’IA générative fait ressurgir les vidéos truquées

Les inquiétudes liées aux vidéos générées par IA ne sont pas si récentes. Avec l’émergence des deepfakes dès le milieu des années 2010, de nombreux contenus trompeurs ont vu le jour, faisant prononcer à des figures médiatiques des propos entièrement fabriqués. En 2018, le deepfake de Barack Obama, créé par le comédien Jordan Peele pour sensibiliser le public, est devenu viral, et laissait présager des possibilités qu’induirait le développement de technologies d’intelligence artificielle. Un an plus tard, la représentante Yvette Clarke déposait un projet de loi visant à « établir de nouvelles infractions pénales liées à la production de deepfakes qui ne respectent pas les exigences en matière d’identification ». En d’autres termes, les producteurs de deepfake se verraient obligés de mentionner que leur contenu est truqué.

Si le sujet a suscité moins d’attention pendant quelques années, sans pour autant disparaître, l’essor de l’IA générative, avec la sortie de chatbots tels que ChatGPT, de générateurs d’images comme Midjourney, ou encore d’outils de clonage de voix, a ravivé l’intérêt pour les vidéos truquées. Sans surprise, les réseaux sociaux sont devenus les plateformes privilégiées pour la diffusion de ce type de contenus, créés tantôt à des fins de divertissement, tantôt dans un objectif malveillant. À l’approche des élections présidentielles de 2024, Yvette Clarke maintient sa position : « Si les contenus générés par l’IA peuvent manipuler et tromper les gens à grande échelle, cela peut avoir des conséquences dévastatrices pour notre sécurité nationale et la sécurité des élections. Il est temps de tirer la sonnette d’alarme ».

Les réseaux sociaux en première ligne

En France et dans le monde, le vidéos IA ne manquent pas sur les réseaux sociaux, et ces derniers mois se sont montrés particulièrement riches en contenus viraux de cette nature. Peu de plateformes ont été épargnées.

Sur X (Twitter) : le petit Mbappé se fait gronder

Depuis la fin de l’année 2022, X se trouve envahi par les deepfakes. Ainsi, en novembre dernier, une fausse déclaration de Sam Bankman-Fried, fondateur de l’entreprise de cryptomonnaie FTX, était massivement diffusée sur la plateforme. L’homme d’affaires, dont l’entreprise était en faillite, expliquait alors aux victimes de la banqueroute qu’elles pourraient récupérer leur mise en se rendant sur une plateforme donnée. La vidéo était bien évidemment une arnaque.

Plus récemment, une vidéo mettant en scène Kylian Mbappé enfant se faisant menacer par un adulte faisait le tour du réseau social. Selon le concepteur de la vidéo, seules « quelques heures » ont suffi pour mettre au point le trucage. Si les internautes ont rapidement déniché la supercherie, la vidéo est désormais devenue un meme utilisé régulièrement pour tourner en dérision français.

🚨 FLASH – Vidéo exclusive : Wilfrid Mbappé adresse des remontrances à Kylian Mbappé pour ses humeurs changeantes concernant son futur au PSG. pic.twitter.com/8qvgttCDDS

— French AI Covers (@frenchaicovers) August 28, 2023

Ce compte French AI Covers, plus de 16 000 abonnés, s’est spécialisé dans ce type de vidéos, parodiant généralement des personnalités du monde du football, de la politique ou du milieu de l’influence.

Sur TikTok : des personnages historiques mais pas que…

Sur TikTok, des contenus autrement plus problématiques se sont multipliées. Différents comptes, portant des noms similaires (Histoires Vivantes, voici mon histoire, Histoire & Cie…) y présentent des avatars reprenant les traits de personnalités célèbres, dans le but de retracer leur histoire à la première personne. Si certaines vidéos présentent des personnages historiques ou issus du monde artistique (Alfred Nobel, Simon Bolivar, James Dean), d’autres penchent vers une dimension bien plus macabre, en faisant témoigner des victimes de meurtres (Grégory Villemin, Anne Frank…) ou les meurtriers eux-mêmes à l’instar de Jeffrey Dahmer.

@histoires_vivantes Fidel Castro nous raconte son histoire. Vidéo réalisée par IA. Images d’illustrations. #fidelcastro #biographie #apprendresurtiktok #cuba #histoire #histoirevraie #apprendresurtiktok #culture ♬ Epic – DM Production

Sur Twitch, Emmanuel Marcon et le Général de Gaulle répondent aux questions des viewers

Sur un registre plus léger, le streamer Twitch DefendIntelligence a récemment conçu des versions numériques de personnalités politiques, le Général de Gaulle et Emmanuel Macron, capables de répondre en direct, sur un ton informel, aux questions posées par les viewers dans le chat. Les lives du créateur ont recueilli un succès impressionnant, comptabilisant 1 million de messages dans le fil en moins de 24 heures.

Mais à la fin du mois d’août, la chaîne a été bannie de la plateforme suite à des propos tenus par l’avatar de l’actuel Président, considérés comme « haineux et violents ».

Je viens de créer un live twitch en continue de Macron version #IA qui répond au message du chat.

C’est trop une dinguerie comme ça marche trop bien !!! pic.twitter.com/81c1NkOpo7

— Anis Ayari | Defend Intelligence (@DFintelligence) August 25, 2023

Les plateformes commencent à développer des outils

Si la plupart des vidéos générées par IA et diffusées sur les réseaux sociaux ne parviennent pas à tromper les utilisateurs, certaines d’entre elles parviennent tout de même à semer le doute dans les esprits. Les créateurs du deepfake de Sam Bankman-Fried ont par exemple réussi à récolter plus de 1000 € de la part d’investisseurs craignant de perdre leur mise. De leur côté, les plateformes commencent à se pencher sur des solutions visant à éviter la propagation de fake news ou d’escroqueries.

X (Twitter) compte sur les notes de communauté

Pour limiter les contenus trompeurs, X mise sur son nouvel outil : les notes de communauté. Celles-ci permettent aux utilisateurs de la plateforme d’apporter une note de contexte sous un post. Initialement réservées aux textes et aux images, elles ont récemment été étendues aux vidéos, offrant la possibilité de mentionner lorsque le contenu a été généré par IA. Toutefois, les notes de communauté ne sont pas systématiques et de nombreux contenus trompeurs demeurent en circulation sur la plateforme, sans avertissement préalable. En outre, la nouvelle coche de certification proposée par la plateforme, accessible via Twitter Blue, permet aux escrocs de bénéficier d’une légitimité supplémentaire pour tromper l’audience.

Un outil dédié sur TikTok

De son côté, TikTok a dévoilé durant le mois de septembre un outil visant à signaler les contenus générés à l’aide de l’intelligence artificielle. Dans un blog post, l’application de divertissement explique sa démarche :

L’IA offre d’incroyables possibilités créatives, mais elle peut aussi semer la confusion ou induire les spectateurs en erreur s’ils ne savent pas que le contenu a été généré ou édité à l’aide de l’IA. L’étiquetage du contenu permet de remédier à ce problème.

Le label permettra aux créateurs de se conformer aux règles communautaires de TikTok, qui exigent que « les contenus générés par l’IA et contenant des images, du son ou des vidéos réalistes soient étiquetés ».

Une démarche encore incertaine du côté du YouTube

Durant l’été, YouTube a annoncé la mise en place d’un cadre pour l’utilisation de l’IA générative, en particulier pour la création musicale, avec notamment le lancement d’un nouvel incubateur. L’hébergeur vidéo en a profité pour évoquer son engagement contre la désinformation en précisant que les mesures de protection seraient adaptées aux contenu générés ou modifiés grâce à l’intelligence artificielle.

Sur YouTube, vous ne pouvez pas télécharger une vidéo qui a été techniquement manipulée pour promouvoir de fausses affirmations ou induire les spectateurs en erreur au sujet d’une atrocité d’une manière qui pourrait entraîner un risque sérieux de préjudice. Et nous continuerons à itérer et à évoluer pour relever de nouveaux défis.

En revanche, la plateforme n’indique pas précisément les dispositifs qui pourraient être mis en place pour protéger les utilisateurs des contenus IA.

Les plateformes doivent se conformer au DSA

La démarche des plateformes est réalisée en partie pour se conformer au Digital Services Act (DSA), en vigueur depuis la fin du mois d’août. En effet, la réglementation européenne prévoit « le recours à un marquage bien visible pour garantir qu’un élément d’information, qu’il s’agisse d’une image, d’un contenu audio ou vidéo généré ou manipulé, qui ressemble nettement à des personnes, à des objets, à des lieux ou à d’autres entités ou événements réels ».