YouTube oblige les créateurs à préciser qu’un contenu est généré par IA

Face à la démocratisation des outils d’intelligence artificielle et la multiplication des contenus générés ou modifiés par IA, YouTube met en place de nouvelles règles. Désormais, les créateurs devront obligatoirement préciser si un contenu réaliste a été créé ou modifié par IA. Une décision qui a notamment pour but d’informer les spectateurs, afin d’éviter les vidéos trompeuses.

YouTube veut jouer la carte de la transparence

En novembre 2023, YouTube annonçait que la plateforme allait mettre en place de nouvelles règles concernant l’IA générative. Une mise à jour nécessaire de sa politique, qui interdit tout contenu ayant été modifié ou retouché par des moyens techniques « dans le but de tromper les utilisateurs », alors que les outils d’IA sont à la portée de tous. YouTube souhaitait alors mettre en place des libellés, avertissant les spectateurs qu’un contenu réaliste a été créé ou modifié par intelligence artificielle, ou d’autres moyens techniques. Quelques mois plus tard, cette décision prend forme, à l’aide d’un nouvel outil dans Creator Studio, annonce la plateforme dans un blog post.

Ce nouvel outil (…) oblige les créateurs à divulguer aux spectateurs tout contenu réaliste (un contenu qu’un spectateur pourrait facilement confondre avec une personne, un lieu ou un événement réel) qui est créé à l’aide de médias modifiés ou synthétiques, y compris l’IA générative.

Si tel est le cas, des étiquettes apparaîtront dans la description détaillée d’une vidéo ou d’un Short (voir image de une). « Mais pour les vidéos qui abordent des sujets plus sensibles (comme la santé, l’actualité, les élections ou même la finance), nous afficherons également un libellé plus visible sur la vidéo elle-même », précise YouTube. Les étiquettes seront déployées au cours des semaines à venir, d’abord sur l’application mobile, puis sur ordinateur et TV. La plateforme précise qu’elle pourra d’elle-même ajouter une étiquette si un créateur ne l’a pas fait, en particulier pour les contenus potentiellement trompeurs, et pourra prendre des mesures contre l’auteur.

Quels contenus sont soumis à la nouvelle politique de YouTube ?

L’obligation pour les créateurs de divulguer un contenu généré ou modifié par IA ne concerne que ceux dits « réalistes ». Pour comprendre ce point important, YouTube partage quelques exemples « de contenus qui doivent être divulgués » :

• Utiliser l’image d’une personne réaliste : il faudra informer le spectateur si un contenu a été modifié numériquement pour « remplacer le visage d’un individu par celui d’un autre ou générer synthétiquement la voix d’une personne pour raconter une vidéo ».
• Modification d’images d’événements ou de lieux réels : « donner l’impression qu’un véritable bâtiment a pris feu, modifier un véritable paysage urbain pour le rendre différent de la réalité » sont des altérations qui doivent être signalées.
• Générer des scènes réalistes : un libellé devra accompagner une vidéo qui, par exemple, « affiche une représentation réaliste d’événements majeurs fictifs, comme une tornade se dirigeant vers une ville réelle ».

Concrètement, pour les créateurs, il faudra répondre par oui ou non à la question « votre contenu correspond-il à l’une des descriptions suivantes ? :

• Met en scène une personne réelle disant ou faisant quelque chose qu’elle n’a jamais dit ni fait.
• Modifie les images d’un événement réel ou d’un lieu existant.
• Crée une scène d’apparence réaliste qui, en réalité, ne s’est jamais produite. »

YouTube ne demande pas aux créateurs de révéler qu’ils ont utilisé l’IA générative à « des fins de productivité », comme pour la génération d’un script, d’idées de contenu ou de sous-titres automatiques. Tous les contenus générés ou modifiés par IA ne sont pas non plus concernés, la nouvelle réglementation se limitant aux contenus réalistes. Par exemple, elle ne sera pas applicable à un contenu clairement irréaliste, « comme quelqu’un chevauchant une licorne dans un monde fantastique », ainsi qu’à des actions d’édition assistées par IA, comme l’utilisation de filtres de réglages des couleurs, d’éclairage, des effets spéciaux « comme le flou d’arrière-plan ou les effets vintage, les filtres de beauté ou autres améliorations visuelles ».

YouTube précise enfin qu’il travaille toujours à la « mise à jour du processus de confidentialité », qui permettra de demander la suppression de contenus trompeurs générés ou modifiés par IA, ou d’autres moyens techniques.