YouTube impose des mesures pour les contenus générés par IA : ce qu’il faut savoir

La multiplication des contenus générés ou modifiés par IA poussent les médias sociaux à s’adapter, à l’image de YouTube. En effet, la plateforme, afin de « trouver un équilibre entre les opportunités » créatives et sa « responsabilité de protection envers [sa] communauté », a acté la mise en place de nouvelles règles concernant l’IA générative.

« Nous sommes conscients que l’IA fera surgir des risques complémentaires et nécessitera de définir de nouvelles approches », explique YouTube dans un blog post. Dans les semaines et mois à venir, trois nouvelles mises à jour seront déployées, intégrant des outils de signalement des contenus générés ou modifiés par IA, à la fois pour les utilisateurs et les créateurs.

Des libellés spécifiques pour les contenus générés ou modifiés par IA

YouTube interdit, depuis plusieurs années maintenant, tout contenu ayant été modifié ou retouché par des moyens techniques « dans le but de tromper les utilisateurs ». Et l’arrivée de l’IA peut également piéger les spectateurs si rien n’annonce que « les vidéos ont été modifiées ou créées de toutes pièces ». Dans les mois à venir, annonce YouTube, des nouvelles fonctionnalités viendront informer les utilisateurs qu’ils regardent du contenu « créé de manière synthétique, y compris à l’aide d’outils d’IA ».

Dans les faits, quand les créateurs diffuseront un contenu en ligne, ils devront indiquer s’il a été créé ou modifié par IA. Un libellé apparaîtra alors dans le panneau de description de la vidéo, précisant sa nature. En outre, les contenus qui enfreignent le règlement seront retirés de la plateforme, comme une vidéo créée par IA qui montre des scènes de violence réalistes. Ainsi, les « contenus créés par les fonctionnalités d’IA génératrice seront à l’avenir clairement signalés comme étant modifiés ou créés synthétiquement ».

Des sanctions sont également prévues pour les créateurs qui omettraient de préciser la nature de leur contenu, allant de la suppression des vidéos incriminées à une suspension du programme partenaire de YouTube.

Un outil de signalement pour « atteinte à la vie privée »

De nombreux contenus font apparaître l’usage d’outils générant numériquement une voix et un visage. Si certaines de ces vidéos sont inoffensives ou bon enfant, d’autres peuvent porter préjudice aux personnes que l’on peut y voir ou entendre. « Dans les mois à venir », il sera possible pour tous les utilisateurs de la plateforme, créateurs comme simples spectateurs, de signaler un contenu « créé synthétiquement ou généré par l’IA qui simule une personne pouvant être identifiée (y compris avec son visage ou sa voix) », détaille YouTube.

Tous les contenus ne seront pas automatiquement retirés. Ces potentielles atteintes à la vie privée seront étudiées avant une éventuelle suppression, qui ne devrait pas concerner les parodies et les satires, tant qu’elles respectent les règles de la plateforme. En outre, les poids lourds de l’industrie musicale pourront aussi demander la suppression de contenus audio générés par l’IA « qui imitent la voix unique d’un artiste en train de chanter ou rapper ».

L’IA pour faciliter la modération de contenu sur YouTube

Pour modérer les contenus sur sa plateforme, YouTube utilise des technologies de machine learning, et notamment des « classificateurs fondés sur l’IA » qui aident à détecter les vidéos potentiellement non conformes. Ces vérifications à grande échelle sont ensuite confirmées – ou non – par des modérateurs humains. Ils ont en effet pour mission de déterminer si les contenus visés par les classificateurs enfreignent bien le règlement.

YouTube reconnaît que dès lors qu’une nouvelle menace émerge, comme l’arrivée d’une technologie qui bouleverse les règles par exemple, ses systèmes ont « assez peu de contexte pour la comprendre et l’identifier à grande échelle ». C’est dans ce cadre que l’IA générative intervient, aidant à « élargir rapidement l’ensemble d’informations » sur lequel la plateforme entraîne ses classificateurs fondés sur l’IA. Ainsi, le blocage et la suppression des contenus illicites se font plus efficacement et rapidement, réduisant l’exposition des modérateurs humains.