Tout savoir sur la modération en ligne : IA, cadre légal, réactivité…

La modération des contenus est un sujet important pour toutes les marques qui ont une présence sur Internet et sur les réseaux sociaux. Longtemps gérée uniquement par des « modérateurs » humains, elle est de plus en plus assistée par l’IA. Netino by Webhelp, spécialiste reconnu de la modération depuis plusieurs années, nous dresse dans son dernier livre blanc un tableau complet du sujet en 2023 : obligations légales, place de l’IA, bien-être des modérateurs, bonnes pratiques… Un contenu très instructif, notamment si vous gérez une marque très exposée sur le web, dont la dimension communautaire est importante.

Télécharger le livre blanc complet

Quels contenus faut-il modérer ?

Dans son livre blanc, Netino by Webhelp rappelle que dans le domaine de la modération, il n’y a pas de place pour l’arbitraire. Les décisions de supprimer ou non un contenu se basent sur 3 critères :

• La légalité : un contenu qui est une « infraction grave, manifeste et objective à la législation en vigueur » met en danger la communauté, mais il met aussi en danger la marque ou l’éditeur de la plateforme ou du service. Tout ce qui concerne la diffamation, la discrimination, les injures publiques, les appels à la violence, etc., doivent donc être modérés au plus vite.
• La toxicité : même si ces contenus n’entraînent pas de conséquences judiciaires, ils sont une atteinte à la marque et aux communautés. Il faut donc là encore les modérer rapidement. Ces contenus peuvent concerner : le dénigrement, les moqueries sur le physique, l’humour douteux, les tentatives de spam ou d’arnaque…
• La conformité aux règles de la communauté : le contenu doit respecter les règles propres à l’espace communautaire et ces règles peuvent être très différentes selon les communautés, leurs thèmes, leurs attentes et l’audience. Un contenu « érotique » sera par exemple banni d’un espace grand public, mais autorisé sur une application dont c’est le but.

La réactivité : un enjeu essentiel

Netino by Webhelp rappelle qu’un point crucial de la modération est la réactivité. Il faut rapidement traiter les contenus toxiques, afin de limiter les dommages sur la communauté. Sans modération rapide, il peut y avoir un phénomène d’escalade et cela peut créer stress, anxiété, etc., chez les utilisateurs. Cela peut même conduire les internautes à quitter le service ou la plateforme.

Le livre blanc précise que 70 % des internautes estiment que c’est le devoir de la marque de protéger sa communauté contre les contenus toxiques. En intervenant rapidement, un modérateur maintient la crédibilité de la marque et de la communauté, et renforce la confiance des utilisateurs.

Pour assurer une modération efficace et rapide 24/7, il n’y a pas de miracle, il faut disposer de ressources suffisantes et des bons outils. Si le volume de contenus à traiter est faible, il est évidemment possible de gérer cela manuellement, mais avec de forts volumes, il faut impérativement s’appuyer sur une équipe complète assistée par une IA.

Netino by Webhelp précise d’ailleurs ce qu’est un dispositif robuste de modération en 2023, et comment l’IA permet de modérer les contenus en infraction en quelques secondes :

La place de l’IA dans la modération

Sujet phare de cette année 2023, l’IA concerne aussi la modération. Mais elle ne suffit pas à assurer une modération efficace et fiable à 100 %. Netino by Webhelp rappelle que les utilisateurs savent s’adapter aux règles et font preuve de beaucoup d’imagination pour contourner les dispositifs de modération en place.

La place de l’humain reste donc centrale, que ce soit pour déceler de l’ironie dans un propos ou estimer la réalité de la menace si une personne est en danger (et par exemple prévenir les autorités).

Le livre blanc détaille par ailleurs les spécificités de ce qu’est vraiment l’IA dans la modération et 3 dispositifs parmi les plus répandus :

• Corpus de termes déclencheurs : il s’agit d’une liste de termes proscrits et de termes qui doivent faire preuve d’une vérification humaine. Très facile à mettre en œuvre, mais assez peu performant, avec beaucoup de faux positifs.
• Graphes sémantiques : c’est une représentation des relations entre différents concepts organisés en arborescence. Cela permet une détection plus fine.
• Machine learning – deep learning : un modèle IA est mis en place grâce aux annotations de data des modérateurs humains. C’est un modèle de modération performant, mais un peu plus complexe à déployer.

Dans la suite de son livre blanc, Netino by Webhelp se penche aussi sur l’intérêt (ou non) d’externaliser la modération, ainsi que sur l’importance du bien-être des modérateurs, qui font face à un travail par nature complexe et difficile.

Télécharger le livre blanc complet