Haine en ligne : pourquoi la modération est devenue un enjeu stratégique pour les marques

Ces dernières années, le ton des échanges en ligne semble s’être durci : discours plus polarisés, interactions plus conflictuelles, montée des tensions… Une impression qui ne relève pas uniquement du ressenti. L’édition 2025 de l’Observatoire de la haine en ligne de Bodyguard met en évidence une installation durable de la haine en ligne. Pour Charles Cohen, fondateur et CEO de Bodyguard, ce contexte impose aux marques de s’engager pleinement dans la modération, dans une démarche exigeante et avec des solutions techniques adaptées aux enjeux actuels. Dans un entretien accordé à BDM, il partage son analyse de cette évolution.

La toxicité en ligne s’installe dans la durée

L’Observatoire de la haine en ligne de Bodyguard a révélé un volume significatif : sur 14,3 milliards de commentaires traités, 182 millions ont été identifiés comme toxiques. Un chiffre qui, selon Charles Cohen, cache une double tendance : le nombre d’échanges sur les réseaux sociaux augmente chaque année, et la proportion de contenus haineux dans ces échanges augmente également.

Pour le fondateur de Bodyguard, les causes sont à chercher du côté du contexte global. Les tensions sociales, économiques, géopolitiques et sécuritaires créent un terreau d’anxiété qui trouve un exutoire en ligne. Cohen précise : « L’échange modéré, dans le sens où la teneur des propos reste modérée, a tendance à disparaître, pour laisser place à des échanges rapidement violents, assez extrêmes. » Une évolution que les données de l’Observatoire confirment, avec des pics de toxicité systématiquement liés à des événements précis : échéances électorales, matchs à forte charge identitaire, crises géopolitiques.

On se situe dans un contexte anxiogène pour la population, qui conduit à un besoin d’exutoire, qui se traduit notamment par l’usage des réseaux sociaux comme espace de décharge, où certains diffusent des contenus haineux pour se soulager.

Charles Cohen

Fondateur et CEO, Bodyguard

Facebook & X : quand la modération recule, la toxicité progresse

L’Observatoire établit également un classement des plateformes par taux de toxicité. Facebook dépasse désormais YouTube, tandis que X connaît une progression notable, passant de 6 à 8 % de commentaires toxiques d’une année sur l’autre. Ces évolutions ne surprennent pas Charles Cohen, qui identifie plusieurs facteurs explicatifs.

Le premier est démographique. Facebook et X concentrent des utilisateurs plus âgés, moins socialisés aux normes implicites des réseaux sociaux. « On y trouve des personnes plus âgées qui ne sont pas nées avec Internet, qui pensent qu’elles ont la liberté de pouvoir dire sur Internet tout ce qu’elles disent avec leurs amis », analyse l’expert. Le facteur politique joue également un rôle. Sur ces deux plateformes, les personnalités les plus suivies sont souvent les plus clivantes, ce qui attire et amplifie une communauté plus encline aux échanges polarisés.

Le troisième facteur est structurel : la réduction des équipes de modération chez plusieurs grandes plateformes a produit un effet boule de neige. Plus un espace commentaire tolère de contenus haineux, plus il en attire.

Il y a eu une réduction de la modération de la part de ces plateformes-là, donc une présence plus importante de contenus haineux, avec des technologies qui n’étaient pas forcément capables de les détecter. Et parmi les utilisateurs de ces plateformes-là, une forme de laisser-aller en se disant que tout était permis, qu’on pouvait dire tout ce qu’on voulait. […] Et plus on voit du contenu haineux dans un espace commentaire, plus on a tendance à en poster.

Charles Cohen

Fondateur et CEO, Bodyguard

Absence de modération : « un suicide réputationnel »

Que risque une marque qui se soustrait à la modération ? Charles Cohen rappelle que le DSA (Digital Services Act) s’applique aux plateformes ayant un statut d’hébergeur : réseaux sociaux, forums, sites disposant d’espaces de commentaires. Les marques qui publient sur ces plateformes n’ont pas d’obligation légale directe au titre du DSA. Mais elles ne sont pas pour autant à l’abri au regard du droit français.

« Il existe plusieurs cas de jurisprudence en France où des marques, des médias et des fédérations sportives ont été condamnés parce qu’on a réussi à prouver qu’ils savaient qu’il y avait des commentaires racistes sous leurs publications sur les réseaux sociaux, mais que rien n’était fait », rappelle le spécialiste. Par ailleurs, le DSA s’applique lorsque les commentaires sont publiés sur les sites des marques, situation dans laquelle elles sont considérées comme hébergeur.

Si le risque légal est réel, c’est la dimension réputationnelle qui revêt, pour l’expert, le plus fort enjeu. L’exemple de Tesla, dont l’image de marque a été durablement affectée par les prises de position d’Elon Musk avec des conséquences mesurables sur les ventes, illustre à quel point la réputation en ligne a des effets bien réels sur l’activité.

Le plus important, c’est la partie réputationnelle. Si vous êtes, par exemple, une marque de luxe, et que vous ne modérez pas en 2026, c’est un véritable suicide réputationnel. Les gens qui voient des commentaires haineux laissés sous des publications peuvent penser que la marque cautionne le commentaire.

Charles Cohen

Fondateur et CEO, Bodyguard

Ni fermeture ni censure : la modération équilibrée comme seule réponse

Au contact quotidien avec les marques, Charles Cohen constate une forme de maturité chez celles dont l’image se doit d’être irréprochable. « Les marques de luxe ont désormais compris l’importance de la modération, elles savent que c’est fondamental. On remarque la même chose sur le sport : les top clubs mondiaux ont bien intégré la question. » Chez les autres acteurs, comme le retail, le prêt-à-porter ou chez les clubs de sport moins prestigieux, « une éducation est encore nécessaire autour de ces sujets-là, mais ça avance dans le bon sens », note le fondateur de Bodyguard.

Pour lui, l’écueil majeur commis par les marques reste la fermeture des espaces commentaires. « C’est le réflexe de tout le monde, mais c’est l’erreur principale, parce que la haine et les contenus haineux continueront de se déverser sur des espaces qui ne peuvent ni être monitorés ni être contrôlés. Et en cas de crise ou de bad buzz, fermer l’espace commentaires ne fait qu’alimenter la détestation de la marque », souligne-t-il. À l’inverse, les modérations trop strictes, qui rejettent toute forme de critique, peuvent avoir un effet contreproductif, en encourageant les détracteurs à insister de manière plus agressive.

La bonne réponse à adopter, c’est un équilibre. Dans un espace commentaire, on doit pouvoir laisser des contenus qui sont, dans leurs propos, modérés. Même s’il s’agit de contenus négatifs. Si on se met à avoir un espace commentaire fermé, uniquement positif, l’image pour la marque est tout aussi désastreuse et on ne résout pas le problème.

Charles Cohen

Fondateur et CEO, Bodyguard

Une modération fine et contextuelle

La distinction entre un commentaire illégal et une critique légitime ne se tranche pas à la lecture seule du texte. Elle dépend du contexte : qui publie, sur quelle plateforme, à quel moment, sous quelle publication. D’autant que de nombreux commentaires toxiques adoptent désormais des formes détournées, plus difficiles à détecter. Pour assurer cette lecture contextuelle, Bodyguard s’appuie sur une modération hybride, combinant IA, règles personnalisées et supervision humaine.

Si quelqu’un commente avec un emoji qui vomit, ça n’est pas toxique en soi, car tout est contextuel. Mais si le commentaire est posté sous un article qui parle de quelqu’un qui fait son coming out, Bodyguard est capable de retirer le commentaire en temps réel pour homophobie.

Charles Cohen

Fondateur et CEO, Bodyguard

Chez Bodyguard, l’approche repose sur une adaptation très fine aux besoins de chaque acteur. L’entreprise considère que deux organisations n’ont jamais les mêmes attentes : chacune nécessite un paramétrage spécifique, défini de façon extrêmement granulaire pour répondre précisément à son contexte et à ses enjeux. Cohen précise : « Si l’entreprise édite un jeu vidéo où l’on peut tuer des personnages, une phrase comme ‘je vais te tuer’ peut être tolérée. Mais dans un jeu où ce n’est pas possible, la même phrase devient problématique. Chaque modération est unique. »

Charles Cohen défend ainsi une vision ouverte de la modération, vue davantage comme un outil au service de l’échange que comme un dispositif de verrouillage.

L’espace commentaire, c’est quelque chose d’intéressant parce qu’on y apprend des choses, parce qu’on y débat, à condition évidemment que les échanges soient modérés.

Charles Cohen

Fondateur et CEO, Bodyguard

Charles Cohen, Fondateur et CEO, Bodyguard

Charles Cohen est fondateur et CEO de Bodyguard, une plateforme de modération de contenu et de veille sociale lancée en 2018 pour lutter contre le cyberharcèlement. Lauréat du Forbes 30 Under 30, il défend une approche conciliant liberté d’expression et protection contre les contenus haineux, et intervient régulièrement sur les enjeux de modération en ligne.