Contenus intimes potentiellement diffusés sans consentement, faux profils, ciblage de jeunes utilisateurs, haine en ligne, exposition des mineurs, etc., le premier baromètre de Moderering met en lumière une faiblesse persistante des plateformes numériques. Au-delà des cas étudiés, une question s’impose : les plateformes peuvent-elles encore attendre le signalement des victimes pour agir ?
La modération en ligne a longtemps reposé sur la même mécanique. Un contenu est publié, un utilisateur le signale, la plateforme l’analyse, puis décide éventuellement de le retirer. Ce modèle a structuré la plupart des grands services numériques. Or il montre aujourd’hui ses limites.
C’est ce que montre le premier baromètre publié par Moderering, une solution française de détection automatisée des contenus illicites et à risque. L’étude s’appuie sur l’analyse de plusieurs environnements numériques très différents (Wyylde, Gleese, Chatiw, Facebook et Roblox) et révèle une même fragilité : le dommage intervient souvent avant le signalement.
Sur les plateformes adultes ou libertines, Moderering affirme avoir identifié des volumes importants de contenus intimes potentiellement diffusés sans consentement. Selon son analyse IA, 82 % des images et vidéos étudiées autour de Wyylde et 58 % de celles observées sur Gleese concerneraient des personnes qui n’auraient pas consenti à leur diffusion sur ces plateformes, principalement des femmes non inscrites.
Dans le cas de contenus intimes repartagés sans accord, la suppression après signalement ne répare pas le préjudice. Une image copiée, capturée ou rediffusée peut déjà avoir circulé ailleurs. Le problème n’est donc pas seulement de retirer plus vite. Il est de détecter plus tôt les situations à risque.
Le même raisonnement vaut pour les faux profils et les usages trompeurs. Le baromètre affirme que plus de 61 % des profils Wyylde se présentant comme des couples seraient en réalité des hommes seuls. Là encore, si le chiffre est à manier avec précaution, il pointe une question centrale : que vaut une modération centrée sur les contenus si l’environnement lui-même facilite la manipulation, l’usurpation ou la mise en relation sous de faux prétextes ?
Le cas des chats anonymes illustre une autre faille. Sur Chatiw, Moderering dit observer une corrélation entre l’âge jeune déclaré et la rapidité de réception de messages à caractère sexuel après connexion. Le risque devient donc comportemental, relationnel, dynamique. Il tient à la combinaison entre absence de vérification robuste, contact immédiat et faiblesse des garde-fous.
Le DSA impose une logique de prévention
Cette évolution rejoint directement le nouveau cadre européen. Avec le Digital Services Act, les plateformes ne sont plus seulement attendues sur leur capacité à retirer des contenus illicites après notification. Les plus grandes doivent aussi identifier, évaluer et réduire les risques systémiques liés à leurs services, notamment pour les mineurs, les contenus illicites, les violences de genre, la haine ou les atteintes à la sécurité des utilisateurs. Depuis février 2024, les obligations du DSA s’appliquent à l’ensemble des acteurs concernés sur le marché européen.
La Commission européenne a d’ailleurs ouvert en 2024 plusieurs procédures formelles visant Meta au titre du DSA, notamment sur la protection des mineurs sur Facebook et Instagram, ainsi que sur certains mécanismes de signalement et de traitement des plaintes. Ce mouvement réglementaire montre que la conformité ne se limite plus à afficher un bouton de signalement ou à publier des règles communautaires. Elle suppose de démontrer que les risques sont compris, mesurés et réduits.
Cette exigence est particulièrement forte pour les services fréquentés par des enfants ou des adolescents. En juillet 2025, la Commission européenne a publié des lignes directrices sur la protection des mineurs applicables aux plateformes en ligne accessibles aux jeunes publics, à l’exception des micro et petites entreprises. Elles recommandent notamment des réglages protecteurs par défaut, des outils de blocage, des limites aux contacts indésirables et des mécanismes d’assurance de l’âge plus fiables.
Roblox résume assez bien la complexité du problème. La plateforme revendique une audience massive et a intégré des dispositifs de vérification d’âge. Elle indiquait début 2026 que, parmi les utilisateurs quotidiens ayant effectué une vérification d’âge, 35 % avaient moins de 13 ans, 38 % entre 13 et 17 ans et 27 % plus de 18 ans. Mais la plateforme reste sous pression. Des organisations de protection de l’enfance ont récemment demandé une enquête aux États-Unis, en dénonçant des risques d’exposition des mineurs à des contacts problématiques, à des contenus inadaptés et à des mécanismes de monétisation jugés préoccupants. Roblox conteste ces accusations et met en avant ses dispositifs de sécurité.
C’est bel et bien la preuve que la modération ne peut plus être pensée comme une simple opération de nettoyage. Elle devient, en effet, une infrastructure de confiance. Elle doit combiner analyse de contenus, détection des comportements, vérification d’âge, lutte contre les faux profils, priorisation des alertes et traçabilité des décisions.
Mais ce changement pose évidemment des problèmes. Car si une modération plus proactive peut mieux protéger les utilisateurs, en particulier les mineurs et les victimes de violences numériques, elle peut aussi générer des faux positifs, renforcer la surveillance des échanges ou confier à des systèmes automatisés des décisions sensibles. Le défi n’est donc pas de remplacer l’humain par l’IA. Il est de construire des dispositifs capables de détecter plus tôt sans sanctionner aveuglément.
Mais attendre que la victime signale le danger revient à intervenir trop tard.
