Un chercheur crée un logiciel gratuit de modération des commentaires pour YouTube

En tant qu’expert dans la construction d’un internet plus sûr et plus équitable, le professeur adjoint de Rutgers, Shagun Jhaver, a longtemps soupçonné que les créateurs de contenu numérique issus de groupes minoritaires souffraient d’un harcèlement en ligne disproportionné. Mais lorsqu’il a entendu parler d’un YouTubeur brésilien de 35 ans qui a fait une dépression nerveuse et a été hospitalisé après un barrage de haine numérique, il a décidé de faire quelque chose.

M. Jhaver, qui enseigne au département de bibliothéconomie et de sciences de l’information de l’école de communication et d’information de Rutgers, a créé un outil de modération des commentaires pour YouTube afin de garantir que les utilisateurs comme l’animateur vidéo brésilien – qui a fini par fermer sa chaîne – puissent travailler sans craindre d’être attaqués. Baptisé FilterBuddy, cet outil gratuit et open-source est conçu pour donner aux créateurs de contenu professionnel, c’est-à-dire à tous ceux qui gagnent leur vie en publiant sur les plateformes de médias sociaux, le pouvoir de se protéger et de protéger leur public.

Pour développer FilterBuddy, Jhaver a étudié les outils de modération de contenu fournis en standard avec des plateformes comme YouTube, Facebook, Twitter et Twitch. Lors d’entretiens avec 19 créateurs des Amériques, d’Asie, d’Europe et du Moyen-Orient, Jhaver et ses collègues de l’université de Washington ont découvert que les créateurs de contenu, en particulier ceux issus de communautés sous-représentées, sont souvent attaqués pour leur apparence, leurs croyances et leur origine. « Ils sont confrontés à des abus disproportionnés, donc ils ont des besoins disproportionnés », a-t-il déclaré.

Jhaver a également appris que les outils de filtrage des mots-clés que les plateformes fournissent sont difficiles à utiliser et largement inefficaces. « Ces outils sont très rudimentaires, très difficiles à mettre à l’échelle et sur de nombreuses plateformes, vous ne pouvez même pas rechercher les règles de filtrage que vous avez configurées. »

Les résultats ont été récemment publiés dans la revue Actes de la conférence ACM CHI sur les facteurs humains dans les systèmes informatiques..

Sur la base de ces données, Jhaver et ses collègues ont créé un système pour les créateurs de YouTube afin d’améliorer la création, la maintenance et l’audit des filtres de mots, qui peuvent marquer et mettre en quarantaine les commentaires potentiellement offensants avant qu’ils ne deviennent publics. FilterBuddy comprend également un aperçu interactif de la capture du filtre (pour tester l’efficacité du filtre avant son déploiement), la possibilité de construire des filtres au sommet créés par d’autres et des graphiques et tableaux de séries temporelles pour comprendre quels commentaires sont capturés par quels filtres au fil du temps.

En fin de compte, M. Jhaver espère que FilterBuddy incitera les plateformes à développer des ressources plus puissantes en interne et à faciliter la connexion des applications tierces.

« Nous avons utilisé des outils de développement standard pour créer FilterBuddy, mais les fonctionnalités sont si appréciées par la communauté et si désespérément nécessaires », a-t-il déclaré. « Le fait que nous ayons construit ce service avec un budget restreint démontre qu’à l’heure actuelle, les plateformes ne prêtent pas suffisamment attention aux besoins des créateurs. »

Plus important encore, Jhaver a déclaré qu’il espère que son logiciel contribuera à un espace en ligne plus sûr – pour les utilisateurs et pour les créateurs. « Personne ne devrait avoir à abandonner son travail à cause de commentaires abusifs », a-t-il déclaré.