Détecter et arrêter les abus en ligne

Les médias sociaux ont apporté d’énormes avantages à bon nombre de personnes dans le monde qui disposent des ressources nécessaires pour accéder à leurs applications et sites Web. En effet, des milliards de personnes utilisent les plates-formes populaires chaque mois dans presque, sinon, tous les pays du monde. Des chercheurs écrivant dans l’International Journal of High Performance Systems Architecture, soulignent que, comme dans beaucoup de choses dans la vie, il y a des inconvénients qui contrarient les aspects positifs des médias sociaux. On pourrait appeler l’une de ces facettes négatives des médias sociaux la «cyber violence».

Randa Zarnoufi de l’Université FSR Mohammed V de Rabat, au Maroc, et ses collègues suggèrent que le nombre de victimes de cette nouvelle forme d’hostilité augmente de jour en jour et a un effet fortement préjudiciable sur le bien-être psychologique de trop de gens. Une perspective peu étudiée dans ce domaine en ce qui concerne la réduction du niveau de la cyber violence dans le monde est de considérer le statut psychologique et la dimension émotionnelle des auteurs eux-mêmes. Une nouvelle compréhension de ce qui pousse ces personnes à commettre des actes odieux contre d’autres dans le monde en ligne peut améliorer notre réponse et ouvrir de nouvelles façons de résoudre le problème à sa source plutôt que de simplement essayer de filtrer, censurer ou protéger directement les victimes.

L’équipe a analysé les mises à jour des médias sociaux à l’aide d’Ensemble Machine Learning et de la roue Plutchik des émotions de base pour extraire le caractère de ces mises à jour dans le contexte de la cyber violence, de l’intimidation et du comportement de pêche à la traîne. L’analyse tire la conclusion peut-être évidente, mais néanmoins très significative, qu’il existe une association significative entre l’état émotionnel d’un individu et la propension personnelle à une intention nuisible dans le domaine des médias sociaux. Surtout, le travail montre comment cet état émotionnel peut être détecté et peut-être que l’auteur de la cyber violence peut être approché en vue d’améliorer son état émotionnel et de réduire l’impact négatif que ses émotions auraient autrement sur les personnes avec lesquelles il interagit en ligne.

C’est vraiment la première étape de cette approche pour s’attaquer au problème grave et croissant de la cyberviolence. L’équipe ajoute qu’ils formeront leur système à détecter les problèmes spécifiques dans les mises à jour des médias sociaux qui sont associés au harcèlement en ce qui concerne la sexualité, l’apparence, la capacité intellectuelle et la persuasion politique.