Une nouvelle technologie pour surveiller en ligne la haine anti-polonaise

L'intelligence artificielle est utilisée pour lutter contre les crimes de haine anti-polonais dans la perspective du Brexit.

Des chercheurs de HateLab, basés à l'Université de Cardiff, collaborent avec Samurai Labs, un laboratoire polonais d'Intelligence Artificielle, pour surveiller le contenu agressif des médias sociaux et repérer toute connexion à des événements hors ligne.

L'année qui a suivi le vote sur le Brexit a été marquée par la plus forte augmentation du nombre de crimes de haine enregistrés par la police, en hausse de 57% par rapport à l'année précédente. En 2017/18, la police d'Angleterre et du Pays de Galles a enregistré 94 098 infractions de crime de haine, soit une augmentation de 17% par rapport à l'année précédente.

Plus de 900 000 Polonais vivent au Royaume-Uni, ce qui en fait la plus grande minorité nationale. Des études pilotes menées par Samurai Labs montrent que près de 5% des documents publiés sur les médias sociaux britanniques concernant ce groupe ont une connotation négative ou offensante.

HateLab est un centre mondial de données et d'analyse du discours de haine et du crime. En utilisant des méthodes de science des données, y compris des formes éthiques d'IA, l'initiative a été mise en place pour mesurer et contrer le problème de la haine à la fois en ligne et hors ligne. Le tableau de bord en ligne sur le discours de haine a été mis au point par des universitaires et des partenaires politiques pour prévenir les attaques de crimes motivés par la haine dans les rues.

Le professeur Matthew Williams, directeur de HateLab à l'Université de Cardiff, a déclaré: "Nous savons que le référendum de 2016 sur l'UE a provoqué une augmentation du discours de haine en ligne et a coïncidé avec une augmentation significative du nombre de crimes motivés par la haine hors ligne. Alors que le Royaume-Uni s'apprête à quitter l'Union européenne, les méthodes les plus avancées en intelligence artificielle vont être vitales pour aider les autorités à reconnaître rapidement les signes avant-coureurs et à rassurer et sécuriser la communauté polonaise vivant ici. "

Les algorithmes d'intelligence artificielle développés par Samurai Labs permettent de différencier avec précision l'agression Web et les commentaires inoffensifs. Ils sont également capables d'identifier précisément le type d'agression. Ces fonctionnalités sont particulièrement importantes lorsqu'il est nécessaire d'identifier les pics de ce contenu autour d'événements hors ligne.

Michał Wroczyński, PDG de Samurai Labs, a déclaré: "Nous avons d'abord distingué huit catégories d'agressions verbales visant les résidents britanniques d'ascendance polonaise, à commencer par les insultes et les demandes de retour chez eux, de menaces à la vie et à l'intégrité physique.

«L’agression verbale ne fait pas nécessairement référence à l’origine. Il s’agit pour la plupart de mots offensants qui peuvent viser n’importe quel pays. De tels événements constituent près de 40% du total des cas.

Gniewosz Leliwa, directeur de la recherche sur l'intelligence artificielle chez Samurai Labs, a déclaré: "Nous devons être très précis et travailler avec une compréhension profonde de la langue. Les mots-clés sont certainement insuffisants. Il est possible pour une personne de faire une menace punissable sans utiliser les mots caractéristiques. "De même, l’utilisation de la vulgarité n’est pas toujours nécessairement associée à un message agressif. Notre système est capable de comprendre le contexte et de séparer correctement une menace réelle d'une conversation ordinaire. "

HateLab, qui fait partie du laboratoire de données sociales basé entre la faculté des sciences sociales et la faculté d'informatique et d'informatique de l'Université, a été créé avec le soutien financier du Conseil de la recherche économique et sociale (ESRC) et du ministère de la Justice des États-Unis. Il a reçu un financement total de 1 726 841 £ pour cinq projets en cours.

Le professeur Williams a ajouté: "Nous sommes très heureux de travailler avec Samurai Labs. Leur approche innovante s’est révélée très précise dans la détection de la cyberintimidation et de l’agression sur Internet. Nous recherchons beaucoup de succès similaires dans la détection de l’agression contre les minorités.

"Compte tenu des racines polonaises de Samurai Labs, nous espérons pouvoir acquérir de nouvelles connaissances et mieux comprendre les nuances associées à ce problème. La technologie qu'ils développent constituera une partie importante de notre tableau de bord en ligne."