Etat islamique toujours auto-générateur de pages Facebook, pages d'Al-Qaida

Face aux critiques selon lesquelles Facebook ne fait pas assez pour combattre les messages extrémistes, la société aime à dire que ses systèmes automatisés suppriment la grande majorité des contenus interdits glorifiant le groupe État islamique et Al-Qaida avant leur publication.

Cependant, une plainte de dénonciateur montre que Facebook a lui-même fourni par inadvertance aux deux groupes extrémistes un outil de réseautage et de recrutement en produisant des dizaines de pages à leur nom.

La société de réseautage social semble avoir peu progressé sur la question au cours des quatre mois qui ont suivi la publication par l'Associated Press de la façon dont les pages générées automatiquement par Facebook pour les entreprises aident les extrémistes du Moyen-Orient et les suprématistes blancs aux États-Unis.

Mercredi, des sénateurs américains de la Commission du commerce, des sciences et des transports interrogeront des représentants de sociétés de médias sociaux, dont Monika Bickert, qui dirige les efforts de Facebook pour endiguer les messages extrémistes.

Les nouveaux détails proviennent d'une mise à jour d'une plainte déposée par la National Whistleblower Center auprès de la Securities and Exchange Commission cette semaine. Le dépôt obtenu par l'AP identifie près de 200 pages générées automatiquement – certaines pour les entreprises, d'autres pour les écoles ou d'autres catégories – qui font directement référence au groupe État islamique et des dizaines d'autres représentant Al-Qaida et d'autres groupes connus. Une page répertoriée comme "idéologie politique" s'intitule "J'aime l'État islamique". Il comporte un logo IS dans les contours de la célèbre icône du pouce levé de Facebook.

En réponse à une demande de commentaire, un porte-parole de Facebook a déclaré à l'AP: "Notre priorité est de détecter et de supprimer le contenu posté par des personnes qui enfreignent notre politique contre les individus et les organisations dangereux de rester en avance sur les mauvais acteurs. Les pages générées automatiquement ne sont pas normales Les pages Facebook en tant que personnes ne peuvent pas commenter ou poster sur elles, et nous supprimons celles qui enfreignent nos politiques. Même si nous ne pouvons pas toutes les saisir, nous restons vigilants dans cet effort. "

Facebook possède un certain nombre de fonctions qui génèrent automatiquement des pages à partir de contenu posté par les utilisateurs. La plainte mise à jour examine une fonction destinée à faciliter la mise en réseau des entreprises. Il efface les informations sur l'emploi des pages des utilisateurs pour créer des pages pour les entreprises. Dans ce cas, cela peut aider les groupes extrémistes, car cela permet aux utilisateurs d’aimer les pages, en fournissant potentiellement une liste de sympathisants pour les recruteurs.

Le nouveau dépôt a également révélé que les pages des utilisateurs faisant la promotion de groupes extrémistes restent faciles à trouver avec de simples recherches utilisant leurs noms. Ils ont découvert une page pour "Mohammed Atta" avec une photo emblématique de l'un des adhérents d'Al-Qaida, pirate de l'air lors des attaques du 11 septembre. La page répertorie le travail de l'utilisateur en tant qu '"Al Qaidah" ​​et son éducation en tant que "Maître universitaire, Ben Laden" et "School Terrorist Afghanistan".

Facebook s'est efforcé de limiter la diffusion de contenus extrémistes sur son service, avec un succès mitigé jusqu'à présent. En mars, il a élargi sa définition des contenus interdits pour y inclure les matériaux nationalistes et séparatistes blancs américains, ainsi que ceux émanant de groupes extrémistes internationaux. Il dit avoir interdit 200 organisations suprémacistes blanches et 26 millions de contenus liés à des groupes extrémistes mondiaux tels que IS et Al-Qaida.

Il a également élargi sa définition du terrorisme pour inclure non seulement les actes de violence perpétrés dans le but d'atteindre un objectif politique ou idéologique, mais également les tentatives de violence, en particulier lorsqu'elles visent des civils dans le but de contraindre et d'intimider. Cependant, on ne sait pas si l'application de la loi est efficace si la société a toujours du mal à se débarrasser de sa plate-forme de partisans d'organisations extrémistes bien connues.

Mais, comme le montre le rapport, de nombreux matériaux pénètrent dans les fissures et sont générés automatiquement.

L'histoire de l'AP en mai a mis en évidence le problème de l'auto-génération, mais le nouveau contenu identifié dans le rapport suggère que Facebook ne l'a pas résolu.

Le rapport indique également que les chercheurs ont constaté que bon nombre des pages citées dans le rapport de l'AP avaient été supprimées plus de six semaines plus tard, le 25 juin, la veille du jour où Bickert aurait été interrogé pour une autre audience devant le Congrès.

Le problème a été signalé dans la plainte initiale déposée par la SEC auprès du directeur exécutif du centre, John Kostyack, selon laquelle la société de médias sociaux aurait exagéré son succès dans la lutte contre les messages extrémistes.

"Facebook voudrait nous faire croire que ses algorithmes magiques sont en train de nettoyer son site Web de contenu extrémiste", a déclaré Kostyack. "Pourtant, ces mêmes algorithmes sont des pages auto-générées avec des titres tels que" I Love Islamic State ", idéales pour les terroristes, qui les utilisent pour la création de réseaux et le recrutement."

© 2019 L'Associated Press. Tous les droits sont réservés.