Facebook affirme que l'IA améliore son espionnage en matière de contenu indésirable

Facebook a déclaré mercredi que son logiciel devenait de plus en plus habile à espionner les contenus interdits sur le réseau social, puis à travailler avec des humains pour supprimer rapidement les vidéos terroristes, etc.

"Bien que nous penchions du côté de la liberté d'expression, nous nous démarquons généralement de tout ce qui pourrait causer un préjudice réel", a déclaré le directeur général de Facebook, Mark Zuckerberg, lors d'un exposé sur le dernier rapport de la société sur la recherche de publications violant ses politiques.

"Ceci ne représente qu'une infime partie du contenu de Facebook et Instagram, et nous en retirons une grande partie avant que quiconque ne le voie."

Facebook a beaucoup investi dans l'intelligence artificielle (IA) pour détecter automatiquement les contenus interdits, souvent avant qu'ils ne soient vus par les utilisateurs, ainsi que par des équipes humaines de relecteurs qui vérifient si le logiciel est à la cible.

Selon Zuckerberg, Facebook emploie plus de 35 000 personnes dans les domaines de la sécurité et de la sûreté, et consacre des milliards de dollars chaque année à cette mission.

"Nos efforts portent leurs fruits", a déclaré Zuckerberg. "Les systèmes que nous avons conçus pour résoudre ces problèmes sont plus avancés."

En ce qui concerne la détection du discours de haine, le logiciel Facebook détecte désormais automatiquement 80% du contenu supprimé, ce qui représente une nette amélioration par rapport à il y a deux ans, alors que la quasi-totalité de ces documents n'avait pas été traitée avant d'être signalée par les utilisateurs, selon la firme californienne. .

Nuance attrayante

Zuckerberg a noté que le discours de haine est plus difficile à détecter par l'IA que la nudité dans les images ou les vidéos en raison de "nuances linguistiques" qui nécessitent un contexte pouvant mettre en péril même des mots courants.

Ajoutez à cela des vidéos d'attaques motivées par des préjugés contre une race, un sexe ou une religion qui pourraient être partagées pour condamner une telle violence plutôt que de la glorifier.

Les gens de Facebook continuent d’essayer de partager des vidéos d’horribles attaques de mosquées à Christchurch, en Nouvelle-Zélande, alors que les réseaux sociaux bloquent 95% de ces tentatives, selon des responsables.

Un seul homme armé a ouvert le feu sur deux mosquées de la ville de Christchurch, tuant et blessant de nombreux musulmans en mars, diffusant les assauts en direct sur Facebook.

Selon la responsable de la gestion des politiques mondiales, Monika Bickert, Facebook regroupe des experts du terrorisme au sein d'une équipe de plus de 350 personnes vouées à empêcher les groupes terroristes d'utiliser le réseau social.

Des systèmes perfectionnés pour rechercher et supprimer les contenus interdits sur Facebook sont également utilisés sur Instagram, qui redouble d'efforts pour filtrer les contenus susceptibles d'encourager le suicide ou l'automutilation tout en permettant aux personnes de partager de telles expériences traumatisantes dans un esprit de rétablissement ou de guérison,

Les règles récemment mises en place sur Instagram ont ajouté à la liste des dessins et autres contenus fictifs une interdiction des images susceptibles d’encourager le suicide ou l’automutilation.

En début d'année, le service de partage d'images et de vidéos appartenant à Facebook a mis un frein aux images d'automutilation après qu'une adolescente britannique qui a lu des articles en ligne sur le suicide se soit suicidée en 2017.

L’histoire de la jeune femme de 14 ans sur les médias sociaux a révélé qu’elle avait suivi des récits sur la dépression et le suicide.

L'affaire a déclenché un vif débat en Grande-Bretagne sur le contrôle parental et la réglementation par l'État de l'utilisation des médias sociaux par les enfants.

Instagram n'a jamais autorisé les publications qui encouragent ou encouragent le suicide ou l'automutilation.

Avec un changement de règle au début de cette année, Instagram a commencé à supprimer les références à du contenu non graphique relatif aux personnes se blessant de par ses recherches et ses fonctionnalités de recommandation.

Les mesures visaient à rendre ces images plus difficiles à trouver pour les adolescents déprimés qui pourraient avoir des tendances suicidaires.

© 2019 AFP