Les cadres techniques disent qu'ils agissent plus vite sur le contenu extrémiste

Les dirigeants de Facebook, Google et Twitter ont déclaré mercredi au Congrès qu'ils étaient maintenant plus efficaces et plus efficaces pour détecter et supprimer les contenus extrémistes violents sur leurs plateformes de réseaux sociaux face à des tirs en masse alimentés par la haine.

Interrogés lors d'une audition par le Comité du commerce du Sénat, les dirigeants ont déclaré qu'ils dépensaient de l'argent en technologies pour améliorer leur capacité à repérer le contenu extrémiste et en prenant l'initiative de contacter les forces de l'ordre pour tenter de parer à des incidents violents potentiels.

"Nous continuerons d'investir dans les ressources humaines et la technologie pour relever le défi", a déclaré Derek Slater, directeur de la politique d'information de Google.

Les législateurs veulent savoir ce que font les entreprises pour éliminer les discours de haine de leurs plateformes et comment elles se coordonnent avec les forces de l'ordre.

"Nous assistons à une montée de la haine. Les médias sociaux sont utilisés pour amplifier cette haine", a déclaré la sénatrice Maria Cantwell de l'État de Washington, le plus haut démocrate du panel.

Les dirigeants de la société ont déclaré que leur technologie s’améliorait pour identifier et éliminer plus rapidement les contenus suspects.

Sur les 9 millions de vidéos supprimées de Google sur YouTube au deuxième trimestre de l'année, 87% ont été signalées par une machine utilisant l'intelligence artificielle, et bon nombre d'entre elles ont été supprimées avant d'avoir obtenu une seule vue, a déclaré Slater.

Après la fusillade dans le lycée en février 2018 en Floride, qui a coûté la vie à 17 personnes, Google a commencé à contacter de manière proactive les autorités chargées de l'application de la loi pour voir comment elles pourraient mieux se coordonner, a déclaré Slater. Nikolas Cruz, le suspect, avait auparavant publié sur une page YouTube: "Je vais être un tireur d'école professionnel", ont déclaré les autorités.

La semaine dernière, Facebook a annoncé que son organisation travaillerait avec les organismes chargés de l'application de la loi pour former ses systèmes d'IA à reconnaître les vidéos d'événements violents dans le cadre d'un effort plus vaste visant à lutter contre l'extrémisme. Les systèmes d'IA de Facebook ont ​​été incapables de détecter en direct une vidéo de la fusillade d'une mosquée en Nouvelle-Zélande en mars qui a tué 50 personnes. Le soi-disant suprémaciste blanc accusé de la fusillade avait visionné l’attaque.

L’effort consistera à utiliser une séquence vidéo de formation au maniement des armes à feu fournie par le gouvernement américain et le gouvernement britannique et par les organismes chargés de l’application de la loi.

Facebook élargit également sa définition du terrorisme pour inclure non seulement les actes de violence destinés à atteindre un objectif politique ou idéologique, mais également les tentatives de violence, en particulier lorsqu'elles visent des civils dans le but de contraindre et d'intimider. La société a connu un succès mitigé dans ses efforts pour limiter la diffusion de matériel extrémiste à son service.

Facebook semble avoir peu progressé, par exemple, sur ses systèmes automatisés de suppression de contenus interdits glorifiant des groupes tels que l'État islamique au cours des quatre mois qui ont suivi l'affichage détaillé par Associated Press de pages Facebook générées automatiquement pour les entreprises qui aident les extrémistes du Moyen-Orient et les suprémacistes blancs. aux États-Unis Les nouveaux détails proviennent d’une mise à jour d’une plainte déposée par la National Whistleblower Center auprès de la Securities and Exchange Commission cette semaine.

Facebook a répondu qu'il supprimait toutes les pages générées automatiquement "qui enfreignent nos règles. Nous ne pouvons pas toutes les saisir, mais nous restons vigilants dans cet effort".

Monika Bickert, responsable de la gestion des politiques globales pour Facebook, a déclaré lors de l'audience devant le Sénat que la société avait accru sa capacité à détecter le terrorisme, la violence et les discours de haine beaucoup plus tôt. "Nous savons que les gens doivent être en sécurité", a-t-elle déclaré. Bickert a noté que Facebook supprime tout contenu qui promeut la violence, la suprématie blanche ou le nationalisme, ainsi que l'indication de suicide, et désactive les comptes lorsque des menaces sont détectées.

Nick Pickles, directeur de la stratégie pour les politiques publiques de Twitter, a déclaré que le service avait suspendu plus de 1,5 million de comptes de promotion du terrorisme entre le 1er août 2015 et le 31 décembre 2018. Plus de 90% des comptes étaient suspendus grâce aux mesures proactives de Twitter, at-il dit, n'attendant pas les rapports du gouvernement et des forces de l'ordre.

Le sénateur Rick Scott, R-Fla., A demandé à Pickles pourquoi Twitter n'avait pas suspendu le récit du dirigeant socialiste vénézuélien Nicolas Maduro, qui a présidé à une crise économique et politique de plus en plus grave et qui a menacé les responsables politiques de l'opposition de poursuites pénales.

Si Twitter supprimait le compte de Maduro, "cela ne changerait pas les faits sur le terrain", a déclaré Pickles.

Scott a déclaré qu'il n'était pas d'accord car le compte de Maduro avec quelque 3,7 millions d'adeptes lui confère une légitimité en tant que leader mondial.

© 2019 L'Associated Press. Tous les droits sont réservés.