Un outil d’IA peut faire la distinction entre une théorie du complot et une véritable conspiration

L’audio sur les images de la caméra, autrement tremblantes, est inhabituellement clair. Alors que des policiers fouillent un homme menotté qui, quelques instants auparavant, avait tiré un coup de feu à l’intérieur d’une pizzeria, un policier lui demande pourquoi il était là. L’homme dit d’enquêter sur un réseau pédophile. Incrédule, demande à nouveau l’officier. Un autre officier intervient, « Pizzagate. Il parle de Pizzagate. »

Dans cette brève et effrayante interaction de 2016, il devient clair que les théories du complot, longtemps reléguées en marge de la société, s’étaient déplacées dans le monde réel d’une manière très dangereuse.

Les théories du complot, qui ont le potentiel de causer des dommages importants, ont trouvé un accueil bienvenu sur les médias sociaux, où des forums libres de modération permettent à des personnes partageant les mêmes idées de converser. Là, ils peuvent développer leurs théories et proposer des actions pour contrer les menaces qu’ils «découvrent».

Mais comment savoir si un récit émergent sur les réseaux sociaux est une théorie du complot infondée? Il s’avère qu’il est possible de faire la distinction entre les théories du complot et les véritables conspirations en utilisant des outils d’apprentissage automatique pour représenter graphiquement les éléments et les connexions d’un récit. Ces outils pourraient constituer la base d’un système d’alerte précoce pour alerter les autorités sur les récits en ligne qui constituent une menace dans le monde réel.

Le groupe d’analyse de la culture de l’Université de Californie, que je dirige avec Vwani Roychowdhury, a développé une approche automatisée pour déterminer quand les conversations sur les médias sociaux reflètent les signes révélateurs de la théorie du complot. Nous avons appliqué ces méthodes avec succès à l’étude de Pizzagate, la pandémie COVID-19 et les mouvements anti-vaccination. Nous utilisons actuellement ces méthodes pour étudier QAnon.

Construit en collaboration, rapide à former

Les complots réels sont délibérément cachés, des actions réelles de personnes travaillant ensemble à leurs propres fins malveillantes. En revanche, les théories du complot sont construites en collaboration et se développent à l’air libre.

Les théories du complot sont délibérément complexes et reflètent une vision du monde globale. Au lieu d’essayer d’expliquer une chose, une théorie du complot essaie de tout expliquer, découvrant des connexions entre les domaines de l’interaction humaine qui sont autrement cachés, principalement parce qu’ils n’existent pas.

Alors que l’image populaire du théoricien du complot est celle d’un loup solitaire rassemblant des connexions déroutantes avec des photographies et une chaîne rouge, cette image ne s’applique plus à l’ère des médias sociaux. La théorisation du complot s’est déplacée en ligne et est maintenant le produit final d’une narration collective. Les participants élaborent les paramètres d’un cadre narratif: les personnes, les lieux et les choses d’une histoire et leurs relations.

La nature en ligne de la théorisation du complot offre aux chercheurs l’occasion de retracer le développement de ces théories depuis leurs origines sous la forme d’une série de rumeurs et d’articles d’histoire souvent décousus jusqu’à un récit complet. Pour notre travail, Pizzagate a présenté le sujet parfait.

Pizzagate a commencé à se développer fin octobre 2016 lors de la campagne électorale présidentielle. En un mois, il était complètement formé, avec une distribution complète de personnages tirés d’une série de domaines autrement non liés: la politique démocratique, la vie privée des frères Podesta, les repas familiaux décontractés et le trafic pédophile satanique. Le fil narratif reliant ces domaines par ailleurs disparates était l’interprétation fantaisiste des courriels divulgués par le Comité national démocrate et jetés par WikiLeaks au cours de la dernière semaine d’octobre 2016.

Analyse narrative de l’IA

Nous avons développé un modèle – un ensemble d’outils d’apprentissage automatique – qui peut identifier des récits basés sur des ensembles de personnes, de lieux et d’objets et de leurs relations. Les algorithmes d’apprentissage automatique traitent de grandes quantités de données pour déterminer les catégories d’objets dans les données, puis identifier les catégories auxquelles appartiennent des objets particuliers.

Nous avons analysé 17498 publications d’avril 2016 à février 2018 sur les forums Reddit et 4chan où Pizzagate a été discuté. Le modèle traite chaque article comme un fragment d’une histoire cachée et se met sur le point de découvrir le récit. Le logiciel identifie les personnes, les lieux et les choses dans les messages et détermine quels sont les éléments majeurs, quels sont les éléments mineurs et comment ils sont tous connectés.

Le modèle détermine les principales couches du récit – dans le cas de Pizzagate, de la politique démocratique, des frères Podesta, des repas décontractés, du satanisme et de WikiLeaks – et comment les couches se réunissent pour former le récit dans son ensemble.

Pour nous assurer que nos méthodes produisent des résultats précis, nous avons comparé le graphique du cadre narratif produit par notre modèle avec des illustrations publiées dans le New York Times. Notre graphique s’alignait sur ces illustrations et offrait également des niveaux de détails plus fins sur les personnes, les lieux et les choses et leurs relations.

Vérité solide, fiction fragile

Pour voir si nous pouvions faire la distinction entre une théorie du complot et une véritable conspiration, nous avons examiné Bridgegate, une opération de remboursement politique lancée par des membres du personnel de l’administration du gouverneur républicain Chris Christie contre le maire démocrate de Fort Lee, New Jersey.

Lorsque nous avons comparé les résultats de notre système d’apprentissage automatique à l’aide de deux collections distinctes, deux caractéristiques distinctives du cadre narratif d’une théorie du complot se sont démarquées.

Premièrement, alors que le graphique narratif de Bridgegate a pris de 2013 à 2020 pour se développer, le graphique de Pizzagate a été entièrement formé et stable en un mois. Deuxièmement, le graphique de Bridgegate a survécu à la suppression d’éléments, ce qui implique que la politique du New Jersey continuerait en tant que réseau unique et connecté, même si les chiffres clés et les relations du scandale étaient supprimés.

Le graphique de Pizzagate, en revanche, était facilement fractionné en sous-graphiques plus petits. Lorsque nous avons supprimé les personnes, les lieux, les choses et les relations qui provenaient directement des interprétations des e-mails de WikiLeaks, le graphique s’est effondré en ce qui était en réalité les domaines non connectés de la politique, de la restauration décontractée, de la vie privée des Podestas et du monde étrange. du satanisme.

Dans l’illustration ci-dessous, les plans verts sont les couches principales du récit, les points sont les éléments principaux du récit, les lignes bleues sont des connexions entre les éléments d’une couche et les lignes rouges sont des connexions entre les éléments à travers les couches. Le plan violet montre toutes les couches combinées, montrant comment les points sont tous connectés. La suppression du plan WikiLeaks donne un plan violet avec des points connectés uniquement en petits groupes.

Système d’alerte précoce?

Notre travail soulève des défis éthiques clairs. Nos méthodes, par exemple, pourraient être utilisées pour générer des articles supplémentaires à une discussion sur la théorie du complot qui correspondent au cadre narratif à la racine de la discussion. De même, étant donné n’importe quel ensemble de domaines, quelqu’un pourrait utiliser l’outil pour développer une théorie du complot entièrement nouvelle.

Cependant, cette militarisation de la narration se produit déjà sans méthodes automatiques, comme notre étude des forums de médias sociaux le montre clairement. La communauté de la recherche a un rôle à jouer pour aider les autres à comprendre comment cette militarisation se produit et pour développer des outils pour les personnes et les organisations qui protègent la sécurité publique et les institutions démocratiques.

Le développement d’un système d’alerte précoce qui suit l’émergence et l’alignement des récits de la théorie du complot pourrait alerter les chercheurs – et les autorités – sur les actions du monde réel que les gens pourraient prendre sur la base de ces récits. Peut-être qu’avec un tel système en place, l’officier qui a procédé à l’arrestation dans l’affaire Pizzagate n’aurait pas été déconcerté par la réponse du tireur lorsqu’on lui a demandé pourquoi il s’était présenté dans une pizzeria armée d’un fusil AR-15.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lisez l’article original.