Comment les faux comptes manipulent constamment ce que vous voyez sur les réseaux sociaux – et ce que vous pouvez y faire

Les plateformes de médias sociaux comme Facebook, Twitter et Instagram ont commencé comme un moyen de se connecter avec des amis, la famille et les personnes d'intérêt. Mais quiconque sur les réseaux sociaux sait de nos jours que le paysage est de plus en plus conflictuel.

Vous avez sans aucun doute entendu des informations selon lesquelles des pirates informatiques et même des gouvernements étrangers utilisent les médias sociaux pour vous manipuler et vous attaquer. Vous vous demandez peut-être comment cela est possible. En tant que professeur d'informatique qui fait des recherches sur les médias sociaux et la sécurité, je peux expliquer – et vous proposer quelques idées sur ce que vous pouvez faire à ce sujet.

Bots et marionnettes à chaussettes

Les plateformes de médias sociaux ne se contentent pas de vous alimenter les publications des comptes que vous suivez. Ils utilisent des algorithmes pour organiser ce que vous voyez, en partie en fonction des «j'aime» ou des «votes». Un message est montré à certains utilisateurs, et plus ces personnes réagissent – positivement ou négativement – plus il sera mis en évidence pour les autres. Malheureusement, les mensonges et le contenu extrême suscitent souvent plus de réactions et se propagent donc rapidement et largement.

Mais qui fait ce "vote"? C'est souvent une armée de comptes, appelés bots, qui ne correspondent pas à de vraies personnes. En fait, ils sont contrôlés par des pirates, souvent à l'autre bout du monde. Par exemple, les chercheurs ont rapporté que plus de la moitié des comptes Twitter discutant de COVID-19 sont des robots.

En tant que chercheur sur les médias sociaux, j'ai vu des milliers de comptes avec la même photo de profil "comme" des messages à l'unisson. J'ai vu des comptes publier des centaines de fois par jour, bien plus qu'un être humain. J'ai vu un récit prétendant être une "épouse de l'armée patriotique américaine" de la Floride, obsédé par les immigrants en anglais, mais dont l'historique du compte montrait qu'il publiait en ukrainien.

De faux comptes comme celui-ci sont appelés "marionnettes à chaussettes" – suggérant une main cachée parlant à travers une autre identité. Dans de nombreux cas, cette tromperie peut facilement être révélée en consultant l'historique du compte. Mais dans certains cas, il y a un gros investissement pour que les comptes de marionnettes à chaussettes semblent réels.

Par exemple, Jenna Abrams, un compte de 70 000 abonnés, a été citée par des médias grand public comme le New York Times pour ses opinions xénophobes et d'extrême droite, mais était en fait une invention contrôlée par Internet Research Agency, un troll financé par le gouvernement russe ferme et non une personne vivante et respirante.

Semer le chaos

Souvent, les trolls ne se soucient pas autant des problèmes que de la création de divisions et de méfiance. Par exemple, les chercheurs en 2018 ont conclu que certains des comptes les plus influents des deux côtés des problèmes de division, comme Black Lives Matter et Blue Lives Matter, étaient contrôlés par des fermes de pêche à la traîne.

Plus que simplement attiser les désaccords, les trolls veulent encourager la croyance que la vérité n'existe plus. Diviser et conquérir. Méfiez-vous de quiconque pourrait servir de leader ou de voix de confiance. Coupez la tête. Démoraliser. Embrouiller. Chacun d'eux est une stratégie d'attaque dévastatrice.

Même en tant que chercheur sur les médias sociaux, je sous-estime le degré auquel mon opinion est façonnée par ces attaques. Je pense que je suis assez intelligent pour lire ce que je veux, jeter le reste et m'éloigner indemne. Pourtant, quand je vois un post qui a des millions de likes, une partie de moi pense qu'il doit refléter l'opinion publique. Les flux de médias sociaux que je vois en sont affectés et, de plus, je suis affecté par les opinions de mes vrais amis, qui sont également influencés.

La société tout entière est subtilement manipulée pour croire qu'elle se trouve du côté opposé de nombreuses questions lorsqu'il existe un terrain d'entente légitime.

Je me suis concentré principalement sur des exemples basés aux États-Unis, mais les mêmes types d'attaques se déroulent dans le monde entier. En retournant les voix des démocraties les unes contre les autres, les régimes autoritaires peuvent commencer à sembler préférables au chaos.

Les plateformes ont mis du temps à agir. Malheureusement, la désinformation et la désinformation entraînent une utilisation et sont bonnes pour les affaires. Le fait de ne pas agir a souvent été justifié par des préoccupations concernant la liberté d'expression. La liberté d'expression inclut-elle le droit de créer 100 000 faux comptes dans le but exprès de propager des mensonges, des divisions et du chaos?

Prendre le contrôle

Alors, que pouvez-vous y faire? Vous savez probablement déjà vérifier les sources et les dates de ce que vous lisez et transmettez, mais les conseils de bon sens en matière de médias ne suffisent pas.

Premièrement, utilisez les médias sociaux de manière plus délibérée. Choisissez de rattraper quelqu'un en particulier, plutôt que de ne consommer que le flux par défaut. Vous pourriez être étonné de voir ce que vous avez manqué. Aidez vos amis et votre famille à trouver vos messages en utilisant des fonctionnalités telles que l'épinglage des messages clés en haut de votre flux.

Deuxièmement, faites pression sur les plateformes de médias sociaux pour supprimer des comptes présentant des signes clairs d'automatisation. Demandez plus de contrôles pour gérer ce que vous voyez et quels messages sont amplifiés. Demandez plus de transparence sur la façon dont les messages sont promus et qui place les annonces. Par exemple, dénoncez directement le fil d'actualité Facebook ici ou informez les législateurs de vos préoccupations.

Troisièmement, soyez conscient des problèmes préférés des trolls et soyez sceptique à leur sujet. Ils peuvent être plus intéressés à créer le chaos, mais ils montrent également des préférences claires sur certains problèmes. Par exemple, les trolls veulent rouvrir rapidement les économies sans une véritable gestion pour aplatir la courbe COVID-19. Ils ont également clairement soutenu l'un des candidats à la présidentielle américaine de 2016 par rapport à l'autre. Cela vaut la peine de vous demander comment ces positions pourraient être bonnes pour les trolls russes, mais mauvaises pour vous et votre famille.

Peut-être plus important encore, utilisez les médias sociaux avec parcimonie, comme toute autre substance toxique et addictive, et investissez dans des conversations plus constructives dans le développement de la communauté. Écoutez de vraies personnes, de vraies histoires et de vraies opinions, et construisez à partir de là.

Cet article est republié de The Conversation sous une licence Creative Commons. Lisez l'article original.