[Astroturfing] L'ère des robots ou la manipulation de masse 2.0

Via les réseaux sociaux, une armée de robots a le pouvoir de créer des mouvements populaires de grande ampleur. Ces robots orientent l'opinion publique à l'aide d'une arme très efficace : l'Astroturfing. Thibault Cardorelle, du cabinet de conseil Square, nous en dit plus dans cette tribune.

Ce pourrait être le synopsis d'un film de science-fiction sur fond d'astrologie et de passion équine, mais il n'en est rien. Derrière ce terme nébuleux se cache une histoire et un sens. Le terme est utilisé pour la première fois de manière publique en 1985 par un sénateur américain du nom de Lloyd Bentsen (1). Il arguait qu'un citoyen pouvait sans mal discerner le " grass root (2) " de " l'astro turf (3) " (ndlr : l'herbe naturelle de l'herbe synthétique). Le sénateur faisait alors référence à la campagne de mailing dont il était la cible, campagne savamment orchestrée par des lobbies se faisant passer pour des citoyens inquiets envoyant leurs doléances au sénateur.

Le terme désigne aujourd'hui un ensemble de techniques permettant de simuler une activité de foule sur les réseaux sociaux afin d'influencer les utilisateurs et manipuler l'opinion publique. En simplifiant, il est possible de dire que cette technique repose sur trois piliers : un modus operandi, les sciences sociales et les nouvelles technologies.

Le modus operandi couvre les questions " qui et comment "

Qui, et comment ? La réponse à ces questions pourrait être " personne n'exécute ces actions " dans le sens ou aucun " humain " n'exécute directement ces actions. Dans la majorité des cas, une campagne d'astro turfing est menée par des robots ou " bots (4)", qui sont en réalité des programmes informatiques, pouvant être parfois très complexes, conçus pour exécuter une ou plusieurs tâches. Ces bots peuvent fonctionner en autonomie ou en réseau, ils s'appellent alors " Botnets " s'ils forment un réseau étendu. Ces robots fonctionnent donc derrière de faux comptes sur les réseaux sociaux et exécutent leur programmation : retweet ou repost, copie et repost de certains messages, mots-clés ou hashtags, réponses automatiques à certains posts, abonnements automatiques à d'autres comptes, dislike automatiques... la liste est longue.

La science et les sciences sociales ont une forte influence

La science et les sciences sociales jouent un rôle toujours plus grand dans l'exécution de ces campagnes d'astro turfing. Les résultats des études et des recherches effectuées en psychométrie (5) (science qui étudie entre autres les comportements du consommateur), en neuroscience (qui étudie le cerveau et les réactions de ce dernier à certains stimuli), ainsi qu'en sociologie, servent de base à l'architecture des robots. Les algorithmes intègrent et mettent à profit les mécanismes mis en évidence par ces études : vitesse de propagation des informations, la compréhension des mécanismes et distorsions cognitives (6), l'impact de l'usage de mots moraux et émotionnels (7), les impacts de répétition et la création de faux souvenirs (8).

L'état de la technologie et l'usage de méthodes analytiques de plus en plus performantes permettent de mieux valoriser le " Big Data (9)". Cette ressource d'information est si massive qu'elle nécessite l'emploi de méthodes nouvelles pour son traitement et sa valorisation. Certaines sociétés (10) se sont spécialisées dans l'analyse et la valorisation de ces informations et proposent aujourd'hui leurs services à de grandes entreprises ou à des Etats. A l'exemple de HSBC, qui depuis 2019, emploie l'algorithme " Aladdin (11)", crée par la société BlackRock, pour effectuer l'analyse des risques en analysant du " Big Data ". Le " Big Data " représente dans notre cas la ressource à disposition des robots pour cibler leur action.

Il est légitime de se demander qui se cache derrière ces actions et pourquoi elles sont initiées. Les acteurs derrière les robots sont multiples : Etats, marques, sociétés privées ou publiques, groupes politiques ou apolitiques, mais leur objectif est unique. L'astro turfing a pour objectif d'orienter l'opinion publique et de donner artificiellement une étiquette " importance haute " à un sujet qui n'en a pas. En effet, par l'action de ces robots sur les réseaux sociaux, de vrais humains, des sociétés, des ONG et des organes de presse vont relayer l'information. Le sujet, par effet boule de neige, se retrouvera en une et éclipsera le reste de l'actualité.

Les exemples récents d'Astroturfing

Pour exemple, dans les événements récents, nous pouvons citer l'utilisation de l'hashtag " #DCblackout " au début du mois de juin 2020 dans le cadre des protestations aux Etats-Unis faisant suite à la mort de George Floyd (12). Ce message, qui faisait état d'un black-out total des communications et d'électricité orchestré par les pouvoirs publics de la ville de Washington DC, a été retweeté plus de 790 000 fois sur le réseau Twitter, faisant de lui le sujet à la une. Cette information, qui a également été relayée via Facebook et Instagram s'est révélée être fausse (13).

Nous pouvons aussi rappeler qu'en 2006, un blog intitulé " Wal-Marting Across America " fit la promotion de l'enseigne de grande distribution américaine. Ce blog raconte les aventures de Jim et Laura, parents de trois enfants, voyageant en camping-car depuis Las Vegas jusqu'en Géorgie, le tout en stationnant sur les parkings des différents Wal-Mart du pays. Au gré de leur voyage, la famille rencontre des salariés de Wal-Mart et publie leurs interviews sur leur blog. L'ensemble des salariés rencontrés, du caissier au directeur d'enseigne, étaient tous extrêmement ravis de travailler pour l'enseigne et ne manquaient pas de le faire savoir. Une des conséquences indirectes de ces publications fut une augmentation du cours en bourse de l'action de Wal-Mart. Il s'avère que ce blog ait été monté de toutes pièces par une agence de communication du nom d'Edelman. Les interviews, commentaires et avis postés sur le blog furent fabriqués par l'agence de communication afin d'améliorer l'image de marque de l'enseigne et simuler un engouement public. Jim et Laura n'ont jamais existé en tant que tel et Edelman se trouvait en fait derrière ces profils. Des employés de cette société de communication ont expliqué qu'ils avaient pour objectif de faire la promotion de la marque auprès des critiques, des syndicats, et des clients.

Dans les événements les plus marquants de la décennie, il faut mentionner le " twittergate coréen (14) ", inédit tant dans son ampleur que dans son exécution. Cette campagne d'astro turfing visait à discréditer les candidats des partis d'opposition lors de l'élection présidentielle sud-coréenne de 2013. Dans cette affaire, l'enquête révèle que les ressources des services secrets sud-coréens et du ministère de la défense, normalement destinées à la cyberguerre contre la Corée du nord, ont été employées pour diffuser près de 23 millions de tweets dénigrants l'opposition afin de faire pencher l'opinion publique en faveur de la future présidente Geun-hye Park. L'astro turfing sert aussi à diffuser et relayer des " fakes news ", toujours dans le but de contrôler l'opinion publique.

A l'ère de la fake news, de la demi-vérité et de l'utilisation des réseaux sociaux comme source d'information, non seulement par le grand public, mais aussi par la presse (15), l'astro turfing se pose à la pointe des processus de manipulation de masse. Difficile à discerner, facile à mettre en place, ce procédé disruptif pose un problème sérieux aux régulateurs des réseaux sociaux qui n'ont pas encore de réponse dimensionnée à la hauteur de la menace. De fait, pour briser la chaîne de propagation, nous pouvons aiguiser notre sens critique et appliquer quelques principes simples : ne pas relayer une information qu'on ne peut pas vérifier nous-même, prendre du recul par rapport à une information choquante et ne pas réagir dans l'émotion.

Comme le disait Sun Tsu dans l'art de la guerre, le meilleur n'est pas de gagner [...], mais plutôt de vaincre l'ennemi sans combattre. Afin de gagner la bataille et briser la chaîne de propagation de l'astro turfing, la meilleure défense contre l'armée de robots serait-elle de ne rien faire ?

L'auteur : Thibault Cardorelle, consultant au sein du cabinet de conseil Square

La rédaction vous recommande

8 métiers menacés par l'arrivée de ChatGPT

[TRIBUNE] Relation client, mettons réellement la technologie au service de l'humain

L'IA et l'Humain, futur duo incontournable de la création ?

Études: devenez coach de chatbot pour réinventer votre métier

45 000 offres sur PlaceOjeunes