David Colon, historien: "Facebook a conçu les outils les plus persuasifs de l’histoire de l’humanité"

On est surpris, à la lecture de votre ouvrage, de voir que manipulation de masse et démocratie peuvent cohabiter à ce point. La démocratie a-t-elle donc besoin de la manipulation de masse?

La démocratie a besoin de persuasion dans la mesure où l’on ne peut pas en principe y agir sur les comportements et les attitudes des individus par la contrainte. C’est par la persuasion que l’on peut y conduire les individus, au besoin à leur insu,  à adopter une conduite voulue. La manipulation consciente, intelligente, des opinions et des habitudes organisées des masses joue donc un rôle fondamental dans une société démocratique. Ce n’est pas un hasard si c’est dans les démocraties que la persuasion est passée du statut d’art à celui de science et de profession à part entière.

Aujourd’hui, comme vous le montrez, l’essentiel de la manipulation est numérique. Et, dans ce monde, Mark Zuckerberg est, écrivez-vous, "l’empereur". Pourquoi ?

Mark Zuckerberg, qui a étudié la psychologie à Harvard et dont la mère est psychiatre, a appliqué dès 2004 sa connaissance de l’esprit humain à l’interface de Facebook, en développant des outils qui avaient pour objet de persuader ses camarades de Harvard de s’inscrire, d’inviter leurs amis ou de partager des informations très personnelles.

Lorsque Facebook a été ouvert au grand public, ses ingénieurs ont développé des outils inspirés de la "technologie persuasive" pour « pirater le cerveau » des utilisateurs en les rendant accros ou en les encourageant à s’engager davantage. Enfin, lorsque la plateforme a été monétisée, de nouveaux outils publicitaires ont été développés en combinant trois approches de l’intelligence artificielle: l’approche inductive qui consiste à inférer des probabilités sur la base des données collectées; l’approche déductive qui a pour but de réaliser des expériences sur les utilisateurs, pour voir s’il est possible d’améliorer la viralité de certains contenus, par exemple;  et enfin, l’apprentissage profond, qui permet notamment d’identifier les émotions ou la psychologie des individus. Aujourd’hui, Meta est de loin est le plus grand laboratoire comportemental au monde, entièrement voué à perfectionner des outils de persuasion et de manipulation publicitaire avec pour principal horizon le profit.

Nous sommes donc entrés dans une nouvelle phase de la manipulation de masse?

Oui, l’art de la manipulation de masse a été profondément renouvelé par l’avènement du smartphone et des objets connectés, qui ont démultiplié la quantité, la qualité et la variété des données collectées à des fins d’analyse prédictive des comportements.

Nous sommes entrés dans l’âge de la modélisation in silico des conduites humaines à l’échelle de groupes toujours plus réduits. Les maîtres de la persuasion disposent désormais de la faculté de segmenter leurs marchés non plus en fonction de critères classiques (zone géographique, niveau d’études, niveau de revenus, etc.), mais en fonction de critères psychologiques. Par exemple, si vous vendez des systèmes d’alarme, il est moins important pour vous de connaître le niveau de revenu de votre cible que son niveau d’anxiété. Si vous cherchez à faire la promotion d’un parti politique extrémiste, savoir si vous avez affaire à une personne ouverte ou névrotique a plus de valeur que connaitre son statut professionnel. Enfin, les systèmes publicitaires des plateformes vous permettent sans mal d’exposer vos cibles à un discours anxiogène par le recours au microciblage.

Le problème est que cette forme de manipulation est de plus en plus invisible et insidieuse...

Il s’agit d’une manipulation furtive ou subliminale, d’autant plus difficile à identifier que ceux qui mettent en œuvre ces dispositifs de ciblage prédictif s’emploient à en dissimuler leur efficacité.

Facebook ou Google affirment ainsi que leurs services de publicité ne sont pas aussi efficaces que l’on veut bien le croire. Pourtant, ces dispositifs cumulent les acquis de plus d’un siècle de recherche scientifique et publicitaire en matière de persuasion, et leur efficacité est démontrée tant par une longue série d’études que par la croissance continue de leurs revenus publicitaires. En combinant les deux grandes approches de la persuasion publicitaire, l’approche scientifique et l’approche psychologique (la recherche des mobiles), qui étaient jadis antagonistes, Facebook a conçu les outils les plus persuasifs de l’histoire de l’humanité.

Que faire face à cette situation?

Il faudrait tout d’abord limiter la marge de manœuvre des commanditaires d’opération de manipulation de masse, en démocratisant le financement de la vie politique et celui des médias, de sorte d’empêcher que continue de prévaloir dans le débat public des points de vue contraires à l’intérêt général.

Ensuite, il faut certainement interdire les outils de manipulation numérique les plus dangereux, qu’il s’agisse des outils subliminaux ou de ceux qui procèdent à l’analyse prédictive de la psychologie des individus afin d’exploiter leurs fragilités. C’est ce que propose la Commission européenne. Enfin, il faut enseigner aux individus l’art de résister à la manipulation numérique, en premier lieu par un usage plus raisonné des outils et des réseaux sociaux.

Le monde politique est évidemment tenté de recourir à ces nouvelles méthodes de persuasion. Un nouveau modèle politique a fait son apparition, selon vous?

Depuis Albert Lasker, en 1918, de nombreux publicitaires ont mis leur art au service du monde politique, et le recours à des outils de persuasion s’est progressivement généralisé dans la vie politique des démocraties. Par exemple, l’équipe de Barack Obama a inventé en 2012 l’indice de persuasion, qui permet de déterminer, pour chaque électeur américain, la probabilité qu’il change de conduite à l’égard de sa participation à l’élection ou à l’égard d’un candidat.

Depuis lors, les électeurs américains sont devenus sans le savoir l’équivalent de valeurs boursières qu’achètent les ingénieurs de la persuasion politique en fonction de leurs ambitions. En 2016, dans le cadre du référendum du Brexit, Dominique Cummings a, par exemple, "acheté" le vote des abstentionnistes. De leur côté, les équipes Cambridge Analytica ont acheté de la dissuasion, pour dissuader les démocrates de voter pour Hillary Clinton en 2016. On pourrait aussi évoquer la figure de Steve Bannon. Il a un rôle non négligeable non seulement dans le Brexit et l’élection de Trump, mais également dans l’insurrection du 6 janvier 2021 à Washington ou dans la diffusion de contenu climatosceptique et complotiste sur Facebook. C’est un tout nouveau modèle politique qui s’est ainsi développé à l’abri des regards. En dix ans à peine, des hommes de l’ombre, comme lui, ont renversé des équilibres politiques parfois centenaires. Ce phénomène pourrait toucher demain des acteurs économiques bien installés.

Quel lien faites-vous entre la manipulation de masse et le développement des théories du complot?

La manipulation de masse exploite à la fois les biais de l’esprit humain et les caractéristiques de l’information à l’ère numérique, à commencer par la viralité et l’absence de filtre entre l’émetteur et le récepteur d’un message.

À l’ère numérique, il est ainsi devenu très aisé d’exploiter le biais du raisonnement motivé, qui à travers l’exposition sélective et le biais de confirmation voit très naturellement les individus privilégier des points de vue conformes aux leurs. Autrefois, il était difficile par exemple de trouver confirmation de l’idée absurde selon laquelle la terre est plate, alors qu’une rapide recherche sur Internet le permet. En outre, les algorithmes de recommandation des plateformes ont tôt fait d’enfermer les individus dans une "bulle de filtres" et une autopropagande. Certains maîtres de la manipulation ont rapidement compris comment ils pouvaient instrumentaliser certaines théories du complot au service de la fabrique de la défiance ou même du chaos politique, à l’image de Steve Bannon et du mouvement QAnon, dont les membres ont pris d’assaut le Capitole le 6 janvier et récemment encore sont allés attendre à Dallas le retour de John F. Kennedy Jr, mort voici 22 ans. Les théories du complot sont désormais des armes de manipulation massive.

*"Les maîtres de la manipulation : un siècle de persuasion de masse", David Colon, Tallandier , 348 p., 21,50 €

David Colon interviendra lors des "rencontres stratégiques du manager BSPK" ce jeudi 16 décembre à Luxembourg.