Facebook et X sont devenus des usines à fabriquer de l’indignation

Les spécimens de la psychologue américaine Molly Crockett se sont échappés du laboratoire. Comme une peinture qui sort de son tableau, Donald Trump a été élu le 5 novembre 2024 pour un nouveau mandat de président des États-Unis. Le leader impulsif et viral a été craché par le volcan que cette chercheuse américaine a méticuleusement arpenté pendant près de dix ans : les réseaux sociaux. Plus qu’un volcan, X – le nouveau nom de Twitter depuis qu'il a été racheté par Elon Musk –et consorts sont des usines. Des usines à fabriquer de l’indignation. À la susciter, à la déformer, à la faire circuler. Jusqu’à nous conditionner pour que nous exprimions la nôtre de plus en plus souvent, affirme la quadragénaire, directrice d’un laboratoire à son nom, le Crockett Lab, au sein de la prestigieuse faculté de Princeton. La démocratie câblée sur cette colère dopée aux algorithmes n’a plus rien d’une négociation rationnelle : elle se dégrade en recherche permanente de cibles à punir et en confusion générale du juste et de l’injuste. 

Embarqués dans un projet de recherche au long cours, Molly Crockett et les membres de son équipe – aussi versés en psychologie qu'en neurosciences – ont collecté sur Facebook et X des dizaines de milliers de messages colériques. Ils ont suivi l’évolution d’utilisateurs, examiné la balistique des petites polémiques et des gros scandales. À en croire la chercheuse, la polarisation exacerbée a conduit à l’élection du camp qui a su le mieux dompter ces fureurs. « J’aurais tellement préféré m’être trompée », lâche Molly Crocket – interviewée le 18 novembre 2024 par visioconférence –, laissant paraître une vive émotion derrière la froideur des écrans.

Et ce n’est pas la seule mauvaise nouvelle pour la scientifique. Désormais, les secrets de X lui seront inaccessibles. L’homme le plus riche du monde exige à présent un droit de passage astronomique – 42 000 dollars par mois – pour accéder à la formidable base de données qu’il détient, et qui permettait aux chercheurs de collecter de grandes quantités de données sur les utilisateurs. 

Il y a un point de départ à vos travaux sur l’indignation morale en ligne : notre goût pour la punition. Pouvez-vous expliquer de quoi il s’agit ?  

J'ai consacré la majeure partie de mon doctorat de psychologie expérimentale, soutenu en 2011 à l’université de Cambridge, en Angleterre, à essayer de comprendre ce qui se jouait dans nos neurones lorsque nous punissons quelqu’un. L’une des premières publications de ma carrière explorait les façons dont le fait de punir quelqu’un activait notre système de récompense cérébral. En temps normal, ce mécanisme se met en marche lorsque nous accomplissons une action que nous escomptons bénéfique pour nous, comme manger de la bonne nourriture ou recevoir un compliment de la part d’un ami. Il ne se résume pas, comme on le croit souvent, à la seule sécrétion de dopamine. Notre expérience de la récompense est associée à des schémas complexes d’activité cérébrale et à la sécrétion de plusieurs neurotransmetteurs différents – dont la dopamine fait partie. Ce système, donc, s’active aussi quand on punit quelqu’un qui a mal agi.

C’est également gratifiant de voir quelqu'un d’autre punir le fautif, ou même simplement d’apprendre qu’il souffre des conséquences de son acte. Pourquoi une telle disposition de notre cerveau ? Il y a une riche littérature scientifique qui défend l’idée que cette inclination à la punition a été un paramètre essentiel de notre évolution en tant qu'espèce : si les humains voulaient coopérer et vivre en société, il fallait que ceux qui agissent contre l’intérêt du groupe soient réprimandés. Notre cerveau aurait donc appris à apprécier ces punitions.

Notre désir de punir ne serait donc pas une sorte de disposition du cerveau au sadisme mais un enjeu d’intérêt général ? 

C’est un grand débat. Punissons-nous quelqu’un pour qu’il ne recommence plus ou parce que nous tirons une satisfaction personnelle de ne pas laisser son méfait impuni ? Nous avons mené des expériences chez de jeunes enfants et des adultes, et nous avons établi que leur motivation à sanctionner augmentait s’ils avaient la certitude que la punition contribuerait à ce que le malfaiteur ne reproduise pas son acte. Dans ce cas-là, le plaisir que l’on en tire est effectivement lié à une volonté d'améliorer les choses.

Mais la psychologie de la punition a ceci de fascinant qu’elle a un autre versant, un côté obscur en quelque sorte. Un grand nombre de nos sujets étaient prêts à châtier même si la cible ne s'en rendait jamais compte, et donc qu’il n’y avait aucune possibilité pour elle d’en tirer une quelconque leçon ! L’exemple typique est le serveur dans un restaurant qui, en cuisine, crache secrètement dans le plat du client impoli. Il en tire une satisfaction intrinsèque qui n’a plus grand-chose à voir avec l’objectif d’améliorer la société.  

J’ai réalisé qu’il fallait appliquer ces idées aux réseaux sociaux. Est-ce qu’il n’y avait pas dans l’organisation même de ces espaces quelque chose qui cherchait à stimuler ce côté obscur de la psychologie humaine ? Le premier indice était le système de récompense sociale intégré aux réseaux sociaux, celui des likes et des partages de contenus qui encouragent les publications. Mon hypothèse de départ était la suivante : ne sommes-nous pas en train de mettre en place un environnement qui risque de stimuler notre nature punitive ?  

On en vient alors à votre premier travail de recherche, publié en 2017 dans la revue Nature sous le titre Moral Outrage in the Digital Age (« L’indignation morale à l’âge numérique », non traduit). Quel est le lien entre cette envie humaine de punir et l’indignation morale ? 

L’indignation morale est une émotion que l’on ressent en réaction à une violation de nos normes morales. C’est très subjectif, bien entendu : un comportement peut susciter l’indignation d’un individu tandis qu'il reçoit le soutien d’un autre. Elle est généralement comprise comme un mélange de dégoût et de colère auquel s’ajoute un paramètre important : elle contient ce que l’on pourrait appeler une force incitative, une invitation à l’action.

Quand vous vous indignez, le plus souvent, vous voulez que quelque chose soit fait pour corriger cette transgression. Soit vous voulez vous-même réparer le tort et punir le coupable, soit vous appelez à ce qu’une autorité s’en charge. Sauf qu’il faut d’abord trouver le coupable. L’indignation est donc comme un missile à tête chercheuse, c’est une de ses caractéristiques essentielles. Elle est en quête d’une cible et doit en trouver une pour s’exprimer pleinement. Les réseaux sociaux sont le terrain d’épanouissement idéal de cette émotion.  

De quelles manières ? 

D’abord, par rapport à ce qu’un individu est susceptible de voir dans la vie de tous les jours, les réseaux sociaux ont considérablement augmenté notre exposition à des événements choquants et à des actes qui transgressent nos principes. Ensuite, lorsque que nous sommes confrontés à une injustice dans le monde physique, il est risqué et coûteux d’exprimer son indignation ou d’essayer de punir soi-même le fautif. Si la personne transgresse ouvertement des règles établies dans l’espace public, elle peut également être susceptible de vous attaquer au moment où vous la dénoncez. Il est difficile de châtier quelqu’un soi-même. Et c’est d’ailleurs pourquoi, en tant que société, nous avons collectivement transmis cette responsabilité à des institutions.

Mais sur X, rien de plus simple que de citer le tweet de quelqu’un pour dire à notre communauté toute l’indignation que son propos nous inspire. Mieux, il suffit de retweeter la protestation de quelqu’un d'autre pour amplifier le signal. Enfin, la récompense sociale que nous recevons lorsque nous exprimons notre indignation sur un réseau est sans commune mesure avec ce qu’elle peut être dans le monde physique : vous recevez en temps réel les réactions de ceux qui approuvent et relaient.  

Si la récompense augmente lorsque je poste du contenu indigné, alors je vais en produire de nouveau. C’est ainsi que l’on dresse les chiens.

L’indignation morale est donc devenue un comportement profitable ? 

En termes de viralité des messages, nous avons établi que l’indignation fonctionne très bien : les gens obtiennent beaucoup plus de likes et de partages que lorsqu’ils parlent d’autre chose. L’algorithme des réseaux sociaux va donc avoir tendance à favoriser sa diffusion. Mais le plus intéressant, c’est que ceux qui ont obtenu un grand nombre de réactions après avoir exprimé au moins une fois leur indignation évoluent ; ils sont de plus en plus susceptibles de publier de nouveaux messages de ce type par la suite. Nos données le prouvent, les réseaux sociaux en général – et X en particulier – génèrent un apprentissage par renforcement de l’indignation.

Pour résumer, en psychologie comportementale, le mécanisme du renforcement est le suivant : si vous faites quelque chose et que l’on vous récompense, vous avez plus de chance de refaire une chose similaire dans le futur. C’est ainsi que l’on dresse un chien. Les réseaux sociaux ont produit le dispositif à grand échelle : si la récompense augmente lorsque je poste du contenu indigné, alors je vais de nouveau produire un contenu indigné. Nous avons observé ce phénomène de manière régulière, en sélectionnant des dizaines de milliers de publications et en scrutant les trajectoires de nombreux utilisateurs.  

Justement, ces dernières années, sont apparus deux concepts cousins, « moral grandstanding » et « virtue signalling », qu’on pourrait traduire par « se placer sur un piédestal moral » et « étaler sa vertu ». Ils dénoncent une tendance contemporaine à exprimer une position morale moins par indignation que pour rechercher l’assentiment de sa communauté. Qu’en pensez-vous ? 

Ce que je n’aime pas du tout à propos de ces concepts, qui se réfèrent d’ailleurs beaucoup à mes travaux, c'est qu'ils servent souvent un agenda politique. Ils sont devenus un moyen de décrédibiliser les indignations pourtant légitimes des mouvements sociaux, notamment sur les questions de genre ou de race, avec ce contre-argument : « Oh, vous êtes juste en train d’étaler votre vertu pour gagner du pouvoir. » En réalité, je crois qu’une majorité des comportements moraux, jusqu’à l'envie de punir et les indignations qui s’expriment en ligne, ont à l’origine un motif désintéressé.  

Une définition classique de la morale, celle du philosophe Emmanuel Kant par exemple, considère que, pour être moral, un acte doit être désintéressé. Alors que là, dans ce que vous observez, l’indignation devient le moyen d’obtenir une récompense.  

Je pense que la philosophie occidentale a établi une dichotomie entre le désintéressement (« selflessness », en anglais) et l’égoïsme (« selfishness ») qui n’est pas pertinente. Notre tradition intellectuelle consiste à considérer que si un comportement moral apporte à son auteur un quelconque bénéfice cela signifie qu’il a été entrepris pour des raisons égoïstes. C’est un faux présupposé : pour moi, le désintéressement et l’égoïsme ne sont pas mutuellement exclusifs. Des philosophes vont également dans ce sens. On peut tirer profit de quelque chose dans lequel on croit. Je pense que la psychologie morale va devoir revoir la relation entre ces contraires apparents, en ne les opposant plus de manière systématique. 

En tout cas, à vous suivre, Twitter – puis X – a transformé ses utilisateurs en rats de laboratoire de l’indignation. 

(Rires.) Oui, c’est une façon de le formuler. Nous avons essayé de dérouler les conséquences de cette transformation. Par exemple, nous avons observé un phénomène que nous avons appelé « la sur-perception de l’indignation ». Puisque les gens expriment de plus en plus leur indignation, que cette dernière est, en un sens, socialement encouragée par les plates-formes, il est logique que n’importe quelle visite d’un réseau social nourrisse l’impression que les gens sont particulièrement en colère. Sauf qu’exprimer son indignation en ligne n'est pas aussi intense que d’éprouver physiquement cette émotion.

En interrogeant des auteurs de publications et des observateurs lambda, nous avons établi que ces derniers surestimaient systématiquement le niveau de colère réel de l'auteur du message indigné. Les réseaux sociaux agissent aussi comme un verre grossissant. Notre vision de l’état réel des passions morales de nos concitoyens est complètement déformé. C’est très inquiétant pour une société démocratique. 

Dans quel sens ?  

Déjà, ce phénomène de surestimation est le plus fort chez une catégorie d’utilisateurs en particulier : ceux qui s’intéressent à la politique. Cela alimente chez eux la perception d’un débat très polarisé dans lequel ceux qui ne sont pas d’accord se vouent une haine mutuelle. Nous avons, par exemple, demandé à des utilisateurs de juger le degré d'hostilité d'auteurs de messages indignés sur des fils d’actualité infestés de fake news et autres contenus à forte concentration d’indignation morale. Il apparaît qu’il y a une véritable inflation de la haine perçue, celle que l’on croit que l'autre porte à ses ennemis à en juger par son expression en ligne.

L’autre problème, c'est qu’apparait logiquement la croyance selon laquelle il est normal d’exprimer son indignation avec un niveau d’intensité toujours croissant. Nous sommes des créatures de conformité, nous alignons nos comportements sur celui de nos pairs. Ce mécanisme psychologique s’ajoute à celui de l’apprentissage par renforcement dont je parlais plus tôt. Les deux dansent en tandem.  

Si l’indignation s’apparente à un concert, Trump et son clan en sont devenus les chefs d’orchestre.

Nous n’avons pas encore parlé de l’éléphant dans la pièce : le nouveau président américain élu, Donald Trump. Est-il un produit de ce que vous avez observé ?  

Je pense que Donald Trump ou les individus qui travaillent pour lui ont une compréhension intuitive de ces dynamiques et de la façon dont ils peuvent les utiliser dans leur quête de pouvoir. Si l’indignation s’apparente à un concert, Trump et son clan sont parvenus à en devenir les chefs d’orchestre. Ils orientent ces puissants courants émotionnels – rappelez-vous, l’indignation se cherche une cible – contre les groupes marginalisés, notamment les immigrés. Ils s’en sont servi pour justifier une prise de contrôle sans précédent des ressources publiques et du pouvoir politique.  

N’y a-t-il pas, dans ce régime d’indignation permanente dans lequel nous sommes plongés et dont Trump joue, quelque chose de profondément épuisant ?  

Je pense qu’on peut faire une analogie avec les tactiques de désinformation utilisées par les régimes autoritaires et fascistes tout au long de l’histoire. Le but de polluer l’environnement informationnel avec de la désinformation n’est pas nécessairement de convaincre les gens que ce qui est faux est vrai. C’est plutôt d'induire un état de confusion dans lequel les gens ne sont plus capables de faire la différence entre ce qui est vrai et ce qui est faux. Résister est difficile, c’est très démoralisant.

De la même façon, je pense que l’injection artificielle d’indignation et son amplification dans la sphère publique par les réseaux sociaux ont créé un sentiment de confusion morale : à quelle indignation faut-il se vouer ? Il devient de plus en plus difficile de se fier à sa boussole interne du juste et de l’injuste, ce qui complique l’organisation de la résistance sur les sujets que nous jugeons réellement dignes de lutte. 

Justement, la relation entre les excès de l’indignation et la désinformation est d’ailleurs plus qu’une simple analogie, non ? 

Tout à fait, les deux vont de pair. Notre dernière étude, parue en décembre 2024, établit que les articles d’actualité provenant de sources non fiables suscitent beaucoup plus d’indignation en ligne que les articles provenant de celles qui sont dignes de confiance. Et cette force virale est exploitée par les propagateurs de la désinformation.

Le plus vertigineux, c’est que les utilisateurs partageant ces contenus ne croient pas nécessairement qu’ils sont vrais. Parfois, exprimer son indignation a pour stricte fonction d’envoyer à son réseau le message suivant : « Si c’est vrai, c’est très grave. » « Je partage ceci, disent-ils en substance, pour vous affirmer que vous et moi n’approuvons pas cette chose. » L’indignation n’est plus un moyen de dénoncer un fait, elle devient le fait lui-même.   

Je me souviens que le tout nouveau vice-président des États-Unis, J.D. Vance, a partagé en septembre 2024 son émotion à propos d’une histoire fabriquée de toutes pièces, selon laquelle les immigrants asiatiques mangeraient des animaux domestiques. Lorsqu’un journaliste l’a repris, il a déclaré en substance : « Si répercuter ces propos me permet d’attirer l’attention des gens sur ce qui me tient à cœur, alors, ça vaut le coup. » Les réseaux sociaux ont contribué au moment politique que nous vivons. Ils sont en train de provoquer l’effondrement de notre environnement informationnel.