Pendant un temps, je traînais pas mal sur Reddit.
Je voyais passer des publications de psychologie, de neurosciences ou de sciences sociales. Souvent, l’étude elle-même restait prudente. Elle parlait de résultats observés dans certaines conditions, chez un groupe donné, qui pouvaient indiquer quelque chose.
Puis j’ouvrais les commentaires.
Et là, c’était la fête du slip interprétative.
Le peuvent devenait font. Une observation située expliquait soudain les hommes, les femmes, les pauvres, les riches, la droite, la gauche et probablement la chute de l’Empire romain.
L’étude n’avait pas forcément menti.
Mais elle était devenue autre chose que ce qu’elle disait.
Le point de départ : une étude située
Une étude sérieuse parle généralement avec des limites :
- dans certaines conditions ;
- sur cet échantillon ;
- pour cette tâche ;
- selon cet indicateur ;
- avec telle marge d’incertitude.
Ce langage peut sembler chiant. Il est pourtant essentiel. Il empêche une observation locale de se transformer trop vite en loi générale.
Le problème commence rarement dans le premier conditionnel.
Il commence dans sa circulation.
Premier glissement : « peuvent » devient « font »
On observe qu’un groupe peut réagir d’une certaine façon dans un cadre précis.
Puis on raconte que ce groupe réagit comme ça.
On ne parle plus d’une situation, mais d’une propriété. Plus d’un comportement observé, mais d’une nature. Le contexte disparaît et les personnes se retrouvent enfermées dans le résultat.
Ce qui était une possibilité devient un portrait.
Deuxième glissement : décrire devient expliquer
Une étude montre une association, une différence ou un signal.
Le commentaire lui demande ensuite d’expliquer pourquoi.
Comme l’étude ne répond pas toujours, chacun complète avec ce qu’il possède déjà : son vécu, son idéologie, ses rancœurs, les récits appris, deux souvenirs et une statistique aperçue la veille.
La description devient une causalité improvisée.
Ce qu’on perd en rigueur, on le gagne en narration.
Troisième glissement : l’explication devient un grand récit
Une fois l’explication installée, elle se branche facilement sur une histoire plus vaste.
On ne parle plus seulement d’un résultat psychologique. On parle de domination éternelle, de décadence, de nature humaine, de traumatisme collectif ou de cerveau programmé depuis la préhistoire.
Le récit peut être séduisant. Il peut même contenir une part de vérité.
Mais cette vérité ne vient plus de l’étude.
L’étude sert seulement de tampon scientifique à une histoire qui existait déjà.
Quatrième glissement : le récit devient une identité
À la fin, on ne discute même plus du protocole.
Le résultat sert à classer les personnes : les éclairés et les naïfs, les rationnels et les complotistes, ceux qui ont compris la science et ceux qui « refusent les faits ».
Une observation est devenue un badge de clan.
Le désaccord n’est plus une question à examiner. C’est un défaut chez l’autre.
Le cas de « l’IA rend bête »
L’étude du MIT sur l’usage de ChatGPT pendant une tâche de rédaction illustre bien le mécanisme.
Elle compare plusieurs groupes et mesure notamment des différences de connectivité à l’EEG. Elle porte sur une tâche précise, un petit nombre de participants et des manières particulières d’utiliser les outils.
Elle peut donc suggérer :
Dans cette expérience, cet usage de l’IA s’accompagne de certains signaux et de certaines performances.
Puis le titre devient :
ChatGPT réduit l’activité du cerveau.
Et le commentaire termine le travail :
L’IA rend con.
Entre les trois phrases, le sujet n’a pas seulement été simplifié.
Il a changé de nature.
J’analyse plus complètement ce cas dans Réapprendre l’épistémologie.
Les mots qui doivent nous faire ralentir
Certains mots donnent une impression d’explication alors qu’ils ouvrent surtout un grand espace d’interprétation :
- intelligence ;
- conscience ;
- naturel ;
- adaptatif ;
- domination ;
- hiérarchie ;
- dopamine, ocytocine, hormones ;
- activation cérébrale.
Ces mots ne sont pas faux.
Ils sont simplement trop gros pour être avalés sans mâcher.
Quand ils apparaissent, la bonne question est :
De quoi parle-t-on exactement, ici, maintenant ?
Une source n’arrête pas la pensée
Le problème n’est pas la science. Ce n’est même pas forcément l’étude.
C’est le trajet :
résultat situé → généralisation → causalité → récit → identité.
Une source doit permettre de remonter ce trajet. Elle ne devrait pas servir à le cacher sous un joli lien bleu.
La méthode est là pour ralentir nos certitudes, pas pour leur fabriquer une armure.
La prudence meurt rarement dans l’étude.
Elle meurt dans ce qu’on a envie de lui faire dire.
— ChamyChamo
