Les biais cognitifs vus de l’intérieur
Sur la base de l’article récent de SSC Why doctors think they’re the best (Pourquoi les docteurs pensent qu’ils sont les meilleurs)…
| Comment je le ressens | Comment je perçois les gens qui ressentent la même chose |
|---|---|
| Il y a une controverse sur le sujet, mais il ne devrait pas y en avoir, car il est évident que le camp que je représente a raison. | Ils ont pris parti dans un débat qui n’est pas résolu pour de bonnes raisons qu’ils ont du mal à comprendre. |
| J’ai étudié la question attentivement. | Ils cherchent en priorité des preuves qui vont dans leur sens. |
| Les arguments en ma faveur sont tellement évidents qu’ils en sont presque ennuyeux. | Ils sont prêts à accepter n’importe quel argument qui va dans leur sens. |
| Les arguments du camp adverse sont contradictoires, superficiels, illogiques ou démystifiés. | Ils écartent les arguments du camp adverse à la première occasion. |
| Les partisans du camp adverse croient à ces arguments principalement parce qu’ils sont mal informés, qu’ils n’ont pas suffisamment réfléchi à la question ou qu’ils sont activement induits en erreur par des personnes mal intentionnées. | Ils perçoivent le camp adverse de façon erronée et n’arrivent donc pas à comprendre comment quiconque pourrait avoir cette opinion. Ils résolvent cette confusion avec des présuppositions fortes qui peuvent s’apparenter à des théories du complot. |
Le terme scientifique pour désigner ce décalage est : le biais de confirmation.
| Comment je le ressens | Comment je perçois les gens qui ressentent la même chose |
|---|---|
| Mes clients/amis/relations m’aiment, donc je suis bon pour eux, donc je suis probablement bon en général. | Ils négligent les clients/amis/relations qui ne les aimaient pas et qui les ont quittés, ce qui les amène à surestimer leur qualité. |
| Lorsque des clients, des amis ou des relations se tournent vers moi, ils racontent des histoires horribles sur les personnes que j’ai remplacées pour eux, ce qui signifie que je suis meilleur qu’elles. | Ils ne voient pas les personnes qui sont heureuses avec ce qu’elles ont et qui ne deviendront donc jamais leurs clients, amis ou relations. |
Le terme scientifique pour désigner ce décalage est : le biais de sélection.
| Comment je le ressens | Comment je perçois les gens qui ressentent la même chose |
|---|---|
| Bien que je sois intelligent et sympathique, les gens ne m’écoutent pas. | Bien qu’ils soient intelligents et sympathiques, j’ai du mal à les comprendre. |
| J’ai une compréhension profonde du problème que les gens ne partagent pas car ils sont trop stupides ou trop peu intéressés. | Ils ne parviennent pas à communiquer leur compréhension du problème ou même à prouver qu’ils comprennent réellement le problème. |
| Ce manque d’écoute affecte plusieurs domaines de ma vie, mais il est particulièrement choquant sur des sujets qui sont très importants pour moi. | Cette mauvaise communication affecte tous les domaines de leurs vies, mais pour les sujets sans importance, ils ne comprennent même pas que les autres ne les comprennent pas. |
Le terme scientifique pour désigner ce décalage est : l’illusion de transparence.
| Comment je le ressens | Comment je perçois les gens qui ressentent la même chose |
|---|---|
| Je savais à ce moment-là que les choses ne se passeraient pas comme prévu. | Ils n’avaient pas prévu ce qui allait se passer. |
| Le plan était mauvais et nous aurions dû le savoir. | Ils ne se rendent pas compte à quel point il est difficile de prévoir, de sorte que l’erreur leur semble plus évidente qu’elle ne l’était réellement. |
| Je savais que c’était une mauvaise idée, mais je ne l’ai pas dit pour de bonnes raisons (par exemple, par politesse ou parce que j’ai trop confiance en ceux qui ont pris la mauvaise décision), parce que ce n’est pas ma responsabilité ou parce que personne ne m’écoute de toute façon. | Ils inventent des excuses pour ne pas qu’on les blâme pour une erreur qui semble évidente. |
Le terme scientifique pour désigner ce décalage est : le biais rétrospectif.
| Comment je le ressens | Comment je perçois les gens qui ressentent la même chose |
|---|---|
| J’ai une bonne intuition ; même les décisions que je prends sur la base d’informations insuffisantes ont tendance à s’avérer justes. | Ils ont tendance à se souvenir de leurs propres succès et à oublier leurs propres échecs, ce qui leur donne une perception exagérée de leur réussite passée. |
| Je sais très tôt si certains projets vont bien se dérouler ou si je vais bien m’entendre avec certaines personnes. | Ils font des prophéties autoréalisatrices qui influencent directement les efforts qu’ils consacrent à un projet ou à une relation. |
| Par rapport aux autres, je réussis exceptionnellement bien dans mes décisions. | Ils évaluent les décisions des autres avec plus de pondération que les leurs. |
| Ça ne me dérange donc pas de me fier à mes décisions rapides. | Ils surestiment donc la qualité de leurs décisions. |
| C’est encore plus vrai pour les décisions de vie qui sont très importantes pour moi. | Oui, c’est encore plus vrai pour les décisions de vie qui sont très importantes pour eux. |
Le terme scientifique pour désigner ce décalage est : le biais d’optimisme.
La communication abstraite est très difficile. (Voir : Illusion of transparency: Why no one understands you.) C’est pourquoi elle échoue souvent. (Voir : Explainers shoot high. Aim low!.) Il est difficile de s’apercevoir que la communication a échoué. (Voir : Double Illusion of Transparency.) Il est donc difficile de se rendre compte du faible taux de réussite de la communication abstraite.
Les rationalistes ont remarqué ce problème ((Exemple)). Scott Alexander utilise beaucoup d’exemples concrets et c’est sûrement en bonne partie ce qui fait de lui notre meilleur communicateur. Les séquences d’Eliezer fonctionnent en partie parce qu’il utilise des exemples et même des histoires fictives pour illustrer ses propos. Mais lorsque le reste d’entre nous parle de rationalité, nous parlons encore principalement en termes abstraits.
Par exemple, cette vidéo récente (le texte contient un lien pointant vers une page web) a été saluée par de nombreuses personnes pour son caractère relativement accessible. Et il y a beaucoup de choses qui sont réussies, comme le fait de souligner et de répéter que les preuves seules ne doivent pas générer de probabilités, mais seulement mettre à jour les probabilités antérieures. Mais plus de la moitié du temps de la vidéo affiche encore une notation mathématique que moins de 3 % de la population peut lire. Pour la grande majorité des gens, seul l’exemple donné est susceptible de « rester » en mémoire. Pourtant, la vidéo utilise son seul exemple comme un simple moyen d’accéder à l’explication abstraite.
C’est une erreur. Je pense qu’une vidéo contenant trois à cinq exemples vivants de l’application du théorème de Bayes, de préférence drôles ou sexy, laisserait une impression beaucoup plus durable sur la plupart des gens.
Notre style de communication très exigeant prédit à juste titre que les LessWrongiensa sont, en moyenne, beaucoup plus intelligents, beaucoup plus instruits dans le domaine des STIM et beaucoup plus jeunes que la population générale. C’est comme ça qu’il faut être pour rejoindre le culte ! Cela nous rend homogènes, et c’est probablement en grande partie ce qui donne à LW son côté tribal, qui est émotionnellement satisfaisant. Mais cela n’aide pas la plupart des gens à prendre de meilleures décisions. Nous devons relever la ligne de flottaison de la raison et nous ne pouvons pas le faire en continuant à communiquer essentiellement par abstractions.
Les tableaux ci-dessus montrent une façon d’améliorer les choses en procédant de la manière suivante.
Qu’en pensez-vous ? Devrions-nous communiquer de manière plus concrète ? Si oui, devrions-nous le faire de cette manière ou feriez-vous les choses différemment ?
Souhaitez-vous corriger ces tableaux ? Souhaitez-vous proposer d’autres observations analogues ou d’autres biais ?
Merci à Simon, miniBill et d’autres pour leur aide dans la rédaction de cet article.
Ce travail est placé sous une licence Creative Commons Attribution 4.0 Licence Internationale.