L’homme est un roseau pensant agité de biais cognitifs

Si l’homme est un roseau qu’une goutte d’eau peut terrasser, il a l’avantage, car il pense, de savoir qu’il meurt alors que la goutte d’eau n’a aucune idée de l’avantage qu’elle a sur l’homme, ainsi que nous le dit Blaise Pascal dans ses Pensées. Cependant, sans nier l’extraordinaire et exclusive faculté de penser de l’être humain, on constate que l’évolution du monde vers toujours plus de complexité fait que sa rationalité devient limitée. C’est la théorie qu’a développée Herbert Simon (1916-2001), économiste et sociologue américain titulaire du prix Turing (1975) et du Prix Nobel d’économie (1978). Selon lui, le monde est vaste et complexe tandis que le cerveau humain et sa capacité de traitement de l’information sont comparativement très limités. En conséquence, les prises de décision ne sont plus tant rationnelles qu’un constant effort pas toujours atteint vers la rationalité.

Le nouveau concept de rationalité limitée mis en évidence par Herbert Simon déclencha d’abondantes recherches sur les biais cognitifs, en particulier les travaux de Tversky et Kahneman, et sur les décisions absurdes. Dans cet article, pour lequel j’ai utilisé les sources (*) détaillées ci-dessous, j’aimerais en présenter une sélection, mélange de phénomènes fréquents et de curiosités à connaître. Il me semble utile, au quotidien comme dans la vie professionnelle, de prendre conscience des pièges dans lesquels notre raisonnement peut tomber et de pouvoir compter rapidement sur quelques garde-fous. Parmi ceux-ci, la présence à nos côtés d’un « avocat du diable »qui prend systématiquement le contrepied de tout ce qu’on dit est incroyablement irritante mais comporte l’énorme avantage de nous aider à prendre conscience de nos faiblesses argumentatives.

La loi des petits nombres :

Nous sommes intuitivement d’assez bons grammairiens. Dès l’âge de quatre ou cinq ans, nous nous plions sans problème aux principales règles de grammaire sans même les connaître. Par contre, nous sommes intuitivement de mauvais statisticiens. N’en soyons pas trop désolés, même les personnes dont c’est le domaine d’expertise se trompent (ainsi que l’a montré Kahneman suite à une petite expérience assez amusante avec des professeurs de mathématique spécialistes des statistiques).

La loi des petits nombres consiste à oublier que les petits échantillons présentent des résultats extrêmes plus souvent que les grands échantillons. C’est une mise en garde vis-à-vis des sondages : avant même de s’intéresser au message du sondage (« X serait réélu avec 60 % des voix au second tour devant Y ») il importe de vérifier la taille de l’échantillon et de s’intéresser aux informations de fiabilité du sondage, chose que notre cerveau tend trop facilement à oublier face au message principal.

Cette Loi des petits nombres vaut aussi dans le temps. Ce n’est pas parce qu’une crue est centennale qu’elle ne pourra pas se produire deux années de suite. Par contre, ces deux années de suite forment un trop petit échantillon pour qu’on puisse en déduire quoi que ce soit sur la périodicité de la crue.

L’effet d’ancrage :

L’exemple donné par Kahneman est particulièrement explicite. Il demanda à des étudiants de faire tourner une roue de la fortune qui s’arrêtait uniquement sur les chiffres 10 et 65, puis de noter les réponses. Ensuite il leur posa deux questions : Le pourcentage de pays d’Afrique aux Nations-Unies est-il supérieur ou inférieur aux chiffres que vous venez de noter ? Quel est selon vous le pourcentage de pays d’Afrique aux Nations-Unies ? On se doute que les étudiants auraient dû ignorer complètement les résultats de la roue de la fortune qui n’ont rigoureusement aucun rapport avec les pays membres de l’ONU. Et pourtant, ce ne fut pas le cas. Les estimations des étudiants étaient « ancrées » autour de 10 et 65.

Cet effet d’ancrage survient lorsque l’on considère une valeur particulière avant d’estimer une valeur inconnue. Exemple concret de la vie courante : une négociation immobilière. Que vous soyez acheteur ou vendeur, le mieux est d’annoncer un montant en premier. La partie adverse aura beaucoup de mal à déplacer la négociation de ce niveau pré-indiqué.

La régression vers la moyenne :

C’est l’histoire d’une série aléatoire de manoeuvres aériennes acrobatiques. L’instructeur a remarqué que lorsqu’il félicite un élève qui vient de faire une excellente performance, sa tentative suivante est ratée. Par contre, lorsqu’il souffle dans les bronches d’un élève qui a raté l’exercice, la manoeuvre suivante est bien meilleure. D’où il conclut qu’il ne faut pas féliciter mais réprimander.

En réalité, l’instructeur n’a pas tenu compte du caractère aléatoire des séries acrobatiques réalisées par les élèves, et il donne beaucoup trop de poids à ses interventions. Statistiquement, lorsqu’un élève rate lourdement un exercice, il a toutes les chances de le réussir mieux la fois suivante. De même, lorsque la manoeuvre est parfaitement exécutée, les chances de la reproduire à l’identique à l’essai suivant sont faibles. C’est ce qu’on appelle le retour à la moyenne. Le phénomène des récompenses n’a rien à voir avec ça. Cela veut dire notamment que le talent n’est jamais un élément explicatif unique. La chance entre aussi en compte.

Le phénomène de la régression vers la moyenne illustre particulièrement bien une des difficultés de notre cerveau : il tend à vouloir trouver des causalités partout alors qu’il n’y a souvent rien d’autre à considérer qu’un aléa statistique. Comme pour les blâmes et les récompenses de l’instructeur ci-dessus, nous sommes pris au piège d’une contingence malheureuse. C’est triste à penser, mais si l’on tend à se montrer aimable avec les gens quand ils nous sourient et au contraire à leur faire grise mine quand ils nous snobent, la régression vers la moyenne implique automatiquement que nous seront récompensés de notre attitude hostile et pénalisés pour notre gentillesse.

Le biais de la disponibilité en mémoire :

Il s’agit de la tendance à privilégier les évènements récents ou ceux qui nous viennent le plus facilement à l’esprit, puis de bâtir autour d’eux toute une histoire sans tenir compte d’événements plus anciens. Ce biais est renforcé lorsque l’évènement en question nous affecte émotionnellement. Nos gouvernements ne sont pas à l’abri de ce genre de biais, en tout cas ils l’utilisent volontiers pour faire passer des lois sous le coup de l’émotion des populations après un événement très perturbant.

Ah tiens, je pense tout à fait par hasard au projet de Loi Renseignement. C’est peut-être une explication possible de l’adhésion assez massive des Français à cette loi inutile et liberticide.

Le pont de la rivière Kwai :

Cette histoire de Pierre Boulle (également auteur du livre La Planète des Singes) portée au cinéma par David Lean avec l’inoubliable Alec Guinness dans le rôle du colonel Nicholson, est un exemple intéressant de décision absurde. On définit généralement cette dernière comme étant une action radicale et persistante contre le but qu’on veut atteindre. L’absurdité découle de la contradiction interne.

Le colonel anglais Nicholson, prisonnier en pleine jungle birmane avec ses soldats dans un camp japonais, résiste héroïquement aux traitements inhumains que le colonel japonais Saïto lui inflige afin de le faire céder à ses prétentions de faire travailler aussi les officiers prisonniers sur un projet de pont enjambant le rivière Kwai. C’est interdit par les conventions internationales et Nicholson ne compte pas s’y plier. Les hommes soutiennent leur colonel et le chantier n’avance pas. Saïto finit par renoncer à enrôler les officiers, tandis que Nicholson, fort de sa victoire et fier du génie militaire anglais face aux difficultés des ingénieurs japonais, soucieux également d’occuper ses soldats, se met à concevoir un pont et un plan de travaux qu’il propose à son homologue japonais. Le pont sera construit sous les directives éclairées de Nicholson au bénéfice de l’ennemi. Le colonel anglais a tellement perdu de vu son but initial – le devoir de tout prisonnier de causer le plus de problèmes possibles aux autorités du camp – il s’est tellement investi dans la construction du pont, qu’il ira jusqu’à s’interposer contre le commando allié chargé de le faire sauter, et y perdra la vie.

Vol British Midland Airways entre Londres et Belfast (1989) :

Quinze minutes après le décollage, le Boeing 737 qui assure chaque soir la liaison entre Londres et Belfast se met à vibrer bruyamment et de la fumée entre dans l’habitacle avec une forte odeur de brûlé. Les passagers assis à l’arrière de l’appareil voient nettement des flammes et des éclairs sortir du réacteur. Il s’agit du moteur numéro 1 situé à gauche. Dans le cockpit, les pilotes sentent l’odeur de brûlé et perçoivent les vibrations. Compte tenu du circuit d’air conditionné, le commandant fait intérieurement l’hypothèse que c’est le moteur numéro 2 situé à droite qui est atteint. Le copilote observe les instruments de navigation et à la question du commandant de savoir quel moteur est atteint il répond : « It’s the le…it’s the right one. » Le commandant ordonne immédiatement que le moteur 2 soit mis au ralenti. Les pilotes ont l’impression que les vibrations s’atténuent. Le commandant ordonne alors l’arrêt complet du moteur 2 situé à droite, alors que c’est le moteur numéro 1 situé à gauche qui est en train de rendre l’âme.

Devant la panique des passagers, le commandant de bord fait une annonce pour les informer que le réacteur de droite a été endommagé, ce qui a produit de la fumée, mais qu’il a été arrêté et qu’ils vont atterrir dans quelques minutes. Les passagers qui ont vu les étincelles à gauche sont stupéfaits et discutent entre eux, mais aucun n’ose porter cette contradiction à l’attention générale. Les pilotes s’apercevront de leur erreur et tenteront de remettre en marche le moteur 2, mais trop tard. L’avion s’écrase, faisant 47 morts et 84 blessés graves.

Cette affaire illustre non seulement une décision absurde, mais peut-être surtout l’attitude silencieuse des non-experts détenteurs d’informations vitales face à des experts en rupture de sens. On pourrait citer des histoires similaires en mer ou en montagne, dans lesquelles la notion du skipper ou du guide « seul maître après Dieu » est un facteur aggravant du risque. Actuellement, les compagnies de guides, aussi bien en Suisse ou en Italie qu’en France, commencent à adopter de nouvelles règles de prise de décision dans des situations graves. Il revient au guide de faire part de ses inquiétudes à sa cordée, mais les alpinistes sont tous invités à prendre la parole pour donner leur avis sur la poursuite de la course, l’attente ou le repli. L’information doit être partagée et la décision finale prise en commun. L’exemple du vol Londres Belfast montre bien que si le processus de décision avait prévu de stimuler la remontée d’information des passagers aux pilotes, l’accident aurait pu être évité. Dans le même ordre d’idée, certaines compagnies aériennes donnent maintenant le pilotage au moins expérimenté des pilotes afin que l’autre pilote, plus gradé, n’ait pas peur de lui faire des remarques.

Mais au fait, j’y pense, que dire du projet de Loi Renseignement qui vient d’entrer en examen à l’Assemblée nationale ? Les médias et les réseaux sociaux ont abondamment montré que si son objectif est bien de lutter contre le terrorisme en donnant des moyens de surveillance illimités aux services de renseignement, cette loi qui se veut fiable à 99 % est totalement inutile. Elle aboutit à faire surveiller tout le monde, à inquiéter 10 innocents pour 1000 habitants et à laisser filer les terroristes actifs qui n’auront aucun mal à passer sous les radars. La persistance du gouvernement et le soutien reçu d’un nombre non négligeable de députés de l’opposition relèvent-ils de biais cognitifs, de décisions absurdes ou de malignité volontaire ?

(*) Sources :

Christian Morel Les décisions absurdes, Editions Gallimard, 2002. Christian Morel est cadre dirigeant d’une grande entreprise et mène une réflexion sociologique sur la négociation et la décision.

Mintzberg, Ahlstrand, Lampel, Strategy Safari, chapter 6 : the cognitive school, Pearson Education, 1998, 2009. Henry Mintzberg (@Mintzberg141) est un chercheur canadien en management et théorie des organisations.

Daniel Kahneman Système 1 Système 2 Les deux vitesses de la pensée (Thinking, fast and slow), Flammarion, 2012. Daniel Kahneman a reçu le prix Nobel 2002 pour ses théories sur le jugement et la prise de décision.