Les biais cognitifs sont des d\u00e9formations de notre perception de la r\u00e9alit\u00e9. D’ailleurs, la sagesse populaire ancestrale a tr\u00e8s bien identifi\u00e9 ce ph\u00e9nom\u00e8ne : \u00ab Il n’y a pas pire aveugle que celui qui ne veut pas voir. \u00bb<\/em> Souvent, nous nous abusons nous-m\u00eames.<\/p>\n Nous proc\u00e9dons en s\u00e9lectionnant les arguments qui vont dans le sens de ce que l’on pense, omettant les autres informations. Daniel Kahneman, prix Nobel d’\u00e9conomie, a d\u00e9montr\u00e9 que notre cerveau fonctionne selon deux syst\u00e8mes : le Syst\u00e8me 1, rapide et intuitif, qui traite environ 95 % de nos d\u00e9cisions en mode automatique, et le Syst\u00e8me 2, lent et analytique, que nous n’activons que lorsque l’effort nous semble justifi\u00e9. Le probl\u00e8me : c’est le Syst\u00e8me 1 qui est le plus vuln\u00e9rable aux biais \u2014 et c’est lui qui d\u00e9cide presque tout le temps.<\/p>\n L’histoire d’Elizabeth Holmes, ex-\u00e9g\u00e9rie de la Silicon Valley, m\u00e9rite d’\u00eatre racont\u00e9e. Un tribunal vient de la condamner \u00e0 plus de 11 ans de r\u00e9clusion criminelle et au remboursement de 452 millions de dollars. Son histoire est un cas d’\u00e9cole sur la mani\u00e8re dont nos biais cognitifs peuvent nous transformer en complices involontaires d’une fraude massive.<\/p>\n 70 % des diagnostics des m\u00e9decins se fondent sur des analyses m\u00e9dicales. Autant dire que si les laboratoires qui produisent ces analyses donnent de faux r\u00e9sultats, ce sont les vies des patients qui sont en jeu.<\/p>\n Theranos \u00e9tait cette entreprise qui pr\u00e9tendait fournir au march\u00e9 des machines de tests sanguins fiables, \u00e0 partir d’une goutte de sang prise sur le bout des doigts. Fini les tubes et seringues que les patients n’aiment pas franchement.<\/p>\n Avec un discours format\u00e9, sans oublier la s\u00e9quence \u00e9motion, Elizabeth Holmes expliquait \u00e0 qui voulait l’entendre que cela permettrait de \u00ab pr\u00e9server les personnes que l’on aime \u00bb. D\u00e9sormais, le suivi m\u00e9dical devenait indolore, rapide, fiable, peu cher. Une belle histoire, non ?<\/p>\n Sauf que sa machine, cens\u00e9e r\u00e9aliser ces tests, donnait de faux r\u00e9sultats et ne d\u00e9tectait m\u00eame pas les virus et cancers. La majeure partie des tests \u00e9tait en r\u00e9alit\u00e9 r\u00e9alis\u00e9e avec des \u00e9quipements conventionnels \u2014 la technologie r\u00e9volutionnaire n’existait tout simplement pas.<\/p>\n Au pic de sa notori\u00e9t\u00e9, l’entreprise \u00e9tait valoris\u00e9e 9 milliards de dollars. Elizabeth Holmes, cr\u00e9dit\u00e9e de 3,5 milliards de fortune personnelle \u2014 \u00e0 30 ans. On comptait pas moins de quatre secr\u00e9taires d’\u00c9tat am\u00e9ricains dans le conseil d’administration, dont Henry Kissinger, ainsi que le g\u00e9n\u00e9ral James Mattis, le milliardaire Rupert Murdoch et Larry Ellison, fondateur d’Oracle. Plus de 700 millions de dollars ont \u00e9t\u00e9 lev\u00e9s aupr\u00e8s d’investisseurs.<\/p>\n Avec de tels parrainages et une si belle histoire, port\u00e9e par une jeune femme qui mimait Steve Jobs \u2014 son idole \u2014 jusque dans la fa\u00e7on de s’habiller (col roul\u00e9 noir, regard bleu acier, voix grave travaill\u00e9e), le pi\u00e8ge pouvait se refermer sur les investisseurs et notre cr\u00e9dulit\u00e9.<\/p>\n Quelles sont les le\u00e7ons que nous pouvons tirer de l’affaire Theranos ?<\/strong><\/p>\n Pendant sept ann\u00e9es, les comptes de Theranos n’ont pas \u00e9t\u00e9 certifi\u00e9s. Aucun des membres du conseil d’administration n’a boug\u00e9.<\/p>\n Le biais de confirmation<\/strong>, que nous portons toutes et tous en nous, est un m\u00e9canisme redoutable qui nous fait ignorer certains \u00e9l\u00e9ments pour pr\u00e9f\u00e9rer tout ce qui va dans le sens de nos opinions, convictions ou souhaits. Au sein de Theranos, les affirmations officielles \u2014 ce qu’il fallait penser \u2014 \u00e9taient pr\u00e9f\u00e9r\u00e9es \u00e0 la r\u00e9alit\u00e9 et aux faits.<\/p>\n Ce ph\u00e9nom\u00e8ne se retrouve dans les sectes, o\u00f9 l’on voit des collectivit\u00e9s enti\u00e8res se couper de tout esprit critique. Les choses n’ont pas besoin d’\u00eatre vraies pour \u00eatre crues<\/strong> \u2014 elles ont besoin d’\u00eatre d\u00e9sir\u00e9es.<\/p>\n Les chercheurs en psychologie cognitive ont montr\u00e9 que le biais de confirmation agit \u00e0 trois niveaux simultan\u00e9ment. Au niveau de la recherche d’information : nous cherchons spontan\u00e9ment les donn\u00e9es qui confirment notre hypoth\u00e8se, et \u00e9vitons celles qui la contredisent. Au niveau de l’interpr\u00e9tation : face \u00e0 une donn\u00e9e ambigu\u00eb, nous l’interpr\u00e9tons dans le sens qui nous arrange. Au niveau de la m\u00e9morisation : nous retenons mieux les faits qui confirment nos croyances que ceux qui les infirment.<\/p>\n Dans le cas de Theranos, ce triple filtre \u00e9tait amplifi\u00e9 par un m\u00e9canisme que les psychologues appellent l’escalade d’engagement<\/strong> : plus les investisseurs avaient investi (en argent, en r\u00e9putation, en cr\u00e9dibilit\u00e9 personnelle), plus il leur devenait psychologiquement impossible d’admettre qu’ils s’\u00e9taient tromp\u00e9s. Reconna\u00eetre la fraude revenait \u00e0 reconna\u00eetre leur propre aveuglement \u2014 un co\u00fbt \u00e9motionnel que leur ego ne pouvait pas supporter.<\/p>\n Certains auditeurs travaillant pour des cabinets externes avaient alert\u00e9 d\u00e8s 2010 \u2014 mais n’\u00e9taient pas \u00e9cout\u00e9s. Erika Cheung, une jeune chercheuse embauch\u00e9e comme scientifique junior, avait elle aussi tent\u00e9 de signaler les anomalies. Le journaliste John Carreyrou, du Wall Street Journal<\/em>, a fini par exposer la v\u00e9rit\u00e9 dans une s\u00e9rie d’articles puis dans son livre Bad Blood<\/em>.<\/p>\n L’histoire \u00e9tait trop belle \u2014 changer le monde et la vie des patients \u2014 pour que la r\u00e9alit\u00e9 trop cruelle puisse \u00eatre \u00e9cout\u00e9e. Ce ph\u00e9nom\u00e8ne illustre parfaitement ce que Nassim Taleb appelle le \u00ab sophisme narratif \u00bb : notre cerveau pr\u00e9f\u00e8re une belle histoire coh\u00e9rente \u00e0 une r\u00e9alit\u00e9 complexe et d\u00e9rangeante.<\/p>\n Nous devons nous m\u00e9fier de ce que nous croyons.<\/strong> Avant toute d\u00e9cision qui comporte des cons\u00e9quences, il convient de tenter une d\u00e9marche d’exhaustivit\u00e9 dans la collecte des informations et des faits. Puis de veiller \u00e0 consid\u00e9rer les points qui ne nous plaisent pas a priori.<\/p>\n Concr\u00e8tement : pour chaque d\u00e9cision importante, posez-vous la question \u00ab Quel est l’argument le plus fort contre cette position ? \u00bb<\/em> Si personne autour de vous ne peut le formuler \u2014 ou n’ose le formuler \u2014 c’est un signal d’alarme.<\/p>\n La technique du premortem<\/strong> de Gary Klein est ici pr\u00e9cieuse : avant de prendre votre d\u00e9cision, imaginez que le projet a \u00e9chou\u00e9 dans un an. Demandez \u00e0 chacun : \u00ab Pourquoi a-t-il \u00e9chou\u00e9 ? \u00bb Cette technique r\u00e9duit l’exc\u00e8s de confiance de 30 % et fait \u00e9merger les risques que l’enthousiasme collectif aurait occult\u00e9s.<\/p>\n Theranos comptait dans son tour de table Henry Kissinger, George Shultz, James Mattis, Rupert Murdoch, Larry Ellison \u2014 des personnalit\u00e9s dont on pouvait affirmer, sans r\u00e9fl\u00e9chir, que si ces gens-l\u00e0 en \u00e9taient, l’affaire \u00e9tait de qualit\u00e9.<\/p>\n Le biais de halo<\/strong>, identifi\u00e9 par le psychologue Edward Thorndike d\u00e8s 1920, est la tendance \u00e0 laisser une impression positive sur un trait influencer l’ensemble du jugement. Kissinger est un brillant diplomate \u2014 donc il doit \u00eatre un bon \u00e9valuateur de technologie m\u00e9dicale ? Rupert Murdoch est un g\u00e9nie des m\u00e9dias \u2014 donc il doit savoir rep\u00e9rer une fraude scientifique ?<\/p>\n La r\u00e9alit\u00e9 est que ces membres ne connaissaient rien ou peu de choses \u00e0 ce qui se passait. Ils ont parfois manqu\u00e9 d’esprit critique ou de suite dans les id\u00e9es, se sont content\u00e9s d’explications g\u00e9n\u00e9rales. Par contre, ils ont involontairement donn\u00e9 une caution forte \u00e0 ce qui s’est av\u00e9r\u00e9 n’\u00eatre qu’un immense g\u00e2chis.<\/p>\n Nous avons \u00e9t\u00e9 \u00e9duqu\u00e9s dans le respect des figures d’autorit\u00e9. Dans le culte de ceux qui sont dipl\u00f4m\u00e9s, pourvus de titres, puissants, riches, et ont r\u00e9ussi.<\/p>\n Le psychologue Stanley Milgram a d\u00e9montr\u00e9 dans sa c\u00e9l\u00e8bre exp\u00e9rience de 1963 que 65 % des participants \u00e9taient pr\u00eats \u00e0 administrer des chocs \u00e9lectriques potentiellement mortels \u00e0 une autre personne \u2014 simplement parce qu’une figure d’autorit\u00e9 (un scientifique en blouse blanche) leur demandait de le faire. Le biais d’autorit\u00e9 est l’un des plus puissants \u2014 et des plus dangereux \u2014 de notre r\u00e9pertoire cognitif.<\/p>\n Dans le cas de Theranos, le charisme d’Elizabeth Holmes tenait lieu de comp\u00e9tence. Personne ne s’inqui\u00e9tait qu’elle n’ait aucune formation attest\u00e9e dans les disciplines tr\u00e8s techniques que mobilisait le projet. Au contraire : qu’elle ait quitt\u00e9 Stanford en premi\u00e8re ann\u00e9e la classait dans la cat\u00e9gorie des \u00ab d\u00e9crocheurs g\u00e9niaux \u00bb comme Steve Jobs ou Bill Gates. Le biais du survivant<\/strong> \u00e9tait \u00e0 l’\u0153uvre : on ne retient que les cas de r\u00e9ussite spectaculaire (Jobs, Gates) et on ignore les millions de d\u00e9crocheurs qui n’ont rien cr\u00e9\u00e9 du tout.<\/p>\n Ce n’est pas parce qu’on a r\u00e9ussi certaines choses que l’on r\u00e9ussit tout par principe.<\/strong> Chaque nouveau projet est une nouvelle aventure. Nous devons exercer notre esprit critique et conserver notre autonomie de d\u00e9cision. Ce n’est pas parce que c’est affirm\u00e9 par une figure d’autorit\u00e9 ou un expert que c’est vrai.<\/p>\n Par confort, nous avons parfois tendance \u00e0 nous en remettre \u00e0 un avis ext\u00e9rieur. Si nous souhaitons pr\u00e9server notre libert\u00e9 et notre autonomie de pens\u00e9e \u2014 \u00e0 la fin, c’est nous qui en paierons les cons\u00e9quences \u2014, il convient de tenter de penser par soi-m\u00eame.<\/p>\n Si un groupe pense majoritairement une chose, nous aurons tendance \u00e0 suivre cet avis. L’\u00eatre humain est ainsi fait : son appartenance au groupe est importante. Il privil\u00e9gie le consensus \u00e0 l’esprit critique.<\/p>\n Le psychologue Solomon Asch a d\u00e9montr\u00e9 dans les ann\u00e9es 1950 que des individus parfaitement lucides sont pr\u00eats \u00e0 donner une r\u00e9ponse manifestement fausse \u2014 simplement parce que le reste du groupe a donn\u00e9 cette r\u00e9ponse avant eux. 75 % des participants se conforment au moins une fois \u00e0 la r\u00e9ponse erron\u00e9e du groupe. Ce n’est pas de la stupidit\u00e9 \u2014 c’est un m\u00e9canisme de survie sociale profond\u00e9ment ancr\u00e9 dans notre cerveau.<\/p>\n Dans le cas de Theranos, ce biais de groupe \u2014 le groupthink<\/em> d’Irving Janis \u2014 fonctionnait \u00e0 plein r\u00e9gime. Qui oserait contredire Kissinger ? Qui oserait remettre en question un investissement valid\u00e9 par Rupert Murdoch ? La pression sociale du conformisme a transform\u00e9 des investisseurs suppos\u00e9ment brillants en spectateurs passifs d’une fraude de 700 millions de dollars.<\/p>\n La communication pourrait se d\u00e9finir comme la volont\u00e9 de porter \u00e0 la connaissance des personnes un message. Mais ce message est port\u00e9 par quoi : des faits, des id\u00e9es \u00e0 partager, des opinions, des mensonges, des contrev\u00e9rit\u00e9s, une sordide manipulation ?<\/p>\n Il vous suffit de ma\u00eetriser les codes de la communication, du storytelling, de l’\u00e9motion partag\u00e9e au bon moment pour embarquer votre auditoire avec vous. Les chercheurs qui ont analys\u00e9 l’affaire Theranos soulignent que le mod\u00e8le de l’industrie de l’innovation repose structurellement sur la primaut\u00e9 de la promesse et de la s\u00e9duction \u2014 et que cette s\u00e9duction n’est pas tant celle du projet que celle de son promoteur. Le charisme vaut comp\u00e9tence. Le secret vaut propri\u00e9t\u00e9 intellectuelle. La promesse vaut r\u00e9sultat.<\/p>\n Elizabeth Holmes, avec une intelligence ind\u00e9niable, a copi\u00e9 ces codes avec efficacit\u00e9 au service d’une belle histoire sans lien avec le r\u00e9el.<\/p>\n La communication doit \u00eatre au service de la v\u00e9rit\u00e9, des faits, du r\u00e9el.<\/strong> Malheureusement, elle fonctionne aussi tr\u00e8s bien quand elle est mise au service d’objectifs cach\u00e9s, inavouables et manipulatoires.<\/p>\n Soyons tous collectivement m\u00e9fiants vis-\u00e0-vis de la communication et attachons-nous aux faits, \u00e0 la r\u00e9alit\u00e9. Contr\u00f4lons ce qu’il y a derri\u00e8re. \u00c0 d\u00e9faut, nous serons toujours victimes de la forme brillante qui sert un dessein qui l’est moins.<\/p>\n Notre \u00e9poque est trop sensible \u00e0 la forme au d\u00e9triment du fond.<\/strong><\/p>\n L’affaire Theranos n’est pas un accident isol\u00e9. Des escroqueries similaires \u2014 \u00e0 des \u00e9chelles diverses \u2014 se produisent chaque jour dans le monde des affaires, de la politique, des r\u00e9seaux sociaux. Les m\u00e9canismes sont toujours les m\u00eames : une belle histoire, une figure charismatique, un groupe qui suit, des signaux d’alerte ignor\u00e9s.<\/p>\n Voici trois r\u00e9flexes que chacun peut d\u00e9velopper pour se prot\u00e9ger :<\/p>\n Le r\u00e9flexe du contradicteur.<\/strong> Avant toute d\u00e9cision importante, cherchez activement l’information qui contredit votre hypoth\u00e8se. Pas pour la plaisir de douter \u2014 mais pour la rigueur de d\u00e9cider. Si vous ne trouvez aucun argument contre, c’est soit que votre id\u00e9e est g\u00e9niale (improbable), soit que vous n’avez pas assez cherch\u00e9 (probable).<\/p>\n Le r\u00e9flexe du m\u00e9canisme.<\/strong> Quand quelqu’un vous pr\u00e9sente un r\u00e9sultat spectaculaire, demandez le m\u00e9canisme. Comment \u00e7a fonctionne concr\u00e8tement ? Pas le \u00ab quoi \u00bb \u2014 le \u00ab comment \u00bb. Elizabeth Holmes refusait syst\u00e9matiquement d’expliquer le fonctionnement de sa technologie, invoquant le \u00ab secret industriel \u00bb. Ce refus aurait d\u00fb \u00eatre, \u00e0 lui seul, un signal d’alarme r\u00e9dhibitoire.<\/p>\n Le r\u00e9flexe de la source.<\/strong> Qui dit quoi, et pourquoi ? Quelle est la source de l’information ? Quel int\u00e9r\u00eat a cette source \u00e0 me transmettre cette information ? Ce r\u00e9flexe, simple en apparence, \u00e9limine \u00e0 lui seul 80 % de la d\u00e9sinformation \u00e0 laquelle nous sommes expos\u00e9s quotidiennement.<\/p>\n \u00c0 l’\u00e8re de l’infob\u00e9sit\u00e9 dont la qualit\u00e9 n’est pas toujours au rendez-vous, si on y ajoute notre propension naturelle \u00e0 d\u00e9former la r\u00e9alit\u00e9, on imagine assez bien les cons\u00e9quences.<\/p>\n La bonne distance consisterait \u00e0 tenter, chaque fois que possible, de s’en tenir aux faits, \u00e0 la r\u00e9alit\u00e9, et d’\u00eatre prudent vis-\u00e0-vis de ses propres biais cognitifs.<\/p>\nL’histoire de Theranos : la promesse et le mirage \ud83d\udc89<\/h2>\n
1. Nous aimons les contes de f\u00e9es \u2014 le biais de confirmation \u00e0 l’\u0153uvre \u2705<\/h2>\n
Le m\u00e9canisme en profondeur<\/h3>\n
Les lanceurs d’alerte ignor\u00e9s<\/h3>\n
Comment se pr\u00e9munir ?<\/h3>\n
2. Le biais de halo \u2014 l’influence des figures d’autorit\u00e9 \ud83d\udc54<\/h2>\n
Le m\u00e9canisme du biais de halo<\/h3>\n
Le culte des figures d’autorit\u00e9<\/h3>\n
La le\u00e7on<\/h3>\n
3. La communication d\u00e9voy\u00e9e et le biais de groupe \ud83d\udce2<\/h2>\n
Le conformisme comme arme<\/h3>\n
Le storytelling comme manipulation<\/h3>\n
La le\u00e7on<\/h3>\n
4. Trois r\u00e9flexes pour se prot\u00e9ger de ses propres biais \ud83d\udee1\ufe0f<\/h2>\n
Conclusion : la vigilance comme mode de vie \ud83e\udd0e<\/h2>\n