バイアスを知ることが害になる場合もある

❦

以前、専門家の確信度の較正の問題を母に説明しようとして、こう言ったことがある。「つまり、専門家が99%の確信があると言っても、実際にそのとおりになるのは70%くらいなんだ」。そこで一瞬、間が空いた。自分が母に話しているのだと突然気づき、私は慌てて付け足した。「もちろん、気に入らないことへの反論にだけ使うんじゃなくて、自分自身も含めて、その懐疑を公平に向けないといけないけど——」

すると母は言った。「何言ってるの？　最高じゃない！　これからいつも使うわ！」

テイバーとロッジの「政治的信念の評価における動機づけられた懐疑」では、次の六つの予測が確認されたと報告されている。¹

1. 事前の態度の効果。ある問題に強い思い入れをもつ被験者は、客観的であるよう促されても、自分を支持する議論を反対する議論より好意的に評価する。
2. 反証バイアス。被験者は、支持する議論よりも反対する議論をけなすことに、多くの時間と認知資源を費やす。
3. 確証バイアス。情報源を自由に選べる被験者は、反対する情報源よりも支持する情報源を探す。
4. 態度の分極化。一見バランスの取れた賛否両方の議論に被験者を触れさせると、もともとの意見の隔たりがさらに大きくなる。
5. 態度の強さの効果。強い態度を表明する被験者ほど、上記のバイアスに陥りやすい。
6. 知識の豊富さの効果。政治に詳しい被験者は、自分に合わない事実や議論に反論するための材料を多くもっているため、上記のバイアスに陥りやすい。

もともと非合理的なら、知識が増えることはあなたの害になりうる。真のベイズ主義者にとって、情報の期待効用が負になることは決してない。だが、人間はベイズという道具を完璧に扱えるわけではない。気をつけなければ、自分を切ってしまう。

バイアスについての知識のせいで、ひどくおかしくなった人を私は見てきた。気に入らないものすべてに反論するための弾薬が増えてしまうのだ。そして、この問題——すぐ使える弾薬が多すぎること——は、頭の回転が速い人が結局愚かになってしまう主な経路の一つである。ここでいう愚かさは、スタノヴィッチの「合理的思考障害」という意味での愚かさだ。

この描写に当てはまる人を思い浮かべられるだろう。一般知能因子gが高いのに、論客としてあまりに巧みなため、かえってうまく考え行動できなくなる人だ。そうした人に定番のバイアスを一覧にして教えるだけで、助けになる——より有能な合理主義者になってもらえる——と思うだろうか。

確信度の較正と過信の問題を知った、ある人のことを覚えている。その直後、彼はこう言った。「そうか、専門家は信用できないんだな。実験でも示されているように、しょっちゅう間違えるんだから。だから未来を予測するとき、私は物事が歴史的にこれまでと同じように続いていくと想定するほうがいいと思う——」。そして、複雑で間違いやすく、きわめて疑わしい外挿の話を延々と始めた。どういうわけか、自分の好きな結論を信じる段になると、あれほどのバイアスや誤謬は、他人に反論する必要があるときに比べ、ずっと目立たなくなる——ずっと頭に浮かびにくくなる——ようだった。

その人に、反証バイアスと巧妙な議論の問題を説明した。すると案の定、次に私が彼の気に入らないことを言うと、私を巧妙な論客だと非難したのだ。具体的にどの議論が巧妙なのか、どこに欠陥があるかを指摘しようとはしなかった。ただ首を振り、私が自分の知性を使ってその知性自身を打ち負かしているようだと、悲しげにため息をついた。彼は、どんな話にも使える反論を、また一つ手に入れていた。

「巧妙な論客」という概念でさえ、気に入らないことを言う、一見知的な人に出会ったときに、あまりにすぐ頭に浮かぶなら、致命的になりうる。

私は自分の失敗から学ぶよう努めている。前回、ヒューリスティクスとバイアスについて講演したときは、連言の誤謬と代表性ヒューリスティックを使って、まず一般的な概念を紹介した。その後、確証バイアス、反証バイアス、巧妙な議論、動機づけられた懐疑、そしてほかの態度の効果へと進んだ。続く30分間、そのテーマをできるかぎり多くの異なる角度から取り上げ、たたき込んだ。

聴衆にこの分野への関心をもってほしかった。そのためには、連言の誤謬と代表性を簡単に説明するだけで十分だろう。だが、関心をもってくれたとしよう。その後はどうなる？　バイアスについての文献の大部分は、認知心理学そのもののための認知心理学だ。あの一度の講演のうちに重大な警告を伝えておかなければ、聴衆はおそらく、それを聞く機会をまったく得られないだろう。

だから今では、書くにせよ話すにせよ、反証バイアス、動機づけられた懐疑、巧妙な論客、頭の回転が速い人の合理的思考障害について先に話していないかぎり、確信度の較正や過信には決して触れないようにしている。まず第一に、害をなすなかれ！