非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

懸念を口にすることについて

On Expressing Your Concerns

❦

アッシュの同調実験の恐ろしいところは、周囲の皆が同じことを言っている部屋に入れれば、多くの人に黒を白と言わせられることだ。希望が持てるところは、たった一人でも異を唱える人がいると、その人が別の間違った答えを言っているだけでさえ、同調率が大幅に下がったことだ。そしてうんざりするところは、実験の過程で異を唱えることが学習されなかったことだ。唯一の反対者が集団に同調し始めると、同調率は元どおり上がった。

異論の声を上げることは、集団に実際の利益をもたらしうる。だが、それには代償もある(よく知られているとおりだ)。しかも、声を上げ続けなければならない。おまけに、自分が間違っているかもしれない。

最近、興味深い経験をした。それまで二人で計画を立てていた人たちと、あるプロジェクトについて話し始めたときのことだ。私は二人が楽観的すぎると思い、安全のため余裕を設ける類いの提案をいくつかした。やがて、二人のうち一人を車で家まで送る予定の四人目がふらりとやって来て、提案を始めた。そのとき私は、集団がどうして自信過剰になるのかを突然悟った。私が問題になりそうな点を挙げるたびに、四人目の彼が「心配するなよ、きっと何とかなるさ!」といった、安心させる言葉を返していたからだ。

一人で仕事をしている人には、自然に不安が生じる。「本当にXYZができるだろうか」と自問する。自分自身の能力を疑っても、失礼にはならないからだ。だが、自信のない二人が組むと、優しい言葉や安心させる言葉をかけるのが礼儀正しく、相手の能力を疑うのは無礼になる。二人一緒になると、それぞれ一人でいるときよりも楽観的になる。互いに、相手の一見自信たっぷりな励ましで不安を鎮め、相手も最初は内心同じ不安を抱いていたことに気づかない。

アッシュの同調実験が浮かび上がらせる最も恐ろしい可能性は、皆が他人の自信に満ちた声に流され、自分の不安を悟られないよう気をつけながら集団に同調し、他の人たちも同じような懸念を押し殺していることに気づかない、という光景だ。これは「多元的無知」と呼ばれる。

ロビン・ハンソンと私は、合理主義者を目指す人は具体的にいつ意見の不一致を恐れず表明すべきなのか、長く議論を続けてきた。私は、自分自身の意見を形成するほかに実質的な選択肢はない、という広く受け入れられた立場に傾いている。ロビン・ハンソンは、他の人だけでなくあなた自身も、他人のほうが賢いかもしれないと考慮すべきだ、という、もっと通念に逆らう立場を主張する。さまざまな意見の違いはあっても、私たちはどちらも、オーマンの合意定理を拡張すれば、事実に関する意見の不一致が共通知識となっているなら、誰かが非合理的でなければならない、ということになると認めている。妙な顔をされてきたが、謙虚さについてのこの立場を変えるつもりはない。個人主義について世間で言われることは忘れよう。他人がどう考えるかに注意を払うべきなのだ。

えへん。つまり、合理主義者にとって、集団と意見を異にするのは重大なことなのだ。「誰にだって自分の意見を持つ権利がある」と言って済ませるわけにはいかない。

アッシュの実験から学ぶべき最も重要な教訓は、「懸念を表すこと」と「意見を異にすること」を区別することだと私は思う。他の人が口にしていない論点を挙げるのは、議論の結末でも集団に反対すると約束することではない。

理想的なベイズ主義者の意見が収束する過程では、聞き手には予測できない証拠が共有される。オーマンの合意の結果が成り立つのは、あなたが知り、私が知り、私が知っていることをあなたが知り……と続く、共通知識についてだけである。ハンソンの「意見が異なることは予見できない」という投稿や論文は、理想的な合理主義者たちが確率の推定値を一致させていく様子を見たら、どれほど奇妙に映るかを描いている。市場で二人が値段を交渉して折り合う様子とは、まるで違う。

残念ながら、社会的には、「懸念を表すこと」と「意見を異にすること」に大きな違いはない。合理主義者の集団なら、両者には違いがあることにしよう、と合意するかもしれない。だが、人間はもともとそういう仕組みにはなっていない。ひとたび声を上げれば、社会的には取り返しのつかない行為をしたことになる。出る杭となり、集団の心地よい調和に混じる不協和音となってしまい、それは元には戻せない。XYZという作業をきちんとやり遂げる能力について懸念を示されたことで侮辱されたと感じた人は、最後にあなたが「問題ありません、皆さんに従います」と言っても、おそらく同じだけ根に持つだろう。

アッシュの実験は、異を唱えることが他人を勇気づける力は実在すると示している。アッシュの実験は、同調の力は実在すると示している。皆が内心の疑念を口にするのを控えれば、集団は本当に狂気へと導かれてしまう。だが歴史には、皇帝は裸だと最初に、あるいは二番目にさえ言った人が払う代償について、教訓があふれている。また人間には、「懸念を表すこと」と「共通知識があるのに意見を異にすること」を区別する仕組みが生まれつき備わっているわけではない。この区別は、合理主義者が人為的に設けたものだ。もっと冷笑的な部類の自己啓発書(たとえばマキャヴェッリの『君主論』)を読めば、同調していない姿勢を完全に隠すよう助言されるだろう。先に懸念を口にして最後に同意しろ、とは言われない。明白な問題に声を与える役を引き受け、集団に奉仕しても、それで感謝してもらえるとは期待しないほうがよい。

以上が、異を唱えることの代償と利益だ。「意見を異にする」にせよ、単に「懸念を表す」にせよ、どうするかはあなたが決めることだ。