Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

集団信念の蒸発冷却

Evaporative Cooling of Group Beliefs

カルトの初期の研究者たちは、カルトが大きな衝撃――予言が実現しない、創始者の道徳的欠陥が暴露される――を受けると、しばしば信念と狂信を強め、以前より強くなって戻ってくることを発見して驚いた。エホバの証人は聖書の計算に基づき、ハルマゲドンを1975年と定めた。1975年は到来し、過ぎ去った。今も健在なユナリウスのカルトは、銀河間宇宙艦隊が1975年9月27日に出現しなかったことを乗り越えた。

なぜ集団の信念は、壊滅的な反証に出会った後で強まるのだろうか?

この現象についての従来の解釈は、認知的不協和に基づいている。人々がある信念のために「取り消せない」行動を取ったなら――空飛ぶ円盤の着陸を見越して全財産を手放したなら――自分が間違っていたとは到底認められない。信念への挑戦は巨大な認知的不協和をもたらす。その衝撃に対抗するため、信念を強化する考えを見つけなければならず、それゆえ、より狂信的になる。この解釈では、集団の狂信性の増大は、個人の狂信性の増大がもたらす結果である。

私は、蒸発冷却を使ってボース=アインシュタイン凝縮体を形成する方法を実演するJavaアプレットを眺めていた。そのとき、狂信性を高めるために、まったく別の力が働いているのかもしれないと思いついた。蒸発冷却では、熱い原子の集まりを取り囲む位置エネルギー障壁を設ける。熱エネルギーは本質的に統計的な性質を持つ――すべての原子がまったく同じ速度で動いているわけではない。個々の原子の運動エネルギーは、原子同士が衝突するにつれて変化する。平均熱エネルギーよりわずかに高い位置エネルギー障壁を設ければ、偶然の働きにより、ときおり原子の運動エネルギーが罠を脱出できるほど高くなる。異常に速い原子が脱出すると、異常に大きな運動エネルギーを持ち去るため、平均エネルギーは低下する。集団は、その周囲にある位置エネルギー障壁よりかなり冷たくなる。Javaアプレットで遊べば、もっとよく理解できるだろう。

Festinger、Riecken、Schachterの古典When Prophecy Failsでは、空飛ぶ円盤が着陸しなかった直後、カルト信者の一人が扉から出ていった。1最初にうんざりして去るのは誰だろう? 平均的なカルト信者か? それとも比較的懐疑的で、それまで穏健派の声として、より狂信的な信者へのブレーキ役を務めていたかもしれない人物か?

最も大きな運動エネルギーを持つ信者が脱出した後、残った議論は、一方の端にいる極端な狂信者と、もう一方の端にいるわずかに極端さの劣る狂信者の間で行われ、集団の合意はその「中間」のどこかに位置することになる。

では、崩壊してボース=アインシュタイン凝縮体を形成することに相当するものは何だろう? まあ、そこまで比喩を引き延ばす必要はない。だが、私が感情的死の螺旋に核分裂連鎖反応の比喩を使ったことを覚えているかもしれない。集団が穏健派の声をすべて追放すると、全員が互いを煽り、異論を抑圧するため、内部の平均的な狂信性が高まることがある。(ここに熱力学的なたとえはない。ただし、冷えると爆発する核兵器を誰かが開発すれば別だが。)

Ayn RandとNathaniel Brandenの長年にわたる不倫関係がオブジェクティビストの会員に暴露されたとき、会員のかなりの割合が袂を分かち、Brandenに従って、Ayn Randにそれほど強く拘束されない「開放体系」のオブジェクティビズムを唱えるようになった。スキャンダルが発覚した後もAyn Randのもとに残ったのは誰か? 彼女を心の底から信じていた人々――そしておそらく、穏健派の声が去った後、一方の側からしか論拠を聞かなかった決めかねていた人々である。これによって、分裂後のAyn Rand Instituteが、BrandenとRandのもとにあった当初のオブジェクティビスト中核集団より(伝えられるところでは)狂信的になったことを説明できるかもしれない。

数年前、私はトランスヒューマニストのメーリングリストに参加していた。そこでは「社会民主主義的トランスヒューマニズム」を唱える小集団が、リストにいる自由至上主義者をことごとく辛辣に侮辱した。ほとんどの自由至上主義者はメーリングリストを去り、残った人々もたいてい投稿をやめた。その結果、残存集団はかなり左へ移動した。これは意図的だったのか? おそらく違う。実行した人々がそこまで心理学を知っていたとは思わないからだ。(ついでに言えば、蒸発冷却の比喩をほかで見た覚えはない。だからといって、以前に指摘されていないという意味ではないが。)せいぜい、自分たちを「小さな池の大きな魚」にしようと考えたくらいかもしれない。

異論を許容することをあらかじめひいきするのが重要なのは、このためである。ある成員を集団から追放することが正当だと思えた時点より、かなりまで待ってから、実際に追放するべきだ。以前の外れ値を取り除けば、集団の立場は移動し、別の誰かが変わり者になる。その人も追放すれば、ボース=アインシュタイン凝縮体になって、ええと、爆発する道を順調に進んでいる。

逆の側面もある。Thomas Kuhnは、科学が実際の仕事を成し遂げられるようになるには、部外者を締め出す共有の専門用語を備えた「パラダイム」にならなければならないと考えた。Kuhnによれば、科学の形成期には、支持者たちは外部の研究者にも自分たちの仕事が理解できるよう、大変な努力をする。しかし(Kuhnによれば)、外部から理解できることを求める要件を捨て、パラダイム内で働く科学者が、やり取りの際に大量の専門的内容を知っていることを前提とするようになって初めて、科学は専門分野として本当に進歩できる。科学の公衆理解について通常語られることに比べれば冷笑的に聞こえるが、ここにはたしかに一片の真実があると思う。

インターネット上のモデレーションについての私自身の理論では、会話を軌道に乗せるために、荒らしとスパムを排除する覚悟が必要である。実際に仕事を成し遂げたいなら、善意はあっても技術的知識のない人々を、専門的なメーリングリストから排除する覚悟さえ必要だ。インターネット上の本当に開かれた会話は、たちまち崩壊する。この理論によれば、排除することに慎重になるべきなのは、弁の立つ荒らしである――彼らは、それほど極端でない不一致を正当化するという隠れた機能を果たす。ただし、弁の立つ荒らしが互いに論争を始めたり、会話を支配したりするほど大勢いてはならない。あらゆることに反対することで有名な「何でも反対する男」が一人いれば、より合理的で穏健な異論を持つ人は、一本だけ飛び出した釘には見えない。このインターネット・モデレーション理論は、実際には私にあまり役立たなかったかもしれないので、割り引いて受け取ってほしい。

Leon Festinger, Henry W. Riecken, and Stanley Schachter, When Prophecy Fails: A Social and Psychological Study of a Modern Group That Predicted the Destruction of the World (Harper-Torchbooks, 1956).