非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

どんな大義もカルトになりたがる

Every Cause Wants to Be a Cult

❦

『The Register』のケイド・メッツが最近、ウィキペディアの上層部の管理者たちの秘密のメーリングリストが、ウィキペディアを批判する人、批判しそうな人をすべて締め出すことに取りつかれていると告発した。ある管理者が、活発に貢献する利用者について、その貢献ぶりだけを理由に、『Wikipedia Review』の送り込んだスパイだと確信し、その利用者を締め出したという話も含まれる。そして、ウィキペディアの上層部は結束して身内をかばったという。(私はまだ、これらの告発を自分では調べていない。情報を知らせてくれたオイゲン・ライトルに感謝する。)

世界の知識を体系化しようとすることには、その大義を追う者たちを狂気へ導く、何か根深い道徳的欠陥があるのだろうか? もともと全体主義的な傾向を持つ人だけが、何から何まで世界の権威になろうとするのかもしれない――。

対応バイアス警報!(対応バイアスとは、行動が起きた状況だけで十分に説明できるのに、その行動から本人固有の性質を推論してしまうことだ。誰かが自動販売機を蹴るのを見ると、私たちは「怒りっぽい人だ」と思う。だが、自分が自販機を蹴るのは、バスが遅れ、電車が早く出て、自販機にお金を飲まれたからだ。)ウィキペディアに関する告発が真実なら、それを説明するのは普通の人間性であって、異常な人間性ではない。

内集団と外集団の二分法は、普通の人間性の一部だ。幸福な死の螺旋も、憎悪の螺旋もそうだ。崇高な大義の支持者がカルト的な内集団を形成するのに、その大義に深い隠れた欠陥がある必要はない。支持者が人間であれば、それで十分だ。あとはすべて自然に起こる。放っておけば腐るのだ。停電後の冷蔵庫で食べ物が腐っていくのと同じように。

あらゆる温度差が均等になろうとし、あらゆるコンピュータープログラムが場当たり的な修正の寄せ集めになろうとするのと同じ意味で、どんな大義もカルトになりたがる。それはシステムが向かいやすい高エントロピーの状態であり、人間心理のアトラクターなのだ。大義が本当に崇高かどうかとは、無関係かもしれない。よい大義なら、それに関わる人々のあらゆる面によさが染み渡り、その支持者は地位争いや、内集団・外集団バイアス、感情の螺旋、指導者の神格化にも陥りにくくなると思うかもしれない。しかし、正しい考えを一つ信じても、ハロー効果は止まらない。崇高な大義が、その支持者を人間以外の何かにしてくれるわけではない。大きな害をもたらす悪い考えはたくさんある。だが、必ずしもそれが今起きていることの原因とは限らない。

珍しい目標を持つ集団は、目標がよかろうと悪かろうと愚かだろうと、絶えず抵抗する努力をしなければ、カルトというアトラクターへ向かっていく。家の中を外より涼しく保つことはできるが、そのためにはエアコンを回し続けなければならない。電気を切ったとたん――エントロピーとの闘いを放棄したとたん――、物事は「普通」に戻ってしまう。

ある有名な例では、「合理性! 理性! 客観的現実!」を合言葉とする集団が、半ばカルト化した。(これについては後で詳しく述べる。)偉大な思想に「合理性」というラベルを貼っても、家の上に「涼しい!」という看板を掲げる以上には、あなたを守ってくれない。やはりエアコンを回さなければならない。カルト化へと自然に滑り落ちていく流れを逆転させるため、単位時間当たりに必要なエネルギーを使わなければならないのだ。重力を崇めても飛べないように、合理性を崇めても正気にはなれない。熱力学に話しかけることはできないし、確率論に祈ることもできない。使うことはできるが、内集団として加入することはできない。

カルト性は、質的ではなく量的なものだ。問うべきは「カルト的か、そうでないか?」ではなく、「どこに、どれくらいカルト性があるか?」である。正真正銘の崇高な大義の典型である科学においてさえ、カルト化のエントロピーとの闘いの最前線、戦線が前後にじわじわ動く場所を、たやすく指摘できる。学術誌は、無名の機関に所属する無名の著者の論文より、有名な著者名が付いた論文や、有名な機関に所属する無名の著者の論文を採択しやすいだろうか? 信じる度合いのうち、どれほどが権威によるもので、どれほどが実験によるものだろうか? どの学術誌が、著者の素性を伏せる査読を使っているか。また、そのような査読はどれほど効果的か?

「科学者は新しい考えを受け入れない」というお決まりの曖昧な非難ではなく、この例を挙げるのは、そこに戦線が見えるからだ。人間の心理が積極的に押し戻され、たまったカルト化のエントロピーが汲み出されている場所が見える。(もちろん、それにはいくらか廃熱を出さなければならない。)

このエッセイは、カルト性に抗して積極的に汲み出す技法の一覧ではない。そうした技法の一部は以前述べたし、一部は後で述べる。ここで指摘したいのは、大義に価値があるからといって、カルトというアトラクターに抵抗する努力を減らしてよいわけではない、ということだけだ。そして、現在の戦線を指摘できるからといって、自分の崇高な大義に価値がないと認めたことにはならない。問いが「カルト的か、そうでないか?」なら、「そうでない」と答える義務があり、そうしなければ大切な大義を裏切ることになると思うかもしれない。だがそれは、無駄を測る代わりに、エンジンを「完全に効率的」と「非効率的」に分けるべきだと考えるようなものだ。

反対に、あの愚かな別の大義が道を誤ったのは、それらに本来備わる不純さのせいだと信じ、「カルトの犠牲者」の愚かさを笑い、カルトを率い、カルトに集まるのは変異した別種の人間だと考えているなら、エントロピーに逆らって汲み出すために必要な努力――人間であることに抗する努力――を払わなくなるだろう。