❦
現代の世界でカルトに入るのは、身に起きうる悪いことの一つだろう。最善の場合でも、誠実だが思い違いをした人々の集団に入り、悪気のない間違いはしていても、それ以外はまともな人々と、多くの時間と金を使い、結局何も得られない。いや、これなら失敗したシリコンバレーの新興企業も同じかもしれない。考えてみれば、それだってひどくつらい経験だという。そう、実に怖い。
本物のカルトは、はるかにひどい。人生の危機にある人を狙い、勧誘に「愛情の集中攻勢」を使う。睡眠を奪う。重労働で疲れさせる。遠隔地の共同生活で友人や家族から隔離する。不純な考えを毎日告白させる。生涯の貯金も毎週の給料も、金をすべて取り上げ、衣食をカルトに依存させるのも珍しくない。不服従には飢えで罰を与える。本格的な洗脳と、本格的な危害だ。
それをすべて考慮すれば、変わって見える活動に踏み込む際、カルトに入ることになるかもしれないとひどく不安になる人に、私はもっと共感すべきなのだろう。神経を逆なでされるべきではない。だが実際は、そうなのだ。
第一点。「カルト」と「非カルト」は、犬と猫のように分かれた自然種ではない。カルトの特徴の一覧を見ると、「外からの批判には隠れた動機があると疑うよう成員に勧める」「階層的で権威的な構造」など、政党や企業にも簡単に当てはまる項目がある。私は、集団分極化、幸福な死の螺旋、無批判さ、蒸発冷却といった集団の失敗の仕方について書いてきた。それらは互いを強めるように見える。渦を巻いて集まれば、ボルトロンのように合体し、どの部分よりも愚かな超失敗になる。だが、これはカルトの本質ではない。カルトという吸引先（アトラクター）なのだ。
犬は犬のDNA、猫は猫のDNAを持って生まれる。今の世界に、その中間はない。遺伝子操作でも、犬と猫の遺伝子を半分ずつ持つ生物を作ればよいというほど単純ではない。互いを強める犬の特徴の集まりがあり、一匹の猫が途中まで入り込んで半分犬になる、というわけではない。
人の心は分類を考えるとき、吸引先より本質を好むようだ。「これはカルトだ」「カルトではない」と言って、分類を終えたがる。ソクラテスには指が十本あり、服を着て、流暢なギリシャ語を話すと観察したなら、「彼は人間だ」と言え、死ぬことを血液検査で確かめなくても、そこから「ドクニンジンに弱い」と導ける。人間かどうかは、それで決着する。
だが、ある集団に内集団と外集団の分極化が見られ、何より好きなもの、たとえば客観主義、菜食主義、ニューラルネットワークの周りに、肯定的なハロー効果があると観察しても、それまでの証拠だけで、無批判になっているかは導けない。中心的な考えが真か偽か、本当に役立つが本人たちの思うほどではないのかも導けない。それまでに集めた情報だけで、それ以外は礼儀正しいのか、それともあなたを隔離し、睡眠や食事を奪うのかも導けない。カルト的な特徴は、全部あるか全部ないかではない。
ネットの「Xはカルトだ」「Xはカルトではない」という争いを見ると、一方は特徴一覧から一つ当てはまる項目を見つけ、「だからカルトだ！」と言う。擁護側は当てはまらない項目を一つ見つけ、「だからカルトではない！」と言う。
このような本質主義では、集団の推論の動きを正確に描けない。個々の特徴に、それぞれ注意を払わなければならない。
さらに、愚かさを逆にしても知性にはならない。実行する集団だけでなく、中心的な考えに関心があるなら、賢い考えにも愚かな支持者がつくことを忘れてはいけない。ニューエイジの人々はよく「量子物理学」を語るが、それは量子物理学への反証ではない。もちろん、愚かな考えにも愚かな支持者がいる。二値的な本質主義には、集団を「カルト」と判断したら信念も偽のはずだ、という考えが伴う。猫に毛があるように、偽の信念はカルトの特徴だからだ。考えに関心があるなら、人でなく、その考えを見よう。カルト性は、仮説というより集団の特徴である。
第二の誤り。不安げに「これ、カルトじゃないですよね？」と尋ねる人は、自分は合理的だという安心を求めているように聞こえる。合理主義者は、合理主義者である自己像に執着しすぎるな、という話は一本の論考に値する。十二の美徳、なぜ真実なのか？ そして……、カルトをめぐる二つの公案も参照してほしい。だが詳しく論じなくても、不安に駆られて安心を求めることが、合理性を評価するのに最善の心構えでないのは分かるだろう。本当に知りたがることも、疑いに決着をつける方法を考えることもない。代わりに、カルトは睡眠を奪って人を支配すると書くサイトを見つけ、お気に入りの集団では睡眠を奪わないと気づき、「カルトではない。ほっ！」と結論する。毛がなければ猫ではないはずだ。実に安心できる。
だが、大義が賢明でも愚かでも、あらゆる大義はカルトになりたがる。内集団と外集団の二分法などは人間の性質であり、変異した人々だけの特別な呪いではない。合理性は普通ではなく例外だ。エントロピーへ自然に滑り落ちることに抗し、合理性を保つには、絶えず努力しなければならない。「カルトではない！」と安心してしまえば、普通にあるカルト化への傾向を押し返す努力を続けなくなる。カルトの本質はないと判断し、カルトという吸引先へ向かうエントロピーに抗して、力を注ぐのをやめてしまう。
カルト性をひどく不安に思えば、カルトに似た特徴の兆しを、どれも否定したくなる。だが、よいと見なされる目標を持つどの集団にもハロー効果の危険があり、感情の死の螺旋を避けるにはエントロピーに抗する必要がある。これは、「リベラルな価値観」や「保守の価値観」ががんを治せると思うような、普通の政党にも当てはまる。シリコンバレーの新興企業にも、成功・失敗を問わず当てはまる。MacユーザーにもLinuxユーザーにもだ。皆がやっているからハロー効果が許されるわけではない。皆が崖から踏み出しても、あなたは続かないだろう。推論の誤りは容認せず、戦うべきだ。だが「本当にカルトではないのか？」と不安になりすぎれば、カルト性の兆しを一つでも認めることを嫌がる。それなら自分はカルトの中にいることになるが、カルトではないんだ！！ そうして、普通にあるカルト化傾向が進んだり押し返されたりしている、目の前の戦場が見えなくなる。
不安げに「カルトではないですよね？」と尋ねる第三の間違いは、その不安の理由が、まったく間違っているのではないかということだ。私は強くそう疑っている。
大好きなものを天までたたえ、全財産を寄付して自発的に隷属して働くよう勧め、成員を厳しく隔離した私有施設を運営する集団が、数百年続いたら「カルト」でなく「宗教」と呼ばれるのはなぜか。
クライオニクスについて不安げに「カルトじゃないですよね？」と尋ねる人の大半が、共和党や民主党の集会では同じほど不安にならないのはなぜか。内外の二分法や幸福な死の螺旋は、政治、大宗教、スポーツのファンにも起こる。不安が合理性の誤りへの恐れから来るのなら、両党の政治集会でも、同じ怯えた声で「これは内集団と外集団の二分法ではないですよね？」と尋ねるはずだ。
空飛ぶ円盤のカルトよりリバタリアニズムを恐れないことには、正当な理由がある。リバタリアンは睡眠を奪って改宗させると評判になっていない。だが、クライオニクス支持者にもそんな評判はない。それなら、呼吸が止まったあとに頭を凍結してもらうことを、なぜもっと心配するのか。
その不安は、誤ったことを信じる恐れでも、身体を傷つけられる恐れでもないのではないか。孤独な異議への恐れではないか。アッシュの同調実験で、ほかの全員、実際には実験の協力者が、線Cと線Xは同じ長さだと次々に言い、自分には線Bと線Xが同じに見えるときの不安だ。群れを離れる恐れである。
だから、長く続いて「普通」に見える信念の集団は、カルトと同じ不安を起こさない。大宗教の中にも、全財産を取って修道院へ送るものがあるのに。だから、合理性の誤りを起こしやすい政党も、カルトほど不安を起こさない。「カルト」は、推論の誤りでなく、変に見えるもののラベルとして使われているのだ。
変化がすべて改善ではないが、改善は必ず変化である。よくしたいことは、違うやり方でするしかない。世間の知恵には、本当の知恵もかなりある。変わったことには余分な立証を求めるのは、もっともだ。だが、その不安は、そうした意識的で合理的な検討ではない。友人にひどく変な目で見られることを信じる恐れだ。だから、政治集会に行くときや巨大なクリスマス飾りを出すときには決して使わない調子で、「これ、カルトではないですよね？」と尋ねる。
私が気に障るのは、そこだ。
まるで、祖先が信じなかった何かを信じた途端、空からカルトの妖精が降りてきて、カルト性の本質を注ぎ込み、気づけば全員ローブを着て唱和しているかのようだ。睡眠剥奪や暴力はさておき、「変な」信念が問題の直接の原因だと言わんばかりだ。ヘヴンズ・ゲートの集団自殺など、カルトの危害は、変わった信念を持つ人は皆おかしいという証拠にされる。「カルト信者」の第一の特徴は、奇妙な習慣を持つ部外者であることなのだ。
確かに、社会的に珍しい信念は、内外の二分法、蒸発冷却、その他の問題の危険を高める。だが珍しさは危険因子であり、それ自体が病気ではない。達成する価値があると思う目標も同じだ。信念が真でも偽でも、良い目標には幸福な死の螺旋の危険がある。だからといって、高い目標は危険因子であって病気ではない。本当に追う価値のある目標もある。
一方、睡眠を奪ったり、異論を唱える者を殴ると脅したりする正当な理由は、私にはまったく見当たらない。それをする集団なら、「カルト」と呼ぶかどうかに関係なく、入るべきかという実用的な問いには、直接答えが出ている。
第四の問題。孤独な異議への恐れは、カルト自身が利用する。友人に非難の目で見られる恐れこそ、本物のカルトが改宗と引き止めに使う効果そのものだ。新入りを、信者たちの隙間のない同意で囲むのである。
奇妙な考えを恐れる同調の衝動は、きっと多くの潜在的な犠牲者を円盤カルトから遠ざけてきた。外にいれば外にとどめる。だが、中にいれば、中にとどめる。同調は、よい場所でも悪い場所でも、今いる場所へ貼りつけるだけだ。
人は、自分がカルトにいないと確信できる何かを欲しがる。変な目で見る人を、明確に打ち負かす返答を。絶えず疑わずとも、自分は正しいことをしていると、一度できっぱり知れる方法を。これは「認知の完結欲求」と呼ぶのだと思う。そして当然、カルトはそれも利用する。
それで、「カルト的な反カルト意識」というわけだ。
疑いと暮らすことは美徳ではない。疑いの目的は、成功か失敗によって自らを消すことで、ただ居座るだけでは何も成し遂げない。だが、消えるまで時間のかかる疑いもある。今は未解決の疑いを抱えて暮らすのは、合理主義者に避けられない現実だ。疑いは怖いものであるべきではない。そうでなければ、ひどく追い詰められた人生か、ひどく愚かな人生か、選ぶ羽目になる。
ある集団が「カルト」かどうか、本当にどうしても分からないなら、不確実性のもとで選ぶしかない。意思決定理論とは、まさにそのためのものだ。
第五の問題。戦略的な思考の欠如。
シンギュラリタリアニズムに慎重で、政党や主流宗教にも慎重な人を知っている。不安げでも防御的でもなく、慎重なのだ。彼らは、それが睡眠を奪うような完成したカルトではないと一目で分かる。だが、強力なAIという概念を、「超幸福な主体」、つまり、それについて語られる良いことなら何でも同意することで主に定義される主体へ変える、といった危険因子によって、カルトになることを心配する。今カルトでないからといって、将来もならないとは限らない。カルト性は本質ではなく、吸引先なのだ。
この慎重さに、私は苛立つか？ とんでもない。私もその筋書きを心配するのに、多くの時間を使う。その方向への動きを防ぐため、あらかじめ碁石を置こうとする。カルト的な推論の失敗についての一連の論考も、その一例だ。
「合理性」を語る人には、追加の危険因子もある。考え方を人に助言するのは、本来危険な仕事だ。だが、危険因子なのであって、病気ではない。
私の好きな二つの大義は、どちらもカルト化の危険がある。それなのに、強力なAIを語るときは、確率論や認知科学を語るときよりも、ずっとよく「本当にカルトではないの？」と聞かれる。どちらの危険因子が大きいかは知らないが、どちらが変に聞こえるかなら分かる……。
「これ、カルトではないですよね？」と尋ねる、第六の問題……。
その質問自体が、私をひどく厄介な板挟みにする。本物の邪悪な教祖なら、相手の不安を利用し、「なぜこれはカルトでないか」の精巧でもっともらしい議論を作るだろう。相手も喜んで受け入れるだろう。人々は私に、それをしてほしいのではないかと感じることがある！ カルト性とその回避について書こうとするたび、その間違った欲求に屈して、結局安心を与えている気がする。エントロピーと絶えず戦う必要があると言っていてさえ。
アッシュの同調実験で、私自身が最初の異議を唱える者となり、「そう、線Xは本当に線Bと同じだ。君もそう言ってよい」と告げている気がする。そんなことは聞く必要がないはずだ！ もっと悪くは、なぜこれはカルトでないかという精巧な議論を差し出している気がする。それは間違った問いだ。
変なものへの恐れを取り除いたら、その集団の推論過程を自分で見て、加わりたいか自分で判断すればよい。今どの集団で活動していようと、自分がカルト的に考えるのを止めるのは、自分の責任だ。
誰かに「カルトではないですよね？」と聞かれると、どう答えても、何かを弁護している気がする。この感覚は好きではない。安心を与えるのはベイズの達人の役目ではなく、弁護は合理主義者の役目ではない。
カルトは、集団思考、不安、安心への欲求を糧にする。願うだけで不安は消せず、偽りの自信なら、もっと悪い。だが、合理主義者であるという安心でさえ、誰かが安心を求めるかぎり、それは鎧の弱点であり続ける。熟練した剣士は、誰かが笑っていないかと脇見せず、標的に集中する。何を、なぜしようとしているか分かっていれば、できているかどうかも、集団が助けるか妨げるかも分かる。
（追伸。「本当にカルトではないの？」と聞かれても、これらすべてを一息で説明しようとしてはいけない。推論の距離を短く見積もりすぎている。相手は「ほら、カルトだと認めた！」とか「カルトに入る心配はするなと言うの？」とか「つまり、カルトを恐れることがカルト的なの？ それこそカルトっぽい」と言うだろう。最後の苛立ちの要因、数えているなら第七点は、これを説明するのが、こんなにも長い話になることだ。）