❦
「だが」とあなたは抗議する。「道理をわきまえた人が、いつも勝つわけではない！」
これはどういう意味だろうか。一、二週間に一度、負の期待値を持つ宝くじを買った誰かが当選し、あなたよりはるかに金持ちになる、という意味だろうか。それは体系的な敗北ではない。メディアによる選択的報道である。統計的な観点からは、宝くじの当選者は存在しない――選択的に報道されなければ、一生のうちに一人も出会わないだろう。
完全に合理的なエージェントでさえ負けることはある。ただし、自分が負けると前もって知ることはできない。実行可能なほかの戦略より成果が劣ると予期することはできない。そう予期するなら、その戦略を実行すればよいからだ。
「違う」とあなたは言う。「起業家は、自分や自分の発想を道理ある人なら考えないほど強く信じることで、大金持ちになる、という話だ。宗教を信じる人のほうが幸福だ、という話で――」
なるほど。さて、要点はこうである。合理性の方向へ漸進的な一歩を踏み出しても、その結果がほかの面ではなお非合理的なら、勝利が漸進的に増すとは限らない。
確率論と決定理論について私たちが持つ最適性定理は、完全な確率論と決定理論についてのものである。欠陥のある何らかの初期形態から始め、構造を理想へ近づけるアルゴリズム上の漸進的な変更は一つ残らず、成果を漸進的に改善するはずだ、と述べる対になる定理はない。まだ証明されていないのは、実のところ真ではないからだ。
「それなら」とあなたは言う。「もっと合理的になろうと努力することに、何の意味がある？ 完全な理想には到達できない。ならば、前進が自分の役に立つという保証はない」。
後退すれば勝利の役に立つという保証もない。肉でできた世界に保証は存在しない。だが世間の誤解に反して、不確実性のもとで判断することこそ、合理性の核心である。
「だが、何となくもっともらしく聞こえる推論や調査データに基づくと、合理性の方向へ一歩進めば、かえって状況が悪くなりそうな例がいくつかある。本当にすべてが勝利のためなら――どんな認知の儀式よりも重要な守るべきものがあるなら――なぜその一歩を踏み出す？」
なるほど、今度こそ話の核心にたどり着いた。
必ずしも全員を代表して答えることはできないが……。
私の第一の理由は、仕事として、思考の精密さへ莫大な要求を突きつける、深く混乱した問題を扱っていることだ。一つの小さな誤りで何年も道を逸れかねず、さらにひどい罰が舞台袖で待ち構えている。改善されていない水準の成果では足りない。もっとよくしようと試みるか、諦めて家へ帰るかしかない。
「だが、それはあなただけの話だ。私たち全員がその種の人生を送っているわけではない。インターネットの新興企業のような、ごく普通の人間の課題に取り組んでいるだけなら？」
私の第二の理由は、自分の技法のいくつかの側面を、これまで行われたのを見た範囲より先へ進めようとしていることだ。この改善がどこへ通じるかは分からない。一歩を踏み出さないことで失うものは、その一歩ではない。その地点の先で踏み出せたはずのほかの前進すべてである。ロビン・ハンソンの言葉がある。階段で足を滑らせたときの問題は、最初の一段の高さを落ちることではない。一段落ちれば、さらに一段落ちることだ。同じように、一段上ることを拒めば、その一段の高さではなく、階段全体の高さを放棄することになる。
「だが、またそれはあなただけの話だ。私たち全員が、技法を未知の領域へ進めようとしているわけではない」。
私の第三の理由は、いったん自分が欺かれていたと気づけば、ただ目を閉じ、見なかったふりはできないからだ。私はその一歩をすでに踏み出した。それを自分に否定して何になる？ 真上の空をまっすぐ見ながら緑だと信じられないのと同じように、試みても神を信じることはできない。自分を欺くほうが得だと知るために必要なすべてを知っているなら、自分を欺くにはあまりにも遅すぎる。
「だが、その気づきは珍しい。ほかの人は、二重思考をもっと容易に行える。それが不可能だと気づいていないからだ。あなたはあちこちで、二重思考の崩壊を積極的に後押ししようとしている。高い見晴らしの利く地点にいるあなたなら、これで彼らがもっと不幸になると予想するだけのことを知っているかもしれない。では、読者を傷つけたいというサディスティックな願いから、そんなことをしているのか？」
そこでようやく、私はこう答える。これまでの私の経験は――単に人間に可能なことの領域でさえ――自分を多少整理し、ほかの多くのことをそれほど間違えなくなれば、より合理的になろうと努力することは実際に状況を改善するようだ、とたしかに示している。長い道は谷を抜け、人間の土地でさえ、以前より高い場所へ通じている。
〈技法〉の特定の側面について知るほど、そのことが分かるようになる。以前にも述べたとおり、私の論考は、本物の合理性という武術がどのようなものかを映していないかもしれない。私は混乱した問いに答えることだけに集中し、アクラシアと戦うこと、集団を協調させること、幸福になることには集中してこなかったからだ。混乱した問いに答える分野――私が〈技法〉を最も集中的に練習した領域――では、「問題を解けると楽観している」ほうが得だと考えた人が、気軽な学習者にさえ徹底的に叩きのめされることが、今や圧倒的に明白に思える。
動機を保つことや幸福であることについては、幻想を失った人の状況が改善するとは保証できない――合理性のこれらの側面については、私の知識がまだ粗いからである。〈技法〉のこれらの部分が体系的に発展させられているとしても、私はそれを知らない。だがここでも、初心者の邪魔になりうる、半ば合理的で半ば誤った考えを追い払うため、かなりの労力を費やしてきた。たとえば、合理性は感情と対立するという考え、合理性は価値と対立するという考え、洗練された思想家は不安に悩み、冷笑的であるべきだ、という考えである。
そして私が願うように、誰かが、アクラシアと戦う技法や心の幸福を達成する技法を、私が不可能な問いに答える技法を発展させたのと同じくらい徹底して発展させたなら、幻想に身を包む人々は競争を始めることさえできないだろうと、私は大いに予想している。それまでは――幸福が最も大切な望みなら、ほかの人々のほうが私よりうまくやれるかもしれない。私自身はここにほとんど努力を投じてこなかったからだ。
最適な動機を持つ人間、人間がなりうる最強の起業家が、なお心地よい過信の毛布にくるまっているとは信じがたい。おそらくその毛布は窓から投げ捨て、精神を少し違うやり方で整理していると思う。人間に可能な領域でさえ、私たちが生きうる最も幸福な人生に、これはすべて嘘だという小さな自覚が心の隅に潜んでいるとは信じがたい。どちらも試したことはないが、むしろニューロフィードバックや禅の瞑想に希望を懸けたい。
だが、これが現実の人生における、きわめて現実的な問題であることは否定できない。次の一対のコメントをLess Wrongから考えてみよう。
正直に言うと――棄教して以来、私の人生は急激に悪化しました。とても愛していた有神論者の恋人は、私のこの変化を受け入れられず、六か月間、苦しみながら迷った末、職場の同僚のもとへ去りました。それからさらに六か月が経ちましたが、私はずっと心が砕け、惨めで、集中できず、極端に役立たずなままです。
これはPhilGoetzが語った悪い合理性の谷の一例かもしれませんが、それでも私は、偽の信念を持つ幸福より、現在の状況を選好順位で上に置いています。
そして、次のコメントである。
お察しします。私にも六年ほど前、同じことが起きました（幸い、それほど目に見える迷いはありませんでしたが）。
認知行動療法の訓練を多少受けていた姉は、関係はいつでも始まり、終わっていると私に思い出させてくれました。私は魅力に欠けるわけではなく、修道士のような隠遁生活へ退いたわけでもないので、生涯一人だと考えるのは合理的ではないとも（姉が正しかったと後に分かりました）。感情に完全に圧倒されていないときには、これは役立ちました。
だから――実践上、現実の人生において、冷静な事実として――最初の数歩は本当に苦痛になりうる。そしてその後、物事は本当に改善しうる。以前より高い場所へ行き着くという保証は、本当にない。原理上は道がもっと先へ進むはずだとしても、特定の人がそこまでたどり着く保証はない。
偽の信念による幸福より真実を好まないのなら……。
まあ……しかも、特に危うく混乱したことをしておらず……宝くじを買っておらず……すでに人体冷凍保存に申し込んでおり、無知の中で無知に賭けようとすることのブラックスワン的性質を示す、突発的で超高利害の混乱した厳しい試練がないのなら……。
その場合、見つけられる限り合理性へ向かう漸進的な一歩をすべて踏み出せば、状況が改善するとは保証されない。だが幻想を失うことに反対する、何となくもっともらしく聞こえる議論は一般に、実際にたった一歩だけを考え、それ以上の一歩を仮定せず、失ったものすべてを取り戻し、そのうえでさらに改善しようと提案しない。そして調査でさえ、最も進んだ神学者と最も進んだ合理主義者ではなく、平均的な宗教者と平均的な無神論者を比べている。
だが、真実を気にかけず――かつ、守るべきものが何もなく――かつ、自分の技法を進められる限り進めるという考えに惹かれず――かつ、現在の人生がうまくいっているようで――かつ、自分の心の幸福は、考えたくない幻想に依存していると感じるなら――
おそらく、あなたはこれを読んでいない。だが読んでいるのなら、そうだな……まあ……（a）人体冷凍保存に申し込み、それから（b）幻想が崩壊する前に、Less Wrongを読むのをやめよ！ 逃げろ！