非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

少しずつの進歩と谷底

Incremental Progress and the Valley

❦

合理性とは、勝つことを体系化したものだ。

「でも」とあなたは抗議する。「理性的な人が、いつも勝つわけではありません!」

どういう意味だろう。一、二週間おきに、期待値がマイナスの宝くじを買った誰かが当選し、あなたよりずっと金持ちになるということか。それは系統的な敗北ではなく、メディアによる選択的な報道だ。統計的には、宝くじの当選者など存在しないも同然だ。選択的に報じられなければ、一生のうちに一人も見かけないだろう。

完全に合理的な主体でも負けることはある。ただ、自分が負けると事前に知ることはできない。実行可能なほかの戦略より成績が悪くなると予想することはできない。予想するなら、そちらを実行するだけだからだ。

「違います」とあなたは言う。「理性的な人なら持てないほど強く、自分と自分のアイデアを信じることで、新興企業の創業者が大金を得る、という話です。信仰を持つ人のほうが幸せだという話です――」

なるほど。だが、こういうことだ。合理性に向かって少し進んでも、ほかの点ではまだ非合理的なら、勝つ度合いが少し増えるとは限らない。

確率論や意思決定理論についての最適性定理は、完全な確率論と意思決定理論についてのものだ。欠陥のある初期状態から出発して、構造を理想へ近づけるようアルゴリズムを少しずつ修正するたび、性能も少しずつ改善するはずだという、対応する定理はない。まだ証明されていないのは、実際には正しくないからだ。

「では」とあなたは言う。「もっと合理的になろうとする意味は、どこにあるのですか。完全な理想には達しません。なら、一歩前へ進むことが役立つ保証はありません」

一歩後退することが勝つ助けになる保証もない。生身の世界に保証はない。しかし、よくある誤解とは逆に、不確実性のもとでの判断こそ、合理性が扱うものだ。

「でも、ぼんやりもっともらしい理屈や、調査データからすると、合理性を少し高めることで状況が悪くなりそうな例が、いくつかあります。本当に勝つためのものなら、認知の儀式より大切な守るものがあるなら、なぜその一歩を踏むのですか?」

なるほど、ここでようやく本題に入れる。

すべての人の代わりに答えられるわけではないが……。

私の第一の理由は、仕事として、思考に非常に高い精度を求める、深く混乱した問題を扱っていることだ。一つの小さな間違いで、何年も道を誤ることがあるし、もっとひどい代償も待っている。今のままの能力では足りない。もっとよくやろうとするか、諦めて帰るかしかない。

「でも、それはあなたの話です。みんながそんな人生を送っているわけではありません。インターネット企業を起こすような、普通の人間の仕事に取り組んでいるだけなら?」

第二の理由は、自分の技法のいくつかの面を、これまで見た以上のところへ進めようとしていることだ。その改善がどこにつながるか、私は知らない。一歩進まないことで失うのは、その一歩だけではない。その先で進めたかもしれない、ほかのすべての一歩だ。ロビン・ハンソンはこう言う。階段で足を滑らせる問題は、一段の高さを落ちることではなく、一段落ちると、さらに次の段も落ちることだ。同じように、一段上がるのを拒むと、失うのはその一段の高さではなく、階段全体の高さなのだ。

「それも、あなたの話でしょう。みんなが技法を未知の領域へ進めようとしているわけではありません」

第三の理由は、自分が騙されていたと気づいたら、目を閉じて見なかったふりはできないことだ。その一歩は、もう踏み出してしまった。自分にそれを否定して何になる? 私は神を信じようとしても信じられない。真上の空を見ながら、緑色だと信じられないのと同じだ。自分を騙したほうが得だと知るために必要なことを、すべて知っているなら、自分を騙すにはもう遅すぎる。

「でも、その気づきは普通ではありません。ほかの人は、不可能だと気づいていないから、もっと簡単に二重思考ができるのです。あなたは、二重思考の崩壊を積極的に後押ししようとしています。あなたは高い視点から、それで彼らが不幸になると予想するだけの知識を持っているかもしれない。読者を傷つけるサディスティックな欲求からですか? それとも?」

そこで、ようやくこう答える。これまでの経験では、単なる人間の可能性の領域でも、自分を少し整理し、ほかの間違いをあれほどたくさんはしなくなれば、もっと合理的になろうとすることは、本当に状況をよくすると、確かに見える。人間の土地でも、長い道は谷から抜け出し、以前より高いところへ続く。

この技法のある面をよく知るほど、そのことがよく見える。以前も述べたが、私のエッセイは本物の合理性の武術を、そのまま表すものではないかもしれない。私は、意志の弱さと戦うこと、集団をまとめること、幸福になることではなく、混乱した問いに答えることにだけ集中してきたからだ。最も集中的に修練してきた、混乱した問いに答える分野では、今や圧倒的に明白だ。「問題を解けると楽観している」ほうが得だと思う人は、地面に叩きつけられる。少し学んだだけの人にも。

意欲を保つことや、幸福になることについては、幻想を失った人がよい状態になると保証できない。合理性のそうした側面について、私の知識はまだ未熟だからだ。体系的に開発されているなら、私は知らない。それでも、初心者を妨げうる、半ば合理的で半ば誤った考えを払うために、かなりの労力をかけてきた。合理性は感情と対立するとか、合理性は価値と対立するとか、洗練された思想家は不安に苦しみ、冷笑的であるべきだとかいう考えだ。

私が不可能な問いに答える技法を発展させたのと同じくらい徹底的に、意志の弱さと戦い、心の健やかさを得る技法を、誰かが発展させてくれることを願う。そうなれば、幻想にくるまっている人は、競争の相手にすらならないと確かに予想する。それまでは、幸福が最も大切な望みである人なら、私よりうまくやるかもしれない。私はここには、あまり努力を注いでいないからだ。

最適に意欲を持ち、人間に可能な最も強い起業家になった人が、なお心地よい過信の毛布にくるまっているとは考えにくい。おそらくその毛布を窓から投げ捨て、心を少し違う形に整えているだろう。人間に可能な範囲でも、最も幸福な生き方に、すべて嘘だという小さな意識が心の隅に潜むことが含まれるとは、考えにくい。私なら、ニューロフィードバックや禅の瞑想に希望をかけたい。どちらも試したことはないが。

だが、これが現実の人生での、現実の問題であることは否定できない。Less Wrongのこの二つのコメントを考えてみよう。

正直に言います。信仰を捨ててから、人生は急激に悪くなりました。とても愛していた有神論者の恋人は、私の変化を受け入れられず、苦しい迷いを半年続けたあと、同僚のもとへ去りました。それからまた半年が過ぎましたが、ずっと心が張り裂けそうで、惨めで、集中できず、極端に何もできなくなっています。

これはPhilGoetzが言っていた悪い合理性の谷の一例かもしれません。それでも私は、誤った信念を持って幸せでいることより、今の状況のほうを、選好順位で高く置いています。

そして、次のコメントだ。

お気持ちはわかります。私にも約6年前、同じことがありました。ありがたいことに、そこまで目に見える迷いはありませんでしたが。

認知行動療法の訓練を少し受けていた私の姉妹が、こう思い出させてくれました。関係は絶えず生まれたり壊れたりする。私は魅力がないわけではなく、修道士のように隠遁したわけでもないのだから、一生独りだと思うのは合理的ではない、と。実際、そのとおりでした。感情に完全に飲まれていないときには、役に立ちました。

だから、実践上、現実の人生で、冷静な事実として、最初の一歩は本当につらいことがある。そして、そのあと本当によくなることもある。最終的に以前より高い場所へ行けるという保証は、実際にはない。原理的には道が先へ続いているとしても、ある人がそこまで行ける保証はない。

誤った信念を持つ幸福よりも、真実を好むのでなければ……。

そう……しかも、特に危うく混乱したことに取り組んでいないなら……宝くじも買っていないなら……そしてすでに人体冷凍保存に登録しているなら。これは、無知の中で無知に賭けようとすることのブラック・スワン的性質を示す、突然で、桁外れに重大で、混乱した合理性の試金石だが……。

その場合、見つかる限りの合理性への小さな一歩をすべて踏むことが、状況をよくするとは保証されない。しかし、幻想を失うことに反対する、ぼんやりもっともらしい議論は、たいてい確かに一歩だけを考えている。その先の一歩を想定せず、失ったものをすべて取り戻して、さらに上へ行く試みを考えていない。調査ですら、最も進んだ神学者と最も進んだ合理主義者ではなく、平均的な信仰者と平均的な無神論者を比べている。

だが、真実を気にしない――しかも守るものがない――しかも技法を限界まで進める考えに惹かれない――しかも今の人生は順調に思える――しかも心の健やかさが、考えたくない幻想に依存していると感じるなら――。

おそらく、これを読んではいないだろう。だが読んでいるなら、そうだな……まあ……(a)人体冷凍保存に登録して、それから(b)幻想が崩れる前にLess Wrongを読むのをやめよう! 逃げるんだ!