Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

自らの欠陥を見るレンズ

The Lens That Sees Its Own Flaws

光が太陽を離れ、あなたの靴ひもに当たって反射する。いくつかの光子が目の瞳孔に入り、網膜に当たる。光子のエネルギーが神経インパルスを引き起こす。神経インパルスが脳の視覚処理領域へ伝達される。そこで光学的情報が処理され、ほどけた靴ひもとして認識される三次元モデルへ再構成される。こうして、あなたは自分の靴ひもがほどけていると信じる。

ここに意識的な合理性の秘密がある。この過程全体は魔法ではなく、あなたはそれを理解できる。自分がどう靴ひもを見ているかを理解できる。どんな思考過程なら現実を映す信念を作り出し、どんな思考過程なら作り出さないかを考えることができる。

ネズミは見ることができるが、見ることを理解できない。あなたは見ることを理解でき、そのためにネズミにはできないことができる。しばし立ち止まって、このことに驚嘆してほしい。実際、これは驚くべきことなのだから。

ネズミは見るが、自分に視覚野があるとは知らないので、錯視を補正できない。ネズミは、猫、穴、チーズ、ネズミ捕りを含む心的世界に生きているが、そこにネズミの脳は含まれない。彼らのカメラは、自分自身のレンズを撮影しない。しかし人間である私たちは、一見すると奇妙な画像を見て、自分が見ているものの一部はレンズそのものだと気づける。常に自分の目を信じる必要はないが、自分に目があることには気づかなければならない。地図と領土、感覚と現実のために、それぞれ区別された心の容器を持たなければならない。これが取るに足らない能力だと思わないよう、動物界でいかに稀かを思い出してほしい。

科学という考え方全体は、簡単に言えば、自分の心の内容を世界の内容に映し合わせるための、より信頼できる過程について反省的に推論することである。ネズミなら決して発明しない類のものだ。「理論を反証するため、再現可能な実験を行う」という営みを熟考すれば、それがなぜ機能するかが分かる。科学は、現実の生活や普通の人間の理解から遠く離れた別個の権威領域ではない。科学は実験室の中だけに適用されるものではない。科学それ自体が、脳を現実と相関させる、理解可能な世界内の過程なのである。

考えてみれば、科学には筋が通っている。しかしネズミは思考について考えられず、それゆえ科学を持たない。このことの驚異を見過ごしてはならない。それが科学社会だけでなく、個人としての私たちに与える潜在的な力も、見過ごしてはならない。

確かに、思考の仕組みを理解することは、蒸気機関を理解するより少しばかり複雑かもしれない。だが、それは根本的に異なる課題ではない。

昔、EFNetのチャットルーム#philosophyへ行き、こう尋ねたことがある。「今後20年以内に核戦争が起きると思うか。起きないと思うなら、それはなぜか?」回答者の一人は、100年間は核戦争が起きないと予想していると言った。なぜなら、「核戦争に関する決定に関与する者は皆、今のところ核戦争に関心がない」からだ。「でも、なぜそれを100年間に延長するのか?」と私は尋ねた。彼の答えは「純粋な希望」だった。

この思考過程全体について省みれば、核戦争について考えるとなぜその人が不幸になるのか、そのため彼の脳がどのようにその信念を拒むのかが分かる。しかし、エヴェレット分岐やテグマーク複製1による10億の世界を想像すると、この思考過程が、楽観主義者を核戦争の起きない分岐へ系統的に相関させることはない。(きっと、ある賢い人物がこう言う。「ああ、でも希望を持っているから、私は仕事にもう少し精を出し、世界経済を押し上げ、そのおかげで各国が、核戦争が起こりうる怒りと絶望の状態へ陥るのを防ぐ一助となる。だから二つの出来事は、結局のところ関係している」。ここで、ベイズの定理を持ち出し、その関係を定量的に測らなければならなくなる。あなたの楽観的な気質が世界にそれほど大きな影響を与えることはありえない。それだけで核戦争の確率を20%、あるいはあなたの楽観的な気質が信念を動かした分だけ、引き下げることはできない。自分が正しい可能性をわずかに高めるにすぎない出来事のために、信念を大きく動かせば、やはり自分の地図は狂う。)

どんな信念が自分を幸せにするかを問うことは、外ではなく内を向くことだ。それによって自分について何かが分かるが、環境と絡み合った証拠にはならない。私は幸福に反対してはいないが、幸福は心の絵筆をいじるのではなく、あなたが描く世界像から生じるべきである。

このことが分かるなら――希望が自分の一次の思考をあまりに大きく動かしていると分かるなら――自分の心を、欠陥を持つ写像装置として理解できるなら――反省的な補正を加えられる。脳は、現実を見るための欠陥あるレンズである。ネズミの脳にも人間の脳にも、これは当てはまる。しかし人間の脳は、自分自身の欠陥――系統的な誤り、バイアス――を理解し、それに二次の補正を加えられる欠陥あるレンズである。このことが、実際には、レンズをはるかに強力にする。完璧ではないが、はるかに強力にするのだ。

Max Tegmark, “Parallel Universes,” in Science and Ultimate Reality: Quantum Theory, Cosmology, and Complexity, ed. John D. Barrow, Paul C. W. Davies, and Charles L. Harper Jr. (New York: Cambridge University Press, 2004), 459–491.