Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

なぜ真実を? そして……

Why Truth? And…

Overcoming Biasへのコメントのいくつかは、なぜ私たちが真実を求めるべきなのかという問いに触れていた。(ありがたいことに、真実とは何かを疑問視した人は多くなかった。)思考を合理性に沿うよう形づくる際、ある構成が「よい」か「悪い」かを決める形成的な動機は、そもそも私たちがなぜ真実を見つけたいと思ったかに由来する。

こう記されている。「第一の徳は好奇心である」。好奇心は真実を求める理由の一つであり、それだけが理由ではないだろうが、特別で称賛に値する純粋さを備えている。動機が好奇心なら、問いそのものがあなた個人の美的感覚をどれほどくすぐるかに応じて、問いに優先順位をつけるだろう。より難しく失敗する確率も高い課題のほうが、単純な課題より面白いというだけで、いっそう努力する価値を持つこともある。

すでに述べたように、人はしばしば合理性と感情を敵対するものと考える。好奇心は感情なので、それを合理性の一部として扱うことに異議を唱える人もいるだろう。私としては、ある感情が誤った信念、より正確には、誤りを生み出す認識論的な振る舞いに基づくなら、その感情を「合理的でない」と呼ぶ。「鉄が顔に近づき、熱いと信じているが実際には冷たいなら、〈道〉はあなたの恐れに反する。鉄が顔に近づき、冷たいと信じているが実際には熱いなら、〈道〉はあなたの平静に反する」。逆に言えば、正しい信念または認識論的に合理的な思考から呼び起こされた感情は「合理的な感情」である。この考え方には、平静を特権的な既定状態ではなく、感情状態の一つとみなせるという利点がある。

人が「感情」と「合理性」を対立するものと考えるとき、本当に念頭に置いているのはシステム1とシステム2――素早い知覚的判断と、遅い熟慮的判断――なのではないかと思う。熟慮的判断が常に真実とは限らず、知覚的判断が常に誤りとも限らない。だから、この二分法を「合理性」と明確に区別することが非常に重要である。どちらのシステムも、使い方しだいで真実という目標に資することもあれば、それを妨げることもある。

純粋に感情としての好奇心のほかに、真実を望む動機は何があるだろうか。たとえば飛行機を造るという、現実世界での具体的な目標を達成したくて、そのために空気力学についての特定の真実を知る必要があるかもしれない。もっと日常的には、チョコレートミルクが欲しくて、近所の食料品店に置いてあるかを知り、そこへ歩くか別の店へ行くか決めたいかもしれない。真実を求める理由がこれなら、問いに与える優先順位は、その情報の期待効用を反映する。すなわち、ありうる答えが選択にどれほど影響するか、その選択がどれほど重要か、そして既定の選択を変える答えが見つかるとどれほど見込めるかである。

道具的価値のためだけに真実を求めるのは、不純に思えるかもしれない――真実はそれ自体のために望むべきではないか?――だが、そのような探究はきわめて重要である。外部に検証基準を作り出すからだ。飛行機が空から墜落したり、店に着いてチョコレートミルクがないと分かったりすれば、どこかで間違えたという手がかりになる。どの思考様式が機能し、どれが機能しないかについて、フィードバックを受け取れる。純粋な好奇心はすばらしいものだが、魅力的な謎が消えれば、答えの検証にそれほど長くとどまらないかもしれない。人間の感情としての好奇心は、古代ギリシャ人よりはるか昔から存在してきた。しかし人類を科学の道に確固として乗せたのは、ある種の思考様式が、世界を操作することを可能にする信念を明らかにすると気づいたことだった。純粋な好奇心を満たすだけなら、神々や英雄についてたき火を囲んで物語を紡ぐことでも同じように事足りたし、そこに何か問題があるとは誰も気づかなかった。

好奇心と実用主義のほかにも、真実を求める動機はあるだろうか。私が思いつく第三の理由は道徳である。真実を求めることは高貴で、重要で、価値があると信じることだ。このような理想も真実に内在的価値を与えるが、好奇心とはまったく異なる心の状態である。カーテンの向こうに何があるのか知りたいという好奇心は、そこを見る道徳的義務があると信じることと同じには感じられない。後者の心の状態なら、ほかの人もカーテンの向こうを見るべきだと考えたり、故意に目を閉じる人を責めたりする可能性が、はるかに高い。この理由から、真実の探究が社会にとって実用上重要であり、それゆえ万人の義務であるという信念も、私は「道徳」に分類する。この動機のもとでの優先順位は、どの真実が最も重要か(最も役立つか、最も興味をそそるかではない)についての理想や、いつ、どんな状況で真実を求める義務が最も強くなるかについての理想によって決まるだろう。

私は合理性の動機としての道徳を疑ってかかる傾向がある。それは道徳的理想を拒んでいるからではなく、道徳がある種の問題を招き入れるからである。思考という舞踏における恐ろしい踏み外しを、学習された道徳的義務として身につけるのは、あまりにもたやすい。素朴な合理性の原型である、スター・トレックのミスター・スポックを考えてみよう。スポックの感情状態は、まるで場違いなときでさえ常に「平静」に設定されている。彼はひどく較正を欠いた確率を、有効数字の多い数値でしばしば述べる。(たとえば「艦長、エンタープライズをあのブラックホールへ直進させれば、我々の生存確率はわずか2.234%です」。ところが10回中9回はエンタープライズが破壊されない。2桁も外れている数値を有効数字4桁で示すとは、いったいどんな悲劇的な愚か者なのか?)それでも、多くの人が「合理的」である義務を思い描くときの姿が、この大衆的イメージなのだ。それを心から受け入れないのも無理はない。合理性を道徳的義務にするとは、恣意的な部族慣習が持つ忌まわしい自由度を、合理性にもすべて与えることになる。人々は間違った答えにたどり着き、それから自分の誤りに学ぶ代わりに、自分は正しく振る舞ったのだと憤然と抗議する。

それでも、合理性の技法を向上させ、狩猟採集民が定めた遂行水準を超えようとするなら、正しく考える方法について意識的な信念が必要になる。自分のために新しい心的プログラムを書くと、それはまず熟慮的なシステムであるシステム2から始まり、システム1の基盤をなす神経回路へは、もし組み込まれるとしても、ゆっくりと訓練されていく。したがって、たとえばバイアスのように、避けたいと思う種類の思考があれば、最終的にそれはシステム2の中で、そのように考えてはならないという命令、すなわち公言された回避の義務として表現されることになる。

真実を求めるなら、ある思考法を別の思考法より用いることで、最も効果的に真実を得られる。それが合理性の技法である。そして合理性の技法の一部は、ある種の障害、すなわちバイアスを克服することに関わる……。