非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

暗黒面の認識論

Dark Side Epistemology

❦

一度嘘をつけば、その後はずっと真実が敵になる。

真実は互いに結びついているので、嘘は伝染するという考えについて、以前に話した。私道から小石を拾って、海岸で見つけたと地質学者に言ったとしよう。さて、地質学者が石について何を知っているか、あなたには分かるだろうか。私には分からない。だが、水に削られた小石は、火山噴火で飛び出し固まった溶岩の滴とは違って見えるだろうとは思う。私道の小石が本当はどこから来たか、あなたは知っているだろうか。物には、法則に従う宇宙の中で占めてきた場所の痕跡がある。その網の中で、嘘は場違いなのだ。(実は、コメント欄の地質学者によれば、私道の小石の多くは海岸から採ってくるので、その二つは区別できないそうだ。だが、山の小石と私道や海岸の小石なら区別できるという。まさに、こういうことだ……。)

ある人の心には、もっともらしい嘘で簡単に置き換えられそうな、任意の真実に聞こえても、より多くを知る目には、十数本のつながりで釘づけにされているかもしれない。創造論者には、生命は「自然選択」でなく「知的設計」で形づくられたという考えは、応援するスポーツチームのように思えるかもしれない。生物学者には、ある生物が知的に設計されたともっともらしく論じるには、その生物のほぼあらゆる側面について嘘をつく必要がある。「人間」が知的に設計されたともっともらしく論じるには、人間の網膜の設計、脳の構造、強い共有結合ではなく弱いファンデルワールス力で結びついたタンパク質について、嘘をつかなければならない……。

あるいは、進化論について嘘をつくこともできる。大半の創造論者が選ぶ道はこれだ。網の中でつながる個々の点ではなく、そのつながりを支配する一般的な法則について嘘をつく。

そしてそれを隠すために、科学の規則について嘘をつく。何かを「理論」と呼ぶ意味や、科学者が絶対に確かではないと言う意味について。

こうして、具体的な事実についての嘘から、一般法則についての嘘へ、そして推論の規則についての嘘へと進む。人間が進化したかどうかについて嘘をつくには、進化について嘘をつかなければならない。さらに、進化の理解を制約する科学の規則についても、嘘をつかなければならなくなる。

ほかに、どうするというのか。実際に知的に設計された生物の集まりの中では、人間は場違いで、そう見せないためには進化の規則について嘘をつく必要がある。同じように、創造論の信念そのものが、科学の中では場違いなのだ。氷河にヤシの木が生えないのと同じく、整った心の中には創造論は見当たらない。だから、それを禁じる障壁を壊さなければならない。

ここで、自己欺瞞の話になる。

思考を律する規則を何も知らず、規則があることさえ知らなければ、自分につく一つの嘘は、十分もっともらしく見えるかもしれない。その選択はアイスクリームの味を選ぶほど自由で、海岸の小石ほど孤立しているように思える……。

……だが、誰かが、その人が学んだ推論の規則を使い、あなたの信念を問いただす。「証拠はどこにある?」と言う。

あなたは言う。「え? どうして証拠が要るの?」

相手は答える。「一般に、信念には証拠が必要だ」

この論拠は明らかに、敵側で戦う兵士であり、倒さなければならない。そこであなたは言う。「反対だ! すべての信念に証拠が要るわけじゃない。とくに、竜についての信念には証拠は要らない。竜については、何でも好きに信じていい。だから、僕のガレージに竜がいると信じるのに、証拠は要らない」

相手は言う。「え? 竜だけそうやって例外にはできない。信念には証拠が必要だという規則には、理由がある。街の正しい地図を描くには、街路を歩き、見たものに対応する線を紙に描かなければならない。それは勝手に決めた法的要件ではない。居間に座り、無作為に紙へ線を描けば、地図は間違う。きわめて高い確率で。竜の地図でも、それ以外の地図でも同じだ」

すると今度は、なぜ信念に証拠が要るかというこの説明も、敵の兵士になる。だからあなたは言う。「きわめて高い確率で間違う? なら、まだ可能性はあるんだよね? 絶対に確実でないなら、信じなくてもいい」

あるいは自分でも、信念には証拠が必要なのでは、と気づき始めるかもしれない。だが、それは大切な嘘を脅かす。そこで内なる夜明けを拒み、太陽を地平線の下へ押し戻す。

あるいは以前、「信念には証拠が必要だ」という言葉を聞いて、賢明に思えたので公に賛同していたかもしれない。だが、ガレージに竜がいるという自分の信念にもその言葉が適用されるとは、誰かに指摘されるまで思いつかなかった。そこで急いで考え、「竜は別の領域に属する」と言う。

誤った信念を持つのはよいことではない。だが、間違いに気づいたとき乗り越えれば、永続的な障害にはならずに済む。危険なのは、信念として守るべきだと信じている誤った信念を持つことだ。実際の信念を伴うかどうかにかかわらず、信じることを信じている状態である。

たった一つの「守らなければならない嘘」が、高度な合理性への前進を塞いでしまう。無害な楽しみなどではない。

世界そのものが、表面に見えるよりはるかに複雑につながっているように、推論にも、訓練を受けていない人が思うより厳しく信念を制約する規則がある。世界は緊密に織り合わされ、一般法則に従う。合理的な信念も、そうなのだ。

進化や地動説を否定するのに、何が必要か考えてほしい。つながり合う真実や、それを支配する法則のすべてについて、知ることが許されなくなる。そうすれば、つながりを見ることが心を脅かし始めたとき、たった一度の自己欺瞞が、真実を求めるメタレベル全体を、どう塞いでしまえるか想像できるだろう。合理性の技法の中級以上を、すべて禁じてしまう。代わりに、反法則の巨大な体系、思考に逆らう規則、真実でないことを信じるための一般的な正当化を作ってしまう。

スティーヴン・カースは言った。「可能な限り正確な信念より劣るものを勧めるのは、妨害行為だ。相手のタイヤを切り裂く気がないなら、そんなこともするな」。守るべき誤った信念を人に与えること、つまり脅かすように見えるどんな思考からも信念そのものを防衛しなければならないと思い込ませることは、そうだな、その人に前頭葉切除術を施す気がないなら、すべきではない。

一度嘘をつけば、真実は敵になる。その真実につながるすべての真実も、真実全般の味方も、すべて。嘘を守るには、それらすべてに敵対しなければならない。嘘の相手が他人でも、自分でも。

信念には証拠が必要だということを否定し、次に地図は領土を反映すべきだと否定し、次に真実はよいものだと否定しなければならなくなる……。

こうして、暗黒面が生まれる。

私は、人々が気づいていないか、十分に警戒していないのではないかと心配している。人間の世界を歩き回れば、体系的に悪い認識論に出会うはずなのだ。

世間に漂う「考え方」のミーム、深遠な知恵についてのキャッシュされた思考。その一部は、合理主義者が考えた良い助言だろう。だが、別の考えは、嘘や自己欺瞞を守るために発明された。暗黒面から生まれたものだ。

「誰にでも自分の意見を持つ権利がある」。考えてみると、この言葉はどこで生まれたのだろう。真実を守る過程で言われるようなことか、それとも真実から何かを守る過程で言われることか。だが人々は、はっとして「暗黒面の気配を感じる!」とは言わない。私に見えるかぎり、暗黒面がそこにあることは、広く認識されていない。

だが、ほかにどうなりようがあるだろう。他人をだます場合でも、自分だけをだます場合でも、「守らなければならない嘘」は、経験的な因果の網、一般的な経験則の網、推論の規則そのもの、そしてその背後の理解を、再帰的に伝わっていく。世界に良い認識論があり、同時に、人々が守ろうとする嘘や自己欺瞞もあるなら、良い認識論に対抗する悪い認識論が生まれる。この世界に、暗黒面なしの光明面があるとは、ほとんど期待できない。太陽があり、そこから身を引いて、自分を隠す影を生むものがある。

ただし、必ずしも邪悪な人々なのではない。深遠な知恵を繰り返して回る人の圧倒的大多数は、だますよりだまされており、他人を欺くより自分を欺いている。と、私は思う。

そして、気に入らない認識論を聞くたびに「ああ、それは暗黒面の誰かが作ったのだ」と言える万能の反論を渡すのが、私の目的でないのも確かだ。考案者の悪意を非難するのではなく、命題そのものを反駁しなければならない。それが光明面の規則の一つである。

だが、暗黒面はそこにある。恐れがそこへ通じる道であり、一度の裏切りで転じてしまうこともある。ローブをまとう者が、すべてジェダイか偽物とは限らない。シスの暗黒卿もいる。師となる者も、知らずに弟子になった者も。心して、警戒してほしい。

暗黒面から生まれた一般的なミームを挙げることについては、どうだろう。注意してほしいのは、でたらめな偽の信念ではなく、悪い認識論、失敗をかばう万能の弁護だということだ。読者の皆さん、試しに挙げてみないだろうか。