Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

ムーアのパラドックス

Moore’s Paradox

ムーアのパラドックスとは、「外では雨が降っているが、私はそう信じていない」と言うことを指す標準的な名称である。MetaFilterのpainqualeに感謝する。

Less Wrongへのコメントをいくつか読んで、ムーアのパラドックスを少しよく理解できたと思う。Jimrandomhはこう述べている。

多くの人は、間接参照の階層を区別できない。その人たちにとって、「私はXを信じる」と「X」は同じものであり、したがってXを信じることが有益である理由は、Xが真である理由にもなる。

これは正しくないと思う。かなり幼い子どもでも、誤った信念を持つという概念を理解できる。それには地図と領土を入れる心の箱が別々に必要である。だがこの指摘は、よく似た考えの方向を示している。

多くの人は、何かを信じることと、それを是認することを、意識的には区別していないのかもしれない。

なにしろ「私は民主主義を信じる」とは、日常語では、民主主義が存在すると信じることではなく、民主主義という概念を是認するという意味だ。すると「信じる」という言葉には複数の意味がある。私たちが見ているのは、混乱した思考を引き起こす混乱した言葉なのかもしれない(あるいは、もとからある混乱を反映しているだけかもしれない)。

では、もとの例を考えよう。「私は、人々が実際よりも親切だと信じています」と彼女は言った。彼女は、人々が親切だと信じるのがよい理由——健康上の恩恵など——をいくつか考え出した。その結果、「人々が親切だと信じること」に温かな感情を抱いた。そこでその温かな感情を内省し、「私は人々が親切だと信じている」と結論づけた。つまり、引用符つきの信念に結びついた肯定的な感情を、その命題を自分が信じていることを示す信号だと取り違えた。一方、世界そのものを見ると、人々はそれほど親切ではないようだった。そこで彼女は「私は、人々が実際よりも親切だと信じています」と言った。

これは、ある意味では——ほとんど——率直な間違いに近い。何かを信じているとき、それをどう見分けるかを明示的に教わることはないからだ。ガレージのドラゴンの寓話と同じである。「私のガレージにはドラゴンがいる——ただし透明だ」と言う者は、ドラゴンが見えないだろうという自分の予期が、ドラゴンの含まれない(正確な)モデルを自分が持っていることを示すとは気づかない。

何かを信じているとき、それを見分ける訓練を人々が受けるわけではない。高校でこんなふうに教わることもない。「何かを実際に信じる——その文が自分の信念の集まりに入っている——という感覚は、それが単に世界のあり方として見えるというものだ。この感覚、つまり実際の(引用符なしの)信念を認識し、信念だと認識している信念(つまり引用符に入っている信念)に好感を持つことと区別しなければならない」

こう考えると、ムーアのパラドックスの現実の事例がそれほど異質には見えなくなる。また、人が同時に正しく、かつ間違いうる、もう一つの仕組みが分かる。

同様に、Kurigeはこう書いた。

私は、神が存在し、神が私たちの内に善悪の感覚を植えつけ、それによって周囲の世界を評価できるようにした、と信じています。同時に、道徳感覚が進化によって私たちに組み込まれたとも信じています。その道徳感覚はおそらく、大昔、ボノボの共同体でメタ政治的連合が形成された結果です。この二つの信念は矛盾しませんが、複雑なのは両者を調和させることです。

Kurige、あなたは、神が私たちの内に善悪の感覚を植えつけた、という引用符つきの信念を是認する理由があると判断したのではないか、と私は思う。そして科学の結論を是認する理由もあると。どちらも、参加するのに良さそうな共同体ではないだろうか? どちらの信念群にも恩恵があるのでは? 内省すると、両方の信念に好感を抱いていることが分かるのでは?

だが、あなたはこうは言わなかった

「神は私たちの内に善悪の感覚を植えつけた。同時に、道徳感覚は進化によって私たちに組み込まれた。この二つの現実の状態は矛盾しないが、複雑なのは両者を調和させることだ」

これを読んでいるなら、Kurige、いまの文をすぐ声に出して言うとよい。飲み込みにくさが少なくともわずかに増したこと——その主観的な違い——に、再び合理化する手間をかける前に気づけるように。

これが、異なる二つの信念を是認する理由を持つことと、一つの世界、一つの物事のあり方について心的モデルを持つこととの、主観的な違いである。