Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

灰色の誤謬

The Fallacy of Gray

物知り顔の人:「世界は白か黒かではない。純粋な善だけ、純粋な悪だけをなす者はいない。すべては灰色だ。したがって、誰もほかの誰かより優れてはいない」

探究者:「灰色しか知らぬあなたは、すべての灰色が同じ濃さだと結論する。二色しかない見方の単純さを嘲りながら、それを一色しかない見方に置き換える……」

「物知り顔の人」が犯した誤りに正式な名前があるのか、私は知らないが、これを「灰色の誤謬」と呼んでいる。前のエッセイでも、その現れを目にした。七億五千万乗の2対1という反対オッズであっても「まだ可能性はある」ことを意味すると信じていた人だ。彼にとって、あらゆる確率は単に「不確実」であり、それは気の向くまま無視してよいという許可を意味していた。「月は緑色のチーズでできている」も「太陽は主に水素とヘリウムでできている」も、どちらも不確実ではあるが、同じ不確実性ではない。

すべては灰色の濃淡だが、ほとんど白と言ってよいほど明るい灰色もあれば、ほとんど黒と言ってよいほど暗い灰色もある。たとえそうでなくても、濃淡を比較して「こちらのほうが暗い」「こちらのほうが明るい」と言うことはできる。

何年も前、合理主義者としての私の歩みを形作った、奇妙で小さな瞬間の一つがあった。イアン・M・バンクスのPlayer of Gamesにある次の段落、とりわけ太字の一文を読んだときである。2

罪ある体制は、無実の者を一人も認めない。あらゆる者を味方か敵かのどちらかだと考える権力装置と同じく、私たちはそれに敵対している。よく考えれば、あなたもそうなるだろう。あなたの思考様式そのものが、あなたを体制の敵の一人に位置づける。それはあなたの責任ではないかもしれない。なぜなら、どんな社会も、そこで育つ者に自らの価値観の一部を押しつけるが、重要なのは、その効果を最大化しようとする社会もあれば、最小化しようとする社会もあることだ。あなたは後者の一つから来て、前者の一つに釈明するよう求められている。言葉を濁すのは、あなたが想像するより難しいだろう。中立はおそらく不可能だ。あなたは自分の政治観を持たないことを選べない。それはあなたという存在の残りの部分からどういうわけか切り離せる、独立した一組の実体ではない。あなたが存在する仕方によって決まるものなのだ。私はそれを知っているし、彼らも知っている。あなたも受け入れたほうがよい。

さて、社会が価値観をあまり押しつけなければ、後続の世代は一からやり直す仕事が増える、と怒りのコメントを書かないでほしい。私がこの段落から読み取ったのは、そのことではない。

この段落から私が読み取ったのは、振り返ればあまりに明白で、ほかの百の場所からでも学べたかもしれないことだった。だが、なぜかこの一段落によって、私の中で腑に落ちたのである。

それは、道徳的判断や自己改善の追求といった人生の問題へ「定量の道」を適用するという発想全体だった。何かをオンからオフへ切り替えられなくても、それを増やす方向、あるいは減らす方向へ向かうことはできる。

これは言及する価値もないほど当たり前だろうか? 私は、当たり前すぎることなどないと言いたい。多くのブロガーがOvercoming Biasについて、「不可能だ、バイアスを完全になくせる人などいない」と述べてきたからだ。たとえその人が職業的な経済学者であっても、自己改善のような日常生活の問題に適用される「定量の道」を、まだ腑に落ちるまで理解していないのは明らかである。私がなくせないものでも、減らす価値は十分にありうる。

あるいは、ロビン・ハンソンタイラー・コーエンの、次のやり取りを考えてみよう。ロビン・ハンソンは、直感より経済理論の処方に少なくとも75%の重みを置きたいと述べた。「私はおおむね、経済理論をただ素直に適用し、個人的・文化的な判断はほとんど加えないようにしている」。タイラー・コーエンはこう答えた。

私の見方では、「経済理論を素直に適用する」などということは存在しない……理論は常に私たちの個人的・文化的なフィルターを通して適用され、それ以外の方法はない。

そのとおりだが、その効果を最小化しようと努めることもできれば、確実に増大させるようなことをすることもできる。そして、それを最小化しようと努めるなら、多くの場合、その結果を「素直な」適用と呼ぶのは不合理ではないと思う――経済学においてさえ。

「誰もが不完全である」。モハンダス・ガンディーも不完全であり、ヨシフ・スターリンも不完全だったが、両者は同じ濃さの不完全さではなかった。「誰もが不完全である」は、二色の見方を一色の見方へ置き換える、絶好の例である。「完璧な人はいないが、ほかの人ほど不完全でない人はいる」と言っても、拍手は得られないかもしれない。だが、よりよくあろうと努める人には、希望を差し出したことになる。何しろ、完璧に不完全な人もいないのだ。

(誰かに「完璧主義は体に悪いよ」と言われるたび、私はこう答える。「不完全でも構わないと思うよ。ただし、ほかの人に気づかれるほど不完全でなければね」)

同じく愚かなのは、「どんな科学的パラダイムも、実験を解釈する仕方へ何らかの前提を押しつける」と言い、それで科学が呪術医の営みと同じ水準にあることを証明したかのように振る舞う人々である。どんな世界観も観察へ自らの構造の一部を押しつけるが、重要なのは、その押しつけを最小化しようとする世界観もあれば、それを誇る世界観もあることだ。白は存在しない。しかし、ほかよりはるかに明るい灰色はあり、それらをすべて同じ水準にあるかのように扱うのは愚かである。

月がこの数十億年にわたって地球を周回し、ここ数年あなたが空にそれを見てきて、明日も定められた位置と位相に見えると予想するなら、その予想は確実ではない。そして、目に見えないドラゴンが、がんにかかったあなたの娘を癒やすと予想するなら、それもまた確実ではない。だが両者の不確実性の度合いは大きく異なる。一方は、以前に小数点以下十二桁まで予測したのと同じ仕方で、物事がまた起こると期待すること。もう一方は、これまで観察された秩序に反することが起こると期待することだ。両方を「信仰」と呼ぶのは、少しばかり絞り込みが足りないように思える。

「科学も信仰に基づいているんだ、どうだ!」というこの営みは、じつに奇妙な心理である。通常これを言うのは、信仰はよいものだと主張している人々だ。それなら、なぜ褒め言葉としてではなく、勝ち誇った怒りの調子で「科学も信仰に基づいている!」と言うのだろう? しかも彼らの視点からすれば、かなり危険な褒め言葉だと思われる。科学が「信仰」に基づくなら、科学は宗教と同じ種類のものになり、直接比較できる。科学が宗教なら、それは病人を癒やし、星々の秘密を明かす宗教である。「科学の司祭たちは、信仰に基づく奇跡として、あからさまに、公の場で、検証可能な仕方で月面を歩けるが、あなた方の司祭の信仰には同じことができない」と言うのが筋だろう。おお信仰主義者よ、本当にそこへ踏み込みたいのだろうか? もう少し考えれば、この「科学も宗教だ!」という話を全部撤回したくなるのではないか。

ここには奇妙な力学がある。自分の灰色を浄化しようと努め、かなり明るい色合いにまでしたところで、誰かが立ち上がり、深く憤慨した口調で「でも白じゃない! 灰色だ!」と言う。「これはあなたが思うほど明るくない。具体的な問題X、YそしてZがあるからだ」と言うなら話は別である。具体的な暗い斑点を一つも指摘せず、怒って「白じゃない! 灰色だ!」と言うのは、それとは違う。

この場合、私は通常よりも不完全な心理が働いているのではないかと疑い始める。誰かが自分の過ちと悪魔の取引をしてしまい、いまや改善の可能性について一切聞こうとしないのかもしれない。よりよくしようと試みないための言い訳を見つけた人は、ほかの誰かがよりよくしようと試みられることさえ、しばしば認めようとしない。以後、あらゆる改善方法がその人の敵となり、前進は可能だというあらゆる主張が、その人に対する侮辱となる。だから一息目には誇らしげに「灰色でよかった」と言い、次の息には怒って「そしてお前も灰色だ!」と言う。

白と黒がなくても、より明るいものとより暗いものはあり、すべての灰色が同じではない。

G2が、アシモフの「The Relativity of Wrong」を教えてくれた。3

地球が平らだと人々が考えていたとき、彼らは間違っていた。地球が球形だと人々が考えていたとき、彼らは間違っていた。しかし、地球が球形だと考えることは、地球が平らだと考えることとまったく同じだけ間違っていると思うなら、あなたの見解は両者を合わせたよりもさらに間違っている。

Marc Stiegler, David’s Sling (Baen, 1988).

Iain Banks, The Player of Games (Orbit, 1989).

Isaac Asimov, The Relativity of Wrong (Oxford University Press, 1989).