非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

結論の行

The Bottom Line

❦

封をした二つの箱、箱Aと箱Bが競売にかけられている。このうち一つだけに、高価なダイヤモンドが入っている。ダイヤモンドが入っているかどうかを示す手がかりは、いろいろある。だが、完全に信頼できると私が知っている手がかりはない。たとえば、一方の箱には青い印がある。そしてダイヤモンド入りの箱は、空箱よりも青い印が付いていることが多いと私は知っている。あるいは、一方の箱は表面がつやつやしている。ダイヤモンド入りの箱には、つやつやしたものは一つもないのではないかと私は疑っているが、確かではない。

さて、ここに口のうまい論客がいて、一枚の紙を持ち、箱Aと箱Bの持ち主にこう言ったとしよう。「私のサービスを競り落としてください。勝った方の箱にダイヤモンドが入っていると論じ、箱に高い値が付くようにしましょう」。持ち主たちは入札し、箱Bの持ち主が高値をつけ、この論客を雇うことになった。

論客は考えをまとめ始める。まず、紙の一番下に「そして、ゆえに、箱Bにはダイヤモンドが入っている!」と書く。それから紙の上のほうに「箱Bには青い印がある」、その下に「箱Aはつやつやしている」、さらに「箱Bは箱Aより軽い」と、たくさんの手がかりを書いていく。しかし、箱Aに有利な手がかりはすべて無視する。そして私のところへ来て、その紙を読み上げる。「箱Bには青い印があり、箱Aはつやつやしている」と続け、最後に「そして、ゆえに、箱Bにはダイヤモンドが入っている」と結ぶ。

だが、考えてほしい。論客が結論を書いた瞬間、紙にインクを載せた瞬間に、その物理的なインクと物理的な箱との証拠としての結びつきは決まったのだ。

世界の集まりを思い浮かべると分かりやすいかもしれない。エヴェレットの分岐でも、テグマークの複製宇宙でもよい。その集まりの中で、箱Aまたは箱Bにダイヤモンドが入っている客観的な頻度がある。同様に、「箱Aがつやつやしている世界」という部分集合の中にも、箱Bにダイヤモンドが入っている客観的な頻度がある。「箱Aがつやつやしていて、箱Bに青い印がある世界」の中にも、箱Bにダイヤモンドが入っている客観的な頻度がある。

紙の上のインクは、奇妙な形や曲線を成していて、「そして、ゆえに、箱Bにはダイヤモンドが入っている」という文に見える。たまたま英語を読める人であれば、混乱して、この形に並んだインクは何らかの仕方で箱Bにダイヤモンドが入っていると意味しているのだ、と思うかもしれない。印刷された図の色を答えるよう指示され、緑という図を見せられた被験者は、「赤」の代わりに「緑」と答えてしまうことが多い。字を読めないほうが、インクの形に惑わされなくて済む。

私たちにとって、何かが本当に何を示すかは、ほかのものとの結びつきによって決まる。もう一度、エヴェレットの分岐やテグマークの複製宇宙からなる世界の集まりを考えよう。すべての世界のすべての論客が、紙の結論の行にインクを載せた瞬間――一つの同じ瞬間だとしよう――インクと箱の相関は決まった。論客が書くのは消せないペンだ。インクは変わらない。箱も変わらない。インクが「そして、ゆえに、箱Bにはダイヤモンドが入っている」と読める世界の部分集合の中で、箱Aにダイヤモンドが入っている世界の割合は、すでに決まっている。その上の空欄に何が書き込まれても、この割合は変わらない。

つまり、インクの証拠としての結びつきはすでに固定されている。それがどのようなものかの判断は、あなたに任せよう。自分の箱のほうが説得力のある説明を作れると思う持ち主ほど、宣伝役を雇いたがるのかもしれない。自分の箱の弱点を恐れる持ち主ほど、高値をつけるのかもしれない。持ち主自身が手がかりを理解していないなら、インクは箱の中身とはまったく結びついていない。ただし、持ち主の懐具合や入札の癖については何かを教えてくれるかもしれない。

今度は、その場にいる別の人が、本当に答えを知りたがっているとしよう。その人はまず、両方の箱の特徴となる手がかりをすべて紙に書き、自分の知識と確率の法則を適用して、一番下にこう書く。「ゆえに、箱Bにダイヤモンドが入っている確率を85%と見積もる」。この筆跡は、何の証拠なのか。物理的な紙の上の、この物理的なインクを生み出した原因と結果の連鎖を調べると、それは箱のあらゆる手がかりを通り、それらに依存していると分かる。手がかりの異なる世界では、一番下に異なる確率が書かれるからだ。

だから、好奇心ある探究者の筆跡は、手がかりや箱の中身と結びついている。一方、口のうまい論客の筆跡は、どちらの持ち主が高く入札したかの証拠にしかならない。インクの形を愚かにも声に出して読み上げる人には、似たような英語に聞こえるかもしれない。だが、そのインクが示すものには大きな違いがある。

合理主義者としてのあなたの有効性を決めるのは、実際にあなたの思考の結論の行を書くアルゴリズムだ。車にブレーキをかけると金属のきしむ音がし、ブレーキ交換の出費に向き合いたくないなら、修理は不要かもしれない理由を探すことにしてもよい。だが、エヴェレットの分岐やテグマークの世界で、あなたが実際に生き残る割合――これで合理主義者としての有効性を表すことにしよう――を決めるのは、どの結論のために論拠を探すかを決めたアルゴリズムである。この場合、実際のアルゴリズムは「高くつく修理は絶対にしない」だ。それが良いアルゴリズムなら結構。悪いアルゴリズムなら、まあ、仕方ない。そのあとで結論の行の上に書く論拠は、どちらにしても何も変えない。

これは自分の思考への戒めであって、気に入らない結論に対する万能の反論ではない。最初に持っていた信念をそのまま維持するよう、自分に報酬を払っているのなら、「相手は口のうまい論客だ」と言うこと自体が、実に口のうまい論法になるからだ。世界一口のうまい論客が太陽が照っていると指摘しても、それでもおそらく、今は昼間なのである。