Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

何が証拠を選別したのか?

What Evidence Filtered Evidence?

ダイヤモンドが入っているかもしれない箱を売るため雇われた、巧妙な議論者のジレンマについて論じた。巧妙な議論者は、箱に青い印がついていると指摘する。そして、空の箱よりダイヤモンドの入った箱のほうが青い印をつけている可能性が高いというのは、既知の有効な事実である。この時点で、ベイズ的な観点からは何が起きるのか。巧妙な議論者が望むとおり、なすすべなく確率を更新しなければならないのか。

自分で箱を見られるなら、すべての徴候を自分で足し合わせられる。見られなければどうするのか。持っている証拠が、巧妙な議論者の言葉だけならどうするのか。その議論者には、真なる言明だけをする法的制約があるが、知っていることのすべてを教えてはくれない。巧妙な議論者がする言明は、一つ一つが有効な証拠である――どうして確率を更新せずにいられるだろうか。箱Bに青い印がついたエヴェレット分岐またはテグマーク複製の一定割合で、箱Bにダイヤモンドが入っている、ということは真でなくなったのか。ジェインズによれば、ベイズ主義者はパラドックスを避けるため、既知の証拠すべてを常に条件にしなければならない。しかしそうすると、選択的に報告できる徴候が十分多様にあれば、巧妙な議論者は、自分が選ぶどんなことでもあなたに信じさせられる。それは正しく聞こえない。

もっと単純な場合として、偏ったコインを考えよう。表が2/3、裏が1/3の確率で出るよう偏っているか、表が1/3、裏が2/3の確率で出るよう偏っており、事前にはどちらも同じ確率である。観測されたHは一つにつき、Hに偏ったコインを支持する1ビットの証拠であり、観測されたTは一つにつき、Tに偏ったコインを支持する1ビットの証拠である。私がコインを10回投げ、それからあなたに「4回目、6回目、9回目は表だった」と伝える。コインがHに偏っている事後確率はいくらだろうか。

答えは、私がその言葉を発するまでにどのような因果の連鎖があったか――どの試行を報告するかを私がどう選んだか――に応じて、ほとんどどんな値にもなり得る、というものである。

あるいは、モンティ・ホール問題を考えよう。

あるゲーム番組で、三つの部屋につながる三つのドアから一つを選ぶことになった。一つの部屋には$100,000があり、ほかの二つは空だと知っている。司会者がドアを選ぶよう求め、あなたはドア#1を選ぶ。すると司会者がドア#2を開き、空の部屋を見せる。ドア#3へ変更したいだろうか。それともドア#1のままにしたいだろうか。

答えは司会者のアルゴリズムに依存する。司会者が必ずドアを開け、必ず空の部屋につながるドアを選ぶなら、ドア#3へ変更すべきである。司会者が背後に何があるかにかかわらず、常にドア#2を開けるなら、#1と#3に賞金がある確率はどちらも50%である。最初に賞金のあるドアを選んだ場合にしか司会者がドアを開けないなら、絶対に#1のままにすべきである。

#2が空であることだけでなく、この事実に加え、司会者がドア#2を開けると選んだという事実を条件にすべきである。標準的なモンティ・ホール問題で多くの人が混乱するのは、#2が空であることだけをもとに更新するからであり、その場合、#1と#3に賞金がある確率は等しくなる。ベイズ主義者が、パラドックスを避けるため、自分の知識すべてを条件とするよう命じられるのはこのためである。

誰かが「コイン投げの4回目は表だった」と言うとき、私たちは、コイン投げの4回目が表だったという条件だけを用いているのではない――コイン投げの4回目が表だった、あり得るすべての世界の部分集合を取っているのではない――むしろ、ある特定のアルゴリズムに従う話者が「コイン投げの4回目は表だった」と言った、あり得るすべての世界の部分集合を条件にしている。話された文は事実そのものではない。言葉の単なる意味に惑わされてはならない。

ほとんどの法的手続きは、どの事件にも正確に二つの対立する側があること、そして偏りのない人間を一人見つけるより、偏った人間を二人見つけるほうが容易であることを前提にしている。検察と弁護の間では、与えられたどんな証拠にも、それを提示する動機を持つ誰かがいるので、法廷はすべての証拠を見る。これが理屈である。箱のジレンマに巧妙な議論者が二人いれば、好奇心を持つ探究者が一人いるほどよくはないが、ほぼ同じくらいよい。しかし、それは箱が二つの場合である。現実の問題は、多面的で、深く、答えが明白でないことが多く、青派と緑派が互いに怒鳴り合うことでは容易に見つからない。

証拠の選別という概念を悪用し、気に入らない証拠をすべて排除する万能反論にしないよう、用心してほしい。「その議論は選別されている。したがって無視してよい」。反対する議論に腹を立てているなら、あなたはその事例をよく知り、どちらかの側へつくほど関心を持っている。おそらく、自分の側の最も強い議論をすでに知っている。反対する議論から、まだ見たことのない、自分に有利な新しい徴候や前兆が存在すると推論する理由はない。だから、不快な事実そのものが残る。箱Bについた青い印は、依然として証拠である。

しかし、ある議論を初めて聞き、その議論の片側しか聞いていないなら、本当に用心すべきである! ある意味では、創造論者の話を5分間聞くまで、自然選択の理論を本当に信頼することは誰にもできない。そしてその後、理論が確固としているとわかる。