Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

自分を漸進的に更新する

Update Yourself Incrementally

政治は心を殺す。討論は戦争であり、議論は兵士である。あらゆる攻撃経路に対して城塞を守るかのように、自分の理論を確証するよう、あり得るあらゆる実験結果を解釈する方法を探したくなる誘惑がある。そんなことはできない。数学的に不可能である。証拠を期待するたびに、それと等しく反対向きの反証を期待することになる。

しかし、大切な信念が完全に防御されていなくても構わない。コインが95%の確率で表になるという仮説なら、20回に1回は、反証のように見えるものを目にすると予期する。これは構わない。正常なことである。反対する観測一つにつき、支持する観測が19あるかぎり、それは予期されることですらある。確率的モデルは一発か二発の打撃に耐え、なお生き残れる。ただし、打撃がいつまでも続かなければ、である。

それでも、特に世論の法廷では、真なる理論に失敗は一つもあり得ず、偽なる理論には成功が一つもあり得ないと広く信じられている。

人々は、自分が証拠と考えるものを一つ掲げ、それを自分の理論が「説明」できると主張する。まるで、どんな理論も、それだけの支持があれば十分であるかのように。どうやら、偽なる理論には支持する証拠が一つもあり得ず、偽なる理論がたった一つの出来事に適合することさえ不可能らしい。したがって、どんな理論にも、確証する証拠が一つあれば十分だということになる。

たった一つの確率的な反証を、理論を覆す証明として掲げるのも、それよりほんの少しましな愚行にすぎない。正しい理論へ、たとえわずかな反論でも存在するのは不可能であるかのように。しかし、人間は何世代にもわたってこのように論じてきた。敵の議論をすべて打ち負かそうとしながら、敵には支持のかけら一つすら認めない。人々は、討論が一方的であることを望む。自分が好む理論に、反支持がほんの少しもない世界へ慣れている。そのため、確率的な反証を一項でも認めれば、世界の終わりになってしまう。

聴衆の中の誰かが、きっとこう言うとわかっている。「しかし、現実世界の討論で勝ちたいなら、たった一つの論点すら譲歩できない! 反論が少しでも存在すると認めれば、敵はそれを何度も何度も言い立てる――敵にそんなことをさせてはならない! 負けるぞ! それ以上に、腹の底から恐ろしいことがあるか?」

どうでもよい。合理性は討論に勝つためのものではなく、どちら側へ加わるか決めるためのものだ。どちら側を弁護するか、すでに決めたなら、うまくであれ、まずくであれ、あなたの中で合理性の仕事は終わっている。しかし、あなた自身は、どちら側を弁護するか、どう決められるのか。間違った側を選ぶことが腹の底から恐ろしいなら、ほんの少しでも恐ろしいなら、すべての証拠を統合したほうがよい。

合理性は歩行ではなく舞踏である。その舞踏では、一歩ごとに、左にも右にもずれず、足をまさに正しい場所へ下ろさなければならない。確証する証拠がほんの少し入るたび、信念を上へ動かす。反対する証拠がほんの少し入るたび、信念を下へ動かす。そう、下へ。正しいモデルであっても、厳密なモデルでなければ、ときには信念を下へ修正しなければならない。

証拠の一つか二つが、たまたま自分の信念を反支持しても構わない。厳密でない理論への確率的証拠なら、ときどきそうなる。(厳密な理論が失敗したなら、あなたは本当に困っている!)信念を少しだけ下へ動かせばよい――確率、オッズ比、あるいは心の中にある、言葉にならない確信の重みでもよい。少しだけ下へ動かし、さらなる証拠を待つ。理論が真なら、支持する証拠がまもなく入り、確率は再び上がる。理論が偽なら、そもそも本当には欲しくないはずだ。

白か黒かの二値的、質的な推論を使うことの問題は、どんな観測も、それだけで理論を破壊するか、破壊しないかのどちらかになることだ。反対する観測を一つも許さなければ、認知的不協和が生じ、それを議論で退けなければならない。そしてこれは漸進的な進歩を排除し、すべての証拠を正しく統合することを排除する。確率的に推論すれば、平均して、正しい理論は反支持よりも大きな支持の重みを生み出すとわかる。だから、恐れることなく、自分にこう言える。「これは弱い反証だ。信念を下へ動かそう」。そう、下へ。それによって大切な理論が破壊されるわけではない。破壊されると考えるのは質的推論だ。量的に考えてほしい。

証拠を期待するたびに、それと等しく反対向きの反証を期待することになる。どの機会にも、平均して、信念を上へ修正すると予期するのと同じだけ、下へ修正すると予期しなければならない。どんな証拠が入ってくるかすでに知っていると思うなら、自分の理論をすでにかなり確信している――確率が1に近い――はずであり、確率がさらに上がる余地はあまり残っていない。そして、反証へ遭遇することがどれほど起こりそうになく見えても、その結果生じる下向きの変化は、反対側で予期される利得と正確に釣り合うほど大きくなければならない。期待される事後確率の加重平均は、事前確率に等しくなければならない。

それなら、そもそも問題を調べるつもりなら、自分の確率を下へ修正することを恐れるのは、なんと愚かだろうか。個々の観測の一つ一つから、上向きの変化と同じだけ、下向きの変化を予期しなければならない。

ひょっとすると、ほんの少しの反支持がまた入り、さらに何度も入り続ける一方、新しい支持はなかなか入ってこないこともある。信念が下へ、さらに下へ漂っていくのに気づくかもしれない。ついに、証拠の風がどの方角から自分へ吹きつけているか悟るまで。その悟りの瞬間には、言い訳を組み立てても意味がない。その悟りの瞬間、あなたは大切な信念をすでに手放している。やった! 祝う時間だ! シャンパンの栓を抜くか、ピザを注文しよう! 結局、最初に抱いていた信念を保ち続けることで強くなることはできない。