Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

絶対的権威

Absolute Authority

ある者があなたのもとへ来て、尊大にこう言う。「科学は本当のところ何も知ってはいません。あなた方が持っているのは理論だけです――自分たちが正しいと確実に知ることはできない。科学者は重力がどう働くかについて考えを変えたでしょう。明日には進化について考えを変えないと、誰が言えるんです?」

この深淵のような文化的隔たりを見よ。数文で渡りきれると思うなら、ひどく失望するに決まっている。

悟りを得ていない人々の世界には、権威と非権威がある。信頼できるものは信頼できる。信頼できないものは、捨ててしまっても同じだ。よい情報源と悪い情報源がある。科学者が歴史上ただの一度でも言うことを変えたのなら、科学は真の「権威」ではありえず、二度と信頼できない――矛盾した証言をしたところを捕らえられた証人や、レジから金を盗んだのが見つかった従業員のようなものだ。

そのうえ例の者は、ある考えの支持者なら、考えうるあらゆる反論に対してそれを擁護し、何一つ認めてはならないのが当然だと思っている。すべての主張は、それを見越して割り引かれる。科学の支持者本人でさえ、科学は完璧ではないと認めるなら、いやはや、科学などほとんど無価値に違いない。

確実性に慣れきって人生を送ってきた人に、「科学はほかのあらゆる知識と同じく確率的です」とだけ言うわけにはいかない。相手は前半を罪の告白として受け取り、後半を、裁きを逃れるため皆も同罪だと言い張る必死の試みとして退けるだろう。

お前は自分が信頼に値しないと認めた――ならば去れ、科学よ、もう我々を煩わせるな!

この思考パターンの明白な源の一つは宗教である。聖典は神に由来するとされる。それゆえ、そこに少しでも欠陥があると認めれば、その権威は完全に崩壊する。したがって、わずかな疑いも罪であり、確信していようがいまいが、確実だと公言することが義務になる。

だが私は、伝統的な学校教育の制度もこれにいくらか関係しているのではないかと疑っている。教師があることを教え、あなたはそれを信じ、試験でそのまま唱え返さなければならない。しかし授業中に生徒が提案したことなら、従う必要はない――賛成しても反対しても自由であり(そう見える)、誰にも罰されない。

この経験が、信念の領域を、権威命令という社会的領域へ対応づけてしまうのではないかと、私は危惧している。社会的領域では、絶対的な法と絶対的でない法、命令と提案、権威と非権威との間に、質的な違いがある。厳格な規則と厳格でない規則があるように、厳格な知識と厳格でない知識があるように見える。厳格な権威には従わなければならない一方、厳格でない提案は、個人の好みで従っても捨ててもよい。そして科学は、自らに誤りの可能性があると告白している以上、第二の分類に属するに違いない。

(ついでに指摘しておくと、授業で教師から紙に書かれた「権威ある確率」を受け取ったり、同じように「反論不能な情報源」から確率を授けられたりしなければ、あなたの不確実性はベイズ確率論で扱う問題ではない、と考える人々にも、ある種の類似が見られる。誰かが――何ということだ!――あなたの事前確率の推定に異議を唱えるかもしれない。したがって、まだ完全には悟っていない人々の目には、ベイズ的事前確率は、教師が命じる信念の分類ではなく、生徒が提案する信念の分類に属するように見える――正規の知識ではないのだ。)

「権威の道」と「定量の道」との深淵のような文化的隔たりは、合理主義者の側から向こう岸を見つめる私たちにとって、かなり腹立たしい。ここに、科学の単なる確率的推測より信頼できる知識を自分は持っていると信じる者がいる。科学の推測とは、たとえば、天文学的記録が発明されて以来、観察された毎晩と同じく、月が明日も定められた位置と位相に昇るという推測であり、これまでの予測が小数点以下十四桁まで首尾よく確認されてきた物理理論が予測することでもある。では、悟りを得ていない人々が私たちの知識より上に置く知識とは何であり、なぜ上なのか? おそらく、かび臭い古い巻物の類だろう。日曜から数えて十一通りどころか、月曜から、そして週のあらゆる曜日から、数えきれない仕方で反証されてきたものだ。それでも科学より信頼できる(と彼らは言う)。どれほど反証されても、決して誤りを認めず、決して考えを変えないからである。彼らは「確実性」という語をテニスボールのように投げ回し、羽根のように軽々しく使う。一方、科学者は義務としての疑いに押しつぶされ、ほんのわずかな確率を得るためにさえ奮闘している。「私は完璧だ」と彼らは何の心配もなく言う。「改善するために今なお奮闘しなければならないあなたより、私ははるか上にいるに違いない」。

彼らに言える簡単なことは何もない――素早く打ちのめす反駁などない。公開討論なら、慎重に考えることで聴衆を味方につけられるかもしれない。あいにく、「愚かな定命の者よ、『定量の道』はお前の理解を超えており、お前が軽々しく『確実』と呼ぶ信念は、我らの強大な仮説の最弱のものより確かでない」と、ただ言い放つわけにはいかない。これは人生全体のゲシュタルトの違いであり、言葉で表すこと自体が容易でなく、まして素早く表すことなどできない。

聴衆の前で、修辞的にはどんな方法を試せるだろう? 何とも言いにくい……たとえば、こんなところか。

しかしある意味、もっと興味深い問いは、聴衆のいないところで相手に何を言うかである。確実性のない宇宙で生きることを誰かに教える、その長い過程をどう始めればよいのか?

最初の、出発点となる一歩は、確実性がなくても生きていけると理解することだと思う。つまり、仮に何一つ確実に知ることができなかったとしても、道徳上または事実上の区別をつける能力は奪われない。ロイス・ビュジョルドの言葉を借りて言い換えれば、「もっと強く押すのではなく、抵抗を下げよ」。

「絶対的権威」に対する一般的な擁護論の一つに、私が「灰色論法からの論法」と呼ぶものがある。次のように進む。

愚かさを反転しても知性にはならない。悪い結論で終わる議論の一行一行をすべて反転しても、正しい答えには到達できない。そんなことをすれば、その愚か者にあなたを細部まで操る力を与えすぎる。数学的な論証が成立するには、一行一行すべてが正しくなければならない。そして道徳的相対主義者が「世界は白と黒ではない」と言うからといって、それが誤りだとは限らない。スターリンが2 + 2 = 4と信じていたからといって、「2 + 2 = 4」が誤りになるわけではないのと同じだ。誤りは(二色の見方から一色の見方へ、すべての灰色は同じ濃さだと飛躍する部分に)一つだけあり、一つあれば十分なのである。

道徳的であるためには、絶対的に善い選択肢と絶対的に悪い選択肢について絶対的な知識が必要だ、という前提に同意すれば、あまりにも多くを譲ることになる(実際、議論全体を譲ることになる)。相対的によりよい選択肢とより悪い選択肢について不確実な知識しかなくても、選択することはできる。実のところ、これは日常的なことであるべきで、大げさに騒ぐようなことではない。

つまり、そう、二つの選択肢ABから選ばなければならないとき、何らかの方法によって、Aが絶対的かつ全面的に望ましく、Bがあらゆる邪悪で不快なものの総体であることについて、確実だと知りうる、適切に較正された100%の確信を確立するのに成功したなら、これは十分条件である。つまり、AをBより選んでよいしかし必要条件ではない。

ああ、それから、論理的誤謬:信念の帰結への訴え

さて、ほかに何を知ってもらう必要があるだろう? そう、疑うこと、問いを発すること、誤りを告白することを、恐ろしく恥ずべきものとは見なさない合理主義者の文化全体がある。

改宗を迫られることによってではなく、物事を見ることによって情報を得る、という発想全体もある。物事をもっとよく見れば、最初に一見したとき考えていたものとは違うとわかる場合がある。だがそれは「自然」があなたに嘘をついたという意味でも、見ることを諦めるべきだという意味でもない。

さらに、較正された確信度という概念がある。「確率」は、ある考えへの感情的な肩入れを測る、頭の中の小さな進捗バーと同じ概念ではない。それはむしろ、現実の生活で実際的に見て、ある信念状態にある人々の発言が、どれほどの頻度で本当に正しいかを測る尺度に近い。百人を集め、それぞれに「絶対に確信している」ことを一つ述べてもらったら、そのうちいくつが正しいだろう? 百ではない。

どちらかといえば、人が本当に熱狂している主張は、「太陽は月より大きい」のように、興奮するには明白すぎる主張よりも、正しい可能性がはるかに低い。誰かが「絶対に確信している」主張を一つ見つけるたび、その反対を「絶対に確信している」誰かも、おそらく見つけられる。これほど熱狂的な信念の公言は、反対者がいなければ生じないからだ。したがって、信念への感情的な肩入れを測る頭の中の小さな進捗バーは、較正された確信度へうまく変換できない。単調に振る舞いさえしない。

「絶対的確実性」について言えば――何かの確率が99.9999%だと言うのは、同じ強さの独立した主張を百万個、およそ丸一年をかけて次々に行い、平均すれば一度ほど間違うと思っている、という意味である。これだけでも信じがたい。(その水準の確信を本当に得られると気づくのは驚くべきことだ――「汝、宝くじに当たることなかれ」については、それが実際に可能なのである。)ならば、確率1.0については何も言うまい。人生を送るのに1.0の確率は必要ないと気づけば、人間の脳で1.0へ到達できると考えるのが、どれほど徹底的に馬鹿げているかもわかるだろう。確率1.0は単なる確実性ではなく、無限の確実性なのだ。

実際、公衆の誤解を防ぐために、科学者は「確実ではありません」ではなく、「私たちは無限に確実なわけではありません」と言って回るべきなのかもしれない。前者は通常の会話では、疑うための具体的な理由を何か知っていることを示唆するからだ。