Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

自信不足という罪

The Sin of Underconfidence

とりわけ合理主義者を悩ませる三つの大罪があり、その第三が自信不足である。マイケル・ヴァッサーは定期的に、私がこの罪を犯していると責める。そんなことをする点で、彼は地球の全人口の中でも独特の存在である。

だが実際、彼が心配するのはまったく正しい。私も心配しているし、熟達した合理主義者なら誰でも、おそらく相当の時間をこの心配に費やすだろう。実験では、被験者があるバイアスについて知っているか、警告されていると、過剰修正が生じることも珍しくない。認知上の下位課題の多くをこれほど厄介にするのは、そのためである。自分にバイアスがあると知っていても、どれほどあるかは確信できず、充分に修正しているかも分からない――だからもう少し修正し、さらにもう少し修正するべきかもしれないが、それで充分だろうか。それとも、ひょっとすると大きく行きすぎたのか。修正を試みなかった場合より、今はかえって悪い状態になっているのではないか。

その問題を熟考するほど迷いが深まり、推定する仕事そのものが、ますます無益に感じられはじめる……。

そして自信過信自信不足という個別の問題――ここでは較正された信頼区間だけでなく、もっと広い意味に解釈する――になると、過信を、傲慢というとして描く自然な傾向がある。それは別の一覧にある罪であり、その一覧は謙虚さの不適切な使用疑いの濫用を決して戒めなかった。自分を高く置きすぎること――自分にふさわしい場所を越えて手を伸ばすこと――自分を評価しすぎること――出しゃばること――暗黙の比較によって仲間を見下すこと――そして、ひょっとすると公衆の面前で、恥をかき、引きずり下ろされるという帰結――これらは忌まわしく恐ろしいことではないだろうか。

謙虚すぎることは――それに比べて軽く見える。公の場で指摘されても、それほど恥ずかしくないだろう。実際、自分が思っていたより優れていると分かることは、温かな驚きとして訪れるかもしれない。自分を下げ、暗黙に他人を上へ置くことには、親切さという肯定的な色合いがある。ガンダルフがしそうなことだ。

だから、人間が誤りへ陥る千通りの方法を学び、匿名の被験者が過信ゆえに恥をかく実験結果を百件読んだなら――いや、わずか数十件読んだだけでも――自分がどれほど過信しているかを正確には知らないなら、そう、自分を一段低く押し下げすぎる本物の危険にさらされるかもしれない。

これを打ち消す完璧な公式を、私はあなたに与えられない。だが助言なら一つ二つある。

自信不足の危険とは何か。

機会を逃すことである。できたはずなのに、(充分懸命に)試みなかったことを、行わないことである。

そこで第一の助言をしよう。自分がどれほど優れているかを確かめる方法があるなら、すべきことは、それを検証することである。仮説は検証を可能にする。自分の能力についての仮説も同じである。かつて、私はAIボックス実験に勝てるはずだと思った。それは非常に疑わしく、思い上がった考えに思えたので、検証した。その後、大金が懸かっていても勝てるかもしれないと思い、それも検証したが、勝てたのは三回に一回だけだった。だから、それが当時の私の能力の限界だった。上方にも下方にも自分を説得する必要はなかった。ただ検証できたからだ。

賢い人が愚かになって終わる主な経路の一つは、勝つことに慣れすぎて勝てると知っている場所に留まることである。つまり、自分の能力を伸ばすことがなく、難しいことを一度も試さない。

これは、「努力」ではなく「知能」によって自分を定義することと結びついていると言われる。難しい問題での失敗なら、よく努力した結果だと解釈できたかもしれないが、容易に勝つことが「知能」のしるしになるからだ。

さて、熟達した合理主義者がこのことをそう考えるべきか、私にはよく分からない。合理性とは体系化された勝利であり試そうと試みることは失敗への道に思える。私はこう述べたい。仮説は検証を可能にする! 難しい問題に勝てるか分からないなら、現在の水準を発見するよう、自分の合理性へ挑戦しよう。私は普段、試みたことについて自分を褒めるのには賛成しない。悪い心的習慣に思えるからだ。だが試みないことのほうが、確実にさらに悪い。難題に立ち向かう一般的習慣を育て、そのうち少なくともいくつかには勝ったなら、ひょっとすると「難題に立ち向かう習慣を今回も守ったし、次回もそうする」と考えてよいだろう。また、「現在の水準と、改善すべきところについて価値ある情報を得た」と考えてもよい。ただし、「次回は、この同じ価値ある情報を再び得ないようにする」と、思考をきちんと完結させる限りである。

毎回勝つなら、自分を充分に伸ばしていないということだ。だが毎回勝とうと真剣に努めるべきである。そして失敗した自分を慰めすぎれば、勝利する気概を失い、負け犬になる

架空の〈競争の陰謀〉の達人なら、これについて何と言うか想像してみると、だいたい次のようになる。「負けてもよい、ということではない。だが負ける痛みは、それを恐れて難題から逃げるべきほど怖いものではない。感じないよう慎重に避けたり、自分が負け、それも完敗したことを認めなかったりしなければならないほど怖くはない。負けは痛むようにできている。痛くなければ競争者ではない。そして、一人も、負ける痛みを決して知らずに済む競争者はいない。さあ外へ出て、勝て」。

難題に立ち向かう習慣を育てよう。即座に命を奪いうるものは避けてもよいが、ひょっとすると恥をかかせうるものには立ち向かおう。最近、ある有神論者が、討論でクリストファー・ヒッチェンズを破った(しかも完膚なきまでに、と無神論者たちが語っていた)という話を読んだ。そこで私はすぐBloggingheadsの人々に手紙を書き、討論を組んでもらえないか尋ねた。この人を相手に自分を試してみたいと思った。また、クリストファー・ヒッチェンズはその有神論者の過去の討論を見て、準備すべきだったとも彼らは言っていたので、私はそうしないことにした。私はほとんどどんなことでも、即興で対処できるべきだと思っており、この考えが正しいかを知りたいからである。そして確かめるためには、公の場で恥をかく危険を冒す意志がある。これは古典的な意味でのセルフ・ハンディキャッピングではないことに注意しよう。実際に討論が組まれ(まだ返事はない)、私が準備せず、失敗したなら、私が賭けた自分自身の利害を本当に失う。自分の限界について情報を得る。負けた言い訳だと自分で考えるものは何も与えていない。

もちろん、これは実際に、自分を試すためだけに難題へ立ち向かっているときの考え方にすぎない。どんな代価を払っても勝たなければならないからではない。その場合には、自分にとって可能な限りすべてを容易にする。そうしないのは、三歳児を相手に三目並べをするときでさえ、目を見張るような過信である。

もっと微妙な形の自信不足は、前へ進む勢いを失うことである。人間が間違えていると気づいたこと、自分がかつて間違え、おそらく今も一部は間違えていること、そのすべての中で勢いを失う。臆病になる。自分を問いながら、その問いに答えず、先へ進まない。自分には能力がないという仮説を立てても、その仮説を検証しない

特定の試験について、意図的に、自分でもそれと分かる形で試さないと決める、決定的な瞬間が一度もないまま……ただ……速度が……落ちて……いく……。

ほかの十二のことがなお間違ったままなのに、一つのことを直そうと試みつづけるのは、もはや価値がないように思える……。

勝利への希望が充分になく、懸命に試みるよう自分を鼓舞してくれない……。

何か新しいことを行おうと考えるたび、自分の能力について十二の問いが一斉に心へ飛び込み、自分を検証すれば問いに答えられるとは思いつかない……。

そして、人間の欠陥についてこれほど多くの知恵を読んだため、知恵の道とは、常に疑うこと(決して疑いを解かない)、常に拒絶という謙虚さを示すこと(決して準備という謙虚さを示さない)、そして一般に、人間の能力についてますます悪いことを述べ、気持ちよく気分を落ち込ませる冷笑主義へ入っていくことのように思える。

そこで私の最後の助言は、問題を見るもう一つの視点――取り入れようと考えるどんな思考習慣も判断するための視点――であり、次のように問うことである。

この考え方は、私を強くするだろうか。それとも弱くするだろうか。本当に、心から?

私は以前、もっともらしさの危険について述べた。ニューカムの問題では二箱を選ぶべきだというもっともらしく聞こえる議論、帰納の問題のため私たちは何も知ることができないというもっともらしく聞こえる議論、いつも多数派の信念を採用すれば平均的には得をするというもっともらしく聞こえる議論、そして〈道〉を阻む、そのほか同種の障害である。「それは勝つか?」は、別の視点を得るために問える一つの問いである。もう一つの少し違う視点は、「この考え方は、私を強くするか。それとも弱くするか」と問うことだ。あらゆることを疑えと絶えず自分に念を押すことは、自分を強くするか、弱くするか。その疑いを決して解かず、減らさないことは、自分を強くするか、弱くするか。不確実性に直面し、意図的な信念の危機を経験することは、自分を強くするか、弱くするか。あらゆる異議へ、自分の誤りやすさを謙虚に告白して答えることは、自分を強くするか、弱くするか。

過信している可能性を補正する現在の試みは、あなたを強くしているか、弱くしているか。ヒントを出そう。予防措置を増やし、さらに入念に自分を検証しようとし、友人へ助言を求め、大きなことへ少しずつ段階的に取り組み、ときどきは失敗するが以前より頻度が下がっているなら、おそらく強くなっている。決して失敗せず、難題を避け、全体として希望を失い、意気消沈しているなら、おそらく弱くなっている。

私は幼いころ、この規則の最初の形を学んだ。ある数学試験に向けて練習していたとき、練習問題を解くたび点数が下がることに気づき、解答用紙を見直すと、正しい答えを鉛筆で書いたあと消していた。そこで自分に言った。「よし、今度は〈フォース〉を使い、本能に従って行動する」。すると点数は最初のときより高く跳ね上がり、本番の試験ではさらに高くなった。こうして私は、自分を疑っても、いつも強くなるとは限らないと学んだ――とりわけ数学的直観のような善い情報に動かされる能力を邪魔する場合には。(だが、これを教えてもらうには本当に検証が必要だった!)

自信不足は合理主義者だけに固有の罪ではない。だが、合理的になろうとする試みがあなたを導きうる、特有の危険である。そしてそれは、進展を止める種類の誤り――その誤りを直すはずの、さらなる経験を得られなくする誤り――である。

自信不足は実際、私が出会う合理主義者志望の人々にかなりよく見られるように思える――著名な手本となった合理主義者には、かなり少ないのだが――ので、私はたしかに、合理主義者を悩ませる三つの罪の第三にこれを挙げる。