Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

「しまった」と言うことの重要性

The Importance of Saying “Oops”

エンロン崩壊の歴史を扱った『部屋でいちばん賢い男たち』を、ちょうど読み終えた。この本には、ここに「最も不適切な書名」賞を贈ろう。

エンロンがゆっくり腐敗し、突然崩壊した過程で驚くに値しない特徴は、経営陣が大きな過ちを犯したと決して認めなかったことだ。破局第247号が、実際の方針変更を必要とするほど大きくなると、彼らはこう言う。「あれがうまくいかなかったのは残念だ——あれほど良い考えだったのに——この問題を貸借対照表でどう隠そう?」こうではない。「振り返れば、最初から間違いだったことは今や明らかだ」。まして「私は愚かだった」ではない。分水嶺となる瞬間、己の誤りを思い知らされる瞬間、根本的な問題を認める瞬間は、一度もなかった。破産後、エンロンの元COOで、短期間CEOを務めたジェフ・スキリングは、黙秘権を行使せよという自分の弁護士の助言を断り、議会で、エンロンは偉大な会社だったと証言した。

変化がすべて改善とは限らないが、改善はすべて必然的に変化である。小さく局所的な誤りしか認めなければ、小さく局所的な変化しかしない。大きな変化への動機は、大きな過ちを認めることから生じる。

子どものころ、私は科学とSFを半分ずつ与えられて育ち、ハインラインからファインマンまでを通じて、伝統的合理性の定型句を学んだ。理論は大胆で、反証に身をさらさなければならない。反対の証拠に直面したら、自分の思想を捨てる英雄的な犠牲を払う意思を持て。議論では礼儀正しくせよ。自分を欺かないよう努めよ。そして、ほかの曖昧な言葉の数々。

伝統的な合理主義者の教育は、反対の証拠をいつかは認める論者を育てようとする。あなたを動かすに足る証拠の山がいくらかあるべきだ。これは瑣末なことではない。科学と宗教を分ける。しかし、速度可能なかぎり速く戦いをやめること、愛する信念を破壊するために最小限の反対証拠しか要さないよう、証拠を効率よく統合することには、あまり焦点が当てられない。

私は伝統的合理性の中で育ち、自分を立派な合理主義者だと考えていた。私は……まあ、長い話になる出来事のあとで、ベイズの技法(ラプラス/ジェインズ/トヴェルスキー/カーネマン)へ転じた。大まかに言えば、伝統的合理性の曖昧な言葉の定型句では、自分が大きな過ちを犯すのを防ぐには不十分だった、と気づいたから転じた。

ついに自分の過ちを完全に認めたあと、恐ろしい悟りへ至った道筋を振り返った。すると私は、小さな譲歩、最小限の譲歩を連ね、地面を一ミリずつ渋々譲り、そのたびに自分の過ちを可能なかぎり少しだけ理解し、耐えられる小さな一口ずつにして失敗を認めていた。単にしまった!と叫んでいれば、はるかに速く進めたのだ、と気づいた。

そして思った。自分の技量を一段上げなければならない。

大きな過ちを犯したと認めることには、強力な利点がある。痛みを伴う。同時に、人生全体を変えることもできる。

分水嶺となる瞬間、己の誤りを思い知らされる瞬間を持つことは重要である。根本的な問題を認め、食べやすい一口大の過ちへ分割しないこと。

芝居がかった行動にふけり、誤りを認める自分を誇ってはならない。最初から正しく理解するほうが、当然優れている。だが過ちを犯したなら、一度にすべてを見るほうが、はるかによい。快楽の観点からさえ、多くの小さな損失より、一つの大きな損失を受けるほうがよい。もう一つの道は、自分自身との戦いを何年にも引き延ばすことだ。もう一つの道はエンロンである。

それ以来、ほかの人々が、自分なりの最小限の譲歩を連ね、地面を一ミリずつ渋々譲るところを見てきた。局所的な過ちで済ませられるとき、全体的な過ちを決して告白しない。どの誤りからも、可能なかぎり少ししか学ばない。一挙に自発的に直せることを、議論で一つずつ認めさせなければならない、小さな局所的な継ぎはぎへ変える。一つの過ちを告白したあと、私は愚かだったとは決して言わない。原理上は正しかったうまくいった可能性はあった、あるいは自分が執着するものの真の本質は、今も受け入れたいと言って、恥を最小にしようと全力を尽くす。この一時の自尊心を守ることで、同じ過ちをもう一度犯し、もう一度自尊心を守らなければならないことを確実にする。

苦い錠剤を一錠丸ごと、一度の恐ろしいひと呑みで飲み込むほうがよい。