Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

守るべきもの

Something to Protect

(えへん)日本のフィクションというゲシュタルトには、繰り返し現れるモチーフがある。力は、守るべきものを持つことから生まれる。

西洋のフィクションにあるような、友人が脅かされるとパワーアップするスーパーヒーローの話だけをしているのではない。日本版では、それより深い。

物語Xでは、善玉の一人ひとりが、守りたい誰か――ただ一人――を持つことから力を引き出すと明言されている。それは誰か? この問いはXの筋書きの一部である――「最も大切な人」は、いつも私たちが考える人物とは限らない。だが、その人が殺され、または誤った仕方で傷つけられると、守護者は力を失う。それは魔法の反動というより、単純な絶望のためである。西洋のコミックなら善玉一人につき週一回起きそうなことだが、これはそうではない。本当に死んで退場すること――ゲーム盤から除かれること――に等しい。

西洋のスーパーヒーロー・コミックでは、善玉が放射能を帯びたクモに噛まれる。そして、力を持て余さないため何かすることが必要になり、犯罪と戦うと決める。それから西洋のスーパーヒーローはいつも、ヒーローの務めがどれだけ時間を奪うか、釣りか何かへ行けるよう普通の人間になりたい、と愚痴をこぼす。

同じように、西洋の現実生活では、不幸な人々は「人生の目的」が必要だと言われる。そこで、素敵な居間のカーテンを選ぶように、自分の個性によく合う利他的な大義を選ぶべきで、それが素敵な居間のカーテンのように彩りを添え、日々を明るくしてくれるという。ただし、高すぎるものを選ばないよう気をつけるべきだ。

西洋のコミックでは、魔法が先で、目的が後である。驚くべき力を手に入れ、無実の者を守ると決める。日本のフィクションでは、逆の順序になることが多い。

もちろん、フィクションの証拠から一般化するために、このすべてを述べているのではない。だが、欺くほどよく似た西洋の類例とは違う概念を伝えたい。

合理主義者は「合理性」より高く評価する何かを持たなければならない、という考えには以前も触れた。「技芸」はそれ自体以外の目的を持たなければならず、さもなければ無限再帰へ崩れ落ちる。だが、誤解してはいけない。合理性それ自体はそれほど重要でないから、何かやることを持つため、合理主義者は素敵な利他的な大義を選ぶべきだ、と唱えているのではない。違う。私が問うのは、合理主義者はどこから来るのか? 私たちはどうやって力を得るのか? である。

『合理性の十二の徳』には、こう記されている。

合理性についての自分の観念を、どうすれば改善できるだろう? 「合理的であることは私の義務だ」と自分に言い聞かせても、改善できない。それでは、誤った観念を神聖なものとして祭り上げるだけである。合理性についてのあなたの観念は、大いなる師の言葉を信じることこそ合理的だ、というものかもしれない。そして大いなる師は「空は緑だ」と言い、あなたが空を見上げると青く見える。「空は青く見えるかもしれないが、合理性とは大いなる師の言葉を信じることだ」と考えれば、自分の誤りを発見する機会を失う。

歴史的に言えば、人類が権威の罠をついに抜け出し、ご存じのとおり実際の空に注意を払い始めたのは、実験に基づく信念が、権威に基づく信念よりはるかに有用だと判明したためである。

好奇心は人類の黎明から存在したが、問題は、焚き火を囲んで物語を紡ぐことも、好奇心を満たすにはまったく同じくらいうまく働くことである。

歴史的に言えば、科学が勝利したのは、技術という形で、より大きな生の力を示したからであり、科学のほうがもっともらしく聞こえたからではない。今日でさえ、訓練されていない耳には、科学より魔術や聖典のほうがもっともらしく聞こえる。これが、信念体系の間に絶えない社会的緊張がある理由だ。科学が魔術よりうまく働くだけでなく、直感的にもよりもっともらしく聞こえたなら、今頃は完全に勝利していただろう。

さて、こう言う人々がいる。「真理より何かを高く評価すべきだなどと、よく言えたものだ。合理主義者は、単なる有用性より真理を愛さなければならないのではないか?」

そのような人物が歴史上どうなったかは、しばらく忘れよう――ほぼそのような心構えの人々は、単なる正確さより真理を愛していたため、聖書を擁護した。命題的道徳は素晴らしいものだが、自由度が多すぎる

いや、本当の要点は、合理主義者と真理の恋愛関係は、まあ、感情的関係としてただもっと複雑だということである。

純粋な道徳上の望ましいものとしても、持っていて楽しいものとしても、真理を気にかけずに熟達した合理主義者にはならない。音楽を憎む大作曲家は、あまり多くないだろう。

だが、私が合理性について好むものの一部は、信念に予測を生ませなければならないという要請が課す規律である。それは、居間に座って一日中「真理」に取りつかれている場合より、はるかに真理へ近づかせる。私は、真に見える考えを愛しながら、一瞬の予告でそれを窓から放り出す準備も整えておかなければならない、その複雑さが好きだ。美学より単なる有用性を重んじると宣言する、その輝かしく美学的な純粋ささえ好きである。これはほとんど矛盾しているが、完全な矛盾ではない。そしてそこにも美的な質、味わい深いユーモアがある。

そしてもちろん、単なる有用性への愛をいくら公言しても、有用な偽命題を意図的に信じることへ実際に行き着いては、決してならない。

だから、真理を愛することと有用性を愛することの関係を単純化しすぎてはいけない。どちらか一方ではない。それは複雑だが、それは必ずしも、個々の出来事についての道徳的美学における欠陥ではない。

だが道徳と美学だけでは、「合理的」であるべきだ、あるいは特定の考え方は「美しい」と信じるだけでは、あなたを「道」の中心へ導かない。それでは、人類を権威という穴から出せなかっただろう。

「道徳的であると感じること」で、私は次のジレンマを論じた。どちらの選択肢を好むだろうか?

  1. 確実に400人の命を救う。
  2. 90%の確率で500人の命を救い、10%の確率では誰も救えない。

「どうして人々の命を賭けに使える?」と、大見得を切りたくなるかもしれない。自分自身がその500人の一人でも――どの一人かは分からなくても――確実性の慰めとなる感情に頼りたくなるかもしれない。自分の命より、良い直感のほうが大切であることは多いからだ。

だが、あなたの大切な娘が500人の一人で、どの一人か分からないなら、そのときはおそらく、黙って掛け算せずにはいられなくなる。第一の場合には娘を救える確率が80%で、第二の場合は90%だと気づくだろう。

そしてそう、あの集団の誰もが、誰かの息子または娘である。つまり、心配する親としてだけでなく、利他主義者としても、第二の選択肢を選ぶべきだと示唆される。

私の要点は、一人の命は499人より価値が高いと示唆することではない。言おうとしているのは、人が数学に頼るほど必死になるには、自分の命以上のものが懸かっていなければならない、ということだ。

選択肢1の確実性を選ぶことが「合理的」だと信じているなら、どうだろう? 多くの人は「合理性」とは、確実にうまく働く方法だけを選び、あらゆる不確実性を退けることだと思っている。だが願わくは、あなたにとって娘の命は「合理性」より大切だろう。

合理主義者としての自分の徳を誇れば、救われるだろうか? 確実性を選ぶことが徳だと信じているなら、救われない。娘の命が合理主義者としての誇りより大切である場合にだけ、合理性について何かを学べる。

「合理性が誤った答えをくれたのを見ろ!」ではなく、「私が持っていた合理性の観念が誤っていたに違いない」と言えるほど、すでに「技芸」において十分成長しているなら、その経験から合理性について何かを学ぶことさえあるだろう。

(熟達した合理主義者になるうえで本質的な難しさは、学習過程をブートストラップするため、かなりの合理性が必要になることだ。)

合理的であるべきだという信念は、自分の命より大切だろうか? 以前にも述べたように、命を危険にさらすことは、比較すればそれほど恐ろしくない。パーティーで酒を飲んでから車で帰る十代の若者が示す選好によれば、群衆の中でただ一人反対を唱え、皆に変な目で見られることは、単に命を脅かされるよりはるかに恐ろしい。群れを離れようと思うには、恐ろしく重要な何かが必要になる。命への脅威だけでは足りない。

合理性への意志は、自分の誇りより強いだろうか? 合理性への意志が、合理主義者という自己像への誇りから生じるなら、強くなりうるだろうか? 自分は厳しい真理に立ち向かう種類の人間だという自己像を持つことは役立つ――とても役立つ。自分へ故意に嘘をついたり、証拠に向き合うのを拒んだりするには、自尊心がありすぎることは役立つ。だが、合理性についてすべて誤っていたと認めなければならない時が来るかもしれない。そのとき、あなたの誇り、合理主義者としての自己像が、それに向き合うことを難しくしすぎるかもしれない。

大いなる師の言葉を信じることを誇ってきたなら――厳しく思えるときも、信じたくないときでさえ――大いなる師は詐欺師で、あなたの高貴な自己犠牲はすべて無駄だったと認めることは、なおさら苦い薬になるかもしれない。

前へ進み続ける意志を、どこから得るのか?

合理性へ向かった自分自身の旅路――人類の歴史的な旅路だけではない――を振り返ると、まあ私は、自分は合理的であるべきだと非常に強く信じて育った。これによって、ファインマンやハインライン流の、平均以上の伝統的合理主義者にはなったが、それ以上にはならなかった。受けてきた教えを超えるよう駆り立てられはしなかった。合理主義者としてさらに成長し始めたのは、どうしても行わなければならない、恐ろしく重要な何かを持ってからだった。自分の命は言うまでもなく、合理主義者としての誇りより大切な何かである。

合理性について愛するどんな技法よりも成功と強く結ばれて、初めて宮本武蔵の次の言葉を理解し始める。1

長い武器でも勝て、短い武器でもまた勝てる。つまり一流の道とは、武器が何であれ、その大きさがどうであれ、勝つ精神である。

これを合理性の個別の教えと取り違えてはいけない。これは、成功したいという切実な必要から始まり、どう「道」を学ぶかを述べている。自分の命以上のものが懸かるまで、誰も「道」を極めない。安楽以上、誇りさえ上回るものが懸かるまで。

趣味が必要だと感じるからと、そのような大義を適当に選ぶことはできない。「善い大義」を探しに行けば、心はただ定番の決まり文句を埋め込む。掛け算の仕方を学べば、劇的に重要な大義を目にしたとき、それを見分けられるかもしれない。

だが、そのような大義をもし持っているなら、それに奉仕するため合理性を振るうのは正しく、適切である。

合理性の美学を、より高い大義へ厳密に従属させることは、合理性の美学の一部である。その美学へ注意を払うべきだ。をそれ自体のために味わわなければ、どんな武器でも勝てるほど合理性を極めることは決してない。

Musashi, Book of Five Rings. ↩︎