非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

問いを解きほぐして消す

Dissolving the Question

❦

「森で木が倒れ、誰も聞いていなかったら、音はするのか?」

私は、この問いに答えたのではない。「する!」か「しない!」の立場を選んで擁護したのではない。代わりに、言葉を処理する人間のアルゴリズムを分解し、ニューラルネットワークの図を描くところまで進んだ。最後には、問いが残らず、問いがあるという感覚さえ残らなかったならよいと思う。

多くの哲学者、とくに素人の哲学者や古代の哲学者は、危険な本能を共有している。問いを与えられると、答えようとするのだ。

たとえば、「私たちに自由意志はあるのか?」。

哲学の危険な本能とは、賛成の論拠を並べ、反対の論拠を並べ、比較し、権威ある哲学誌に発表し、ついに「そうだ、自由意志はあるはずだ」、あるいは「いや、自由意志などありえない」と結論することだ。

賢明な哲学者の中には、哲学上の論争の大半は、実際には言葉の意味についての争いか、同じ言葉を場所によって違う意味で使うことで生じる混乱だ、という警告を思い出す人もいる。

そこで「自由意志」が何を意味するかを非常に精密に定義し、改めて問う。「私たちには自由意志があるか。あるのか、ないのか?」

もっと賢明な哲学者なら、自由意志をめぐる混乱は、概念そのものの欠陥を示しているのではないかと疑うかもしれない。そこで伝統的な合理主義者の道を進む。「自由意志」は本質的に自己矛盾している、あるいは検証可能な帰結がないので無意味だ、と論じる。そして、この決定的な指摘を権威ある哲学誌に発表する。

だが、自分が混乱していると証明しても、混乱の感覚が少しでも薄れるとは限らない。問いが無意味だと証明しても、答えること以上に役立つとは限らない。

哲学者の本能は、最も守りやすい立場を見つけ、発表し、次へ進むことだ。だが、「素朴な」見方、本能的な見方は、人間心理についての事実である。太陽が冷え切るまで自由意志は不可能だと証明し続けても、認知科学上の事実は説明されずに残る。自由意志が存在しないなら、存在すると思っている人の頭の中では、何が起きているのか。これは修辞的な問いではない!

人が自由意志を持っていると思うのは、人間心理についての事実だ。より擁護しやすい哲学的立場を見つけても、その心理的事実は変わらず、説明もされない。哲学によって概念を拒否できても、拒否することは、その背後の認知アルゴリズムを理解することと同じではない。

「森で木が倒れ、誰も聞いていなかったら、音はするか?」をめぐる定番の論争を見て、伝統的な合理主義者らしく振る舞ってもよい。二人には予期する経験に違いがないと指摘し、得意げに議論は無意味だと宣言する。この場合は、たまたまそれが正しい。だが、認知科学の問いとしては、そもそも、なぜ二人はその間違いをしたのか。

ヒューリスティックとバイアスの研究の中心的な考えは、正答より間違いのほうが、背後の認知アルゴリズムについてはるかに多くを明らかにすることが多い、というものだ。だから私はかつて自問した。誰もいない森で倒れる木について言い争うという誤りには、どんな心の設計が対応するのか。

私たちが使う認知アルゴリズムこそが、世界の感じられ方なのだ。そして、それは現実と一対一に対応しているとは限らない。本当のクォークはおろか、巨視的な現実とさえ。心の中には、世界とずれた切り分けをするものがありうる。

たとえば、ニューラルネットワークの中央に、現実世界のどこにあるどんな物にも、どんな物の実在する性質にも対応しない、宙ぶらりんのユニットがありうる。このユニットは、しばしば計算の近道として役立つ。だから私たちはそれを持っている。(比喩的に言えば、だ。人間の神経生物学は、間違いなくもっと複雑だ。)

答えられる質問にすべて答えたあとでも、この宙ぶらりんのユニットは、未解決の問いのように感じられる。その問いによって予期される経験は何も変わらないと、どれほど証明されても、「でも、倒れる木は本当に音を出すのか、出さないのか?」と考え続けてしまう。

だが、脳が問いの感覚をどう生むかを詳しく理解すれば、周辺のユニットがすべて既知の値に固定されても、幻想的な中央ユニットが自分は発火すべきか知りたがっていることに、未解決の問いの感覚が対応すると分かれば、もっとよくは、ナイーブベイズの技術的な仕組みを理解すれば、そのとき仕事は終わる。混乱の名残も、漠然とした不満も残らない。

答えのない問いがまだ残る感じや、うまく言いくるめられた感じが少しでもあるなら、それは問いを解きほぐし切っていないしるしだ。漠然とした不満も、叫び声と同じくらい警告として受け取るべきだ。本当に問いを解きほぐして消せば、何も残らない。

自由意志への勝ち誇った痛烈な反駁、存在できないという絶対に反論不能な証明は、とても満足感を与える。味方のチームへの大歓声だ。そのため、認知科学の問題として、一つひとつの直感的な感覚がどう生じるかを、完全に、満足のいく形で記述できていないことには、気づかないかもしれない。

認知科学のこの点について無知だと認めることさえ、嫌かもしれない。自分のチームの失点に思えるからだ。自由意志への愚かな信念をすべて打ち砕いているさなか、何かを説明せずに残していると認めるのは、相手への譲歩に見えるだろう。

そこで、たとえば、自由意志を信じた狩猟採集民は人生に前向きになりやすく、ほかの狩猟採集民より多く子孫を残したのだ、というもっともらしい進化心理学の作り話を考えるかもしれない。まったく偽りの説明の一例だ。これを言うとき、脳が自由意志の錯覚を生むと論じているが、どう生むかを説明しているのではない。相手の動機を分解して片づけようとしているのだ。だが、その物語では、自由意志の錯覚はただ与えられた事実である。錯覚を分解し、車輪や歯車を見てはいない。

誰もいない森の木についての定番の論争で、まず予期に違いがないと証明し、次に「議論は無意味だと言う人は譲歩したと見なされ、社会的地位を失ったのかもしれない。だから今の私たちには、言葉の意味を争う本能がある」と仮説を立てたとしよう。それは、混乱があると論じること、またはなぜあるかを説明することだ。では、意味を感じるのニューラルネットワークの構造を見よう。これがどう生じるかの説明だ。混乱を、それ自体は混乱していない小さな部分に分解する。違いが分かるだろうか。

認知アルゴリズムについて良い仮説を、あるいは半秒でも整合性を保てる仮説を考え出すのは、哲学的な混乱を反駁するだけより、ずっと難しい。実際、まったく別の技法である。それを覚えておけば、こう言うのも恥ずかしくなくなるはずだ。「あなたの言うことが真ではありえないと分かるし、証明もできる。だが、脳がどうその間違いを生むかを示すフローチャートは書けない。だから、まだ終わっていない。調査を続ける」

こうしたことを言うのは、熟練した合理主義者の実際の有効性の、少なくとも20%は、早く止まりすぎないことから来るように、ときどき思えるからだ。問い続ければ、やがて目的地に着く。早すぎる段階で答えが見つかったと決めれば、着かない。

何より難しいのは、自分が混乱していると気づくことだ。ほんの小さな混乱としか感じられなくても。目の前に、人間には自由意志があると言い張り、あなたに向かってにやにや笑い、あなたが認知アルゴリズムの仕組みを正確には知らないことなど、その人の立場の猛烈な愚かさとは無関係だったとしても……。

だが、認知アルゴリズムを十分詳しく示し、思考過程を一段ずつたどり、一つひとつの直感的な知覚がどう生まれるか記述できるなら、混乱を、それ自体は混乱していない小さな部分に分解できるなら、そのとき仕事は終わる。

だから、ただ勝ち誇って誤りを反駁しただけなのに、終わったと信じてしまうことには警戒してほしい。

だが、本当に終わったなら、終わったと分かる。問いが解きほぐされて消えるのは、一度経験し、もうだまされまいと決意したなら、見まがいようのない感覚だ。夢を見ている者は夢だと知らないが、目覚めれば目覚めていると分かる。

つまり、終われば終わったと分かる。だが残念ながら、逆は成り立たない。

そこで宿題だ。どんな認知アルゴリズムを内側から感じると、観察される「自由意志」をめぐる議論が生じるだろうか。

課題は、人間に自由意志があるかないかを論じることではない。

自由意志は決定論と両立するかどうかを論じることでもない。

問いの立て方が悪い、概念が自己矛盾している、検証可能な帰結がない、と論じることでもない。

自由意志を信じた人がどう子孫を残したかという進化上の説明を作ることでも、自由意志の概念がバイアスXに妙によく合うと説明することでもない。それらは、人が自由意志を信じる理由の説明を試みるだけで、仕組みの説明ではない。

宿題は、人間の心の内部アルゴリズムが、このいまいましい哲学論争全体を動かす直感を生み出す過程の、スタックトレースを書くことだ。

これは、かつて私が合理主義者を志したころ、最初に試した本格的な課題の一つだった。相対的には、比較的簡単な難問である。あなたにも、同じように役立つことを願う。