Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

一般化反ゾンビ原理

The Generalized Anti-Zombie Principle

私が解いた各問題は、その後、ほかの問題を解くのに役立つ規則になった。

ゾンビ」とは、原子一つひとつまで私たちと同一で、第三者から見える同じ物理法則すべてに支配されるが、意識だけを持たないとされる存在である。

哲学は複雑だが、ゾンビへの中心的な論証は単純である。内なる気づきを自分の内なる気づきに集中すると、そのすぐ後に内的語り(思考を語る頭の中の小さな声)が「私は気づいていることに気づいている」と言う。そのあとで、あなたは声に出してそう言い、そのあとでコンピュータのキーボードに入力し、第三者から見えるブログ投稿を作る。

意識は、実体であれ、プロセスであれ、混乱の名称であれ、それが何であろうと随伴現象的ではない。心は、内なる聞き手が聞いている現場を捕らえ、それを声に出して言える。私がこの段落を入力したという事実は、意識には実験で検出できる帰結がないという考えを反証するように、少なくとも思える

これほど哲学的に論争的な問いについて、「では今、これを受け入れて先へ進もう」と言うのは気が引ける。しかし、Overcoming Biasのコメント投稿者のかなりの多数は、これを受け入れているように思える。それに、意識を差し引いても宇宙は完全に同じ姿のままだとはできないことを受け入れて初めて到達できる、ほかの結論もある。だから今は、これを受け入れて先へ進もう。

反ゾンビ論証の形式は、一般化されて反ゾンビ原理になるはずのように思える。だが、正しい一般化とは何だろう?

例えば、誰かがこう言ったとしよう。「私の手にはスイッチがある。これはあなたの脳にいかなる影響も及ぼさない。そして、このスイッチが切り替えられると、あなたは意識を失う」。反ゾンビ原理は、同じ論証構造で、これも排除するだろうか?

私には、上の場合の答えはイエスに思える。具体的には、こう言える。「あなたがスイッチを切り替えたあとも、私は以前とまったく同じ理由から意識について語り続ける。今この瞬間に私に意識があるなら、スイッチを切り替えたあとも意識がある」。

哲学者は異議を唱えるかもしれない。「しかし今、あなたは意識を、意識について語ることと同一視している! ゾンビ・マスター、すなわち意識についての人間の素人談義コーパスをリミックスして吐き出すチャットボットはどうなるんだ?」

しかし私は、「意識」を言語行動と同一視してはいない。中心的な前提は、ほかのことに加えて、「意識」の真の指示対象同時に、内なる聞き手について語る人間における原因であるということだ。

私が言葉についてのシークエンスで(かなり長く)論じたように、言葉を定義するときに求めるものは、必ずしも完璧なアリストテレス的な必要十分定義ではない。時には、外延的指示対象へ導く宝の地図だけがほしい。したがって、「言葉にできない気づきについて私に実際に語らせるもの」が、必要十分定義なのではない。だが、言葉にできない気づきについて私に語らせるものが実際に「意識」でないのなら……

……そうなら、談義はかなり無益になる。これはゾンビに対する決定的な論証ではない。経験的な問いは、談義の難しさだけで決着できないからだ。しかし反ゾンビ原理に逆らおうとするなら、談義のもっともらしさだけでなく、その意味に問題が生じる。

「意識」という言葉を「実際に人間に『意識』について語らせるもの」と意味するように定義できるだろうか? これには、「意識」という言葉が名づける現実の事実が少なくとも一つあることを保証するという強力な利点がある。私たちの意識への信念が混乱だとしても、「意識」はその混乱を生成した認知アーキテクチャを名づけるだろう。だが、定義を確立することは、一つの言葉を一貫して使うと約束することにすぎない。内なる気づきが、内なる気づきについて私たちに語らせるかどうかといった経験的問いに決着をつけるものではない。

オフ・スイッチに戻ろう。

反ゾンビ論証がオフ・スイッチにも適用されると認めるなら、一般化反ゾンビ原理は次のことだけを言うのではない。「原理上、実験で検出可能(iped)でないいかなる変化も、あなたの意識を除去できない」。スイッチが切り替わることは実験で検出可能だが、それが意識を除去することはきわめて起こりそうにない。

ひょっとすると反ゾンビ原理が言うのは、「あなたにいかなるipedの方法でも影響しない変化は、あなたの意識を除去できない」だろうか?

しかし、スイッチを切り替えることが、いかなるipedの方法でもあなたに影響しないと仮定するのは合理的だろうか? スイッチのすべての粒子は、あなたの身体と脳を構成する粒子と相互作用している。重力の影響がある——ごく小さいが、実在し、ipedである。距離10メートルにある1グラムのスイッチからの重力加速度は6 × 10−16 m/s2である。これは毎秒、毎秒、中性子の直径の半分ほどで、熱雑音をはるかに下回るが、プランク・レベルをはるかに上回る。

数光年離れた場所でスイッチを切り替えることもできる。その場合、切り替えはあなたに直接の因果的影響を与えない(この場合、「直接」が何を意味するにせよ)(物理学の標準モデルが正しければ)。

しかし、このように思考実験を変える必要があるようには思えない。部屋の反対側で接続されていないスイッチが切り替わっても、内なる聞き手が灯りのように消えると期待すべきではないように思える。スイッチは、内なる聞き手について語る真の原因を「明らかに変えない」からだ。あなたが本当はどんなものであれ、スイッチがそれを乱すとは期待しない。

これは大きな一歩である。

それが合理的な一歩であることを否定するなら、二度とスイッチに近づかないほうがよい。それでも、これは大きな一歩である。

還元主義の中心的な考えは、宇宙についての私たちの地図は計算力を節約するために多階層になっているが、物理は厳密に一階層であるように思える、ということだ。宇宙についての私たちの談義はすべて、基本粒子の水準をはるかに上回る指示を用いて行われる。

スイッチの切り替えは、あなたの身体と脳の基本粒子を実際に変える。それがなければ粒子があった場所から、中性子の直径ひとつ分まるごと押しやるのである。

日常生活では、スイッチは「あなたに影響しない」と言って、これほど小さな変化をおおまかに扱う。しかしスイッチは、あなたに影響する。すべてを中性子の直径ひとつ分まるごと変えるのだ! いったい何が同じままでありえるのか? それは、細胞、タンパク質、神経軸索を伝わるスパイクといった、より高い組織化水準についてあなたが与える記述だけである。地図は領土よりはるかに詳細でないため、多くの異なる状態を同じ記述に対応づけねばならない。

ニューロンと活動パターン(あるいは軸索と樹状突起を構成する個々の微小管の配座さえ)について語る、いかにも人間らしい合理的な脳の記述も、部屋の反対側でスイッチを切り替えたときには変わらない。原子核は中性子より大きく、原子は原子核より大きい。そして分子水準を語るところまで上がれば、そのごく微小な重力は、わざわざ追跡するものの一覧から消えている。

しかし、ごく小さな重力を十分な数だけ足し合わせれば、やがてあなたを部屋の反対側まで引きずり、潮汐力で引き裂く。したがって、小さな影響は「影響がまったくない」ことと同じではないのは明らかである。

ひょっとすると、そのごく小さな引力による潮汐力が、驚くべき偶然によって、追加のカルシウムイオン一つをイオンチャネルにごくわずかに近づけるかもしれない。するとそれはごくわずかに早く引き込まれ、ニューロン一つがそうでない場合より無限小だけ早く発火し、その差がカオス的に増幅され、最後にはそうでなければ起こらなかった完全な神経スパイクが起こる。それが別の思考の流れへあなたを送り出し、てんかん発作を引き起こし、あなたを死なせ、意識を失わせる……

微小な定量的影響を多数足し合わせれば、大きな定量的影響——名前を挙げたいかなるものでも狂わせるほど大きな影響——が得られる。したがって、スイッチが自分の大切なものに文字どおりゼロの影響しか与えないと主張するのは、行き過ぎである。

しかしスイッチが一つだけなら、その及ぼす力は量子的不確定性はおろか、熱的不確定性よりもはるかに小さい。熱振動の結果、意識が現れたり消えたりすると期待しないなら、1キロメートル離れたところで誰かがくしゃみをしたとき、灯りのように消えることなど間違いなく期待すべきではない。

注意深いベイズ主義者なら、私がたった今、あなたの意識をオフにできるものとできないものについての予想知識の状態、正当化された信念について論証したことに気づくだろう。

これは必ずしも反ゾンビ論証を破壊しない。確率は確実性ではないが、確率の法則は定理である。現在の情報のもとで何かを信じることはできないと合理性が言うのなら、それは提案ではなく、法則である。

それでも、反ゾンビ論証のこの版は弱い。「すべての原子をまったく同じ場所に残したまま、意識を除去するなど絶対にできない」という、見事で、明瞭で、完全に白黒がついた地位は持っていない。(または「すべての原子」の代わりに「原理上実験で検出できる効果を持つすべての原因」を、「同じ場所」の代わりに「同じ波動関数」を入れる、など。)

しかし、反ゾンビ論証の新しい版もなお成り立つ。こう言える。「意識が本当は何なのか、私にはわからないし、この問いについて根本的に混乱しているかもしれないと思っている。しかしその言葉が何かを指すのなら、それはほかのことに加えて、私が意識について語る原因である何かを指す。さて、私がなぜ意識について語るのか、私にはわからない。しかしそれは頭蓋骨の内側で起こり、ニューロンの発火と関係があるだろうと期待している。あるいは、本当に意識を理解したなら、それよりさらに基礎的な水準、たとえば微小管や、シナプス間隙を拡散する神経伝達物質について語らねばならないかもしれない。しかしそれでも、あなたがたった今切り替えたスイッチが私の神経伝達物質と微小管に及ぼす影響は、310ケルビンの熱雑音よりはるかに、はるかに小さい。だから、私が意識について語る真の原因が何であれ、それがスイッチからの重力によって大幅に影響されるとは期待しない。ひょっとすると、ごくわずかな無限小ぶんだけ影響されるかもしれないのか? しかし、灯りのように消えることは絶対にない。そのあとも意識について、ほとんどまったく同じ方法で、ほとんどまったく同じ理由から語り続けると期待する」。

反ゾンビ原理のこの適用は弱い。しかし、はるかに一般的でもある。そして、純然たる常識の観点から、正しい。

還元主義者と実体二元論者は実は、上の言明の異なる二つの版を持っている。還元主義者はさらにこう言う。「意識について私に語らせるものが何であれ、重要な部分は原子核よりはるかに高い機能水準で起こるらしい。意識を理解した人なら、個々のニューロンの発火から抽象化し、高水準の認知アーキテクチャについて語っても、私の心が『我思う、ゆえに我あり』のような思考を生み出す方法をなお記述できるだろう。だから、核子の直径ぶんだけ物を押しやることが、私の意識に影響するはずはない(ごく小さな確率では影響するか、ごくわずかな量だけ影響するか、さもなければかなり遅れたあとで影響するという場合を除く)」。

実体二元論者はさらにこう言う。「意識について私に語らせるものが何であれ、それは私たちの知る計算物理を超えたものでなければならず、それは量子効果を含むかもしれないということだ。しかしそれでも、私の意識は1キロメートル離れたところで誰かがくしゃみをするたびに点いたり消えたりはしない。もしそうなら、私は気づくだろう。何秒か分が飛んだような、全身麻酔から覚めたような、あるいは時々『私は思わない、ゆえに私はいない』と言うようなものだろう。だから、熱振動が私の気づきの実体を乱さないことは物理的事実なのだから、スイッチを切り替えることがそれを乱すとも期待しない」。

どちらにせよ、誰かが「アブラカダブラ」と言ったとき、あなたの脳に何らかの無限小の物理的影響が生じるとしても、気づきの感覚が消えるとは期待すべきではない——

しかし待ってほしい! 誰かが「アブラカダブラ」と言うのを聞いたなら、それは脳に非常に目立つ影響を与える——脳そのものですら気づけるほど大きな影響である。内的語りを変えるかもしれない。あなたは「あの人はなぜたった今『アブラカダブラ』と言ったんだ?」と思うかもしれない。

そう、しかしそれでも、そのあとも意識について、ほとんどまったく同じ方法で、ほとんどまったく同じ理由から語り続けると期待する。

そして改めて言えば、「意識」が「意識についてあなたに語らせるもの」と同一視されているのではない。ただ、意識はほかのことに加えて、意識についてあなたに語らせるのである。したがって、あなたの意識を灯りのように消すものは何であれ、意識について語ることをやめさせるはずである。

私たちがあなたに何かをするとして、それがいったいどうすれば内的語り——時々「我思う、ゆえに我あり」のようなことを言う頭の中の小さな声で、その言葉を声に出すかどうかはあなたが選べる——を変えうるのか、あなたにわからないなら、それはあなたの意識を失わせるはずがない。

そしてこれは、内的語りがただ「ほぼ同じ」で、その原因もほぼ同じである場合でさえ真である。ほぼ同じである原因の中には、「意識」であなたが意味するものが含まれる。

ここまでの話がどこへ向かうのか、および、これほど明らかに思える一般化反ゾンビ原理をこれほど念入りに熟考することがなぜ重要なのかを不思議に思っているなら、次の論争を考えてほしい。

アルバート:「あなたの頭にあるニューロンすべてを、同じ接続、同じ局所的な入出力行動、類似した内部状態と学習規則を持つ、小さなロボット式人工ニューロンで置き換えたとしよう」

バーニス:「それは私を殺すことだ! そこにはもう意識ある存在はいない」

チャールズ:「いや、そこに意識ある存在はまだいるけれど、それはではない」

ロジャー・ペンローズ卿:「あなたの提案する思考実験は不可能だ。量子重力を利用せずにニューロンの振る舞いを複製することはできない。とはいえ、私がこの会話にこれ以上加わる意味はあまりない」 (立ち去る。)

アルバート:「置換をニューロン一つずつ行い、入れ替えがあまりに速いため、大域的処理には何の違いも生じないとしよう」

バーニス:「どうしてそんなことが可能なの?」

アルバート:「小さなロボットがニューロンまで泳いで行き、それを包み、スキャンし、複製する方法を学び、そのあと、あるスパイクと次のスパイクの間で、突然その振る舞いを引き継ぐ。実際、模倣はあまりに良くできているので、外向きの振る舞いは脳を乱さずに残した場合とまったく同じだ。完全に同じではないかもしれないが、因果的影響は310ケルビンの熱雑音よりはるかに小さい」

チャールズ:「だから何だ?」

アルバート:「だったら、あなたたちの信念は一般化反ゾンビ原理に違反していないか? たった今何が起こったにせよ、あなたの内的語りは変わっていない! あなたは以前とまったく同じ理由から、意識について語りながら生活していく」

バーニス:「その小さなロボットたちはゾンビ・マスターよ。私に意識がないのに、意識について私に語らせる。追加で、余分で、実験で検出できるゾンビ・マスターの存在を認めるなら、ゾンビ世界は可能になる——そのロボットたちが、そのゾンビ・マスターなのよ

チャールズ:「ああ、それは違うよ、バーニス。小さなロボットたちは意識を偽造する方法を密謀したり、人間の素人から集めたテキストのコーパスを処理したりしているんじゃない。ニューロンと同じことをしている。ただし炭素ではなくシリコンでね」

アルバート:「待って、たった今私に同意したんじゃないのか?」

チャールズ:「新しい人に意識がないなんて、私は一言も言っていない。それはではないと言ったんだ」

アルバート:「いや、反ゾンビ原理を一般化すれば、この操作が、そのというものについてあなたに語らせる真の原因を乱していないと言えるのは明らかだ」

チャールズ:「違うね! あなたの操作は、意識について私に語らせる真の原因を間違いなく乱した。その代わりに、ロボットという異なる原因を据えた。その新しい原因が、たまたま意識があるからといって——同じ一般化された理由から意識について語るからといって——それが元々そこにあった同じ原因であることにはならない」

アルバート:「しかし、ロボットによる操作のことをあなたに教える必要さえない。あなたは気づかないだろう。内省による証拠に基づき、自分は重要な意味で五分前と『同じ人』だと考えているとする。そして私が、あなたに使える内省による証拠を変えない何かをするとする。すると、自分は五分前と同じ人だというあなたの結論は、同じだけ正当化されるはずだ。一般化反ゾンビ原理が言うのは、私があなたの意識を改変する何か、いわんやあなたを完全に異なる人にする何かをすれば、あなたは何らかの方法で気づくはずだということじゃないか?」

バーニス:「私をゾンビ・マスターで置き換えるなら話は別よ。そのときそこには、気づくが誰もいない」

チャールズ:「内省は完璧じゃない。私が気づかないことは脳の中でたくさん起こっている」

アルバート:「あなたたちは、意識と同一性について随伴現象的な事実を仮定している!」

バーニス:「そんなことしていない! ニューロンとロボットの違いは実験で検出できるわ」

チャールズ:「私もそんなことしていない! 古い私が新しい人で置き換わる瞬間は実験で検出できる」

アルバート:「ああ、そして私はスイッチが切り替わるのを検出できる! あなたたちが検出しているのは、目立つ違いを生じさせない何かだ。それが作用する先、つまり意識と人格の同一性についての談義の真の原因に対してはね。その証拠は、そのあとも同じように語るということだ」

バーニス:「それはあなたのロボット式ゾンビ・マスターがいるからよ!」

チャールズ:「二人の人が似た理由で『人格の同一性』について語るからといって、二人が同じ人になるわけじゃない」

一般化反ゾンビ原理はアルバートの立場を支持すると私は思う。しかしその理由は、将来のエッセイまで待たねばならない。ほかの前提が必要であり、それにこのエッセイはすでに長すぎる。

しかし、「反ゾンビ論証をどこまで一般化しても、なお妥当であり続けるか?」という問いの重要性はわかっただろう。

未来の銀河文明の構成は、その答えによって決まるかもしれない……

René Descartes, Discours de la Méthode, vol. 45 (Librairie des Bibliophiles, 1887). ↩︎