非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

一般化された反ゾンビ原理

The Generalized Anti-Zombie Principle

❦

私が解いた問題は、それぞれ規則となり、その後、別の問題を解くのに役立った。

「ゾンビ」とは、原子一個一個まで私たちと同じで、第三者から見える物理法則もすべて同じものに従うが、意識だけは持たないとされる存在だ。

哲学的な話は複雑だが、ゾンビに反対する核心の議論は単純だ。自分の内的な気づきに、その気づき自体を向けると、ほどなく内的な語り、つまり思考を言葉にする頭の中の小さな声が、「気づいていることに気づいている」と言う。さらにそれを声に出し、キーボードで入力し、第三者にも見えるブログ記事を作る。

意識が何であれ、実体であれ過程であれ、混乱につけた名前であれ、意識は付随しているだけで何も作用しないものではない。心は、内なる聞き手が聞いているところを捉え、そのことを声に出せる。この段落を私が入力したという事実は、少なくとも、意識には実験で検出できる帰結がないという考えを反証するように見える。

哲学上これほど議論のある問いで、「ではこれを認めて先へ進もう」と言うのは気が引ける。だがOvercoming Biasのコメント投稿者は、かなりの多数がこれを認めているようだ。そして、意識を取り除いても宇宙の見かけを完全に同じにはできないと認めなければ、たどり着けない他の結論もある。だから、これを認めて先へ進もう。

反ゾンビ論証の形式は、一般化して反ゾンビ原理にできそうだ。だが、適切な一般化とは何か。

たとえば誰かが、「私の手元のスイッチは、あなたの脳には何の影響も与えない。だが切り替えると、あなたの意識はなくなる」と言ったとしよう。反ゾンビ原理は、同じ構造の議論でこれも退けるだろうか。

この場合、私には答えはイエスに見える。具体的にはこう言える。「そのスイッチを切り替えても、私は以前とまったく同じ理由で意識について話し続ける。いま意識があるなら、切り替えたあとも意識があるだろう」。

哲学者は反論するかもしれない。「それでは、意識と、意識について話すことを同一視している! 意識についての人間の素人の言説を組み替えて吐き出すチャットボット、ゾンビ・マスターはどうなのか?」

だが私は、「意識」と言語行動を同一視したのではない。核心の前提は、「意識」の本当の指示対象が、他の性質に加えて、人間が内なる聞き手について語る原因でもあるということだ。

言葉についてのシークエンスで長々と論じたが、語を定義するとき、いつも完璧なアリストテレス流の必要十分な定義が欲しいわけではない。外延的な指示対象へ導く宝の地図が欲しいだけのこともある。だから「言い表せない気づきについて、実際に私に語らせるもの」は必要十分な定義ではない。だが、その気づきについて私が語る実際の原因が「意識」でないなら……

……その言説は、かなりむなしいものになる。これはゾンビへの決定的な反論ではない。経験的な問いは、語ることの難しさだけで決着しない。だが、反ゾンビ原理に逆らおうとすれば、言説のもっともらしさだけでなく、その意味にも問題を抱えることになる。

「意識」を「人間に『意識』について実際に語らせるもの」と定義できるだろうか。それなら、この語が少なくとも一つの実在する事実を指す保証が得られるという、大きな利点がある。意識への信念が混乱でも、その混乱を生んだ認知構造の名前になる。だが定義とは、語を一貫して使う約束にすぎない。内的な気づきが、それについて語る原因なのか、といった経験的な問いは決着しない。

意識を消すスイッチに戻ろう。

反ゾンビ論証がこのスイッチにも当てはまると認めるなら、一般化された反ゾンビ原理は、「原理的に実験で検出可能(IPED)でない変化は、意識を取り除けない」とだけ言うのではない。スイッチを切り替えたことは実験で検出できるが、それでも意識が消えるとは、極めて考えにくい。

では、「あなたにIPEDな影響を与えない変化は、意識を取り除けない」ということだろうか。

だが、スイッチを切り替えてもIPEDな影響が一切ない、という設定は妥当か。スイッチの粒子はすべて、体と脳の粒子と相互作用している。重力の影響は小さいが実在し、IPEDである。10メートル先の1グラムのスイッチからの引力は、約6 × 10−16 m/s2だ。毎秒毎秒、中性子の直径の半分ほどで、熱雑音よりはるかに小さいが、プランクの水準よりはずっと大きい。

何光年も離れた場所でスイッチを切り替えれば、あなたへの即時の因果的影響はなくなる。この場合の「即時」が何を意味するにせよ、物理の標準模型が正しければ、だ。

だが、思考実験をそう変更する必要があるとは思えない。部屋の向こうで、つながっていないスイッチが切り替わったからといって、内なる聞き手が明かりのように消えるとは予想すべきでない。内なる聞き手について語る本当の原因を、そのスイッチは「明らかに変えない」からだ。本当の自分が何であれ、スイッチがそれを壊すとは思わない。

これは大きな一歩だ。

妥当な一歩だと認めないなら、もうスイッチには近づかないほうがよい。それでも、これは大きな一歩だ。

還元主義の中心的な考えは、私たちの宇宙の地図は計算量を節約するため多階層だが、物理は厳密に一層であるようだ、ということだ。宇宙についてのあらゆる言説では、基本粒子の水準をはるかに超える指示を使っている。

スイッチの切り替えは、体と脳の基本粒子を確かに変える。本来あったはずの位置から、中性子の直径まるまる何個分もの距離だけ、ずらすのだ。

日常生活では、これほど小さな変化は「影響しない」とまとめてしまう。だが実際には影響する。すべてを中性子の直径まるまる何個分も変えるのだ! 何が同じままでいられるのか。細胞、タンパク質、神経軸索を走るスパイクといった、高い水準の組織化についての記述だけだ。地図は現地よりずっと粗いので、多くの異なる状態を同じ記述へ対応づけるはずである。

ニューロンや活動パターンを語る、妥当な人間的な脳の記述は、部屋の向こうでスイッチを切り替えても変わらない。軸索や樹状突起を構成する個々の微小管の配置まで語ってもそうだ。原子核は中性子より大きく、原子は原子核より大きい。分子を語る水準まで来れば、そのわずかな重力は、わざわざ追跡するものの一覧から消えている。

だが、小さな重力を十分足し合わせれば、やがてあなたを部屋の向こうへ引きずり、潮汐力で引き裂くだろう。だから小さな影響は、明らかに「まったく影響がない」ことではない。

もしかすると、その小さな引力の潮汐力が、驚くべき偶然によって、一個の余分なカルシウムイオンをイオンチャネルへほんの少し近づける。取り込まれるのがわずかに早まり、一つのニューロンがごくわずかに早く発火し、その差がカオス的に増幅され、本来はなかった神経スパイクがついに生じる。別の思考の流れに入り、それがてんかん発作を起こし、あなたを死なせ、意識を失わせる……。

小さな量的影響をたくさん足せば、大きな量的影響になる。あなたが名指すどんなものも壊せるほど大きくなる。だから、気にかけているものへのスイッチの影響が文字どおりゼロだと言うのは、言いすぎだ。

だがスイッチ一つなら、その力は量子的な不確実性はさておき、熱的な不確実性よりもはるかに小さい。熱運動で意識が現れたり消えたりするとは思わないのなら、1キロ先のくしゃみで明かりのように消えるとも、決して予想すべきでない。

注意深いベイズ主義者なら、いま私が論じたのは、何が意識を消せるか消せないかについての、予想、知識の状態、正当化された信念だと気づくだろう。

これで反ゾンビ論証が必ず崩れるわけではない。確率は確実なことではないが、確率の法則は定理である。合理性が、現在の情報では信じてはいけないと告げるなら、それは提案ではなく法則だ。

それでも、この版の反ゾンビ論証は弱い。「原子をすべてまったく同じ場所に置いたまま意識を除くことはできない」という、明快で完全に割り切れた立場ではない。(「すべての原子」は「原理的に実験で検出できる効果を持つすべての原因」、「同じ場所」は「同じ波動関数」などと置き換えてもよい。)

だが新しい版も、なお成り立つ。こう言える。「意識が本当は何かはわからず、問い自体を根本的に取り違えているのかもしれない。だがこの語が何かを指すなら、それは、他の性質に加えて、私が意識について語る原因である何かを指す。なぜ意識について語るかは知らないが、頭蓋骨の中で起きていて、ニューロンの発火に関係すると思う。本当に意識を理解するなら、微小管や、シナプス間隙を拡散する神経伝達物質のように、もっと基礎的な水準を語る必要があるのかもしれない。それでも、いま切り替えたスイッチが私の神経伝達物質や微小管に与える影響は、310ケルビンの熱雑音よりずっと小さい。意識について語る本当の原因が何でも、そのスイッチの引力で大きく影響されるとは思わない。ごく微小な影響ならあるかもしれない。だが明かりのように消えることは決してない。私はそのあとも、ほとんどまったく同じ理由で、ほとんどまったく同じように意識について話すだろう」。

反ゾンビ原理のこの適用は弱い。だが、ずっと一般的でもある。そして普通の常識として、正しい。

実は、還元主義者と実体二元論者では、先ほどの言い方に二つの異なる版がある。還元主義者はさらにこう言う。「意識について語らせるものが何であれ、重要な部分は原子核よりずっと高い機能の水準で起きていそうだ。意識を理解する人は、個々のニューロンの発火を捨象して高次の認知構造を語り、それでも心が『我思う、ゆえに我あり』という思考をどう生むか記述できるだろう。だから、核子の直径ほど物をずらしても、意識に影響はないはずだ。極めて小さな確率で、またはごくわずかに、あるいはかなり時間がたってからなら、別かもしれないが」。

実体二元論者はさらにこう言う。「意識について語らせるものが何であれ、それは既知の計算的な物理を超えるもののはずだ。だから、量子的な効果に関わっている可能性は十分ある。それでも、1キロ先で誰かがくしゃみをするたびに意識がついたり消えたりはしない。そうなら気づくはずだ。数秒飛ばしたようになったり、全身麻酔から覚めたようになったり、ときどき『我思わず、ゆえに我なし』と言ったりするだろう。熱振動は自分の気づきをなすものを乱さないという物理的事実があるのだから、スイッチを切り替えても乱れないと予想する」。

どちらにせよ、誰かが「アブラカダブラ」と言って、脳にごく微小な物理的影響があっても、気づきの感覚が消えるとは予想すべきでない――。

だが待ってほしい! その人が「アブラカダブラ」と言うのを聞けば、脳には非常にはっきりした影響がある。脳自身にも気づけるほど大きい。内的な語りが変わり、「なぜ今アブラカダブラと言ったのだろう」と考えるかもしれない。

まあ、それでもやはり、そのあともほとんど同じ理由で、ほとんど同じように意識について語り続けると予想するだろう。

繰り返すが、「意識」を「意識について語らせるもの」と同一視しているのではない。意識には、他の性質に加えて、意識について語らせる働きがあるというだけだ。だから、意識を明かりのように消すものは、意識について語ることも止めるはずだ。

何かをされても、それがどうやって内的な語りを変えうるのか、まったく見当がつかないなら、それで意識がなくなるはずもない。内的な語りとは、ときに「我思う、ゆえに我あり」などと言い、その言葉を声に出すことも選べる、頭の中の小さな声のことだ。

内的な語りが「大体同じ」で、その原因も大体同じ、という場合でさえこれは成り立つ。その大体同じ原因の中に、「意識」という言葉で意味しているものが含まれているからだ。

この話がどこへ向かい、なぜ一見自明な一般化された反ゾンビ原理をこれほど長々と考えるのが大切なのか、疑問なら、次の議論を考えてほしい。

アルバート:「頭の中のニューロンを全部、同じ接続、同じ局所的な入出力の振る舞い、対応する内部状態と学習規則を持つ、小さなロボットの人工ニューロンに置き換えたとしよう」。

バーニス:「それでは私を殺している! もう意識のある存在はいなくなる」。

チャールズ:「意識のある存在は残るだろうが、それは私ではない」。

ロジャー・ペンローズ卿:「その思考実験は不可能だ。量子重力を利用せずにニューロンの振る舞いを複製することはできない。そういうわけで、この会話にこれ以上参加する意味はあまりない」。(立ち去る。)

アルバート:「置換は一個ずつ行われ、あまりに速いので全体の処理には差が生じないとしよう」。

バーニス:「そんなことがどうして可能なの?」

アルバート:「小さなロボットがニューロンへ泳ぎ寄り、囲み、走査して、複製を学び、一つのスパイクから次のスパイクまでの間に、突然振る舞いを引き継ぐ。模倣はあまりにうまく、外から見た行動は脳をそのままにした場合と同じになる。完全に同じでないかもしれないが、因果的影響は310ケルビンの熱雑音よりずっと小さい」。

チャールズ:「それがどうした?」

アルバート:「それなら君たちの信念は、一般化された反ゾンビ原理に違反しないか? 何が起きたにせよ、内的な語りは変わっていない! 以前とまったく同じ理由で意識について話すだろう」。

バーニス:「そのロボットたちがゾンビ・マスターなのよ。私に意識がなくても、意識について語らせる。実験で検出可能なゾンビ・マスターが追加されるなら、ゾンビ世界は可能だわ。そのロボットこそそれなのだから」。

チャールズ:「それは違うよ、バーニス。ロボットは意識を偽装する計画を立てたり、素人の書いた文章集を処理したりしていない。炭素の代わりにシリコンで、ニューロンと同じことをしている」。

アルバート:「待て、それなら私に同意したのでは?」

チャールズ:「新しい人に意識がないとは言っていない。私ではないと言ったんだ」。

アルバート:「明らかに反ゾンビ原理は、この操作では私というものを語る真の原因も乱されていない、と一般化できるだろう」。

チャールズ:「いや! その操作は、意識について語る真の原因を確かに乱した。別の原因、ロボットで置き換えたんだ。新しい原因にも意識があり、同じ一般化された理由で意識について語るからといって、元からあったのと同じ原因ではない」。

アルバート:「でもロボットへの置換を、君に知らせる必要さえない。君は気づかないだろう。内省の証拠から、重要な意味で五分前と『同じ人』だと考えているとしよう。私が何かしても、君に得られる内省の証拠が変わらないなら、五分前と同じ人だという結論も、同じだけ正当化されるはずだ。一般化された反ゾンビ原理によれば、意識が変わるようなことをすれば、ましてまったく別の人に変えるなら、何らかの形で気づくはずではないか?」

バーニス:「ゾンビ・マスターで置き換えたら違う。気づく人がいないもの」。

チャールズ:「内省は完全ではない。脳の中には、気づかないことがたくさん起きている」。

アルバート:「意識と同一性について、因果的な働きを持たない随伴的な事実を仮定している!」

バーニス:「そんなことない! ニューロンとロボットの差は実験で検出できる」。

チャールズ:「そんなことない! 昔の私が新しい人に置き換わる瞬間は、実験で検出できる」。

アルバート:「そうとも、スイッチの切り替えだって検出できる! だが検出しているものは、意識や人格の同一性を語る真の原因に、気づける差を生まないものだ。その証拠に、そのあともまったく同じように話すだろう」。

バーニス:「それはロボットのゾンビ・マスターのせいよ!」

チャールズ:「二人の人が似た理由で『人格の同一性』について語るからといって、同じ人にはならない」。

私は、一般化された反ゾンビ原理はアルバートの立場を支持すると思うが、その理由は今後のエッセイまで待たねばならない。他にも前提が必要だし、この記事はもう長すぎる。

だが、「反ゾンビ論証は、どこまで一般化しても妥当であり続けるか」という問いの重要性は、わかっただろう。

未来の銀河文明の構成は、その答えによって決まるかもしれない……。

René Descartes, Discours de la Méthode, vol. 45 (Librairie des Bibliophiles, 1887). ↩︎