❦
ダニエル・デネットは「想像されなかったゾンビの不条理さ」で次のように言う。1
今日までに、私が投げかけた、論点先取りではないゾンビ擁護を提示せよという挑戦を受けるつもりだと、何人かの哲学者が私に言ってきた。しかし、これまでに私が見た唯一のものは、「論理的に可能」だが空想的な存在——ネッド・ブロックの巨大ルックアップテーブルという空想の子孫——を仮定するものだ……
プログラマの言い方で、巨大ルックアップテーブルとは、通常は実行時の計算を節約するため、関数を入力と出力の巨大な表として実装することである。私のプログラムが1から100までの二入力の積を知る必要があるなら、関数が呼ばれるたびに計算する乗法アルゴリズムを書けるし、10,000個の項目と二つの索引を持つ巨大ルックアップテーブルを事前計算しておくこともできる。乗法ではそうしないが、これを本当にしたい場合もある。関数を何度も再利用し、可能な入力がそれほど多くないときや、初期化中はクロックサイクルが安いが、実行中は非常に高いときである。
巨大ルックアップテーブルは、あっという間に極めて大きくなる。850語のベーシック英語だけを使い、一発言を10語、20手の可能な会話すべてを収めるGLUTには、7.6 × 10585個の項目が必要である。
人間の脳を、あらゆる可能な感覚入力と運動出力（何らかの細粒度デジタル化方式に対応するもの）の巨大ルックアップテーブルで置き換えるには、不合理なほど大量のメモリ記憶容量が必要になる。しかし、哲学者が好んで言うように、「原理上」は実行できる。
GLUTはミクロな物理的構成が人間と異なるため、古典的な意味でのゾンビではない。（実際、GLUTは人間と同じ物理法則のもとで本当に動くことはできない。大きすぎて私たちの宇宙に収まらないからだ。哲学上の目的にはこれを無視し、無制限のメモリ記憶容量が供給されると仮定しよう。）
しかしGLUTはそもそもゾンビなのか？ つまり、意識がないのに、人間とまったく同じように振る舞うのか？
GLUT化された身体の舌は意識について語る。その指は哲学論文を書く。頭蓋骨の中をのぞき込まない限り、GLUTはあらゆる点で人間と同じに見える……それはたしかにゾンビの妥当な例に思える。人間と同じように振る舞うが、家には誰もいないのだ。
GLUTに意識があるなら別だが、その場合には妥当な例ではない。
GLUTに意識があると誰かが主張したのを見た記憶は一度もない。（認めよう、この領域での私の読書は専門家水準に達していない。間違いがあれば遠慮なく訂正してほしい。）（息をのむようなことに！）機能主義者だと非難される人々ですら、GLUTに意識がありうるとは主張しない。
GLUTは、意識がたんに入出力パターンであると示唆し、それによって内部で何が起こっているかという厄介な心配をすべて片づける者に対する、帰謬的反証である。
では、一般化反ゾンビ原理（GAZP）は、巨大ルックアップテーブル（GLUT）について何と言うのか？
一見したところ、GLUTはゾンビ・マスターのまさに原型——ゾンビを動かし、異なる理由から意識について語らせる、別個で、追加の、検出可能な、意識のないシステム——のように思える。
GLUTの内部には、入力を照合して出力を取り出す、極めて単純なコンピュータ・プログラムしかない。この場合、「単純なコンピュータ・プログラム」と語ることさえ大げさである。GLUTはCPUよりROMに近い。予め蓄えられた堆積から球が転がり出て、樋へ入る、切り替え式の軌道の連なりと言っても同じである——それだけ。それがGLUTのするすべてである。
ゾンビの倫理的扱いを求める人々の代表はこう応じる。「あら、それはあらゆる反機械論者が言うことでしょう？ 脳の中を見ると、イオンチャネルを開く神経伝達物質の集まりが見つかるだけ、というやつ？ イオンチャネルに意識がありうるなら、レバーや容器へ転がり込む球になぜ意識がありえないの？」
「問題はレバーそのものではない」と機能主義者は答える。「問題は、GLUTのレバーが間違ったパターンをしていることだ。たとえば、信念についての信念の形成や、自己モデル化といったことを実装するレバーが必要なんだ……まったく、計算の時間を進めるだけのためにも、メモリへ何かを書き込む能力が必要だ。Haskellで意識ある存在をプログラムできると思うなら話は別だが」
「それはわからない」とPETZの代表は言う。「私にわかるのは、このいわゆるゾンビが意識についての哲学論文を書くということだけ。意識からでないなら、これらの哲学論文はどこから来るの？」
良い問いだ！ 深く考えよう。
物理学には「エネルギーをたどれ」というゲームがある。リチャード・ファインマンの父は、幼いリチャードとそのゲームをした。
父が話しそうなことは、こんなものだった。「何がそれを動かしているんだ？ 太陽が照っているから、何もかも動くんだ」。それから、私たちは楽しく話し合った。
「違うよ、おもちゃが動くのはぜんまいが巻かれているからだ」と私は言う。「ぜんまいはどうして巻かれたんだ？」と父は聞く。
「僕が巻いた」
「じゃあ、お前はどうやって動いたんだ？」
「食べたから」
「そして食べ物が育つのは、太陽が照っているからだけだ。だから、これらすべてが動いているのは、太陽が照っているからだ」。そのようにして、運動はたんに太陽の力の変換だという概念が伝わった。2
もう少し大きくなると、エネルギーは保存され、決して生成されたり消滅されたりしないと学ぶ。それゆえ、エネルギーを使い果たすという概念はあまり意味をなさない。エネルギーの総量を変えることは決してできないのに、どの意味でそれを使っているのか？
そこで物理学者は大人になると、「ネゲントロピーをたどれ」という新しいゲームを学ぶ。これは本当は、それまでずっと遊んできたのと同じゲームである。ただし規則はより数学的で、ゲームはより役に立ち、原理は概念的に理解するのがより難しい。
合理主義者は、「起こりにくさをたどれ」という、「どうして知っているの？」の大人版のゲームを学ぶ。合理主義者のゲームの規則は、あらゆる起こりそうにない信念には、それを正当化する同等量の証拠が必要であるというものだ。（このゲームの規則は、「ネゲントロピーをたどれ」と驚くほどよく似ている。）
誰かが合理主義者のゲームの規則に違反するたびに、その論証のどこかに起こりにくさの量が無から現れる場所を見つけられる。それは、たとえば巧妙に連結された車輪と歯車で自己を永久に動かし続ける設計と同じくらい、問題の徴候である。
ある人がやって来て、こう言う。「小惑星帯に、幅一フィートで、全体がチョコレートケーキでできた物体があると、揺るぎない永続的信仰によって信じている。これが不可能だとあなたは証明できない」。だが、その人がこの信念のための何らかの証拠にアクセスできたのでない限り、正しい信念が自発的に形成されることは、きわめて起こりそうにない。したがって、その人が証拠を指し示せるか、そうでなければその信念は真にはならない。「しかし、私の心がたまたま正しい信念を自発的に生み出すことが不可能だと、あなたは証明できない！」。そのとおり。だがその種の自発的生成は、たとえばスクランブルエッグがひとりでに元の卵に戻ることと同じくらい、きわめて起こりそうにない。
「起こりにくさをたどれ」では、特定の仮説について語ることさえ、可能な仮説の空間を絞り込めるだけの証拠を得ていなければきわめて疑わしい。同じくらいもっともらしい、10の33乗個のほかの仮説に、なぜ同じ発言時間を与えないのか？ 仮説空間の中で「小惑星帯のチョコレートケーキ」仮説を見つけるには、十分な証拠が必要である。そうでなければ、「小惑星帯に木製の整理箪笥がある」や「空飛ぶスパゲッティ・モンスターが私のスニーカーに吐いた」という一兆個の候補より、それに多くの発言時間を与える理由がない。
「起こりにくさをたどれ」では、対応する量の証拠をすでに持っていない限り、何もないところから大きく複雑で具体的な仮説を取り出すことは許されない。真の仮説に純粋な偶然で自発的に言及し始められると仮定することは、現実的ではないからだ。
哲学者が言う。「このゾンビの頭蓋骨の中には、ある人間の脳のすべての入力と出力を収めた巨大ルックアップテーブルがある」。これは非常に大きな起こりにくさである。そこで、こう問う。「この起こりそうにない出来事はどうやって起こったのか？ GLUTはどこから来たのか？」
さて、これは思考実験の標準的な哲学的手続きではない。標準的な哲学的手続きでは、たんなる起こりそうになさはおろか、物理的可能性すら心配せず、「光線に乗っているとしよう……」のようなものを仮定することが許される。しかしこの場合、GLUTの起源は重要である。それが、「起こりにくさはどこから来たのか？」という動機となる問いを理解することが重要な理由である。
明らかな答えは、人間の脳の計算仕様を用意し、それを使って巨大ルックアップテーブルを事前計算した、というものである。（それによって、数えきれないぐーゴル個の人間が生み出される。そのうちの一部は極度の苦痛の中にあり、圧倒的多数は入力と出力が無関係な混沌の宇宙ですっかり狂っている。だが倫理など知ったことか、これは哲学のためなのだ。）
この場合、GLUTは意識あるアルゴリズムが原因で、意識についての論文を実際に書いている。携帯電話が小さな民生電子機器にすぎないのに意識について語れるからといってゾンビでないのと同じくらい、GLUTもゾンビではない。携帯電話は、たまたま回線の反対側にいる人からの哲学講演を伝送しているだけである。元は人間の脳の仕様から生成されたGLUTも、同じことをしている。
「わかった」と哲学者は言う。「GLUTは無作為に生成され、ある基準人間と同じ入出力関係をたまたま持っているだけだ」
正確には、GLUTをどのように無作為生成したのか？
「真の乱数源——量子デバイス——を使った」
しかし量子デバイスは、「両方へ分岐せよ」という命令を実装するだけである。量子乱数源から一ビットを生成すると、決定論的な結果は、宇宙の分岐（局所的につながった振幅雲）の一群が1を見、別の宇宙群が0を見ることである。4回行えば、16個の（集合の）宇宙が作られる。
だから実際、これは次のように言うのと同じである。本当にとてつもなく大きなルックアップテーブルの容器に、GLUTと同じ長さの可能な0と1の列すべてを書き下した。そして容器に手を入れ、人間の脳の仕様にたまたま対応するGLUTをなぜか引き出した。起こりにくさはどこから来たのか？
なぜなら、これがたんなる偶然ではなかったのなら——偶然だけでなく、設計によって人間対応のGLUTを引き出す、容器へ手を入れる関数を持っていたのなら——その関数にはおそらく意識がある。したがってGLUTはまたも、ゾンビではなく携帯電話になる。人間と一つ隔ててではなく、二つ隔ててつながっているが、それでも携帯電話である！ そこで起こりにくさの源を隠そうとは、惜しかった！
さて、「起こりにくさをたどれ」が私たちをどこまで導いたかを見てほしい。この身体の舌が内なる聞き手について語ることの源は、どこにあるのか？ 意識はルックアップテーブルにはない。可能なルックアップテーブルを大量に製造する工場にもない。意識は、すでに製造された中の特定の一つのルックアップテーブルを指し示して、「それを使え！」と言った何かの中にあった。
私がなぜ「起こりにくさをたどれ」というゲームを導入したか、わかるだろう。普通、人と話すとき、頭蓋骨の中にある何かが「意識のある場所」に違いないと考えがちである。しかし「起こりにくさをたどれ」を遊んで初めて、私たちの会話の真の源は、その会話の起こりにくさを生じさせたものだと気づける。それが時間的または空間的にどれほど遠くにあろうとも、太陽がぜんまい式おもちゃを動かすのと同じである。
「違う、違う！」と哲学者は言う。「思考実験の中では、彼らは大量のGLUTを無作為に生成し、そのあとで意識あるアルゴリズムを使って人間らしく見えるGLUTを一つ選んでいるのではない！ この思考実験では、私が指定しているんだ——彼らが想像を絶するほど巨大なGLUTの容器へ手を入れ、純粋な偶然で人間の脳の入出力と同一のGLUTを引き出す、と！ どうだ！ 今度こそ追い詰めた！ これ以上「起こりにくさをたどれ」は遊べない！」
おや。つまり、あなたの指定が、ここでの起こりにくさの源なのか。
再び「起こりにくさをたどれ」を行うと、私たちは思考実験の外側に到達し、哲学者を見つめる。
広大な可能性空間の中から、意識について語る一つのGLUTを指し示すものは今……このシナリオ全体を想像するよう私たちに求める、意識ある人である。そして、「『内なる聞き手について語れ』に対して、このGLUTは何と言うだろう？」と想像するときに空欄を埋める、私たち自身の脳である。
この物語の教訓は、「意識」についての談義をさかのぼれば、通常は意識を見つけるということである。常に目の前にあるわけではない。時には非常に巧妙に隠されている。しかし、そこにある。それゆえの一般化反ゾンビ原理である。
「意識」についての人間の素人談義を処理し、リミックスするチャットボットという形でゾンビ・マスターがいるなら、元のテキスト・コーパスを生成した人間には意識がある。
いつかあなたが意識を理解し、振り返って、それ自体に意識はないのに人間に酷似した響きの、混乱した哲学談義を出力するプログラムを書けると気づいたとする。すると、「このプログラムはどうして人間に似た響きになったのか？」と私が問ったとき、答えは、あなたがそれを、ほかの何かとの類似性を基準に選ぶ代わりに、意識ある人間に似た響きになるよう書いたからだ、というものになる。これは、あなたの小さなゾンビ・マスターに意識があることを意味しない。しかし、因果の連鎖をさかのぼることで、宇宙のどこかに意識を見つけられることは意味する。したがって、私たちは完全にゾンビ世界の中にいるのではない。
しかし、誰かが本当にGLUTの容器へ手を入れ、純然たる偶然で哲学論文を書くGLUTを引き出したとしよう。
そうなら、それに意識はないだろう。卑見では。
つまり、入力と出力以上の何かが必ずあるはずなのだ。
そうでなければGLUTでさえ意識を持つことになる。そうだろう？
おっと、この種のことが私の本業とどう関わるのか、気になっている人たちへ……
この仕事では、任意に生成された強力なAIは「道徳的」になると考える人に実にたくさん出会う。彼らは、なぜそうなのか、または「道徳的」という言葉で何を意味するかについて、互いに合意できない。しかし、友好的AI（Friendly AI）理論に取り組むことは不要だという点では皆が合意している。そして、任意に生成されたAIがどうして道徳的な出力を生じるのかと問うと、彼らは「道徳的」と見なすものについて、AIに向けた手込んだ合理化を提示する。それにはあらゆる種類の問題があるが、一番の問題は次のものである。「AIが、人間の道徳を擁護するためにあなたが考案したのと同じ思考の筋道に従うと、本当に確信しているのか？ あなたとは異なり、AIは、あなたが何を合理化させたいかを知った状態から始まらないのに」。この対抗原理を「意思決定情報をたどれ」などと呼べるだろう。AIが起こりそうにないほど親切なことをする理由は、可能性の巨大な空間からそのAIの設計をどう選んだかを説明すれば明らかにできる。しかしそうでなければ、その起こりにくさは無から引き出されている——合理化された前提が次々と合理化されるにつれ、ますます厚く偽装されてはいるが。
こうして私はすでに、「起こりにくさをたどれ」を使って一連のエッセイ全体を書いており、それは私自身が生成したものである。しかし当時は、規則を明示的に書き下さなかった。まだ熱力学のエッセイを書いていなかったからである……
ただ言っておこうと思っただけである。偶然を信じるのなら、私のエッセイのうち、友好的AI理論の議論に驚くほど関連する考えを、たまたま含むことが後で判明するものの多さに驚かされる。