❦
ダニエル・デネットは「想像されていないゾンビの途方もなさ」で、こう言っている。1
これまで何人かの哲学者が、論点先取をしないゾンビ擁護を提示せよという私の挑戦を受ける、と告げてきた。だが、いまのところ目にした唯一のものは、「論理的に可能」だが途方もない存在を仮定するものだ。ネッド・ブロックの巨大ルックアップテーブルという空想の末裔である……。
プログラマーの言葉で「巨大ルックアップテーブル」とは、関数を、入力と出力の巨大な表として実装することだ。普通は、実行時の計算を省くために使う。プログラムが1から100の二つの入力の積を必要とするなら、関数を呼ぶたび計算する乗算アルゴリズムを書くか、項目が1万個、添字が二つの巨大な表を、あらかじめ計算しておける。乗算ではなくても、実際にそうしたい場合はある。その関数を何度も再利用し、可能な入力があまり多くない場合や、初期化時には計算時間が安く、実行時には非常に高くつく場合だ。
巨大ルックアップテーブルは、たちまち巨大になる。語彙850語のベーシック英語だけを使い、一発言10語、発言20回の会話をすべて収めたGLUTなら、7.6 × 10585個の項目が必要だ。
ある細かなデジタル化の方式に従い、人間の脳を、ありうる感覚入力と運動出力すべての巨大ルックアップテーブルに置き換えるには、とんでもなく大量の記憶容量が要る。だが哲学者の好きな「原理的には」、可能なのだ。
GLUTは、微視的な物理構造が人間と違うので、古典的な意味のゾンビではない。（実はGLUTは、人間と同じ物理法則では本当には動かせない。宇宙に収まらないほど大きいからだ。哲学上の目的のため、ここは無視して、無限の記憶容量を仮定しよう。）
だがGLUTは、そもそもゾンビなのだろうか？ つまり、意識がないのに、人間とまったく同じように振る舞うのか？
GLUT化された身体の舌は、意識について語る。指は哲学論文を書く。頭蓋骨の中をのぞかなければ、あらゆる点で人間そっくりに見える……。確かに、正当なゾンビの例に見える。人間そっくりに振る舞うが、中には誰もいないのだ。
ただし、GLUTに意識があるなら話は別で、その場合は正当な例ではない。
GLUTに意識があると主張する人を、私は一人も見た覚えがない。（もっとも、この分野を専門家並みに読んでいるわけではない。遠慮なく訂正してほしい。）機能主義者だ、と非難される人々でさえ——なんと恐ろしい！——GLUTに意識がありうるとは主張しない。
意識とは単に入出力パターンであると言って、内部で何が起こるかという厄介な問題を全部片づけようとする人にとって、GLUTは帰謬法になる。
では、一般化された反ゾンビ原理（GAZP）は、巨大ルックアップテーブル（GLUT）について何と言うだろう？
一見、GLUTはまさにゾンビ操り師の典型に思える。意識がなく、独立して付け加えられ、検出可能な体系が、ゾンビを動かし、別の理由で意識について語らせているのだ。
GLUTの中には、入力を表で探し、出力を取り出す、ごく単純なコンピュータープログラムがあるだけだ。こんな場合、「単純なプログラム」とさえ言いすぎだ。GLUTはCPUよりROMに近い。切り替えられるレールの列を通って、あらかじめ積んでおいた球が転がり出て、受け皿に入る仕組みと言ってもよい。それだけだ。GLUTのすることは、それがすべてだ。
「ゾンビの倫理的扱いを求める人々」（PETZ）の広報担当が答える。「ああ、それは機械論に反対する人がみんな言うことでは？ 脳の中を見ても、神経伝達物質がイオンチャネルを開いているだけだ、と。イオンチャネルに意識が持てるなら、レバーや、箱へ転がる球に持てないのはなぜですか？」
機能主義者が返す。「問題はレバーではない。GLUTのレバーの配置の仕方が違うことだ。たとえば、信念についての信念を形成したり、自己モデルを作ったりすることを実装するレバーが必要なんだ。いや、計算の中で時間が過ぎるためだけにさえ、記憶へ書き込む能力が必要だ。Haskellで意識ある存在をプログラムできると思うのでない限りね」
PETZの広報担当が言う。「それはわかりません。ただ、いわゆるこのゾンビは意識について哲学論文を書いている。それが意識からでないなら、論文はどこから来るんですか？」
よい質問だ！ 深く考えてみよう。
物理学には「エネルギーを追え」というゲームがある。リチャード・ファインマンの父は、幼いリチャードとこのゲームをした。
父が話しそうなことだった。「何がそれを動かすんだい？ 何でも動くのは、太陽が輝いているからだ」。それから楽しく議論する。
「違うよ、おもちゃが動くのはゼンマイが巻いてあるからだ」と僕が言う。「ゼンマイはどうやって巻かれたんだい？」と父が聞く。
「僕が巻いた」
「じゃあ、お前はどうして動けたんだ？」
「食べたから」
「そして、食べ物が育つのも、太陽が輝いているからだけだ。だから、こうしたものが全部動くのは、太陽が輝いているからなんだ」。こうして、運動とは単に太陽の力の変換なのだ、という概念が伝わる。2
少し大きくなると、エネルギーは保存され、作られも消されもしないと学ぶ。だから、エネルギーを使い果たすという考えは、あまり意味をなさない。総量は決して変えられないのに、どんな意味で使うのだろう？
そこで、成長した物理学者は「ネゲントロピーを追え」という新しいゲームを学ぶ。実際には、ずっとしていたのと同じゲームだ。ただ、規則はより数学的で、ゲームはもっと役に立ち、原理を概念としてつかむのは難しくなる。
合理主義者は「起こりにくさを追え」という、「どうしてわかるの？」の大人版を学ぶ。規則は、ありそうにない信念の一つひとつには、それを正当化する同等の量の証拠が必要だということだ。（このゲームの規則は、「ネゲントロピーを追え」と驚くほどよく似ている。）
この規則を誰かが破れば、議論のどこかに、ある量の起こりにくさが無から現れる箇所が見つかる。これは、たとえば車輪や歯車を巧みに組み合わせて、いつまでも動き続けるという設計と、同じくらい問題の徴候なのだ。
誰かが来て言う。「小惑星帯に、幅1フィートで、全部チョコレートケーキでできた物体があると、揺るぎなく信じている。そんなものは不可能だと証明はできないだろう」。だが、何らかの証拠に触れていないなら、正しい信念が自然に生まれるのは、ひどくありそうにない。だから、その人は証拠を示せるか、さもなければ信念は真にはならない。「でも、たまたま正しい信念が私の心に自然に生まれることが、不可能だとは証明できない！」。確かにできない。だがその自然発生は、たとえば割れた卵が元に戻るのと同じように、ひどくありそうにない。
「起こりにくさを追え」では、可能な仮説の空間を絞るだけの証拠を得ていないのに、特定の仮説を話題にすることさえ、ひどく疑わしい。同じくらいもっともらしい、ほかの1デシリオンの仮説に、なぜ同じだけ時間を割かないのか？ 仮説空間から「小惑星帯のチョコレートケーキ」を見つけるには、十分な証拠が要る。なければ、「小惑星帯に木製の整理だんすがある」「空飛ぶスパゲッティ・モンスターが私のスニーカーに吐いた」など、ほかの1兆の候補より時間を割く理由はない。
このゲームでは、それに見合う量の証拠をすでに持たずに、大きく複雑で具体的な仮説を、無から引き出してはいけない。純粋な偶然で、真の仮説を自発的に論じ始められると考えるのは、現実的ではないからだ。
哲学者が言う。「このゾンビの頭蓋骨の中には、ある人間の脳のすべての入出力を記した巨大ルックアップテーブルがある」。これは非常に大きな起こりにくさだ。だから、こう問う。「このありそうにない出来事は、どう起きたのか？ GLUTはどこから来たのか？」
さて、これは哲学の思考実験の標準的な手続きではない。標準的な手続きでは、「光に乗っているとしよう……」などと、物理的可能性も、まして単なる起こりにくさも気にせず仮定してよい。だが今回は、GLUTの起源が重要だ。だから、その問いを動機づける「起こりにくさはどこから来たのか？」を理解することが大切なのだ。
明らかな答えは、人間の脳の計算上の仕様を取り、それを使って、巨大ルックアップテーブルを事前計算したというものだ。（その結果、数えきれないグーゴルもの人間を作り出す。その一部は激痛を受け、大多数は、入力と出力が無関係な混沌の宇宙で、すっかり正気を失う。だが倫理など知るものか、哲学のためだ。）
この場合、GLUTが意識について論文を書いているのは、意識あるアルゴリズムのためなのだ。GLUTはゾンビではない。小さな家電にすぎないのに意識について語れるからといって、携帯電話がゾンビにならないのと同じだ。携帯電話は、回線の向こうにいる人の哲学的な話を伝えているだけだ。もとは人間の脳の仕様から生成したGLUTも、同じことをしている。
「わかった」と哲学者は言う。「GLUTは無作為に生成され、ある参照用の人間と同じ入出力関係を、たまたま持っているのだ」
正確には、どう無作為に生成したのか？
「真の乱数源、量子装置を使った」
だが量子装置が実装するのは、「両方に分岐せよ」という命令だけだ。量子乱数源から1ビット生成すると、決定論的な結果として、宇宙の分岐の一群、つまり局所的につながった振幅の雲は1を見て、別の一群は0を見る。4回行えば、16組の宇宙ができる。
だから実際には、GLUTサイズの0と1の列をすべて書き出して、とんでもなく巨大な表の箱に入れ、手を差し入れて、どういうわけか人間の脳の仕様に対応するGLUTを引き出した、と言うのと同じだ。起こりにくさは、どこから来たのか？
これが単なる偶然でなかったなら——たまたまでなく、設計どおりに人間に対応するGLUTを取り出す、箱へ手を入れる関数があったなら——その関数にはおそらく意識があり、GLUTはまたも、ゾンビでなく携帯電話になる。一段ではなく二段を介して人間につながっているが、それでも携帯電話だ！ 起こりにくさの源を隠そうとは、なかなかやるではないか！
さあ、「起こりにくさを追え」がどこへ導いたか見てほしい。この身体の舌が内なる聞き手について話す源は、どこか？ 意識は表の中にはない。可能な表を大量に作る工場にもない。意識があったのは、すでに作られたある一つの表を指して「それを使え！」と言った、何かの中なのだ。
なぜこのゲームを導入したか、わかるだろう。普通、人と話すときは、頭蓋骨の中にあるものが、何であれ「意識のある場所」だと考えがちだ。このゲームをして初めて、自分たちの会話の本当の源は、その会話の起こりにくさを生じさせたものだと気づける。時間や空間をどれほど隔てていても。太陽がゼンマイ仕掛けのおもちゃを動かすように。
「違う、違う！」と哲学者は言う。「思考実験では、たくさんのGLUTを無作為に生成してから、意識あるアルゴリズムで人間らしいものを一つ選ぶのではない！ 想像を絶する巨大な箱に手を入れ、純粋な偶然によって、人間の脳と入出力が同じGLUTを引き出す、と指定しているのだ！ どうだ！ 今度こそ追い詰めたぞ！ これ以上、起こりにくさは追えないだろう！」
なるほど。では、その指定が、ここでの起こりにくさの源だ。
もう一度このゲームをすると、私たちは思考実験の外へ出て、哲学者を見ることになる。
広大な可能性の空間から、意識について語るその一つのGLUTを指し示すものは、いまや……この場面全体を想像せよと求める、意識ある人だ。そして、「『内なる聞き手について話して』に、このGLUTは何と答えるか？」と想像するとき、その空白を埋める私たち自身の脳でもある。
この話の教訓は、「意識」をめぐる言説をさかのぼると、たいてい意識が見つかるということだ。いつも目の前にあるとは限らず、ときには非常に巧妙に隠されている。だが、そこにある。それゆえ、一般化された反ゾンビ原理なのだ。
人間の素人による「意識」の話を処理して組み直すチャットボットの形をした、ゾンビ操り師がいるなら、元のテキスト群を作った人間には意識がある。
いつかあなたが意識を理解し、振り返って、それ自体は意識を持たずに、人間そっくりの混乱した哲学的言説を出力するプログラムを書けるとわかったとしよう。そのとき、「このプログラムは、どうして人間に似た話し方をするようになったのか？」と尋ねれば、答えは、ほかの何かとの類似ではなく、意識ある人間との類似を基準にして、あなたがそう書いたからだ。それで小さなゾンビ操り師に意識があることにはならない。だが、因果の鎖をさかのぼれば、宇宙のどこかに意識を見つけられるということにはなる。つまり、完全なゾンビ世界にいるわけではない。
だが、誰かが実際にGLUTの箱に手を入れ、本当に純粋な偶然で哲学論文を書くGLUTを取り出したなら？
その場合、意識はないだろう。私のささやかな意見では。
つまり、入出力以外にも、何かがなければならないのだ。
そうでなければ、GLUTにさえ意識があることになるだろう？
ああ、それから、この話が私の本業とどう関係するのか、気になる人へ……。
この仕事では、任意に生成された強力なAIは「道徳的」だと思う人に、実によく出会う。なぜそうなのか、「道徳的」で何を意味するのかは、彼ら同士でも一致しない。だが友好的AIの理論は不要だという点では、全員一致する。任意に生成されたAIがどうやって道徳的な出力をするのか尋ねると、自分が「道徳的」と思うことについて、AIに向けた手の込んだ合理化を差し出す。そこにはさまざまな問題があるが、一番の問題はこうだ。「あなたと違って、AIはあなたが何を合理化してほしいかを最初から知らない。それなのに、人間の道徳を論じるためにあなたが考え出したのと同じ思考の道筋を、AIもたどると確信しているのか？」。対抗する原則は、「意思決定の情報を追え」などと呼べるだろう。巨大な可能性の空間からAIの設計をどう選んだかを教えてくれれば、ありそうにないほど親切なことをするAIを説明できる。それ以外では、起こりにくさを無から取り出している。合理化した前提をさらに合理化するにつれ、ますます厚く偽装されるとしても。
だから私はすでに、「起こりにくさを追え」を使って自分で作った、一連のエッセイを書いている。だが、そのときはまだ熱力学のエッセイを書いていなかったので、規則を明示的に述べなかった……。
ちょっと言っておこうと思っただけだ。私のエッセイの多くに、友好的AIの理論の議論に驚くほど関係する考えが、たまたま含まれているとは、驚くべきことだ……。偶然を信じるなら、だが。