❦
昨日はゾンビについて6000語を超えるエッセイを午前3時まで書いていたので、今日は少し疲れている。そこで、リチャードに返答し、翌日に気づいた未処理の点を片づけるだけにしよう。
（A）リチャード・チャペルは、こう書いている。
余計な混乱を避けるため、用語について一言。あなたが「考えられる」と呼ぶものを、私たちは単に「一見考えられる」と呼びます。
「まだ矛盾が見えない」と「論理的に可能だ」の間には、あまりに大きな隔たりがある。一見単純な場合でも、その判定はNP完全であることさえある。本当に別の二つの言葉を使うべきだ。この大きな隔たりを小さな用語の違いの下に隠すほど、ゾンビ論は有利になる。だから私は、「考えられる」と「論理的に可能だ」、あるいはさらに目立つ区別を使うのが、本当によいと思う。定着した専門用語を私が選べるわけではないが、こういう場合には、その用語を使うのを本気で拒むかもしれない。
ゾンビ論の擁護者がゾンビ世界を想像して得る種類の情報には「一見考えられる」を使い、完全なモデルや論理的証明を示して確立される種類の情報には「論理的に可能だ」を使おうか。目を閉じてゾンビを想像して得られる情報と、随伴現象説の論証を成り立たせるために必要な情報の、隔たりの大きさに注意してほしい。
つまり、あなたの見解はタイプA唯物論の一種だと位置づけられます。ゾンビは形而上学的に可能どころか、本当の意味で考えることすらできない、という見解です。
タイプA唯物論は、大きな主張の束だ。それぞれの部分に私が賛成するのを確かめるまでは、束全体を私に帰属させるべきではない。「意識とは何か？」と問う人は、正当な問いを発し、洞察を正当に求めている、と私は思う。ただし、その答えが必ず、「これが意識に帰属させるすべての性質を持つもので、その理由はこうだ」という形になるとは思わない。ある程度は、問い方を間違えていたと気づかせる洞察から成るかもしれない。
これは意識について消去主義を取ることではない。（1）何らかの解決があるはずだと思え、（2）解決などありえないとも思え、（3）十分理解されていない、人間の認知の継ぎはぎの構造に大きく依存した仕方で論じられている問題に直面したとき、どんな洞察を期待すべきかについて、現実的になることだ。
（1）私の見る限り、あなたはゾンビ世界の記述に、まだ何の論理的矛盾も指摘していません。少し奇妙だと指摘しただけです。しかし、奇怪な可能世界はいくらでもあります。それは暗黙の矛盾を仮定する理由にはなりません。ですから、その矛盾とやらが何であるはずなのか、私にはまだまったくわかりません。
では、唯物論の立場から、順に説明しよう。
- ゾンビ世界は、定義上、観測可能な現象について「〜によって引き起こされる」「〜の結果である」という関係をたどって得られる閉包に含まれる、私たちの世界のあらゆる部分を含む。とりわけ、私が「我思う、ゆえに我あり」と観測可能な形で言う原因を含む。
- 内なる気づきを、その内なる気づき自身に向けると、ほどなく、内的な語りが「私は内なる気づきを、その内なる気づき自身に向けている」と言うのを経験する。そして、望めばそれを声に出せる。
- 直観的には、内なる気づきが内的な語りに特定のことを言わせ、その内的な語りが唇に特定のことを言わせることができる、と確かに思える。
- 「意識」という言葉に意味があるなら、それは、内なる気づきそのもの、それを引き起こすもの、あるいはそれを持つと私に言わせるものを指している。
- （3）と（4）から、ゾンビ世界が、私の「我思う、ゆえに我あり」という発言の原因について閉じているなら、その世界には、私たちが「意識」と呼ぶものが含まれることになる。
- 定義上、ゾンビ世界には意識は含まれない。
- （3）は経験的に真である確率がかなり高いと、私には思える。したがって、ゾンビ世界が論理的に不可能である経験的確率は高いと評価する。
内的な語りが「我思う、ゆえに我あり」と言う原因を、意識とはまったく別のものにすれば、ゾンビ世界を救うことはできる。意識は存在するという仮定と組み合わせたとき、私に狂っていると思えたのは、この部分だ。
だが、上のことが考えられるなら、ゾンビ世界も考えられるのではないか？
そうではない。二通りのゾンビ世界の構成では、「意識」という言葉に、異なる経験的な指示対象を与えているからだ。私たちの世界の「水」がH2Oを意味し、パトナムの双子地球の「水」がXYZを意味するように。ゾンビ世界が論理的に可能であるためには、経験世界の仕組みについてあなたが知っていた範囲では、「意識」という言葉が、私たちが知る意識とはまったく違う随伴現象を指していたかもしれない、というだけでは足りない。ゾンビ世界に欠けているのは意識であって、「意識」ではない。H2Oのない世界であって、「水」のない世界ではないのだ。「『意識』の意味するものが何であれ、その指示対象を、すべての原子の位置を変えずに私たちの世界から取り除ける」という経験的な主張を成り立たせるには、それが必要である。
つまり、こういう立場だ。「意識」という言葉が実際に指すものを踏まえると、原子を一つも動かさずに意識を取り除くことは論理的に不可能だ。そしてそれは経験的な事実だと考えている。世界から意識ではなく「意識」を取り除くとはどういう意味なのかは、推測しない。
（2）性質二元論の立場では、私たちのクオリアが物理世界ときれいに一致することを「奇跡的」と言うのは誤解を招きます。何しろ、それを保証する自然法則があるのですから。論理的には偶然だが法則によって必然となる、ほかの何か――たとえば物理法則の定数――より奇跡的なわけではありません。
「奇跡的」なのは、自然法則そのものだ。すでに知られていることによって正当化されていないのに、理論へ追加して仮定しなければならない、複雑で確率の低い要素にあたる。（a）意識ある内的世界、（b）何の理由もなく意識について語る、不調な外的世界、（c）その二つが完璧に一致すること、を仮定している。（c）は（a）と（b）からは導かれず、別の仮定なのだ。
「奇跡的」のこの使い方が、自然法則に反するという哲学上の意味と食い違うことには同意する。私が意図したのは、永久機関的な信念のように、確率の低さが明らかな源もなく現れるという意味だった。だから、この文脈での語の選択はまずかった。だが、直観的には、これこそ奇跡と呼ぶべきことではないのか。意識が自分に意識があると言わせる本当の原因ではなく、別の物理的なものがそう言わせるが、そのうえ二つを一致させる法則もある。これは、見た目も外からの振る舞いもクラッカーのままで、実体はキリストの肉になるのと、同じくらい奇妙な出来事だ。ほら、それを保証する自然法則があるだけなのだから。
つまり、ゾンビの、あるいは「外側の」チャーマーズは、発言に意味がないので、実際には何も結論していません。ならばなおさら、根拠なく何かを結論することもありません。ただ音を出しているだけで、鳥のさえずりと同じく、認識論的な評価の対象にはならないのです。
AI設計の立場から見ると、環境と相関する内部の部分を、体系的に磨いていくAIは作れるはずだと思う。相関とは、相互情報量や系統的な関係という意味だ。その内部には、AIが新しい情報――失礼、新しい感覚入力――に出会ったとき、コックスの定理が要求する内部関係に従うので、私なら「確率」と呼ぶような浮動小数点数も含まれるかもしれない。
あなたは言うだろう。AIが単なるトランジスタ以上のものでなければ、二元論的な側面を持たなければ、そのAIには信念がない、と。
これについての私の見解は、「単純な真実」で、かなり明確に述べたと思う。
私には、純粋に物理的な因果性以外の何も持ち出さずに、土地と系統的に対応する地図を作るのは、かなりわかりやすいことに思える。AIがテキサスの地図を出力する。別のAIがそれを持ってテキサスへ飛び、高速道路が対応する位置にあるか調べる。一致すれば「真」とさえずり、不一致なら「偽」とさえずる。これを「テキサスの地図」と呼ぶのを拒んでもよいが、AI自身はやはり「真」「偽」とさえずる。そして、そのAIは、随伴現象的な内なる核を信じるチャーマーズの信念を見れば「偽」とさえずるだろうし、私もそれに賛成する。
現実を地図にする機能が、外側のチャーマーズだけによって果たされているのは明らかだ。信念の表象を作る仕事はすべて、因果的相互作用にあるベイズ的な構造が担う。内側のチャーマーズに残された仕事は、随伴現象的な意味で全体を祝福することだけだ。ここでの「意味」は、地図と土地との系統的な対応や、地図を使って現実を進む能力とは、まったく関係のないものになる。だから、「正確さ」、まして「系統的な正確さ」を語るときには、外側のチャーマーズだけを見て判断できるはずだと思う。
（B）昨日の文章で、次のように書いたとき、仮定を一つ省いていた。
自己改変するAIが、条件Aのもとで「B」と結論する部分、つまり条件Aが真であるたびに記憶へ「B」と書き込む部分を見つけたとしよう。AIがその部分を調べ、より大きな宇宙の中で因果的にどう働くかを確かめ、その部分には系統的に偽の情報を記憶へ書き込む傾向があると判断したなら、バグらしいものを見つけたことになる。AIは、条件Aのもとで信念の集まりに「B」を書き込まないよう、自己改変するだろう。
……
しかし、外側のチャーマーズにも、自分を調べる、反省的に整合したいかなるAIにも、この謎めいた正しさを信じる根拠はありえない。優れたAIの設計は、自分が因果システムとしてどう動くかについて検証可能な理論を持ち、したがって、その因果システムが目標を達成する過程で、どう系統的に正確な信念を生み出すかについても検証可能な理論を持つ、反省的に整合した知性であるべきだと、私は思う。
実際には、ここには追加の仮定が必要だ。「優れたAIの設計」は、少なくとも私が考えていたものは、自分の合理性を部分ごとに判断し、局所的な合理性を確保することで、全体の合理性を確保する、という仮定である。ある部分が、その文脈に対して局所的に、系統的に信頼できないなら、それはバグだ。つまり、考えられる信念「Bi」と条件Aiについて、局所条件Aiのもとで「Bi」を信念の集まりに追加するが、システムの自己検討によれば、局所条件Aiが真のときにBiは真ではない、あるいは確率的信念なら正確ではない、とわかる場合だ。この種のモジュール性は、問題を扱えるものにする方法の一つであり、私が現在、第一世代のAI設計について考えているやり方だ。［2013年追記：ここで実際に念頭に置いていた考えは、現在、『自己改変AIのためのタイリング・エージェント』の第6節で具体化・形式化されている。］
考え方はこうだ。因果的に閉じた認知システム、たとえば、因果的な効力を持つ部分だけを使うようプログラマが設計したAI、自分の働きについての理論がすべて検証可能なAI、あるいは哲学論文を書く外側のチャーマーズが、随伴現象的な内なる自己を持つと信じているなら、何か系統的に信頼できないことをしているはずだ。ゾンビ世界でも同じ結論に達するからだ。すべての部分が、その文脈に対して局所的・系統的に信頼できる心なら、全体としても系統的に信頼できる。したがって、全体として信頼できない心には、少なくとも一つ、局所的に信頼できない部分があるはずだ。だから、自分の局所的な信頼性を調べる、因果的に閉じた認知システムは、随伴現象的な内なる自己の信念を追加する過程の、少なくとも一段階が信頼できないと発見するはずだ。
ゾンビを信じないことのこの証明を避けつつ、心が反省的に整合する別の方法があるなら、哲学者たちにはぜひ、具体的に示してもらいたい。
ここまで明示しなければならないのは、そうしないと、AIが自分に『信頼できない』という判定を決して下せない、ひどく安上がりな反省的整合性が得られてしまうからだ。たとえば、羊を数える文脈で2＋2＝5を計算する部分を見つけても、AIはこう考える。「この部分は故障していて、2＋2＝5と言っている。しかし、まったく偶然にも2＋2は5に等しい。少なくとも自分にはそう思える。だから、系統的には信頼できないようでも、このまま残したほうがよい。変えたら、この特殊な場合を間違えてしまう」。だから私は、局所的で系統的な信頼性を確保して、全体の信頼性を確保すると言うのだ。全体の信念を全体の信念と比べるだけでは、どこにも進めない。
ここには一般的な教訓がある。各段階が局所的に信頼できることによって、議論全体が信頼できると示すこと。議論の結論を自分の直観と比べるだけで済ませないこと。［2013年追記：妥当な論理は局所的に妥当だという事実については、「証明、含意、モデル」の議論を参照。］
（C）匿名の投稿者は書いた。
脇道の話ですが、「n’shama」の語源の説明は間違っていると思います。「聞く」ではなく、「息」を意味する語と関係しています。「聞く」の語根にはアインの文字があり、n’shamaにはありません。
これこそ、奇跡的に誤解を招く偶然だ。N’Shamaという言葉は、まったく別の理由で生まれたのに、内なる聞き手を指していると私に思わせるのに、ぴったりの響きを持っていたのだから。
しまった。