❦
知能爆発について講演するとき、私は日常生活に現れる「知能の尺度」を、しばしば次のようなグラフに描く。
しかし、これは知能についてかなり偏狭な見方である。たしかに日常生活では、他の人間とのみ社会的に関わる——偉大なゲームで仲間となるのは他の人間だけだ——だから、私たちが心と心を通わせる知能は、「村の愚か者」から「アインシュタイン」までの範囲に限られる。しかし、人工知能や合理性の理論的最適値について語るため本当に必要なのは、次の知能尺度である。
私たち人間には、知能の尺度が、下端の「村の愚か者」から上端の「アインシュタイン」まで続くように思える。しかし、脳設計の空間では、「村の愚か者」から「アインシュタイン」までの距離は小さい。アインシュタインにも村の愚か者にも、前頭前皮質、海馬、小脳がある……。
アインシュタインには、村の愚か者と比べて小さな遺伝的差異、エンジンの微調整があったかもしれない。しかし、アインシュタインと村の愚か者の脳設計距離は、村の愚か者とチンパンジーの脳設計距離には遠く及ばない。チンパンジーにはアインシュタインと村の愚か者の違いがわからないだろうし、私たちの子孫にも大した違いは見えないかもしれない。
カール・シュルマンは、トランスヒューマニズムについて語る学者の中には、次のような知能尺度を使っているように見える者がいると指摘した。
ダグラス・ホフスタッターは、2006年のシンギュラリティ・サミットで、実際にこれに似たことを言った。彼は「村の愚か者」の隣に「アインシュタイン」を示した私の図を見て、「これは間違っているように思う。アインシュタインはずっと右に置くべきだと思う」と言った。
私は言葉を失った。とりわけ、相手が私の子ども時代の英雄の一人、ダグラス・ホフスタッターだったからだ。そこには、存在するとは想像さえしなかった文化的隔たりが現れていた。
というのも、私にとって尺度の右側にあるのは、木星脳だった。アインシュタインの脳は文字どおり惑星ほどの大きさだったわけではない。
尺度の右側には、〈深い思考〉がいる。チェス選手ではなく、ダグラス・アダムズによる元祖のほうだ。このコンピューターはあまりに知的であり、途方もないデータバンクを接続するより前、初めて電源を入れたときにも、我思う、ゆえに我ありから出発し、誰かが停止に成功するまでにライスプディングと所得税の存在を演繹するところまで進んだ。
尺度の右側には、アリシアの長老たち、銀河規模の超心、マトリョーシカ脳、そしてより上等な種類の神がいるだろう。尺度の極端な右端には、〈古きもの〉と〈荒廃〉がいる。
アインシュタインなんかではない。
アインシュタインが人間として非常に賢かったことは間違いない。〈汎用システム船〉は、その賢さをとても可愛らしいと思うだろう。
私がこれを「文化的隔たり」と呼ぶのは、木星脳という概念を十二歳で知ったからである。
もちろん、これはすべて虚構の証拠から一般化する論理的誤謬である。
しかしこれは、論理的誤謬であるか否かにかかわらず、SFを読むことが未来研究に有益な効果を持つのではないかと私が考える理由の一例である。自分の世界の外にある世界を虚構を通じて知ることの代わりが、完全に一つの時代に囚われた思考様式である場合がある。人間が存在し、昔からずっと存在し、これからも永遠に存在する世界だ。
宇宙は137億歳なのだぞ！ ホモ・サピエンス・サピエンスが存在するようになってからは、十万年かそこらにすぎない！
もっとも、SFを一度も読まないのに、自分の世界の外を想像できるように見える人にも会ったことがある。そして、SFファンでも要点を理解しない者はいる。それが何なのかわかれば、瓶詰めにしたいところだ。
前の論考で、私は証拠の効率的利用について語りたかった。すなわち、アインシュタインは人間としては可愛らしかったが、絶対的な意味での効率は米国国防総省と同程度だった、ということだ。
そこで、何千人ものアインシュタインを擁し、何十年も思考する文明について語らなければならなかった。箱の中でウェブカメラを見るベイズ的超知能をただ描いただけなら、人々は「しかし……二次元画像をどう解釈すればよいと、どうしてわかるのか？」と考えるだろうからだ。「ベイズ的超知能」と呼ばれていても、単なる機械の立場へ自分自身を置かないだろう。ビットの格子を見ることで何を抽出できるかという問題に、自分自身の創造性さえ適用しないだろう。
それは箱の中の幽霊であり、たまたま「ベイズ的超知能」と呼ばれているだけになる。ウェブカメラからの入力をどう解釈するか、幽霊は何も教えられていない。だから彼らの心的モデルでは、幽霊は知らない。
一つのベイズ的超知能が「そのすべて」を行えると仮定するのが現実的か、という点については……すなわち、私が問題へ初めて腰を据え、物語を進行とともに書いているあいだに思いついたことだが……。
こう言えばよいだろう。重要な洞察を得る経験に五分を超えてかからないなら、理論上、一か月あたり5,760個の洞察を得る時間がある、とジェフリー先生が指摘したことを覚えているだろうか？ 一日八時間眠り、睡眠中には重要な洞察を得ないと仮定して、だが。
人間は自分自身をこれほど効率的に使えない。しかし人間は、科学研究という課題に適応していない。人間は、サバンナで鹿を追いかけ、槍を投げて仕留め、調理し、そして——おそらく、これが脳の大半を使う部分なのだが——肉の取り分をもっと多く受け取る資格が自分にあると巧みに論じることへ適応している。
アルベルト・アインシュタインが、そのような脳を物理学という課題へ転用できたのは驚異的である。これは拍手に値する。拍手以上に、ギネス世界記録へ載るに値する。ゼリーだけで作られた史上最速の自動車を、見事に組み立てるようなものだ。
盲目の愚かな神（進化）は、人間の脳を実際にどれほどひどく設計したのか？
これは、認知科学を深く学び続け、完全な恐怖が見え始めて初めて理解できることである。
ここで論じたすべてのバイアスが、少なくとも手がかりにはなるはずだ。
同様に、人間の脳が紙と鉛筆なしに三桁の数を二つ掛け合わせるため、何兆ものシナプスを発火させ、全能力と全注意力を使わなければならないという事実も手がかりになる。
アインシュタインが感覚データを効率的に利用しなかったのと同じく、その脳もニューロンの発火を効率的に利用しなかった。
もちろん、私がこのすべてを述べるのには、ある下心がある。しかし同時に、何年も前、私が合理主義者になろうと志したとき、私を鼓舞した、到達不可能で不可能な知能の理想は、決してアインシュタインではなかったことも理解してほしい。
カール・シュルツは言った。
理想は星のようなものである。手を伸ばして触れることには成功しないだろう。しかし、水の荒野を行く船乗りのように、それを導きとして選び、従えば、運命の地へ到達する。
こうして今、私の子ども時代の偉大な模範の一つ——AIについての私の夢——を、あなたは垣間見た。もちろん夢にすぎず、現実は利用できなかった。昔、私はその夢へ手を伸ばした。
そして、それはいくらか私を助け、いくらか私を害した。
理想の中には夢のようなものもある。それは外からではなく、私たちの内側から来る。アリシアのメンターは、E・E・「ドク」・スミスの想像力から生まれたのであり、実在物から生まれたのではない。ベイズ的超知能が何を言うか想像しても、語っているのは自分の心にすぎない。外部から従える星とは違う。自分の理想がどこにあるか推測しなければならず、推測を誤れば道を外れる。
だが、自分の理想を単なる星、実在した単なる人間に限定してはならない。とりわけ、自分より五十年以上前に生まれ、すでに死んでいる人間に限定してはならない。後に続く世代はどれも、よりよくやる機会を持つ。理想を人間だけ、特に死者だけで構成することは、すでに成し遂げられたことへ自分を制限することだ。あなたは自問するだろう。「アインシュタインにもできなかったことを、私はあえて行うのか？ これは不敬罪ではないか？」だが、アインシュタインが座り込んで「ニュートンよりうまくやってよいのか？」と自問していたなら、彼は到達した場所へ至れなかっただろう。これが星に従うことの問題である。最善でも、その星へ到達するだけだ。
あなたの時代は、無意識の前提や、さりげなく改善された思考の技術を通じ、自分が思う以上にあなたを支えている。アインシュタインは好ましい人物だったが、非人格的な神について大量の戯言を語った。それは、自分の分野より高い抽象化の階層で、注意深く考える技芸をどれほど理解していたかを示す。アインシュタインと比較する想像上の銀河的超心を少なくとも一つ持ち、彼が知能尺度の右端でなくなれば、そう考えることは冒瀆らしくなくなるかもしれない。
人間に可能と思えることだけを行おうとすれば、自分へ要求するものが少なすぎる。より高く、不都合な目標へ手を伸ばすことを想像すると、それが「不可能」である都合のよい理由が、すべて直ちに思い浮かぶ。
最も重要な模範は夢である。それは私たち自身の内側から来る。自分が完全だと考えるものに満たない何かを夢見ることは、自分の中で夢を見る部分が持つ力を、すべて使わないことだ。