❦
知能爆発について講義するとき、私はよく、日常生活に見える「知能の尺度」を図にする。
だがこれは、知能に対するかなり狭い見方だ。確かに、日常生活で社会的に関わるのはほかの人間だけで、この大きなゲームの相手になるのも人間だけだ。だから、私たちが心を通わせる知性は、村の愚か者からアインシュタインまでの範囲に限られる。だが、人工知能や合理性の理論上の最適値について話すのに本当に必要なのは、こちらの知能の尺度だ。
私たち人間には、知能の尺度は下端の「村の愚か者」から上端の「アインシュタイン」までのように見える。だが脳の設計の空間では、両者の距離はごく小さい。アインシュタインにも村の愚か者にも、前頭前皮質、海馬、小脳がある……。
アインシュタインには、村の愚か者とは少し違う遺伝子、エンジンの微調整があるのかもしれない。だが二人の脳設計上の距離は、村の愚か者とチンパンジーの脳設計上の距離とは、まったく比べものにならない。チンパンジーには二人の違いはわからないだろうし、私たちの子孫にも、大きな違いは見えないかもしれない。
カール・シュルマンは、トランスヒューマニズムを論じる一部の学者が、次のような知能の尺度を使っているようだと指摘した。
ダグラス・ホフスタッターは実際に、2006年のシンギュラリティ・サミットで、これに似たことを言った。「村の愚か者」を「アインシュタイン」の隣に置いた私の図を見て、「それは違うと思う。アインシュタインは、はるか右のほうに置くべきじゃないか」と言ったのだ。
私は言葉を失った。とくに、相手がダグラス・ホフスタッター、子どものころのヒーローの一人だったからだ。そこには、存在するとも想像していなかった文化の隔たりが現れていた。
というのも、私にとって尺度の右側にあるのは、木星規模の脳だった。アインシュタインは、文字どおり惑星ほどの大きさの脳を持っていたわけではない。
尺度の右側にはディープ・ソートがいる。ダグラス・アダムズの原作のほうだ。チェスをするやつではないので、念のため。途方もないデータバンクを接続する前、初めてスイッチを入れられたときに、我思う、ゆえに我ありから出発し、誰かが止めるまでにライスプディングと所得税の存在を導き出してしまった、あの途方もなく賢いコンピューターだ。
尺度の右側には、アリシアの長老たち、銀河規模の超精神、マトリョーシカ・ブレイン、もっと上等な神々がいる。いちばん右端には、オールド・ワンとブライトがいる。
アインシュタインなんかじゃ断じてない。
アインシュタインは、人間としてはとても賢かったに違いない。汎用システム船（General Systems Vehicle）なら、それをとてもかわいらしいと思うに違いない。
これを「文化の隔たり」と呼ぶのは、私は12歳で木星規模の脳という概念に出会ったからだ。
もちろん、これらはすべて、架空の証拠から一般化するという論理的誤謬だ。
だが、論理的誤謬であろうとなかろうと、SFを読むことは未来を考えるのに役立つのではないかと思う理由の、一例ではある。自分の世界の外を、物語を通して知ることの代わりが、ある一つの時代に完全に閉じ込められたものの見方になってしまう場合もある。人間が存在し、いつも存在してきて、いつまでも存在し続ける世界、という見方に。
みなさん、宇宙は137億歳なのだ！ ホモ・サピエンス・サピエンスが登場してからは、せいぜい10万年ほどしかたっていない！
とはいえ、SFを読んだことがなくても、自分の世界の外を想像できるように見える人にも会った。逆に、わかっていないSFファンもいる。その感覚の正体が何なのかわかったら、瓶に詰めておけるのに。
前のエッセイでは、証拠を効率よく使うことについて話したかった。つまり、アインシュタインは人間としてはかわいらしくても、絶対的には、その効率はアメリカ国防総省くらいだった、ということだ。
だから、何千人ものアインシュタインを含み、何十年も考え続ける文明の話をしなければならなかった。箱の中のベイズ的超知能がウェブカメラを見ているところを描くだけだったら、人はこう思うからだ。「でも……二次元の絵をどう解釈するか、どうしてわかるの？」。たとえ「ベイズ的超知能」と呼ばれていても、ただの機械の立場に自分自身を置こうとはしない。ビットの格子を見て何が読み取れるかという問題に、自分の創造性すら働かせようとしないだろう。
それは、たまたま「ベイズ的超知能」と呼ばれている、箱の中の幽霊にすぎなくなる。その幽霊は、ウェブカメラの入力の解釈法を何も教わっていない。だから、彼らの心のモデルでは、その幽霊にはわからないのだ。
一つのベイズ的超知能が「そんなことを全部できる」と想定するのが現実的か、という点については……つまり、私が問題に初めて向き合い、話を書き進めながら思いついた程度のことを、全部できるかについては……。
こう言おう。重要な洞察を得る経験に5分以上かからないのなら、理論上は月に5760回の洞察を得る時間がある、とジェフリーズ師が指摘したのを覚えているだろうか？ 1日8時間眠り、眠っている間には重要な洞察を得ないと仮定して、だ。
さて、人間は自分をこれほど効率的には使えない。だが、人間は科学研究のために適応したわけではない。サバンナでシカを追い、槍を投げて突き刺し、調理し、それから——おそらく一番頭を使うのはここだが——自分は肉の分け前を多くもらって当然だと巧みに論じるために、適応している。
アルバート・アインシュタインが、そのような脳を物理学へ転用できたのは、驚くべきことだ。拍手に値する。拍手以上に、ギネスブックに載せるに値する。材料を全部ゼリーにして、史上最速の車を作るのに成功したようなものだ。
盲目で愚かな神、つまり進化は、人間の脳を実際にはどれほどまずく設計したのだろう？
これは認知科学をたっぷり学び、その恐ろしさの全容が見え始めてこそ、つかめることだ。
ここまでに論じたバイアスの数々は、少なくとも手がかりになるはずだ。
紙と鉛筆なしで3桁同士を掛け算するために、人間の脳が、何兆ものシナプスを発火させ、全力で集中しなければならないという事実も、同じだ。
アインシュタインが感覚データを効率よく使ったとは言えないのと同様、彼の脳がニューロンの発火を効率よく使ったとも言えない。
もちろん、こういうことを話す私には、ある下心がある。だが、それとは別に理解してほしい。何年も前、合理主義者になろうとしたとき、私を奮い立たせた、到達不可能な知性の理想は、アインシュタインでは決してなかった。
カール・シュルツは言った。
理想は星のようなものだ。手で触れることには成功しないだろう。だが、水の砂漠を航海する者のように、星を導き手として選び、それを追えば、自分の運命の地へたどり着く。
こうして、私が子どものころに抱いた大きな手本の一つ——AIの夢——を、少し見てもらった。もちろん、現実は手に入らなかったので、夢だけだ。かつて私は、その夢へ手を伸ばした。
これは、ある程度は私を助け、ある程度は私を害した。
理想の中には夢のように、外からではなく自分の内側から生まれるものがあるからだ。アリシアのメンターは、現実の何かではなく、E・E・「ドック」・スミスの想像から生まれた。ベイズ的超知能が何を言うか想像するとき、話しているのは自分の心だけだ。外にあって、それを追える星とは違う。理想のありかを推測しなければならず、推測を誤れば、道を外れる。
だが理想を、ただの星、ただ実在した人間、とくに自分より50年以上前に生まれ、すでに死んだ人間に限ってはいけない。後の世代には、それぞれもっとよくやれる機会がある。理想を人間だけ、とくに故人だけで構成するのは、自分を、すでに成し遂げられたものに限定することだ。「アインシュタインにもできなかったことを、あえて私がやってよいのか？ 不敬ではないか？」と問うようになる。だが、アインシュタインが「ニュートン以上にうまくやってもよいのだろうか？」と考えてばかりいたら、あの到達点には至らなかっただろう。これが星を追うことの問題だ。最高にうまくいっても、星にたどり着くまでなのだ。
無意識の前提や、少しずつ改善された思考の技術を通じて、あなたの時代は、自分で思う以上にあなたを支えている。アインシュタインは立派な人だったが、非人格的な神について、かなりのたわごとを語った。これは、彼が自分の分野より高い抽象度で慎重に考える技を、どの程度理解していたかを示している。少なくとも一つ、架空の銀河規模の超精神を、アインシュタインと比較する対象に持っていれば、彼が知能の尺度の右端ではなくなるので、そう考えることも、それほど冒涜には思えなくなるかもしれない。
人間に可能だと思えることしか試みないなら、自分に求めるものが少なすぎる。もっと高く、もっと都合の悪い目標へ手を伸ばすことを想像すると、それが「不可能」である都合のよい理由が、すぐ頭に浮かぶ。
最も大切な手本は夢だ。自分の内側から生まれる。自分が完全だと考えるものより低いものを夢見るのは、自分の夢見る部分の力を、十分には使わないことだ。