❦
昔々……。
これは、私がマルチェロに初めて会ったころの話である。後に私は彼と一年間、AI理論に取り組むことになるが、この時点ではまだ、彼を弟子として受け入れていなかった。彼が数学オリンピックと情報オリンピックの全国大会に出ていたことは知っており、もっとよく見てみようと関心を引かれるには十分だった。しかし、AIについて考える方法を彼が学べるかどうかは、まだわからなかった。
私はマルチェロに、AIがルービックキューブの解き方をどう発見し得ると思うか、話すよう求めた。あらかじめプログラムされた自明なやり方ではなく、AI自身がルービック宇宙の法則を解明し、それをどう利用するか推論するやり方である。ルービックキューブを解く鍵となる「操作子」や「マクロ」という概念を、AIはどのように自ら発明するのだろうか。
この議論の途中で、マルチェロがこう言った。「そうですね、AIがXをするには複雑性が必要で、Yをするにも複雑性が必要だと思います――」
私は言った。「『複雑性』と言うな」
マルチェロは「なぜですか？」と言った。
私は言った。「複雑性は、それ自体が目標であってはならない。いくらか複雑性を加える特定のアルゴリズムを使う必要はあるかもしれないが、複雑性のための複雑性は物事を難しくするだけだ」。（私は、インターネットは「十分に複雑」になれば「目覚めて」AIになる、と唱える人々を何人も耳にしてきたことを考えていた。）
するとマルチェロは言った。「でも、それを実現する何らかの量の複雑性は、なければならないでしょう」
私はしばらく目を閉じ、そのすべてを言葉でどう説明すればよいか考えようとした。私にとって、「複雑性」と言うことは、AIという舞踏で単に誤った動きのように感じられた。意識の流れにある文の一つ一つを言葉で熟慮できるほど速く考えられる者はいない。それには無限再帰が必要になるからだ。私たちは言葉で考えるが、意識の流れは言葉より下の水準で、過去の洞察や厳しい経験によって訓練され、残されたものに導かれている……。
私は言った。「技術的説明についての技術的説明は読んだか？」。「はい」とマルチェロは答えた。
「よし」と私は言った。「『複雑性』と言っても、確率質量は集中しない」
「ああ」とマルチェロは言った。「『創発』と同じですね。なるほど。では……今度はXが実際にどう起き得るかを考えなければ……」
そのとき私は、心の中でこう思った。「ひょっとすると、こいつなら教えられるかもしれない」。複雑性は役に立たない概念ではない。コルモゴロフ複雑性やヴァプニク＝チェルヴォネンキス複雑性など、数学的な定義が結びついている。直観的な水準でさえ、複雑性について考えることにはしばしば価値がある。仮説の複雑性を判断し、支持する証拠に照らして「複雑すぎる」かどうかを決めたり、設計を眺めて、より単純にしようとしたりしなければならない。
しかし、概念それ自体が有用だったり無用だったりするのではない。正しかったり間違っていたりするのは、使い方だけである。マルチェロが舞踏で踏み出そうとしていた動きでは、代価なしに何かを説明し、無から何かを得ようとしていた。これは少なくとも私の分野では、きわめてよくある踏み違いである。汎用人工知能についての議論に加われば、人々が左右至るところで、何度も繰り返し同じことをするのを見られる――自分がそうしていると気づかないまま、理解していない事柄を絶えず飛び越えていく。
それは一瞬のうちに起きる。謎めいたものの背後に、制御しない因果ノードを置く。説明のように感じられるが、説明ではない因果ノードを。誤りは言葉より下の水準で起きる。特別な性格上の欠陥は必要ない。人間は何もしなければこのように考え、古代からずっとこのように考えてきた。
避けなければならないのは、謎めいた部分を飛び越えることである。謎にとどまり、それと直接対峙しなければならない。謎を飛び越えられる言葉は数多くあり、その中には別の文脈なら正当なものもある――たとえば「複雑性」である。しかし、どんな因果ノードを背後に置くかにかかわらず、本質的な誤りは飛び越えることにある。飛び越しは思考ではなく、微小思考である。それをしている自分を捕まえるには、細心の注意を払わなければならない。そして飛び越しを避ける訓練をすれば、それは言語的推論ではなく、本能の問題になる。自分の地図のどの部分がまだ空白なのかを感じ、さらに重要なことに、その感覚へ注意を払わなければならない。
学界では、完全に見える論文を発表できるよう、問題を絨毯の下へ掃き込む大きな圧力があるのではないかと思う。「この部分がどう働くか、まるで見当がつかない」とか「すると奇跡が起きる」とラベルに明記した不完全な地図よりも、何らかの「創発現象」を含む、一見して完全なモデルのほうが称賛を得られるだろう。後者の論文は、学術誌に受理されさえしないかもしれない。興味深いことのすべてが、本当は未知の段階で起きるかもしれないのだから。そして、そう、地図のうち魔法ではない部分がすべて、重要でもないとわかることもある。これは、未知の領域へ足を踏み入れ、少しずつ問題を解こうとするとき、ときに支払う代価である。しかしだからこそ、自分がまだ終えていないときに、それをいっそう重要なものとして知る必要がある。たいていの人は、時間を無駄にすることへの死ぬほどの恐怖から、そもそも未知の領域へ踏み込もうとしない。
そして革命的なAIスタートアップに取り組んでいるなら、問題を絨毯の下へ掃き込む圧力はさらに巨大になる。そうしなければ、AIの作り方をまだ知らないと自分自身に認めなければならず、現在の人生設計が耳元で音を立てて崩れ落ちる。しかし私は説明しすぎているのかもしれない。飛び越しは、人間なら何もしなくても起きるからである。例を探しているなら、人々が宗教や哲学や精神性について、あるいは職業的訓練を受けていない科学について議論するのを、ただ観察すればよい。
マルチェロと私は、AIの研究で一つの慣例を作った。理解できないこと――これはしばしばあった――に出会うと、私たちは「魔法」と言った。たとえば「Xが魔法のようにYをする」と言い、ここには未解決の問題、私たちの理解の空白があると自分たちに思い出させた。「複雑性」や「創発」と言うよりも、「魔法」と言うほうがはるかによい。後の二語は、理解しているという錯覚を生む。「魔法」と言って、後でしなければならない仕事を思い出すための場所取りを残すほうが賢明である。