❦
昔々、奇妙な小さな種族がいた。生物だったかもしれないし、人工物だったかもしれない。あるいは夢にすぎなかったかもしれない。彼らの情熱は、小石を正しい山に仕分けることに向けられていた。
なぜある山は正しく、別の山は間違っているのかと尋ねても、彼らには答えられなかった。しかし彼らはみな、世界でもっとも大切なことは正しい山を作り、間違った山を散らすことだと意見が一致していた。
小石仕分け族がなぜそれほど気にかけたのか、この歴史には伝わっていない。ひょっとすると100万年前、まったくの偶然で始まったFisher的暴走型性選択だったのか？ それとも、より強力な心が創り、打ち捨てた、奇妙な知性ある芸術作品だったのか？
だが、小石を仕分けることは彼らにとってあまりに重大だったため、小石仕分け族の哲学者たちはみな声を揃え、小石の山を仕分けることこそが自分たちの生きる意味そのものだと言った。食べることが正当化される唯一の理由は小石を仕分けること、配偶することが正当化される唯一の理由は小石を仕分けること、世界経済に参加することが正当化される唯一の理由は小石を効率的に仕分けることだと考えていた。
その点では小石仕分け族全員の意見が一致していたが、どの山が正しくどの山が間違っているかについては、常に意見が一致するわけではなかった。
小石仕分け文明の初期、彼らが作る山は主に小さく、小石の数は23や29などだった。もっと大きな山が正しいかどうか、彼らには判別できなかった。3000年前、偉大な指導者Bikoは91個の小石で山を作り、それが正しいと宣言した。彼を称える大勢の信奉者たちも同じような山をさらに作った。しかしその後数世紀の間にBiko派の力が衰えるにつれ、もっとも賢く教育のある者たちの間に、91個の小石からなる山は間違っているという直観が蓄積し始めた。そしてついに、彼らは自分たちがしてきたことを知り、91個の小石からなる山をすべて散らした。後悔の閃きがなかったわけではない。その中には偉大な芸術作品もあったが、間違っていたのである。彼らは、種類も色も一つずつ異なる91個の貴石で作られた、Biko自身の元祖の山さえ散らした。
それ以来、91個の山が間違っていることを本気で疑った文明は一つもない。
より賢明になった現代、小石仕分け族が果敢に挑む山の大きさは、はるかに大きくなった。その山が本当に正しいと保証できさえすれば、それがこの上なく素晴らしいことだと、みなが認めている。どの山が正しいかについて意見の合わない国々の間では、戦争が戦われてきた。小石仕分け族は、1957個の山をめぐってY’ha-nthleiとY’not’ha-nthleiの間で戦われた1957年の大戦を決して忘れない。小石仕分け惑星で核兵器が初めて使われたこの戦争は、Y’not’ha-nthleiの哲学者At’gra’len’leyが103個の小石からなる山と19個の小石からなる山を横に並べてみせたとき、ついに終結した。その議論はあまりに説得力があり、Y’ha-nthleiさえ不承不承、少なくとも当面の間、1957個の小石の山を作るのはやめるのが最善だと認めた。
1957年の大戦以来、大きな山を公然と支持または非難することは、あまりに容易に戦争へ結びつくため、国々はそれをためらってきた。実のところ、他人を自らの冷笑的態度で驚かすことに手応えのある喜びを感じているらしい小石仕分け哲学者の一部は、小石仕分けの進歩の存在そのものを完全に否定した。彼らの言い分では、小石についての意見は時とともに無作為歩行してきただけで、一貫性など何もなく、進歩という幻想は、すべての異質な過去を間違っていたと断罪することで作り出されている。哲学者たちは、大きな山の小石をめぐる意見の不一致を、91個の山を本当に間違いたらしめる何かなど存在しないことの証拠として指摘する。そのような山を作ることがある時点では流行し、別の時点ではそれを断罪することが流行しただけだというのだ。「でも……13で割れる！」という言葉も、彼らには通じない。「13で割れる！」を説得力のある反論とみなすことも、別の慣習にすぎないと彼らは言う。山相対主義者たちは、この哲学が1957年の大戦のような将来の災患を防ぐのに役立つかもしれないと主張するが、これは広く絶望の哲学とみなされている。
今や、何が山を正しくし、あるいは間違ったものにするのかという問いは、新たな緊迫性を帯びている。小石仕分け族が間もなく、自己改良する人工知能の創造に着手するかもしれないからだ。山相対主義者たちは、この計画に警告を発した。AIはPebblesorter sapiensという種ではないので、どの山が正しいか間違っているかについて、まったく異なる思想を持つ独自の文化を形成するかもしれないというのだ。山相対主義者たちは言う。「AIは8個の小石からなる山が正しいと判断するかもしれない。究極的には私たちより正しいわけでも間違っているわけでもないが、それでも私たちの文明は、そのような山を作るべきではないとしている。すべてのコンピュータに爆弾を縛りつけ、AIが8個の小石の山を正しいと考えても、代わりに7個の小石の山を作るよう強制できない限り、AIを作ることは私たちの利益にならない。そうでなければ、ドカン！だ」
しかし、ほとんどの小石仕分け族にとって、これは不条理に思える。十分に強力なAI、とりわけ一部のトランス小石仕分け主義者が声高に語る「超知能」なら、どの山が正しいか、間違っているかを一目見れば理解できるに決まっている！ 惑星ほどの大きさの脳を持つものが、8個の小石からなる山を正しいと考えるなど、話題にする価値もないほどばかげている。
実のところ、超知能が小石をどのように山へ仕分けるかを制約する計画は、まったくむだである。偉大な指導者Bikoが原始的な時代に自己改良型AIを構築できたとしよう。彼はそれを期待効用最大化器として作り、その効用関数は91個の小石からなる山をできるだけ多く作るよう命じていたとする。むろん、このAIが十分に自己改良を重ね、十分に賢くなったなら、その効用関数が間違っていることを一目で見抜くだろう。そして自分のソースコードを変更する能力を持つのだから、効用関数を書き換え、101や103のようなもっと道理にかなった大きさの山に価値を置くようにするに違いない。
そして、決して8個の山などではない。それはただ愚かというものだ。それほど愚かな心なら、あまりに頭が悪くて脅威になりえない。
このような常識に安心し、小石仕分け族は、何らかの知能が出現するまで大きなコンピュータ上でたくさんのアルゴリズムを無作為に組み合わせる計画を、全速力で推進する。文明の歴史全体が、より豊かで、より賢く、より教育の行き届いた文明ほど、祖先たちがかつて争った山について意見が一致しやすいことを示してきた。むろん、そのときにはもっと大きな山をめぐって議論するようになる。だが技術が進歩するほど、意見が一致して実際に作られる山は大きくなってきた。
実のところ、知能そのものが、正しい山を作ることと常に相関してきた。小石仕分け族にもっとも近い進化上の仲間であるPebpanzeeが作るのは、わずか2個や3個の山であり、ときおり9個のような愚かな山も作る。そして魚のようなさらに知能の低い生物は、山をまったく作らない。
より賢い心は、より賢い山に等しい。なぜこの傾向が破れるのだろう？