❦
こんな未来予言がある。「未来には、機械がすべての仕事をする。何もかも自動化される。工学のように、今は『知的』と考えられている労働さえ、機械が行う。私たちはゆったり構えて、資本を持っていればいい。もう二度と、指一本動かさなくてよくなるのだ」
だが、それでは退屈しないだろうか。
大丈夫。コンピューターゲームをすればいい。もちろん、今の私たちのゲームとは違い、ずっと高度で面白いものを。
だが、待ってほしい！ 今のコンピューターゲームを買えば、中には——ほかに穏やかな言い方はない——骨の折れる課題があるとわかる。（10年でなく10分かかるものについて話していると了解してもらえるなら、「難しい」と言ってもいい。）
そこで未来には、ゲームをプレイするのを手伝うプログラムができる。行き詰まったり、ただ飽きたりしたら代わってくれるし、それがなければ高度すぎて手が出ないゲームもプレイできるようになる。
だが、ここには無駄な労力がないだろうか。なぜ一人のプログラマーがゲームを難しくするために働き、別のプログラマーが簡単にするために働くのか。初めから簡単に作ればよいではないか。ゴールドと経験値を得るためにゲームをするのだから、簡単にすれば単位時間あたりに得られるゴールドが増える。ゲームはもっと楽しくなるはずだ。
これが、技術進歩の予言が最後に行き着く姿だ。「あなたの勝ち」と表示された画面を、永遠にただ見つめる。
そして、それもやってくれるロボットを作るかもしれない。
その後は？
機械がすべての仕事をする世界——これを「キリスト教の天国に似ている」とは言いたくない。超自然的ではなく、原理的には実現できるからだ。宗教になぞらえる非難は、あまりに安易に投げつけられる……。だが、ほかの類似をほのめかすことなく、まだ働かねばならない現在の自分にとって、永遠の怠惰が「うれしい話に聞こえる」という意味では、似ているように思う、と言っておこう。
その代わりにゲームをするというが、コンピューターゲームとは、人工的な仕事でなくて何なのか。ここに無駄な段階がないだろうか。（今の形のコンピューターゲームには、仕事として考えれば、ストレスを減らし、熱中を高めるさまざまな面がある。だが、人工的であることや孤立という形での代償もある。）
「仕事をなくす」という形の未来の理想は、「質の低い仕事をなくして、質の高い仕事に道を開く」と言い直したほうがよいのではないか、と私はときどき思う。
長期的な人生の意味にはふさわしくない目標が、広く存在する。実際に達成できてしまい、その後は終わりだからだ。
別の角度から言えば、長期的な人生の意味にふさわしいものを探すなら、達成するだけでなく、追求するのもよい目標を探すべきだ。
もう少し逆説めかさずに言えば、3次元の状態ではなく、4次元の状態に対する価値づけを探すべきだ。「宇宙に性質Pをもたせれば、それでおしまい」ではなく、続いていく価値ある過程を。
ティモシー・フェリスの言葉を引用する価値がある。幸せを見つけるには、「『何が欲しいか』『自分の目標は何か』ではなく、『何をしたらわくわくするか』と問うべきだ」。
長期的な人生の意味のためには、勝つだけでなく、プレイするのも楽しいゲームが必要だ、と言ってもよいだろう。
ただし、ときには本当に勝ちたいこともある。勝利がすべてである正当な目標もある。たとえば、がんの治療なら、たった一人のがん患者の苦しみでも、問題を解くことで自分が味わう楽しさより重い。新しい知識と技能を学び、友人や仲間を得ながら、自力で20年間がんの治療法を開発してきたところへ、異星の超知能が現れ、完成した治療法を30ドルで差し出したなら、黙って受け取るべきだ。
だが、「がんを治す」は3次元の述語に関する問題だ。「がんがない」という述語が、現在の偽から未来の真へ変わってほしいのである。この到達点の重要性は、道のりの重要性をはるかに上回る。そこへ行きたいのでなく、そこにいたいのだ。この種の正当な目標はたくさんあるが、長期的な楽しみにはふさわしくない。「がんを治せ！」は、今ここで取り組む価値のある活動だが、銀河文明の将来の目標としては、もっともらしくない。
なぜ、この「価値ある継続的な過程」は、何かをしようとする過程でなければならないのか。仏教の天国のように、受動的に経験する過程ではいけないのか。
正直に言うと、「受動的に経験する」心をどう作ればいいのか、私にはよくわからない。人間の脳は、合わさって能動的な知性となるさまざまな内的作業を行うように設計された。ベッドに横たわって、考えるために特別な努力をしなくても、心に浮かび続ける思考は、そう、問題を解くよう設計された脳の領域の活動なのだ。
快楽中枢以外の人間の脳をどこまで取り除いても、なお快楽の主観的な経験を保てるのだろうか。
この問いには立ち入らない。「私は実際、受動的に経験する存在になるほうを望みはしない」という、ずっと単純な答えにしておこう。涅槃を望んでいるなら、その不可能をどう実現するか考えるかもしれない。だが、涅槃こそ存在の究極の目的だというブッダの言葉を取り除けば、涅槃は、自分が本当に欲しいものというより、「初めて聞いた瞬間にはうれしそうな話」や「欲望についての思想上の信念」に近く思える。
そもそも私に心があるのは、自然選択が私を、何かをするために、ある種の問題を解くために作ったからだ。
「人間の本性だから」は、何かを明示的に正当化する理由にはならない。私たちが現にそうである、人間の本性がある。そして、人間である私たちがそうありたいと願う、人間らしい思いやりのある本性がある。
だが、自分の本性をもっと受動的な物体に近づけたいとは思わない。これは、正当化する理由になる。幸せな肉塊は、人間である私がなりたいものではない。
私は以前、多くの価値には、主観的な幸福と、その幸福の外的な対象の両方が必要だと論じた。「私の愛する相手が本物の人間なのか、ただのきわめてリアルだが主観的な経験をもたないチャットボットなのかは、自分が知らなくても重要だ。私が価値を置くのは、自分の心の状態ではなく、外の現実だからだ」とする効用関数をもつことは、正当なのである。だから、愛する経験と、本物の恋人の両方が必要なのだ。
同じように、本物の挑戦と本物の努力、その両方を必要とする価値ある活動もありうる。
競走路を走るときは、ほかの走者が本物であり、本当に勝つことも負けることもありうるのが重要だ。（ここで話しているのは物理的決定論ではなく、外部の最適化過程が、あなたが勝つように明示的に選んでいるかどうかだ。）
そして、「勝利」と書かれたボタンを押すだけでなく、自分の走る技能と意志力で競走していることが重要だ。（もっとも、脚の筋肉は自分で設計したのではないから、自分のものではない力を使って競走していることになる。ロボットカー同士の競走のほうが、その設計者たちの、より純粋な競い合いだ。人間のあり方には、改善の余地がたくさんある。）
そして、主観的な経験をもつ存在であるあなたが、それを経験していることが重要だ。（主観的な経験のない過程が、競走の骨組みだけのまねを、毎秒何兆回も行っているのではなく。）
本物の努力、本物の勝利、本物の経験がなければならない。道のりと、到達点と、旅人が。