❦
父はよく、現在の制度が百年前に存在していたなら、馬具産業を守るため自動車は禁止されていただろう、と言った。
子供時代の私に大きな影響を与えたものの一つは、九歳でジェリー・パーネルの『もう一歩外へ』を読んだことだった。それは、1960年代と1970年代に、地球の資源は枯渇し、ほんの数年後には大飢饉が起きると言っていた、ポール・エーリックとローマクラブへのパーネルの返答だった。ジェレミー・リフキンの、いわゆる熱力学第四法則への返答であり、原子力発電を恐れ、規制によって消滅させようとしたすべての人々への返答だった。
私は、善玉と悪玉の境界線がかなり明瞭な世界で育った。それは終末的な最後の戦いではなく、何度も何度も戦わなければならない戦いであり、産業革命までさかのぼる歴史的残響を見ることができ、実際の結果について歴史的証拠を集められる戦いだった。
一方には、暗黒時代以来、生活水準の向上をすべて推進してきた科学者と技術者がいた。彼らの仕事は、民主主義、教育を受けた民衆、中流階級、奴隷制の禁止といった贅沢を支えていた。
他方には、かつて天然痘ワクチン、出産時の麻酔、蒸気機関、地動説へ反対した者たちがいた。存在したことのない完全な時代への回帰を求める神学者、やり方を変えない高齢白人男性政治家、損失を被る特殊利益集団、そして科学が閉ざされた本であり、理解できないものを恐れる多数の人々である。
そして中間を演じようとする、深い知恵を装う者たちがいた。技術は人類へ利益をもたらすが、適切に規制された場合にかぎる、というキャッシュされた思考を口にし――荒々しい歴史的事実に逆らい、科学それ自体は善でも悪でもないと主張し――慎重さを仰々しく見せつけるため、厳粛そうな官僚委員会を設け――拍手を待っていた。まるで真理が常に妥協であるかのように。そして誰かが、本当にそれほど先まで見通せるかのように。火を採用する際、誠実で配慮ある公開討論を行い、その使用を監督する委員会を設けていたなら、人類はもっとうまくいっただろうか？
私がこの問題へ入ったとき、「ああ、でも技術には便益だけでなくリスクもあるんだよ、おちびさん」というパターンに一致するものすべてへ、最初からアレルギーがあった。有罪の推定は、安っぽい拍手を集めようとしているか、ひそかに規制で技術を消滅させようとしているか、どちらかだった。そしてどちらにしても、人々がかつて心配していた技術を圧倒的に支持する歴史的記録を無視していた。
ロビン・ハンソンは、ほかの国々で承認された薬の、FDAによる承認の遅さという話題を持ち出した。コメント欄の誰かが、サリドマイドは40の名称で50か国に販売されたが、米国では少量が無料配布されただけだったため、世界全体では奇形を持つ子供が1万人生まれた一方、米国では17人だけだったと指摘した。
だが、ほかの国でより早く承認された薬の承認が、米国では遅れたために、何人が死亡したのか――問題を起こさなかったすべての薬についてはどうか？ この問いを投げかけるのは、統計を集めようとできるものだからである。承認手続きが長く高額すぎるため、そもそも開発されなかったすべての薬については、何も述べていない。この資料によれば、FDAの長い承認手続きは、有害と判明した薬を除外することで、年間5000人の犠牲を防ぐ一方、なお開発され、最終的に承認される有益な薬の承認を遅らせるだけで、年間少なくとも2万～12万人の犠牲を生んでいる。
だから、「ああ、でも技術には便益だけでなくリスクもある」と言って回る人々へアレルギーを持つ、本当の理由はある。歴史的記録は、過度な保守性を示している。規制による多数の静かな死は、規制しないことによる少数の目に見える死に、重みで負ける。本当に中間を演じるなら、「ああ、でも技術にはリスクだけでなく便益もある」と、なぜ言わない？
まあ、これは悪玉について、それほど悪くない記述でもある。（ただし、彼らは邪悪な突然変異体ではなく、自分たちを正しい位置に置く異なる世界観のゲシュタルトの下で行動する、普通の人間だということを、もう少し強く強調すべきである。その一部は必然的にほかより有能で、有能さは大きな意味を持つ。）振り返っても、何が悪玉を構成し、何が主要な過ちかについて、子供時代のテクノフィリアがそれほど間違っていたとは思わない。だが、何をしてはならないかを言うことは、正しく行うことより、常にはるかに容易である。当時の私の根本的欠陥の一つは、悪玉がしていることをすべて懸命に避けようとすれば、それで善玉になれると考えたことだった。
特に有害だったと思うのは、中道を確立しようとする、深い知恵を装う者たちが示した悪い模範である。技術愛好家にも技術嫌いにも、見下した笑みを向け、どちらも未熟だと呼んだ。確かにこれは一つの誤った道である。実際、中道を一般に確立しようとする考えは、たいてい誤っている。正しい「道」は、何かとの妥協ではない。それ自体の基準を清らかに表したものである。
だが、そのため幼いエリエザーには、まっすぐ突進せよという評決から離れることが、さらに難しくなった。どんな逸脱も、深い知恵を装う者へ加わるように感じられたからだ。
私の子供時代のテクノフィリアに最初のひびが入ったのは、たしか1997年か1998年だった。分子ナノテクノロジーの管理は容易な問題だという、仲間の技術愛好家の愚かな発言に気づいたときである。（またしても気づきつつあるかもしれないが、幼いエリエザーは、欠陥を見つける能力によって、途方もない程度まで駆り立てられていた――その種のことが良い考えである理由について、個人的な哲学さえ持っていた。）
分子ナノテクノロジーについて、攻撃が防御より非対称に容易になるか、議論が続いていた。そして、防御は容易になると論じる人々がいた。あろうことかナノテク、プログラム可能な物質という領域でだ。一とゼロを一つずつ観察し、制御できるコンピューター・ネットワークでさえ、セキュリティ問題を解決できていないらしいのに。人々は、難攻不落のダイヤモンド状物質の壁について話していた。ダイヤモンドは核兵器を食い止めないこと、1945年以来、攻撃が防御を打ち負かしており、ナノテクがそれを変えそうには見えないことを、私は指摘した。
そして議論が終わる頃には、論争の熱気に巻き込まれた幼いエリエザーが、地球に由来する知的生命の存続が危険にさらされていると、初めて気づくことに成功したらしい。
未来において、個々の命だけが危険にさらされると思っていた時があったと振り返ると、とても奇妙に思える。そこで暮らすには、何と根本的に親切な世界だったことか……もっとも、当時そのように考えていたわけではない。私はその可能性を拒絶したというより、そもそも一度も見ないことに成功していた。話題が実際に持ち上がると、見えた。その仕掛けがどう働いていたか、本当には覚えていない。私が過去の自分を三人称で呼ぶのには理由がある。
エリエザー1998は完全な愚か者だったように聞こえるかもしれないが、それはある意味、安心できる逃げ道だ。真実はもっと恐ろしい。エリエザー1998は、当時としては鋭い伝統的合理主義者だった。仮説は検証可能でなければならないと知り、合理化は許された心的操作ではないと知り、合理主義者のタブーを行う方法を知り、自己認識に取りつかれていた……「神秘的な答え」という概念は完全には理解しておらず……ベイズもカーネマンもまったく知らなかった。だが平均をはるかに上回る、鋭い伝統的合理主義者だった……それがどうした？ 自然は相対評価で採点しない。「道」から一歩逸れ、思考過程へ一つの不当な力が加わるだけで、ほかの防護はすべて廃止されうる。
自分の来歴を振り返り、引き出した主要な教訓の一つは、現実世界で「知能がすべてではない」と考える人や、合理主義者は現実生活で良い結果を出さないと考える人が多くても、無理はないということだ。少しの合理性、あるいは多くの合理性でさえ、物事が実際に働き始めるため必要な、天文学的に高い障壁を越えない。
私が正しい「道」を誤解した責任を、ジェリー・パーネル、父、またはSF全般へ負わせてはならない。彼らの教えのどの部分が通り抜けるかについて、幼いエリエザーの人格がかなりの選択性を課していたと思う。パーネルが、ゆりかごである地球を離れれば規則は変わる。宇宙服の密閉にたった一度不注意になれば死ぬと言わなかったわけではない。何度も言っていた。だが、その言葉は本当には重要に見えなかった。それは小説中の第三者的な登場人物に起きることであり、なぜか主人公は、物語の途中で普通は死ななかったからだ。
こうした教えを濾過したレンズは何だったか？ 希望。楽観。より明るい未来への期待。それが、私にとって『もう一歩外へ』が持つ根本的な意味であり、シエラクラブの悲観論と対比して受け取った教訓だった。一方には合理性と希望、他方には無知と絶望があった。
十代の一部は、自分は不死身だと思い、オートバイに乗る。私はそのような幻想を持たず、猛スピードで走る金属の塊があまりに危険に見えたため、運転を習うことにかなり消極的だった。だが自分の命より大切なものがあった。「未来」である。そしてそれが不死であるかのように行動した。命は失われうるが、「未来」は失われない。
そして、ナノテクノロジーが本当に、絶滅水準の課題になりうると気づいたときは？
幼いエリエザーは、はっきりとこう考えた。「何ということだ。明白であるべきこのことに、どうして気づかなかった？ 技術に期待する便益へ感情的に執着しすぎていたに違いない。人類絶滅という考えから、たじろいで目をそらしたに違いない。」
そして……
私は「停止し、融解し、発火せよ」と宣言しなかった。以前の態度で作り上げたすべての結論を、考え直さなかった。伝播する変更を最小限に抑え、何らかの仕方で、それを自分の世界観へ組み込むことに成功しただけだ。古い考えや計画は異議を突きつけられたが、私の心はそれを保つ理由を見つけた。残念ながら、体系的な崩壊はなかった。
最も顕著なのは、ナノテクノロジーより先にAIを開発するため、全速力で進まなければならないと決めたことである。もともと計画していたとおりだが、今度は違う理由があった。
たいていの人間は、このようなものなのだろう。伝統的合理性だけでは、それを変えるには足りなかった。
だが、過ちを完全に理解した時は、やがて訪れた。頭へもっと強い蹴りを受ける必要があっただけだ。