❦
前回、こう述べた。
二つの兵士の集団があるとしよう。集団1では兵卒は戦術も戦略も知らず、戦術を知るのは軍曹だけ、戦略を知るのは士官だけだ。集団2では、あらゆる階級の全員が戦術と戦略をよく知っている。
集団1は命令に従う一方、集団2では全員が与えられた命令よりよい案を思いつくのだから、集団1が勝つと予想すべきだろうか？
この場合、集団2が本当に軍事理論をどれほど理解しているか、疑わしい。協調しない烏合の衆は虐殺される、というのは初歩的な命題だからだ。
合理主義者の国が、確率論も意思決定理論も知らない邪悪な蛮族の国に攻撃されたとしよう。
「合理性」や「合理主義」についてのある見方からは、こんなことを言うだろう。
「合理主義者が負けるのは明らかだ。蛮族は勇気に報酬が与えられる来世を信じているから、ためらいも悔いもなく戦いに身を投じる。大義と偉大な指導者ボブを中心とする好感情の破滅的スパイラルのおかげで、戦士は命令に従い、銃後の市民は戦争のために熱心に全力で生産する。かすめ取ったり出し惜しみしたりして捕まれば、蛮族の伝統に従って火あぶりにされる。正気の人にはできないほど強く互いの善良さを信じ、敵を憎み、固く結びつく。一方、合理主義者は、戦死から得られる報酬など考えられないと悟る。他人に戦ってほしいとは思っても、自分では戦いたくない。兵士が見つかっても、民間人はそれほど協力的ではない。ソーセージ一本で戦争遂行が崩壊することなど、ほぼないのだから、それは自分のために取っておきたくなり、できる限りの貢献はしない。最初は文化がどんなに洗練され、優美で、文明的で、生産的で、非暴力的であっても、蛮族の侵略には抗えない。まともな議論は、銃を持って口から泡を飛ばす狂人にはかなわない。結局、蛮族が勝つ。戦いたく、合理主義者を傷つけたく、征服したいからだ。社会全体が征服で一つになり、正気の人にはできないほど、それを大事にしているからだ」
戦争は楽しくない。歴史の記録が始まって以来、大勢が思い知ってきた。記録が始まる前にも、大勢が思い知った。そして今この瞬間も、内側の苦しみがもはや一面記事にすらならない、どこかの悲しい小国の共同体が、思い知っている。
戦争は楽しくない。負けるのは、なお楽しくない。そして昔から言われている。「平和を望むなら、戦争に備えよ」。相手は、あなたが勝つ、征服すると信じる必要はない。だが、割に合わなくなるほど抵抗するとは、信じていなければならない。
だから、もし「合理主義者」が戦争ではいつも負ける運命に本当にあるなら、私は良心に照らして、「合理性」を広く社会に取り入れるべきだとは主張できない。
これは、ここで論じてきた、あるいは今後論じる予定の中で、おそらく最も汚れた話題だ。戦争はきれいではない。現在のハイテク軍――米軍のことだ――は、相手に圧倒的に優越する戦力を投入できる点で例外的であり、そのおかげで、敵や民間人の犠牲に、歴史上異例なほど配慮できる。
戦争に勝つことが、いつでも道徳をすべて捨てることだったわけではない。拷問をせずに勝った戦争もある。戦争が楽しくないからといって、たとえば大統領を批判するのは非愛国的だ、とはならない。私たちは「戦争」が悪事の言い訳に使われることに慣れている。近年の米国史では、まさにそう使われてきたからだ……。
だが、愚かさを逆にしたものは知性ではない。悪を逆にしたものも知性ではない。本当の戦争は、洗練された礼儀正しさでは勝てない。それは依然として真だ。「合理主義者」がこの精神的衝撃に備えられなければ、蛮族は本当に勝つ。そして「合理主義者」は……「負けて当然だ」とは言いたくない。だが、自分たちの社会の存続を試す、その試験には失敗したことになる。
まず、各人が兵士より民間人であることを好むため、原理的に理想的な合理的主体は戦争を戦えない、という考えを退けるところから始めよう。
すでに詳しく論じたように、私はニューカム問題では一つの箱を選ぶ。
それと一貫して、選挙が100,000対99,998票で決まったなら、「自分が家にいても結果は変わらなかった」のだから、投票所へ行く努力をした有権者は全員不合理だった、とは考えない。（また100,000対99,999票なら、10万人全員がそれぞれ単独で、結果に唯一の責任を負うとも考えない。）
同じく一貫して、私と同じ種類の意思決定理論を使う二つの合理的AIは、効用関数がまったく違い、別々の設計者に作られていても、互いのソースコードが共通知識なら、本当の囚人のジレンマで協力すると考える。あるいは、適切な意味での互いの合理性だけが共通知識でもよい。
同じく、合理的主体は、協調しない場合より確率的に期待される結果がよくなるなら、集団の事業で協調できると考える。私と同じ種類の意思決定理論を使い、そのことが共通知識になっている主体の社会は、ナッシュ均衡ではなくパレート最適に到達する。すべての合理的主体が、降伏より戦うほうがよいと合意するなら、降伏せず蛮族と戦うだろう。
集団としては降伏より戦うことを好むが、個人としては戦うより民間人でいることを好む、自己改変可能なAIの共同体を想像しよう。一つの解は、どの主体にも予測できない抽選で戦士を選ぶことだ。抽選の前に、すべてのAIはあらかじめコードを変更する。選ばれたら、共同体にとって最も効率的な方法で戦士として戦うように。落ち着いて自らの死へ行進することになっても、そうするように。
（内省しても整合する意思決定理論は、自己改変をせずに、同じように働く。）
あなたは答える。「だが、現実の人間世界では、主体は完全に合理的ではないし、互いのソースコードも共通知識ではない。君の意思決定理論では、囚人のジレンマでの協力には一定の条件が必要なのだろう。ここに書くには余白が足りない条件が。そして現実には、その条件は満たされていない」
私は答える。純粋で本当の囚人のジレンマは、現実には驚くほどまれだ。普通は波及効果がある。行動は評判に響く。ほとんどの人は、他人に何が起きるかを、いくらかは気にかける。そして現実には、動機づけの仕組みを作る機会がある。
そして現実に、人間の合理主義者の共同体も、それを守るためなら死を覚悟する兵士を生み出せると、私は考えている。理想的な合理主義者は囚人のジレンマで互いに裏切るべきだと、学校で子どもに教えさえしなければ。次のことが広く信じられるようにしよう。私自身、ニューカム問題で一つの箱を選ぶのと、まったく同じ理由でそう信じている。各人が兵士にならないと決めたり、兵士が逃げると決めたりするのは、蛮族を勝たせると決めるのと同じだ。100,000対99,998票の選挙で、すべての有権者が「自分の票は何も変えなかった」と言っても筋が通らないのと同じ理論による。効用関数は独我論的である必要はなく、守るものを十分大切に思うなら、合理的主体も死ぬまで戦える、と語られるようにしよう。それは真だからだ。合理主義者は理にかなった仕方で負けると期待すべきだ、などと教えてはいけない。
合理主義者の社会の文化と慣習がこうしたものなら、そこにいる普通の人間は兵士に志願すると思う。結局、それも人間に組み込まれているようだ。文化的な訓練が邪魔をしないようにすればよい。
では、私が間違っていて、十分な志願者が集まらなかったら？
それでも人々が全体として、降伏より戦うほうを好むかぎり、動機づけの仕組みを設け、本当の囚人のジレンマを避ける機会はある。
誰を戦士に選ぶか、抽選できる。先ほどの、AIが自分のコードを変える例に似ている。ただし、「内省しても整合的であれ。事前に約束したはずのことをせよ」では、人間が抽選に従う動機として足りないなら……。
……そう、抽選を実施する前に、選ばれた人には勇気を増す薬を与え、逃げれば撃つのがよい、と全員で合意できるかもしれない。自分が選ばれる可能性を考慮してもなお。抽選の前には、それが、自分の生存の期待値を最大にする一般方針だからだ。
……言ったとおりだ。本当の戦争は楽しくない。負けるのは、なお楽しくない。
ちなみに、現在行われている徴兵を支持しているわけではないことは、はっきりさせておこう。そうした徴兵は、民衆が集団でナッシュ均衡からパレート最適へ移ろうとする試みではない。遊ぶためのおもちゃの兵隊を必要とする、王たちの道具だ。ベトナム戦争で徴兵され、カナダへ逃れた人々は正しかったと私は考える。だが、王などいらないほど賢いと思う社会は、生き残れないほど賢くなる必要はない。蛮族の大軍が侵略してきて、蛮族は徴兵をしているとしてもだ。
合理的な兵士は命令に従うだろうか？ 指揮官が間違えたらどうする？
兵士は行進する。全員の足が、同じリズムで地面を踏む。放っておけば皆ばらばらの歩調で歩くのだから、自分の好みに反してさえ、そうするかもしれない。人でできたレーザー。それが行進だ。
中隊長が命令を出すより優れた集団意思決定の方法を発明できるなら、合理的な兵士の中隊は、その手順を採用するかもしれない。中隊長よりよいと実証された方法がないなら、合理的な兵士は、各自の好みに反してでも中隊長に従うと約束する。そして、人間がそこまで合理的でないなら……抽選の前に考えた、自分の生存の期待値を最大にする一般方針は、命令に従わない兵士を撃つことになる。これは、ベトナムで自分たちの士官を殺した兵士が間違っていたということではない。彼らは、徴兵抽選には誰も参加しないほうがよい、と一貫して考えていたかもしれないからだ。
だが、協調しない烏合の衆は虐殺される。だから兵士には、放っておけば四方へ歩き出すとしても、同じ目標のために、全員が同じ時に同じことをする何らかの方法が必要だ。命令は、上位の部族長のような中隊長から出るのでなくてもよい。だが統一された命令は、どこかから出なければならない。兵士が賢すぎて命令に従えない社会は、賢すぎて生き残れない社会だ。人々が賢すぎて兵士になれない社会と同じである。だから私は「合理的」ではなく、しばしば非難の言葉として使う「賢い」と言うのだ。
（ただし、指導者を置くより本当に実際によく働く、小集団の協調方法を作れるかどうかは、重要な問いだと思う。集団の意思決定方法を信頼でき、各自が勝手に行動するより本当によいと信じられるほど、不服従への罰を実施できなくても、人は足並みをそろえられる。）
合理主義者が近いうちに国を支配するとは、まったく思っていない。それでも以上を述べるのは、「自分たちのような人」の社会について信じることが、自分自身の見方にも表れると思うからだ。自分のような人々の社会は、道理をわきまえすぎて長期的には生き残れないと信じるなら、それは一つの自己像だ。だが、自分のような人ばかりの社会が、残忍で邪悪な蛮族と戦って勝てると考えるなら、自己像は違ってくる。優れた技術の力だけでなく、人々が互いを、そして共同の社会を大切にするから。自分を見失わずに戦争の現実と向き合えるから。集団にとって合理的な行動を計算し、確実に実行するから。確率論や意思決定理論には、大義のために自分を犠牲にしてはいけないという規則などないから。自分をほめているだけではなく、敵より本当に賢いなら、敵が考えることを自分に許さない盲点を利用できるはずだから。そして、敵が戦いの前にどれだけ自分を鼓舞しても、内側で分裂せず一貫した心なら、ひょっとすると瞑想や自己催眠に似たことを行って、72人の処女が待っていると理屈の上で信じる者と同じくらい、実戦で力強く戦えるかもしれないと思うからだ。
そうすれば、自分や、自分に似た人々が集団で動くことに、もっと期待するようになる。そして、自分を文化の行き止まり以上のものとして見ることができる。
だから、こう考えてみよう。ジェフリー先生なら、一人で戦っていても、邪悪な蛮族を前に諦めないだろう。ベイズ使いの達人からなる軍隊なら、誰も手出ししないほどの勢力になるはずだ。これが、意欲をかき立てる展望である。問題は、それが具体的にどう働くのか、ということだ。