擬人化的楽観主義

❦

擬人化という誤謬の核心は、あるものの因果構造が人間の脳のそれとあまりに異なるため、そう期待する根拠が何もないのに、自分の脳というブラックボックスがそれを予測してくれると期待することにある。

1966年より前の初期の生物学者たちは、「集団選択主義の悲劇」で、捕食者が生息地で増えすぎて餌となる個体群を食い尽くさないよう、自発的に繁殖を抑えると信じていた。後にMichael J. Wadeが実際に行動し、集団選択が作用するほとんど実現不可能な条件を実験室で作り出すと、成虫は卵や幼虫、とりわけ雌の幼虫を共食いするよう適応した。1

では、なぜ集団選択主義者たちはその可能性を思いつかなかったのだろうか？

あなたが部族の一員であり、近い将来に部族が資源不足に直面すると知っているとしよう。解決策として、どの夫婦も子供は一人までとし、第一子が生まれた後は避妊することを提案するかもしれない。「みんながそれぞれできる限りたくさん子供を作り、その後で互いの子供、とくに女の子を狩り立てて食べよう」などという案は、可能性としてさえ思いつかないだろう。

あなたの目標に照らした、解決策の選好順序を考えてみよう。この順序でできるだけ上位の解決策が欲しい。どうやって見つけるのか？ もちろん、脳を使う！ 自分の脳を上位解決策生成器、すなわち生得的な選好順序で上位に来る解決策を生み出す探索過程だと考えればよい。

現実世界のあらゆる問題で、解決策空間は概してかなり広い。だからこそ効率的な脳が必要であり、その脳は下位の解決策の圧倒的大多数を形にする手間さえかけない。

部族が資源不足に直面したなら、どこへ行くにも片足で飛び跳ねたり、自分の足の指をかじり落としたりしてみることもできる。これらの「解決策」が明らかに機能せず、大きな代償を伴うことは、検討すれば分かる。だが実際には、あなたの脳は効率がよすぎて、そんなひどい解決策の検討に時間を浪費しない。そもそも生成しないのだ。上位の解決策を探すあなたの脳は、「部族全員が集まり、資源不足が過ぎるまで、どの夫婦も子供は一人までにすると合意する」といった解決策空間の領域へ直行する。

「できる限り多く子供を作り、それから女の子を共食いする」という、これほど下位の解決策は、あなたの探索過程で生成されないだろう。

しかし、選択肢が「下位」か「上位」かという順位は、選択肢が持つ本質的な属性ではない。それは選好する最適化過程の属性である。そして異なる最適化過程は、異なる順序で探索する。

進化にとっては、個体が最大限に繁殖してから他の個体の娘を共食いするのは当然の一手である一方、集団のために個体が自発的に自分の繁殖を抑えるのは完全にばかげている。もう少し擬人化を抑えて言えば、前者の対立遺伝子群は、集団中で後者を急速に置き換えるだろう。（ここで自然選択に明白な探索順序はない。この二つの選択肢は、突然変異としてはほぼ同じくらい単純に見える。）

生物学者の一人が、「捕食者の個体群が有限の資源しか持たないなら、進化は彼らが自発的に繁殖を抑えるよう作り上げるだろう。私が捕食者を作る責任者なら、私はそうするからだ」と言ったとしよう。これはむき出しの擬人化であり、推論の線は裸でさらされている。私はこのやり方を選ぶ。したがって、進化もこのやり方を選ぶと推論する、というわけだ。

私の仕事では、この誤謬にむき出しの形で出会うことがときどきある。そこでその人に「AIは必ずしもあなたと同じように働くわけではない」と言ったとしよう。あるいは、この架空の生物学者に「進化はあなたと同じように働くわけではない」と言ったとしよう。相手は何と答えるだろうか？ 一つ、決して耳にしないと言い切れる答えがある。「そうだったのか！ 気づかなかった！ 私の推論の一段階は無効だった。結論を捨て、ゼロからやり直そう」

そうではない。代わりに耳にするのは、どんなAIも話し手と同じように推論しなければならない理由である。あるいは、まったく異なる最適化基準に従い、まったく異なる最適化手法を用いる自然選択が、人間に良い考えとして思いつくのと同じことをすべきだという理由である。

こうして、個体が自発的に繁殖機会を放棄する捕食者集団を、集団選択が優遇するという手込んだ考えが生まれた。

集団選択主義者たちの予測は、その誤謬をむき出しのまま犯した人と同じだけ大きく道を誤った。彼らの最終結論は、進化が必ず自分たちと同じように考えるとあからさまに仮定した場合と同じだった。しかし彼らは、議論の最終結論の上に書かれていたものを消し、実際の最終結論は消さないまま、新たな合理化を書き込んだ。これで誤った推論は偽装され、推論中の明らかに誤った段階は隠された。たとえ結論が完全に同じままであり、したがって現実世界ではまったく同じだけ間違っていてもだ。

だが、なぜ科学者がそんなことをするのだろう？ 結局、データは集団選択主義者に不利な結果となり、彼らは恥をかいた。

「偽の最適化基準」で述べたように、私たち人間は、自分たちの好む方針が事実上どんな最適化基準からも導かれると論じる本能を進化させたらしい。政治は祖先の環境の特徴であった。私たちは、自分たちの利害だけでなく、部族の利益のためにも、憎い仇敵Uglakを処刑すべきだともっとも説得的に論じた者たちの子孫である。自分の明白な自己利益だけでなく、部族の道徳律も自分の生存を要求するのだと論じられなかったUglakの子孫でないことだけは確かである。

そして私たちは、自分が本心から信じることのほうがより説得的に論じられる。そのため、他人の目標や部族の道徳律が、私たちのやり方で行動するべきだと本当に含意しており、それが彼らの利益になると、本心から信じる本能を進化させたのである。

そこで集団選択主義者たちは、捕食者が繁殖を抑えるこの美しい光景を思い浮かべると、自然選択自身の目的に照らしてさえ、なぜ自然選択が自分たちのやり方で事を運ぶべきなのかを本能的に合理化した。キツネは繁殖を抑えれば適応度が上がる！ いや、本当だ！ 繁殖を抑えないキツネよりも多くの子孫さえ残すのだ！ 本当だとも！

自然選択に論じかけて自分の思い通りにしようとする際の問題は、進化の中には、あなたの議論に動かされうるものが存在しないことである。進化はあなたのようには働かない。進化がなぜあなたの思い通りに働くべきかについて、あなたが心を込めた説明に耳を傾けたり、それを気にかけたりする要素すら持たないほどにだ。人間の議論は、最適化過程としての自然選択の内部構造と通約可能ですらない。人間の議論が人間の政治で因果的役割を果たすように、対立遺伝子の増加に人間の議論が用いられることはない。

そのため、自然選択をうまく説得して自分たちの思い通りにする代わりに、集団選択主義者たちは、現実が予想と異なる姿を現したとき、ただ恥をかいたのである。

ここには、非友好的AIについてのかなり重い含みがある。

しかし、この要点は一般化できる。これが楽観的推論一般の問題である。楽観主義とは何か？ 自分の選好順序によって可能性に順位をつけ、その順序で上位の結果を選び、なぜかその結果が自分の予測となることである。途中でどのような手込んだ合理化が生成されたかは、人が好意的に信じたがるほどには重要ではないのだろう。認知の履歴を見れば、楽観主義が入り、楽観主義が出てきている。しかし自然、あるいは論じている他のいかなる過程も、現実の因果過程として、あなたの選好順序で結果に順位をつけ、上位のものを選ぶことで結果間の選択をしているわけではない。そのため脳は環境と同期できず、予測は現実と一致しない。