❦
私が言っているのは、次の二つだ。
- 認識論的合理性：自分の信念を、体系的により正確なものにしていくこと。
- 道具的合理性：自分が大切にしていることを、体系的に実現していくこと。
目を開けて部屋を見回せば、テーブルに対してノートパソコンがどこにあるか、壁に対して本棚がどこにあるかがわかる。ところが、目や脳に何か不具合があると、本棚のない場所に本棚があると、頭の中のモデルが示すかもしれない。そうなれば、本を取りに行っても当てが外れる。
誤った信念を持つとは、こういうことだ。世界の地図が、その地図の表す領土と一致していない。認識論的合理性が目指すのは、それに代えて正確な地図を作ることだ。このように信念が現実と対応していることは、ふつう「真実」と呼ばれる。私もそう呼んでかまわないと思う。
一方、道具的合理性とは、現実の舵を取ることだ。未来を自分の望む方向へ進めることである。自分の選好に照らして、より望ましい結果につながる行動を選ぶ技法だ。私はこれを「勝つこと」と呼ぶこともある。
つまり合理性とは、真実に即した信念を持ち、勝利につながる決断をすることなのだ。
ここで「真実」を追求するというのは、不確かな証拠や間接的な証拠を切り捨てるという意味ではない。部屋を見回して頭の中にその地図を作ることと、地球の核が溶けていると信じたり、ユリウス・カエサルは禿げていたと信じたりすることは、原理的には同じだ。時間的にも空間的にも遠く離れているので、そうした問題は本棚についての問題よりも、つかみどころがなく抽象的に思えるかもしれない。それでも、西暦2015年の地球の核の状態や、紀元前50年のカエサルの頭の状態については、実際にどうだったかという事実がある。カエサルや地球の核とじかに対面する方法をついに見つけられなくても、それらの事実があなたに現実の影響を及ぼすことはありうる。
また、ここで言う「勝つこと」は、誰かを犠牲にする必要はない。人生という営みは、競争ではなく協力や自己犠牲であってもいい。「自分が大切にしていること」には、他の人々も含めて、あなたが気にかけるものすべてが入る。利己的な価値や、自分だけが抱く価値に限っているわけではない。
誰かが「Xは合理的だ！」と言うとき、それはたいてい「Xは真だと思う」や「Xはよいと思う」を、より声高に言っているだけだ。それなら「真」「よい」のほかに、なぜ「合理的」という言葉まで必要なのだろう？
「真である」という言葉を使うことにも、同じような異議を唱えられる。「雪は白い」と言えば済むのに、「雪が白いというのは真である」と言う必要はない。真という概念が役に立つのは、地図と領土の対応に共通する特徴を語れるようになるからだ。「真のモデルは、偽のモデルよりも実験結果をうまく予測することが多い」は有用な一般化だが、「真」や「正確」といった概念がなければ、こういう一般化はできない。
同じように、「合理的なエージェントは、整合的な効用関数の確率的な期待値を最大にする決定を下す」という考えは、（道具的）合理性という概念があって初めて成り立つ。一方、「野菜を食べるのは合理的だ」は、おそらく「野菜を食べるのは有益だ」や「野菜を食べるのは自分のためになる」で置き換えられる。体系的に真実や価値をもたらす思考の仕方について、また私たちがその基準からどのように体系的に逸脱するのかについて、一般的な事実を述べるには、「合理的」のような概念が必要なのだ。
実験心理学者が、人間のひどく奇妙に見える推論を発見することがある。たとえば、「ビルはジャズを演奏する」の確率を、「ビルはジャズを演奏する会計士だ」の確率よりも低く見積もる人がいる。ジャズを演奏する会計士なら、当然ジャズを演奏する人でもあるのだから、おかしな判断に思える。だが、この判断が間違っていると言うとき、私たちはどのような上位の基準に訴えているのだろう？
実験心理学者は、二つの確かな基準を用いる。確率論と決定理論だ。
確率論とは、合理的な信念の基礎となる法則の体系である。確率の数学は、（a）本棚の場所を突き止めること、（b）地球の核の温度を突き止めること、（c）ユリウス・カエサルの頭に何本の毛があったかを推定することを、区別なく同じように記述する。どれも、証拠や観察結果をどう処理して信念を修正（「更新」）するかという同じ問題だ。同様に、決定理論は合理的な行動の基礎となる法則の体系であり、目標や選べる行動が何であっても、同じように適用できる。
「P（ある出来事）」を「その出来事が起きる確率」、P（A, B）を「AとBが両方起きる確率」としよう。P（A）≥ P（A, B）は確率論の普遍的な法則なので、P（ビルはジャズを演奏する）がP（ビルはジャズを演奏する、ビルは会計士だ）よりも小さいという判断は、誤りとされる。
専門的な言い方に徹するなら、この確率判断は非ベイズ的だと言うことになる。このように数学的に明確に定義された意味で合理的な信念や行動は、「ベイズ的」と呼ばれる。
現代的な合理性の概念は、言葉を使って推論することに限定されない。先ほど、目を開けて周りを見て、壁際に本棚がある部屋のモデルを頭の中に作る例を挙げた。現代的な合理性の概念は十分に一般的なので、目や脳の視覚野も、地図を作るものとして含まれる。言葉にならない直感も含まれる。スポックを指すのにもベイズ主義を指すのにも、英語で同じ「rational」という言葉を使うかどうかなど、数学には関係がない。数学がモデル化するのは、目標を達成したり世界の地図を描いたりするためのよい方法だ。その方法が、「合理性」とはこういうものだという私たちの先入観や固定観念に合うかどうかは問わない。
ただし、これだけでは、実際に「合理性」とは何を意味するのかという問題を説明し尽くしたことにはならない。大きく二つの理由がある。
第一に、ベイズ的な形式体系を完全な形で適用しようとすると、現実世界のほとんどの問題では計算量が膨大になり、手に負えない。誰もその数学を実際に計算して、そのとおりに行動することはできない。クォークの運動を計算して株式市場を予測できないのと同じだ。
だからこそ、形式的な公理を書いた一ページでおしまい、ではなく、「Less Wrong」というサイト全体がある。人間の心の内側から真実を見つけ、価値あるものを実現するには、それだけで一つの技法の体系がさらに必要なのだ。自分の欠点を知り、バイアスを克服し、自己欺瞞を防ぎ、真実と向き合ってやるべきことをやれるよう感情面を整えるなど、取り組むことはいくらでもある。
第二に、数学そのものの意味が問われる場合もある。たとえば観測者の数が不確かな人間原理に関わる問題では、確率論の厳密な規則が問い直される。また、他のエージェントがあなたの決定を事前に予測しうるニューカム型の問題では、決定理論の厳密な規則が問い直される。1
こうした場合に、「合理的」という言葉の新しい定義をひねり出し、「したがって、私の好む答えこそが、定義上『合理的』の意味するものだ」と言って決着をつけようとしても無駄だ。それでは、そもそもなぜ他の人があなたの定義を気にかけるべきなのか、という疑問が生じるだけである。私が確率論に関心を持つのは、ラプラスから授かった神聖な言葉だからではない。私が（オッカムの原理に基づく事前確率を用いた）ベイズ式の信念更新に関心を持つのは、この考え方によって、そう、正確さに、領土を映す地図に、体系的に近づけると期待しているからだ。
そして、確率論にも決定理論にも、まだ十分には答えられていないように思える思考上の問題もある。たとえば、真実を知ったら、それにどんな感情を抱けばよいのかという問題だ。ここでも「合理性」を特定の仕方で定義しようとしたところで、答えを裏づけることにはならない。答えをあらかじめ決めてかかっているだけだ。
私がここでしたいのは、言葉の意味を論じることではない。その言葉が「合理性」であっても同じだ。特定の概念に文字列を結びつける目的は、二人の人間が意思を通わせられるようにすること、つまり、一人の心にある考えをもう一人の心に伝える手助けをすることだ。どの言葉をどの意味に結びつけるかを操作しても、現実を変えたり、その考えの正しさを証明したりはできない。
だから、「合理性」という言葉と、その下位概念である「認識論的合理性」「道具的合理性」によって、私がおおむねどんな概念を指そうとしているかがわかったなら、意思は通じたということだ。「合理性」をどう定義するかという話でできることは、それですべて果たした。これから話し合うべきなのは、「ご・う・り・せ・い」という音にどの意味を結びつけるかではない。よい考え方とは何かだ。
「私がXを信じるのは（認識論的に）合理的だが、真実はYだ」と言うなら、あなたはおそらく「合理的」を私とは別の意味で使っている。（たとえば「合理性」は、自分の思考を振り返っても整合的であるはずだ。証拠を「合理的に」検討することと、自分の心がその証拠をどう処理しているかを「合理的に」検討することとで、異なる結論が出てはいけない。）
同じように、「私がすべき（道具的に）合理的な行動はXだが、私がすべき正しい行動はYだ」と言っているなら、ほぼ確実に「合理的」か「正しい」を、私とは違う意味で使っている。私は「合理性」という言葉を規範的な意味で、望ましい思考の型を指すために使っている。
こういう場合には、そして言葉の意味について意見が食い違うほかのどんな場合にも、「合理的」をもっと具体的な言葉で置き換えるとよい。「自分の利益だけを考えれば逃げるべきだが、せめて子どもを線路から引きずり出そうとはする自分であってほしい」とか、「通常の定式化による因果的決定理論では、ニューカムの問題では二つの箱を取るべきだということになるが、私はむしろ100万ドルがほしい」といった具合に。
実際、この記事に出てくる「合理的」をすべて「フーザル」に置き換えて読み直し、私の言っていることから受ける印象が少しでも変わるか、試してみてほしい。変わるなら、私はこう言おう。合理性を目指すな、フーザル性を目指せ。
「合理的」という言葉には落とし穴もある。だが、境界上の微妙な例ではなく、私の言いたいことを「合理的」で十分に伝えられる例もたくさんある。「非合理的」も同じだ。そういう場合には、私はためらわずに使う。
ただし、その言葉を使いすぎないようには気をつけたい。大声で唱えたところで、それだけで得点が入るわけではない。道を語りすぎれば、道には至れない。