非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

まったく、アレときたら!

Zut Allais!

❦

いやはや! こんなに多くのコメントが、選好の逆転を擁護するとは思わなかった。どうやら推論上の距離にぶつかったようだ。

アレのパラドックスを解釈するには、ヒューリスティクスとバイアスの研究の全体像を、もっと身につけておくと役立つだろう。たとえば、次のようなことだ。

まず、整合しない選好の問題から始めよう。選好の逆転、動学的不整合、マネーポンプなどの話だ。

プロスペクト理論を少し知っていれば、人がくじBよりAを引きたいと言うのに、値段をつけてもらうとAよりBを高く評価するような例は、簡単に作れる。直接比較して「どちらが好きか?」と尋ねる場合と、一つの品について「いくら払うか?」と尋ねる場合とでは、知覚上の違う特徴が目立つのだ。

次のくじの選択では、典型的に選好の逆転が起きる。

  1. 1⁄3の確率で16ドルを得て、2⁄3の確率で2ドルを失う。
  2. 99⁄100の確率で4ドルを得て、1⁄100の確率で1ドルを失う。

大半の人は、1より2を引きたがる。しかし別々に値段をつけてもらうと、その金額をもらうことと、くじを引く機会を得ることが同じ価値になる値段を聞くと、人は2より1を高く評価する。1

そこでまず、その人が言った値段で、くじ1を引く権利を売る。次に、くじ1とくじ2の交換を持ちかける。次に、その人が言った値段で、くじ2を買い戻す。そして繰り返す。だから、「マネーポンプ」と呼ばれる。

あるいは、スティーヴ・オモハンドロの言葉を言い換えるなら、サンフランシスコよりオークランドにいたい、オークランドよりサンノゼにいたい、サンノゼよりサンフランシスコにいたいなら、タクシー代にずいぶんお金を使うことになる。

驚くことに、人はこの選好の型を擁護する。マネーポンプになると指摘されれば、値段や好みを改めてやめる被験者もいるが、擁護し続ける人もいる。

あるとき、ラスベガスのギャンブラーたちが、ルーレットを使い、実際のお金でこの種の賭けをした。そのあと、研究者の一人が、値づけと選択が整合しない問題を説明しようとした。会話記録から引用する。2、3

サラ・リヒテンシュタイン:「では、賭けAにつけた値段はどうでしょう。一方を選ぶのに、もう一方にはもっと高い値をつけているとわかった今、何か感じることはありますか?」

被験者:「ちょっと変ですが、いや、本当に何も感じません。まあ、そういうこともあるでしょう。自分の推論はあまりよくないとわかりますが、それ以外には……いや、気にはなりません」

……

リヒテンシュタイン:「これは非合理的な型だと、納得していただけますか?」

被験者:「いや、たぶん無理だと思います。でも、試してもいいですよ」

……

リヒテンシュタイン:「では、マネーポンプ・ゲームと呼ばれるものを提案して、試してみましょう。どう感じるか。賭けAには550点の価値があると思うなら[点数はゲーム後にドルへ換算された。ただし1対1ではない]、その賭けをお渡しすれば、私に550点払ってもいいはずですね……」

……

リヒテンシュタイン:「それで、あなたは賭けAを持っています。私が『あら、賭けBのほうがいいんですよね?』と言います」

……

被験者:「損していますね」

リヒテンシュタイン:「賭けBを買いましょう。気前よく、400点より多く払います。401点です。401点で賭けBを売ってくれますか?」

被験者:「ええ、もちろん」

……

リヒテンシュタイン:「これで私は149点の得です」

被験者:「私も、いい推論をしたものですね(笑)。これを何回続けるんですか?」……

リヒテンシュタイン:「そうですね、実際に侮辱することなくできる説得は、もうやり尽くしたと思います」

被験者:「そのとおりです」

叫びたくなる。「もう諦めろよ! 直観はいつも正しいわけじゃない!」

それから、確実さに人が置く、奇妙な価値の問題がある。本は引っ越しのため荷造りしてしまったが、ある実験では、100%から99%への確率の変化が、80%から20%への変化より、人の心で重く受け止められたはずだ。

確実さに巨大な追加価値をつける問題は、ある時点の確実さが、別の時点の確率だということだ。

前回はアレのパラドックスについて述べた。

アレのパラドックスでの素朴な選好は、1A > 1B、そして2B > 2Aだ。するとあなたは、34%の確率で24,000ドルを得るより、33%の確率で27,000ドルを得たいので、私にお金を払い、スイッチをAからBへ切り替えさせる。次にサイコロを振ると、確率の塊が一つ消える。どちらの場合も、何も得られない確率が少なくとも66%あった。その66%が、このサイコロで除かれる。するとBは、33/34の確率で27,000ドルを得る選択肢だが、Aは24,000ドルを確実に得る選択肢になる。ああ、すばらしい確実さ! そこで私にお金を払い、スイッチをBからAへ戻させる。

さて、これをすべて事前に説明していたら、それでも本当に、お金を払ってスイッチを切り替え、またお金を払って戻したいだろうか。それとも、考え直したいだろうか。

24%から23%への変化より、ほぼ1から99%への変化のほうを重要だと評価するたび、確率の増分に、尺度の端に近いときほど大きな価値を与えようとするたびに、こうして利用される余地が生まれる。確率の塊を少しずつ消していき、最後に選好を逆転させる「確実さ」が残るような一連の出来事を、私はいつでも用意できる。ある時点の確実さは、別の時点では不確実だ。ほぼ1から0.99までの距離を特別扱いすると言い張るなら、時間とともに選好を逆転させ、あなたからお金を吸い上げられる。

これが非合理的な型だと、納得してもらえるだろうか。

この本をしばらく読んできたなら、あなた自身、この言葉を読んでいるシステムと過程そのものが、欠陥のある機械だとわかっているはずだ。直観は、よい選択についての直接的で正しい情報を与えてはいない。信じないなら、あなたとやってみたい賭けがいくつかある。

確実性効果を利用したゲームは、ほかにもある。たとえば、確実な400ドルと、80%の確率で500ドル、20%の確率で300ドルを得る選択肢を提示すると、たいてい400ドルを選ぶ。だが、自分は500ドル豊かになったと想像してもらい、確実に100ドル失うか、20%の確率で200ドル失うかを尋ねると、たいてい200ドルを失う可能性のほうを選ぶ。4結果の確率分布は同じなのに、説明が違うと選択が違うのだ。

そうだよ、ヴァージニア。結果の効用には、本当に確率を掛けるべきなのだ。本当にそうするべきだ。すっきりした数学を使うことを、恥ずかしがってはいけない。

アレのパラドックスでは、24,000ドルを得ることと何も得ないこととの差を一単位として、それが、24,000ドルと27,000ドルとの差33単位より大きいか、考えよう。大きければ、1Bより1Aを、2Bより2Aを好めばよい。33単位のほうが一単位より大きければ、1Aより1Bを、2Aより2Bを好めばよい。お金の効用を計算するには、効用が金額の対数に比例するという近似を勧める。すでに十分お金があるならBを選ぶ。24,000ドルで資産が倍になるならAを選ぶ。場合2か場合1かは、関係ない。それから、必ず資産総額の効用、つまり世界の最終的な結果の状態の効用を評価してほしい。資産の変化を評価すると、また不整合になる。

何人ものコメント投稿者が、「確実さの効用」のようなものがあるので、この選好は非合理的ではないと主張した。ある人など、期待効用の式にU(Certainty)と書き込んだ。

期待効用と効用は、根本的に異なる型だという話を、覚えている人はいるだろうか。効用は結果に対するものだ。世界の具体的で確かな状態に与える値である。確率1を効用関数へ入力することはできない。意味をなさない。

「ふん、数学をきれいに整えたいだけでしょう」と鼻であしらう前に、思い出してほしい。この場合、ベイズの道から外れる代償は、スイッチを切り替え、また戻すためにお金を払うことだったのだ。

しかし、あの確かで温かな安心感はどうなる? あれも効用ではないのか?

それが人間らしさだ。人間は期待効用最大化者ではない。くつろいで楽しみたいのか、確実だという感覚に余分なお金を払いたいのかは、直観を満足させることと、実際に目標を達成することの、どちらを大切にするかによる。

ラスベガスで遊びとして賭けるなら、どうぞ期待効用など考えずに楽しんでほしい。どうせお金は失うのだから。

だが、24,000ドルでなく、24,000人の命がかかっていたら? 人命については、確実性効果はさらに強い。一人の命を払ってスイッチを切り替え、もう一人を払って戻すのか?

選好の逆転を容認すれば、最適化しているという主張は茶番になる。サンノゼからサンフランシスコへ、オークランドへ、そしてサンノゼへと、車で何度も巡るなら、温かな気持ちはたくさん得られるかもしれない。だが、目的地がある、どこかへ行こうとしている、とは解釈できない。

循環する選好を持つなら、未来を方向づけているのではなく、同じところを回っているだけだ。走ること自体が楽しいなら、それでよい。だが、実際に達成しようとする目標があるなら、選好の逆転は大きな問題を示している。下している選択の少なくとも一つは、整合した意味で未来を実際に最適化することに役立っていないはずだ。

大切なのが、確実さの温かな心地よさなら、それでよい。誰かの命がかかっているなら、直観は、世界を見るための脂汚れたレンズだと理解したほうがよい。感情は、戦略の結果について直接的で正しい情報を与えてはいない。そう感じるが、そうではないのだ。温かな心地よさは、あなたを大きく道からそらしうる。

未来を方向づける効率的な戦略を支配する、数学的法則がある。判断について幸せに感じることよりも大切な、本当に重要なものがかかっているなら、本当にそれを大切にしているならこそ、数学を気にかけるべきなのだ。

Sarah Lichtenstein and Paul Slovic, “Reversals of Preference Between Bids and Choices in Gambing Decisions,” Journal of Experimental Psychology 89, no. 1 (1971): 46–55. ↩

William Poundstone, Priceless: The Myth of Fair Value (and How to Take Advantage of It) (Hill & Wang, 2010). ↩

Sarah Lichtenstein and Paul Slovic, eds., The Construction of Preference (Cambridge University Press, 2006). ↩

Kahneman and Tversky, “Prospect Theory: An Analysis of Decision Under Risk.” ↩