Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

あなたの参加条件

Your Price for Joining

最後通牒ゲームでは、第一のプレイヤーが10ドルを自分と第二のプレイヤーの間でどう分けるかを決め、第二のプレイヤーがその分配を受け入れるか拒否するかを決める。拒否した場合は、両者とも何も得られない。従来の因果的決定理論(ニューカムの問題では二箱を選び、囚人のジレンマでは裏切る)の立場に立つ限り、第二のプレイヤーはゼロでないどんな金額も、何も得ないより好むべきである。だが第一のプレイヤーがこの行動――ゼロでない提案なら何でも受け入れること――を予期しているなら、一セントより多く提示する動機はない。皆さんももうご存じだと思うが、私は従来の因果的決定理論の支持者ではない。囚人のジレンマで協力することに今なお関心を持つ私たちは、それが繰り返しゲームだからであれ、効用関数に公平さの項があるからであれ、従来と異なる決定理論を用いるからであれ、一セントという提案を受け入れないかもしれない。

そして実際、最後通牒ゲームで「決定する側」の大半は均等な分配を提示し、「受け入れる側」の大半は20パーセント未満の提案を拒否する。インドネシアで100米ドルを懸けて行われたゲーム(当時の一人あたり平均所得は670米ドル)では、30米ドルという提案さえ拒否された。これは二週間分の賃金に相当する。それに、インドネシアの参加者がニューカム型問題をめぐる学術論争について考えていたわけではない、と見てよいだろう。実際のお金を懸ける場合でさえ、最後通牒ゲームに対して人が抱く感情とは、ただこのようなものなのである。

集団の協調にも、最後通牒ゲームに似たものがある。(研究されているだろうか。されているとよいのだが……。)たとえば共通の計画があるとしよう。実際、それを利他的な共通計画、カナダの路上強盗被害者を助けることか、何かを目指す計画だとしよう。この共同計画に加われば、あなたは自力で行うより多くのことを、自己の効用関数に照らして達成できる。だから当然、参加すべきである。

だが待て! 路上強盗対策計画は、資金をマネー・マーケット・ファンドに投資したままにしている! 馬鹿げている。米国債ほどの利息さえ得られず、まして配当の出るインデックスファンドには遠く及ばない。

明らかに、この計画を運営しているのは愚か者たちだ。彼らが誤った投資法を改めるまで、参加すべきではない。

ここで、立ち止まって考えれば、すべてを考慮しても、犯罪と戦うため一人で活動を始めるより、路上強盗対策の共通計画と協力したほうがなおよい成果を上げられると気づくかもしれない。だがそのとき――ひょっとすると、これにも気づくかもしれない――もし自分があまりに簡単に同意して集団へ加わったら、彼らに誤った投資法を改めるどんな動機があるだろうか。

さて……いいだろう、話を聞いてほしい。誰もが互いを知る祖先の環境から私たちが出てしまったせいかもしれない……そして非同調者の集まりが、同調や指導者崇拝といった集団をまとめる通常の力を否定しようとするせいかもしれない……。

……私には、無神論者/リバタリアン/技術愛好家/SFファンなどが集まる一群の人々は、参加条件をあまりにも、あまりにも、あまりにも高く設定しがちに見える。それは、五十人で分ける最後通牒ゲームで、五十人の全員が金額の少なくとも20パーセントを要求するようなものだ。

祖先の環境でこのような状況がどれほど頻繁に起きたかを考えれば、これはほぼ間違いなく進化心理学の問題である。システム2の計算ではなく、システム1の感情なのだ。集団に参加すべきときと、自分の好むやり方をもっと認めさせるため譲歩せずにいるべきときについての直観は、たとえば全員と個人的に知り合いである四十人の狩猟採集民の環境に合わせて磨かれたはずである。

では、その集団が千人から成るならどうか。あなたの狩猟採集民としての本能は、これほど大きな集団の慣性を過小評価し、あなたが参加するための代価として、戦略を非現実的なほど大幅に変更するよう要求するだろう。組織の労力にも自由度にも限りがあり、何かを一人ひとりの思いどおりに行うために割ける量には限度がある。

では、その戦略が大規模で複雑で、焚き火を囲んだ三十分の交渉で決めるのではなく、たとえば十人が一週間かけて書類仕事をするようなものならどうか。その場合にも、狩猟採集民としての本能は、あなた自身の要求と比べて集団が持つ慣性を過小評価するだろう。

では、単一の狩猟採集民の部族より広い世界に暮らし、あなたと交渉する一人の集団代表しか見えず、すでに行われたほかの百件の交渉は見えないならどうか。その場合、本能はこう告げるだろう。相手はただ一人で、しかも見知らぬ人間であり、二人は対等だ。相手が交渉の場に持ち込む考えと、あなたが持ち込む考えは同等であり、落としどころはおよそ五分五分になるべきだ、と。

そして、あなたに少しでも意志の弱さやアクラシアがあるなら、あるいは自分でも影響されていると認めないような動機に影響されているなら、地位や支配権という報酬を与えてくれない集団的・利他的な計画には、十分な注意を向けずに終わるかもしれない。

ここで私は、主として猫の群れをまとめようと駆け回る側の視点から語っていることを認めておく。すでに計画に携わっている忌々しい愚か者たちを脅迫するため、ほとんどの時間、自分の力を出し惜しみする側の視点ではない。多少の偏見はあるかもしれない。

だが、妥当な経験則は次のようなものではないかと思う。

全体として見れば、あなたの効用関数に照らして、集団計画に力を合わせることがなお正味のプラスの効果をもたらすのなら――

(あるいは、その資源をほかに限界的に使うどんな方法よりも大きなプラスの効果をもたらすのなら。ただし、この後者の考え方はほとんど使われず、人間にとって非現実的に思える。その理由については、また別の機会に書くかもしれない。)

――そして、あのひどく、おぞましく、腹立たしい問題が、それを直すため何時間、何週間、何年かかろうとも、あなた自身が深く関与するほど重要ではないのなら――

――その問題は、あなたが計画への貢献を差し控えるほど重要ではない。人々があなたに注意を払い、あなたを尊重していると分かるまで本能的に出し惜しみするのであれ、集団に直させるため意識的に脅迫するのであれ、同じことである。

そして、その問題があなたにとって本当にそれほど重要なら……ぜひ集団に加わり、直すために必要なことを何でもすればよい。

さて、既存の貢献者があなたにそうさせるのを拒み、かつ、合理的な第三者ならあなたにはそれを行うだけの能力があると結論づけるはずで、かつ、そのせいで割を食う人がほかに誰もいないなら、ひょっとすると私たちは問題を抱えている。そして、条件つきで投入できるあなたの資源が相手の注意を引くほど大きいなら、ちょっとした脅迫に出る頃合いかもしれない。

この経験則はいささか極端だろうか。まあ、そうかもしれない。計画の意思決定機構が支持者に対して責任を持つための動機はあるべきだ。無条件の支持は、それ自体の問題を生むだろう。

だがたいていは……私の観察では、人は自分の要求にかかる費用を過小評価するか、単に本能に従って行動し、参加条件をあまりにも、あまりにも、あまりにも高く設定する。非同調者の集まりが、いつの日か皆で何かを成し遂げたいなら、もう少し簡単に集団へ加わり、そこに留まる方向へ進まなければならない。腹立たしいことや不完全な点があってもだ! 自分の優れた考えに反応してもらえなくてもだ!

インターネットの時代に非同調者たちと付き合っていると、「ウェブサイトのフォントがサンセリフになるまでは〈共通計画〉に自分の資源を投じる価値はない」と言う、公開メールの四百五十一通目を読むのには、いささかうんざりする。

もちろん、実際にはフォントの問題でないことも多い。怠惰、アクラシア、あるいは隠された拒絶理由の問題かもしれない。だが集団規範という点では……どのような公的発言を尊重し、どの言い訳を公然と軽蔑するかという点では……おそらく次のような集団規範を奨励すべきである。

その問題が、どれほど労力をかけてでもあなた自身で直すほど重要ではなく、露骨な悪意から生じたものでもないなら、それは、価値があるとあなたが判断する大義への貢献を拒むほど重要な問題ではない。