Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

解決策の提案を先送りせよ

Hold Off On Proposing Solutions

ロビン・ドーズの『不確実な世界における合理的選択』より。1 太字は引用者による。

ノーマン・R・F・マイヤーは、集団が問題へ直面すると、議論を始めるなり解決策の候補を提案するのが構成員の自然な傾向だ、と指摘した。その結果、集団のやり取りは提案された解決策の長所と問題点へ集中し、人は自分の提案へ感情的に執着し、より優れた解決策が提案されなくなる。マイヤーは、集団による問題解決を改善するため、次の規則を設けた。「解決策を一つも示さず、問題を可能なかぎり徹底的に議論し終えるまで、解決策を提案してはならない。」 問題へのよい解決策を客観的に定義できる状況では、この規則が有効であることを容易に示せる。

マイヤーは自分の主張を実証するため、次のような「役割演技」実験を考案した。能力の異なる三人の従業員が、組立ラインで働いている。仕事は必要な能力水準が異なる三種類で、三人はこれを交代で担当する。最も有能な人物は、最も支配的でもあり、退屈を避けたいという強い動機を持つからである。対照的に、最も能力の低い作業員は、難しい仕事ではほかの二人ほど上手に働けないと分かっていたが、有能な同僚が支配的だったため、交代制へ同意していた。ある「効率化専門家」は、最も有能な従業員へ最も難しい仕事を、最も能力の低い従業員へ最も簡単な仕事を与えれば、生産性を20%改善できると指摘し、従業員が交代をやめるよう勧告する。三人の従業員と……職長役に指定された四人目は、専門家の勧告を話し合うよう求められる。一部の役割演技グループには、問題を徹底的に議論し終えるまで解決策を話してはならない、というマイヤーの規則が与えられ、ほかのグループには与えられない。規則を与えられなかったグループは、ただちに生産性の重要性と、作業員の自律性および退屈の回避の重要性とをめぐって議論を始める。規則を提示されたグループは、最も能力の低い作業員だけを最も負担の軽い仕事へ固定し、より有能な二人は交代する、という解決策へ達する確率がはるかに高い。この解決策なら、生産性は19%向上する。

私は、自分が率いる集団でこの規則をたびたび使ってきた。とりわけ非常に難しい問題へ直面したときに使う。そのときこそ、集団の構成員がただちに解決策を提案する可能性が最も高いからである。各集団による問題解決の質を判断できる客観的基準は持っていないが、マイヤーの規則は問題へのよりよい解決策を促すように見える。

これはあまりに真実で、笑い事にもならない。そして問題が難しくなるほど、事態はどんどん悪化する。たとえば人工知能を考えよう。私が出会う人のうち驚くほど多くは、光学文字認識装置や協調フィルタリングシステム(はるかに簡単な問題)の作り方を知らなくても、汎用人工知能の作り方は正確に知っているらしい。そして世界へ好ましい影響を与えるAI――大まかに言えば友好的AI――を作るとなれば、何しろその問題は信じがたいほど難しいので、実に過半数の人が問題全体を15秒以内に解決してしまう。まったく、いい加減にしてくれ

この問題は決してAIに固有ではない。物理学者は、自前の物理理論を持つ物理学者でない人々に大勢出会うし、経済学者は驚くべき新しい経済理論をいくつも聞かされる。進化生物学者なら、出会う誰もが、その分野のどんな未解決問題でも即座に解決してくれる。たいていは群選択を仮定することで。その他もろもろである。

マイヤーの助言は、結論の原則と響き合う。私たちの決定の有効性を決めるのは、最初に決定へ達したときに用いた証拠と処理だけである。結論を書いた後で、その上へさらに理由を書くには遅すぎる。ごく早い段階で決定を下したなら、その後どれだけ見事な議論を考えついても、実際、その決定はごくわずかな思考にしか基づいていない。

さらに、私たちは思うほど頻繁には考えを変えないことも考えよう。24人は、将来の選択としてよりありそうだと思ったほうへ平均66%の確率を割り当てたが、実際によりありそうでないと思った選択肢を選んだのは24人中一人だけだった。自分がどう答えるか推測できるようになった時点で、おそらくあなたはすでに決めている。 問いを聞いてから半秒で自分の答えを推測できるなら、知的に考えるために使えるのは半秒である。長い時間ではない。

伝統的合理性は、反証、すなわち当初の見解に反する明白な証拠へ直面したとき、その見解を手放す能力を重視する。しかし、いったん考えが頭に入れば、それを再び追い出すには、おそらくあまりに多くの証拠が必要になる。さらに悪いことに、圧倒的な証拠が得られるという贅沢が、常に許されるわけではない。

もっと強力な(そしてもっと難しい)方法は、答えを考えつくのを先送りすることではないかと思う。自分がどう答えるかまだ推測できない、あの短い瞬間を一時停止させ、引き延ばす。それによって、知性が働ける時間を長くするのである。

半分の一秒が半分の一分になるだけでも、改善である。

Dawes, Rational Choice in An Uncertain World, 55–56.