Yudkowsky Sequences 日本語訳
非公式日本語訳 — 原著者・発行元による公式の翻訳ではありません

Eliezer Yudkowsky — 非公式日本語訳

すでに動いた状態で創られる

Created Already in Motion

数学者でもあったLewis Carrollはかつて、「アキレスに亀が言ったこと」という短い対話を書いた。まだこの古典的名作を読んでいないなら、今読んでみるとよい。

亀はアキレスに、Euclidの第一命題から取った推論の一段階を提示する。

(A) 同じものに等しいものは、互いに等しい。

(B) この三角形の二辺は、同じものに等しいものである。

(Z) この三角形の二辺は、互いに等しい。

亀:「そして、もしある読者がまだAとBを真として受け入れていなくても、その推論の列妥当なものとして受け入れられるのでしょうね?」

アキレス:「むろん、そのような読者もいるだろう。彼はこう言うかもしれない。『もしABが真なら、Zも真でなければならないという仮言命題は、真として受け入れる。しかし、受け入れないのは、ABが真だということだ』。そのような読者はEuclidを捨て、フットボールを始めるのが賢明だろう」

亀:「ではさらに、『ABが真だとは受け入れるが、その仮言命題は受け入れない』と言う読者もいるのではありませんか?」

アキレスは賢くもなくこれを認め、亀にもう一つの命題を受け入れるよう求める。

(C) ABが真なら、Zも真でなければならない。

しかし亀は尋ねる。自分がABCは受け入れるが、Zは受け入れないとしたらどうか?

それなら、亀にもう一つ仮言命題を受け入れるよう求めなければならないと、アキレスは答える。

(D) ABCが真なら、Zも真でなければならない。

Douglas Hofstadterは後にこの議論を次のように言い換えた。

アキレス:「[(A and B) → Z]があり、かつ(A and B)もあるなら、むろんZが得られる」

亀:「ああ! つまり、

(A and B) and [(A and B) → Z]Z,

ということですね?」

Hofstadterの言葉によれば、「アキレスが推論規則とみなすものを、亀はたちまちシステムの単なる文字列へ平坦化してしまう。文字ABZだけを使えば、ますます長い文字列の再帰的パターンが得られるだろう」

これが、私が「再帰的なたらい回し」と呼ぶアンチパターンである。そして対抗告文を見つけるのはときに難しいが、ひとたび見つかれば、概して「たらい回しは直ちに終わる」という形をとる。

亀の心に必要なのは、ダイナミクスである。それは、Yを信念プールに加えるダイナミクスであり、信念プールにすでにXと(XY)があるときに働く。このダイナミクスが存在しなければ、たとえば岩石にはそれがないが、永遠の終わりまでXと (XY)と((X and (XY)) → Y)を加え続けても、決してYに到達しない。

この要件を言い表すためにかつて私の心に浮かんだ表現は、心はすでに動いた状態で創られねばならない、というものだった。静的なものにダイナミクスを与えられるほど説得力のある議論は存在しない。岩石上で実行できるほど説得力のあるコンピュータプログラムは存在しない。

そして、ある心が実際にモーダス・ポネンスを実行するとしても、次のような信念を持つだけでは無意味である……。

(A) よちよち歩きの幼児が線路上にいるなら、その子を線路から引っ張り出すことはfuzzleである。

(B) よちよち歩きの幼児が線路上にいる。

……心が次のものも実装していない限りは。

ダイナミクス: 信念プールが「Xはfuzzleである」を含むとき、Xを行動システムに送る。

「ダイナミクス」とは、物理的に実装された認知システムが時間とともに発展するさまの属性を意味する。「ダイナミクス」とは、認知システムがメモリに格納して操作するデータではなく、認知システムの中で起こることである。ダイナミクスとは操作そのものだ。紙にダイナミクスを書き込む方法はない。紙はそこに置かれたままだからである。したがって、「ダイナミクス」と書いてある直上の文章は、ダイナミクスではない。もし私が、その文章をダイナミクスであらしめ、ただ「ダイナミクス」と言わせるだけにしたくないのなら、Javaアプレットを書かねばならない。

言うまでもなく、次の信念を持っていても……。

(C) 信念プールが「Xはfuzzleである」を含むなら、「『X』を行動システムに送る」ことはfuzzleである。

……心が、「fuzzle」とラベル付けされた仮想的な行動を実際の運動行為に変換する挙動をすでに実装していない限り、役には立たない。

認知システムの性質について慎重に議論することで、次のことを証明できるかもしれない……。

(D) 「fuzzle」とラベル付けされた計画を行動システムに送るダイナミクスを持つ心は、それを持たない心よりもfuzzleである。

……しかしそれでもまだ役には立たない。話を聞いている心が事前に、現在のソースコードを、よりfuzzleであると信じられる別のソースコードと入れ替えるダイナミクスを備えていない限りは。

だからこそ、岩石を論じ説かせてfuzzleにすることはできないのである。