❦
予期と、自分が信じていると思っていることとの同期が外れた人を相手に、少し面白いことができる。
かつてある晩餐会で、自分が何を生業にしているかを一人の男性に説明しようとしていたとき、彼はこう言った。「人工知能が可能だとは思いません。魂を作れるのは神だけだからです」
この瞬間、私は神の啓示を受けたに違いない。即座にこう答えたからだ。「つまり、私が人工知能を作れたら、あなたの宗教が間違いだと証明されるのですね？」
彼は言った。「何ですって？」
私は言った。「つまり、あなたの宗教が、私には人工知能を作ることは絶対にできないと予測するなら、私が人工知能を作った場合、あなたの宗教は間違いだということです。あなたの宗教が、私にAIを作れる可能性を認めるか、さもなければ、私がAIを作ればあなたの宗教が反証されるか、そのどちらかです」
彼は、自分の仮説を今まさに反証されうるものにしてしまったと悟り、間が空いた。それからこう言った。「いや、知性を作れないという意味ではありません。ただ、私たちと同じように感情を持つことはできない、という意味です」
私は言った。「では、私が人工知能を作り、それが何らかの台本を意図的に事前プログラムされていないのに、私たちのものとよく似た感情生活について語り始めたら、それはあなたの宗教が間違っているという意味ですね」
彼は言った。「まあ、その、これについては、意見が違うということで合意するしかなさそうですね」
私は言った。「いいえ、実は、それはできません。合理性にはオーマンの合意定理という定理があり、合理主義者二人が、意見が違うということで合意することはありえないと示しています。二人の意見が食い違うなら、少なくとも一人は何かを間違えているはずです」
私たちはしばらく、これについてやり取りを重ねた。最後に彼は言った。「いや、私が本当に言おうとしていたのは、永遠のものをあなたが作れるとは思わない、ということなのでしょう」
私は言った。「ええ、私もそうは思いません！ オーマンの合意定理が求めるとおり、この点で合意に達することができてうれしいです」。私は手を差し出し、彼はそれを握った。それから彼は、どこかへ立ち去った。
近くに立って会話を聞いていた女性が、重々しく私に言った。「見事だったわ」
「どうもありがとう」と私は言った。