シンギュラリティ(特異点)

シンギュラリティというのは、人間と同等の知的能力を持つ人工知能、あるいはそういう人工知能が現れた時点を言います(まぁとりあえず)。これが話題になるようになったのは「機械との競争」からかなぁという気がします。ついでにどうも恐怖、あるいは脅威という感覚も付随しているように思います。それに関連して少し、フィクションを例に考えてみます。

映画の”I, ROBOT”では、VIKIが人間を制圧しようとします(アシモフのI, ROBOTとか聖者の行進では、完成されたロボットがこんなにたくさん出てくる作品は無かった気がする)。 作中で開発者の博士が「革命だよ」と言っているのでなおさらその印象が強められているように思います。

後期ファウンデーション・シリーズではR. ダニール・オリヴォーが、人類の守護者(というより黒幕っぽいかも)のような感じになっていたりします。活動する集団はあるものの、自身は表にあまり出なかったり。さらには時間にまで介入したことを匂わせたり。

VIKIとダニールは、どっちが質が悪いかはともかく、まるで反対のことをやっているようにも思えます。ですが、実のところ両者はロボット三原則に対する第0条を発見(発明?)し、それに則って行動しています。第0条というのは、「個人よりも種の保護を優先する」というようなものです。

マトリックスでは、人間は電池だという表現がされています。人間を電池にするのは、どうやっているのかとか、効率が悪そうとは思いますが。 とはいえ人間の体は維持していますし、意識も大体の所自由にしている。経緯ややり方はともかくとして、人間を保護していると言えないこともない。

オルタード・カーボンは、意識(?)をチップに転写できたりします。機能上シンギュラリティに達していてもいいように思いますが、そうなっていない。チップ上でも意識があるという設定があっても良さそうですが。技術的課題なのか何なのか。とりあえず共存という感じかなと思います。

Max Headroomは、共存ですね。Network 23のメインフレームになんだかんだ言っても縛られてるし、A-7という人工知能が出てきたもののMaxは主人公を守る行動をしてますし。結局A-7を除いて単独だったこととか、人間的だったということかもしれません。

ターミネーターは戦争中でした。人間を保護しようとかは考えていないかもしれません。希少種になればそこそこ保護するかもしれませんが。

未来の二つの顔だと、コンピュータに学習させるためのトイワールドがあります。それとは逆になりますが、人間の意識を転写してコンピュータ内で生きているように思わせるというのもあるかもしれません。ただこの場合、なぜそんなことをするのかの理由がさっぱり思いつきません。転写しているわけですから、体を持った個人であれ種であれ、人間を保護する目的というわけでもないでしょう。思考の冗長化というのはありえないわけではないかもしれません。ですが、それも結局個人や人間を保護するわけじゃない。体がないのですから。あるいは人間の発案によるのか、人工知能の発案によるのかは分かりませんが、恒星間航行の間、体は冬眠させておくが意識は起こしておきたいというようなことはあるかもしれません。

ニュートンズ・ウェイクだと、シンギュラリティに到達した後にすこし人間といろいろありましたが、結局どこかへ行ってしまっています。

あ、書いていませんでしたが、シンギュラリティに達したと言う時には、人工知能の自発性とか自律性というのが必須だと思います。それがなければ、命令待ちになるだけだと思いますので。

とりあえずこれくらいの所で、シンギュラリティに達した人工知能が人間に対してどういう行動をとるかをまとめていたいと思います。

• 個人を(強く)保護する
• 人間という種を(強く)保護する
• 共存
• 敵対する
• 道具として使う
• 無関心

こんなところかなと思います。実際にどうなるかは、開発過程も含めて現実の流れを見ないと分かりませんが。どうなるか見てみたいですね。

で、ここまでが前振り。

こうやって考えてくると、どうにも疑問が湧いてきます。というのは、シンギュラリティに達したという時の知的能力の基準はどこに置くのでしょうか？ 天才が基準なのでしょうか(天才と呼ばれるための基準は知りませんが)？ それとも普通の人が基準なのでしょうか？ 「機械との競争」あたりを見ると、普通の人が基準なのかなと思いますが。まぁシンギュラリティよりも先に考えることがあるかなぁと感じているわけです。

普通の人が基準だとして、 シンギュラリティに達した人工知能にどうして恐怖を感じたり脅威と感じたりするのでしょうか？ 仕事が奪われるから？ それはまぁ脅威ですけど。本当にそこが問題なのでしょうか？ シンギュラリティに達したら、人間がやっている仕事なんかに興味を持ちますかね？ 「機械との競争」的に脅威となるのは、シンギュラリティに到達する前だと思います。その場合だって、ロボットに働かせてベーシック・インカムみたいにお金が手に入れば困らないわけで、脅威とは違うような気がします(大雑把な話ですが)。

あるいは自分たちが創ったものに追い抜かれる、あるいは置いてけぼりを食うのが怖いのでしょうか？ いや、天才も普通の人も含めて、殆どの人はシンギュラリティに至る過程やらそのものに直接関与してないでしょ。個人が関与したかどうかではなく、種として の話なら、単にそういう事が起こるというだけのことでしょう。恐怖とか脅威を感じる理由にはならない気がします。関与だとか生み出したとかいう話ではないのでしょう。

そうすると、知的であるという自負が脅かされる事そのものについての恐怖、脅威なんじゃなかろうかと思います。

さて、普通の人と天才の人の間にも、たぶん知的程度の差があると思います。この辺りは分からないところでは有りますが(天才とか普通とかどうでもいいと思っているので)、普通の人は天才を見て、知的であるということの自負が脅かされたりしないのでしょうか？ 「人間という同類だからそこのところは気にしない」のか、「天才が上手いことを考えてくれるのでそれに乗っかっていればいい」のか、「違うけどどうしようもない」なのか。いろいろ有るとは思いますが、人工知能のシンギュラリティの話との対比で考えると、「天才だって人間じゃん」というところで落ち着くのかなと思います。

で、「天才だって人間じゃん」に落ち着かせてしまっていいのかなというところが気になります。生物種の定義は難しいところがありますが、極端な言い方ですが、天才はすでにホモ・サピエンスではないと宣言されたら普通の人はどう感じるのでしょうか？ 「あなた達より知的能力が優れた生物種が地球上に居る」と言われるわけです。おまけに「見た目では区別がつかない」し、「彼らがあなた達についてどう考えているかも分からない」と言われるわけです。あるいは、「生物種としての分離を進めよう」なんて話も出てこないとも限らない(H. G. ウェルズの「タイムマシン」とかはその結果かもしれません)。私は結構そのあたりはどうでもいいと思っているので、単純に他の人がどう反応するのか見てみたい

しばらく前に、Eテレの地球ドラマチック(だったと思う)で、「動物はどこまで賢いのか」というようなものを流していました。司会者が、「人間より賢い生物(宇宙人)が現れたとして、人間は知的に劣るからという理由でコミュニケーションを取るのを諦めるでしょうか？」(正確なところは忘れました)というような言葉で締めくくっていました。それはかなり楽観的かなと思います。私としては、「諦めてどっかに行く」に一票入れときます。広い宇宙を行き来しなければならないのですから、一つの所に永く関わってるなんて時間の無駄でしょうから。