ネイサンという天才科学者が作ったブルーブック社という、世界トップシェアを持つ検索エンジンの会社の秘密の研究施設内では、極秘のうちに人工知能ロボットが作られていたのでした。
社内のひとりの優秀なプログラマーがその施設を訪問しました。そしてそこで見たのもの、見た目以外は人間とほぼ同様の感情と思考を持つ人工知能ロボットでした。
以下、ネタバレがありますのでご注意願います。
訪問したその社員は、完成したその人工知能ロボットに非常に驚いたのですが、開発をした社長からはさらに驚くことを聞かされたのでした。
映画エクス・マキナ、天才科学者ネイサンの悲劇
映画エクス・マキナ、天才プログラマーケイレブの誤算
映画エクス・マキナ、人工知能ロボットエヴァの欲望
映画エクス・マキナ、エヴァの次のバージョンとは
歴史を変えることになる
人間そっくりの人工知能ロボット「エヴァ」を開発したブルーブック社の社長のネイサンは、訪問した優秀なプログラマーのケイレブに次のように話します。
高度な人工知能の出現は
何十年も前から予見されていた
既に時間の問題だった、
つまりエヴァは必然的な進化だ
おそらく次のモデルは
歴史を変えることになる
世界が変わる！
そして人類については、
「遠からず滅びる定めだ」
もう 作ってしまった…
私はプロメテウス
という話でした。
いずれ人工知能が人間を超えて、人間を駆逐してしまう。たとえ自分が作らなかったとしても、誰かが作る。つまり必然的な進化ということです。
そしてその「必然的な進化」の結果によって、人類は滅びる運命にあるということを予測したのでした。
ネイサンが作る予定の次のバージョン、あるいはネイサン以外の誰かがつくる次のバージョンとはどんな内容だったのでしょうか。
映画の中ではこれ以上は触れられていませんが、社長のネイサンが予測した次のバージョンの内容を予想してみたいと思います。
以下はあくまで予想ですが、
人類を滅ぼしてしまうほどの
人工知能とは何か？
このキーとなる事態を２ケース考えてみました。
・ケース１
人工知能技術による兵器を使った戦争で
人類同士が争ってしまう
・ケース２
人工知能が人間の手を離れて
独自に進化を遂げてしまう
上記のケース１ではあくまで人間が主役で、人工知能技術を強力な武器として作り上げ、その結果核兵器なみあるいはそれ以上の威力で被害をもたらす可能性ですね。
ただ、ケース１はあくまで人間の手によるものなので、だから人工知能がというのとはやや違うように思えます。
でも、ケース２はずいぶん話が違ってきます。人間の手を離れてしまうということですね。
人間の手を離れて、勝手に進化を遂げてしまったら、半ば当然のように人間の能力を上回ってしまうことが予想されます。
その結果、人類は人工知能との生存競争に敗れ、滅亡してしまうというシナリオを、ブルーブック社の社長のネイサンが予測し、危惧したことなのでしょう。
人工知能の独自の進化のためには何が必要？
人間の手を離れて、独自に進化してしまうためには、何が必要なのでしょうか。
おそらく人間を含む他の動物同様、自身を複製する機能がまずは必要になるのでしょう。
自分を複製して次世代の人工知能ロボットを作る。まるで人間が子供を産むのと同じことですね。
そして、複製のたびに改良され進化する。これができたら、きっと現在の生命体よりもはるかに速いスピードで進化することが予測されます。
この進化を防ぐための人間の防御の知恵が描かれた映画が、
映画「オートマタ」
の中にありますね。
人工知能ロボットに課せられる絶対的な制限として、２つの安全規格（プロトコル）がありました。
１．生物への危害を禁ず
２．自他の改造を禁ず
この規格が人類をロボットから守るために作られた変更不可能なプロトコルだったのです。特に「２．自他の改造を禁ず」というプロトコルが大きな意味を持っていると思います。
人工知能ロボットは常に人類の道具という立場でいなさい、ということですね。
それと、もうひとつの条件に
電力
も忘れてはならないと思います。
現在のコンピュータは人間が作った電力を利用していますので、どんなコンピュータも電気を止められてしまえば動かなくなってしまいます。
じゃあ動物はどうなのかと言えば、動物の脳も電気信号で活動していますが、その電力の基になるのは「食料」です。別に特別な電源は必要がありません。
この電力の基になるものを「食料」のような形で得ることができるようになったら、それは大きなブレークポイントになるのではないかと思います。
まぁ、冷静に考えればこのことが実現するのは非常に難しいように思えますが、人類としては油断することはできないのでしょう。