人工知能の世界で、ディープラーニングが登場して以来、
人工知能のいろんな分野での活躍がクローズアップされるようになりました。
このディープラーニングを開発したディープマインド社を、グーグルが
４億ドルで買収して、
人工知能
の名声が、あっという間に世界中に轟き渡りました。
囲碁や将棋だけでなく、タクシーや天気予報、医療機器など、いろんな分野で使われ出し、
「人工知能」の名前が毎日のようにどこかで使われるようになりました。
この「人口知能」の普及は、当然バラ色の結果をもたらすだけではありません。
もしかしたら、
「人口知能の暴走」
なんてあるのかもしれません。
人口知能が暴走
以前、囲碁界の「世界最強の棋士」 イ・セドル九段が、
ディープラーニングを使って訓練された人工知能の「アルファ碁」と対局しました。
解説をしていた人は、最初のころはアルファ碁の打つ奇妙な手に、
「ひどい手です
囲碁の常識も知らない
ようですね」
なんて言ってました。
ところが手が進むうちに、先ほどの奇妙な手の意味が分かってきて、解説の人、
「さっきの話
取り消してもいいですか？」
と、あっさりと訂正してしまいました。
その後も解説の人、
「プロ棋士を２７年やっていますが
初めて見ました、こんな手は」
などというような手がアルファ碁から繰り出され、遂には、
「アルファ碁のねらいは
これだったのか？
すごいぞ」
と、うなってしまいました。
最後はイ・セドル九段が投了して終了で、結果はアルファ碁の完勝でした。
考えようによっては、この結果は、人間の手の内を十分に学習したアルファ碁が、
見たこともない人口知能の手と対戦した人間を負かしたということで、
人工知能が有利だったとも言えますが、
総じて、人工知能の圧勝と言えたようでした。
素直に人工知能が人間より上と思ってもいいの？
結果は人工知能の方が圧勝という形だったのですが、本当に人工知能の力を
素直に信用しちゃってもいいんでしょうか？
今回の対局で、たまたま人工知能が暴走してしまったシーンがありました。
第４戦目で、それまで３連敗中だったイ・セドル九段が、７８手目に
いつもとは違う「奇策」の手を打ったんですね。
そしたら、何と
「人工知能の暴走」
が始まってしまい、わけのわからない手をどんどん繰り出してきて、結局
人工知能は負けてしまいました。
人工知能のアルファ碁は、ディープラーニングという手法で、過去の棋譜をたくさん
読み込んで学習したんだと思いますが、
ある程度は囲碁の力のある人同士の棋譜だったのだろうと思います。
なので、普通は一流の棋士は打たないような手を打たれた時、アルファ碁が覚えている
データベースにはなかった手なので、きっと考えられなくなったんでしょう。
考えてみれば囲碁の世界でも、一流の棋士の数よりは、アマチュアの囲碁愛好家の数
の方が、きっとはるかに多いんですよね。
つまり、アルファ碁には理解できない（素人の）手が、数としては圧倒的に多いんでしょう。
ディープラーニングとは言え、あくまでビッグデータのような、大量のデータを読み込んで、
それを解析して結論を得る、という仕組みという意味では、従来のコンピュータシステムと
同じかと思います。
となると、問題はこのデータ（ビッグデータ）ということなんですが、
いまあるビッグデータの多くは、おそらくまだ人工知能の影響の少ない時代（時期）での
データなので、分析・解析するのに問題は少ないかと思うのですが、
人工知能がもっと広く社会に普及した後に蓄えられるデータは、
何となく素直じゃない、どこか偏りのあるデータが蓄えられそうな気がします。
これらの、
偏ったデータ
を基に人工知能が解析し、結果を出すような時が来たら、
囲碁の対局の時のような
人工知能の暴走
なんていう事態が起きる可能性が増えてきそうです。
以前、マイクロソフトの人工知能「Ｔａｙ」が突然暴走を始めてしまい、
マイクロソフトが急いでＴａｙを終了させた、なんていう事態が起きていましたね。
こんな暴走を防ぐにはどんなことが？
こんな人工知能の暴走を食い止めるには、どんな手があるのか、
（とりあえず勝手に）考えてみました。
ディープラーニングで出てきた答えは、それが何故かという理由はもはや分からない！
ということなんですが、これ、実は
人間と同じ
（行動の理由は
正確には分からない）
ということは、人間の世界と同じで、
現実の社会に応用するときは、ひとつの人工知能に頼り切るのではなく、
ディープラーニングで学習したたくさんの人工知能に、討論させて答えを出す、
あるいは、人間があくまで最終結論を下す、という形にするしかないかな？
なんて思っています。
大変失礼しました。