自己複製するには技術と欲望が必要


 人工知能がみずからを少しでも超越する人工知能を生み出せるようになったとき、その能力が急速に爆発して無限大化する。そんな可能性が議論されることがある。

 無限大化した人工知能の能力がなんらかのロジックで「人類を滅亡すべし」と意思決定し、それを実行していくといった暴走的シナリオはありえないのだろうか。

 松尾氏は「そういうことが起きる可能性は非常に低いと思います」と否定する。そしてその理由を、技術的な観点と生命的な観点から説明する。

 まず、技術的な観点。「技術的に見ると、人工知能が人工知能をつくるということをどのようにやるのか。検討もつかないというのがいまの段階です」。

 著書『人工知能は人間を超えるのか』の中で松尾氏は「人工知能をもったロボットが自分を増やそうとしたら」という思考実験をしている。そこで大きな“難関”になるのは、人工知能ロボットたちが工場をつくって自己を再生産する過程だという。材料となる鉄や半導体をロボットがどう入手するのかが見えてこないというわけだ。

 では、もう一つの生命的な観点で、人類滅亡を否定する理由とはどのようなものか。松尾氏の話を聞くと、どうやらこちらのほうがより根源的という気がした。

 「生命には、自己保存や自己複製をしようとする本能や感情や欲望があります。それらがない種は滅亡してきました。生命誕生からおよそ50億年の進化の過程を経て人類がいまに至っているのと同様に、人工知能もそうした進化の過程を経験しなければ、自己保存や自己複製しようとする本能や感情のようなものを得ることはできません」

 つまり、人工知能が人工知能を生み出すためには、「自分を複製したい」という欲望が必要であり、その欲望を人工知能が得るには私たち生命が経験した進化と同様の過程を踏まなければならないということのようだ。

 けれども、ここで疑問が生じる。もし、長い年月をかけて人類が得てきた全経験の情報を人工知能にあたえることができたら、わざわざ人工知能は長い進化の過程を経なくても、「自分を複製したい」という欲望をもてるようになるのではないか。

 「表面的にはそうだと思います。けれども、そうしてできた人工知能はとても弱いものだと思います。人間には性格のちがいや、薬の効く効かない、背の高さのちがいなどの多様性があります。人類が得てきたすべての経験の情報を単にコピーしただけの人工知能は、すこし環境が変わるだけで簡単に全滅してしまいます」と松尾氏は答える。