“人間の模倣”も根本レベルから必要


 自己複製や情報コピーという手段では、人類を滅亡させるような人工知能は存在しえないというのが松尾氏の考えのようだ。では、人工知能をもったロボットに、人間の行動を模倣させたらどうなるだろうか。人間には善良な者から凶悪な者までいる。凶悪なテロリストを人工知能ロボットが模倣したら、すぐに人類を殺戮しにかかるのではないか。

 「仮に、人間の体や頭脳を分子レベルで模倣できるとすれば、それはありうると思います。けれども、人工知能やロボットの形で、工学的に人間の行動を模倣するのであれば、やはり本能や感情を入れなければなりません。人間の行動を模倣するためには、ベースとなる感情や感覚もまた人間のそれと一緒であることが必要だと思います。そのベースがない、あるいは人間と異なるという場合、人工知能はどこまで人間を模倣できるか。私はむずかしいと思います」

 人工知能がみずからを少しでも超越する人工知能をつくるには、「そうしたい」あるいは「そうしなければならない」という欲をもつ必要があり、長い進化の歴史を通じて獲得しなければならない。それがとてつもなく実現困難なことだから、人類を滅亡するというシナリオはまずもってありえない――。松尾氏はそう考えていると理解した。

 松尾氏に「種の保存をしたいという本能をもっているかどうかが、人間と人工知能の唯一にして最大のちがいなのか」と質すと、「そう思います。唯一といってもよいのではないでしょうか」と答えた。