人びとが“身近になる”ことの重要性


 多くのリスクは、決して「0」にはなりえない。人工知能が人類を滅亡させるリスクについても「非常に低い」「いまは考えられない」というものであり「0」にはなりえない。

 だから、極めて「0」に近いような他のリスクと同等に扱えばよいのかもしれない。けれども、近年の人間は、コンピュータの進化は、生物の進化や自然科学の進化などよりも格段に速いものと感じてきた。その“速さ”が「もし仮に暴走したら止まらないのでは」といったリスクの懸念につながっているのかもしれない。

 人工知能が人類を滅亡させるリスクは極めて「0」に近いのだとすれば、どうしてそういえるのか。人工知能が人類に幸福をもたらすものだとすれば、どのようにその幸福がもたらされるのか。こうしたことをなるべく多くの人が知識として得ていく、そして、人工知能に身近な存在として感じられるようになる。そうした知る機会の蓄積が、これからも重要になる。

◎今回のまとめ◎

・人工知能がみずからを超越する人工知能を生み出すには、人工知能がそれを実行する技術と欲をもたなければならない。技術の獲得も欲の獲得もともに難しいため、人工知能が人類を滅亡させるといったリスクも非常に低い(と研究者は考える)。

・人間の行為を人工知能ロボットが機械的に模倣することで殺戮に走るリスクについては、人工知能が人間の本能や感情までも模倣する必要があるため、これもむずかしい(と研究者は考える)。

・人間のツールとして考えると、人工知能はとても秀でた能力をもっている。幸福のために使うのも不幸のために使うのも人間次第だから、使いかたをめぐる議論は今後も必要。