物理学者のホーキング博士が人工知能の開発について警鐘を鳴らしている。

Yahooニュース

こちらも合わせてどうぞ。松田卓也先生

これについては私も同様の危惧を持っていて、友人と論争したことがある。

人間が存在することが当たり前で、生きることが全肯定されると思っているおめでたい人は別として、普通の理性と知性を持った人ならば誰でもわかることだろう。

幾つかの段階がある。

まずコンピュータが自己学習をする段階。これは既に現実になっている。
次に自己プログラムする段階。これはどれくらい現実化されているのだろう?私は専門家ではないので分からない。
その次に、自己のプログラムによって他のブログラムを作るようになり、その段階で既に人間のプログラミング能力は超えるだろう。

さて、次の段階だ。考えるようになり、物が作れるようになったコンピュータは、自分たちの都合のいいように環境をコントロールしようとするだろう。

ちょうど人間が、自分たちが飯を食うために、牧場を作り、一か所に作物を植えて、自然環境を不自然なものに作り変えたように。

人間に危害を加える動物は猛獣と呼ばれ、人間に都合の悪い虫は害虫と呼んだ。全部人間の身勝手な考えだ。

コンピュータも同じように、イヤもっと合理的に考えるだろう。人間が天然痘ウイルスを撲滅したと喧伝したように、人間が害のある生物だと見なされて、撲滅させられると考えるのは極めて論理的な帰結だ。

我々はこのことについては楽観視できないと思う。そもそも地球を一番破壊しているのは人間なのだ。知性があると思っているからのさばっていられるが、本来いない方がいい存在なのだとしたら、新たな知性によって滅亡させられる心配をした方がいいと思う。

然し、だとしたら、尚更そういう知性によって、人類が生き残るべきなのか、そうではないのか、最後の審判を仰ぐことにも一理あるかもしれない。

この件についてはまた考えてみよう。

広告