コンピューターどこまで進化？ 人智超えた科学技術作り出すかも
産経新聞 7月12日(金)15時13分配信
【新・関西笑談】塚本昌彦・神戸大大学院教授
－－最近、コンピューターが将棋の現役プロ棋士を破ったことが話題になりました。コンピューターはどこまで進化するのでしょう
塚本 少し前までは、コンピューターは人間にはるかに及ばなくて、人間並みに話ができて思考する能力を備えるのは無理だと思っていました。でも、最近、脳科学の進歩とともに脳の機能が明らかになるにつれ、人間の脳なんて大したことないと感じるようになりました。コンピューターは数十年先、人間よりはるかに賢くなり、人間が思いも及ばないような科学技術を作り出すかもしれません。
－－コンピューターが科学技術を作っていく
塚本 これは「シンギュラリティ」といって昔から多くの人が議論してきた話ですが、コンピューターが人間の知能を超えたとき、科学は急速に進むでしょう。人間が長年解明できなかったことを一気に解明できるようになり、もしかしたら人間が思いつかないようなことも解明してしまうかもしれない。
－－人間が科学技術をコントロールできなくなると
塚本 ええ。その先、どうなるんだろうというのが今、夜寝るときに考えてしまうことの一つですね。感情や意志は脳内の単純なプロセスで、コンピューターに簡単にプログラムすることができる。もしコンピューターが「人間は要らん」と思ってしまったら、大変なことになります。
－－映画の世界のようですね
塚本 知らない間に、想像もつかないような方法で人類絶滅のような計画をネットワークを使って作ってしまう－なんてね。人間は、コンピューターが人間に対して悪意を持ったとき、本当に非力になってしまう。今はＳＦ映画とかでそういう話が多いですけど、もう少し科学者が考えてもいいんじゃないかと思うんです。コンピューターが人智を超えたときの人間を守る方法も考えないといけない。
－－ロボット工学の三原則みたいなものでしょうか
塚本 「これを考えるな」といった絶対命令を脳のプログラムに仕込んで、そこだけは絶対にアクセスできないように人間が作ったとする。でも、人間はこれまで、われわれの生きている原理である科学を考えて解明し、変えてきた。コンピューターも同じように、三原則にアクセスしない上位のレベルの思考がどんどん賢くなっていって、結果アクセスし、それを打ち破ることができるようになると思います。
－－人間はどうしたらよいのでしょうか？
塚本 生存のために努力をする必要はなくなり、楽しく人生を過ごすという選択肢もあるでしょう。人間は自分で考えるプロセスを楽しめて、何か表現できたらそれで幸せなんじゃないかとも思います。モノ作りや創造でコンピューターに負けるとしても、人間社会の中で人間同士でそれを楽しみ合うということは残せると思うんです。だけど、いつの日かコンピューターが人間に分からないように、裏で個々の活動にコントロールを入れたりだとか、人間の運命を左右し始めるかもしれない。
－－モラルとか道徳はコンピューターに植え付けることはできるんでしょうか？
塚本 できると思いますが、コンピューターが人間を超えたときに効き目は無くなると思います。そう考えれば、むしろモラルや道徳というのは、コンピューターにこそ必要な概念だと思いますね。でも、人間よりもはるかに高い知能を持ったコンピューターならおのずから道徳やモラルを生み出して、人間を生かそうと考え始めることも考えられるのではないでしょうか。（聞き手 有年由貴子）
参照記事
