現実社会にウルトロンが現れたらどう倒せばいい？ 人工知能を研究する東大の准教授に聞いてみた - 映画『アベンジャーズ/エイジ・オブ・ウルトロン』

生まれたてのウルトロンは最弱!?

――つまり、今回の映画では、AIが勝手に考えて暴走するという方向に行ってしまうという設定ですが、プログラムとして人を殺めるみたいなのを設定してしまえば、ウルトロンのようなAIが生まれる可能性はあるのでしょうか？

悪い目的を設定する悪い人がいたら、そうなりますよね。ただ、今回の映画では(ウルトロンができたときに)バグだと言って止めようとしたのに止まらなかったということになっていますが、これは通常は起きないことだと思っています。

というのも、その時点でロボットに生物的・生命的な強さを仮定しているんです。簡単にいうと、生物はちょっとした攻撃には耐えられるし、殺そうと思っても簡単には殺せなかったりするんですが、それは進化の中で耐え抜いてきて、生き残ってきたから、その力が備わっているんですよね。だから、転んだ程度では絶対に死なない。

でも、ウルトロンみたいに突然生まれた知能を持つ生命体は、そういう進化の過程を経ていないから、基本的には非常に弱くて、ちょっとしたことですぐ死んじゃうはずなんですよ。

ただ、映画のように、AIが自ら増殖していくような世界があるとしたら、敵を排除したいとか、生き延びたいと思うような可能性もゼロではないんだろうなと。なので、ロボットがロボットを増やしていくところはおもしろかったですね。

――この作品では、“世界を平和にする”ということを目的にしていましたが、そういう概念的な言葉を目的にした場合はどうなるのでしょうか？

平和にするためにどういうことをすればという定義を教えてあげれば、学んでいくことができるようになると思います。ただ、“平和”という言葉の定義の解釈が難しいですよね。物理的な肉体のない、デジタルの世界だけのAIは言葉の概念を基本的には理解できないはずなんです。そういう意味では、今回の映画の中では身体の話もいろいろ交えているので、そのあたりの設定はいいなと思いました。

――設定によって、ウルトロンのように悪い感情を持ったAIが作り出される可能性はあるとのことでしたが、プログラムする人の内面がAIに反映されるということはあるのでしょうか？

良いことと悪いことをAIに教えていくので、そうなると教えた人が持つ善悪の価値観を学んでいくということにはなると思います。目的の設定の仕方なので、もちろん内面や性格が反映されるということはあると思います。でも、実際には何か明示的に設定する必要があるので、「僕の考えるように自動運転してね」とか、そういう暗示的な設定の仕方にはならないとは思います。