田中です。

ディープラーニングは既にブラックボックスではない。あるいは、永久にブラックボックスである

このような言い回しによるアイロニックな回答を正しさを背景にすればしゃあしゃあと人様に向かってしてしまうところに驚きとともに自戒をいたす次第です。

AIはごめんなさいができるのか

それは別として、そして内容は別としてこの問いかけはそもそもなんであるかということを考える。つまりこれは、その絶対的に理解し得ない高性能さにおいて、幼年期が終わらない人間に害が及んだ際に、いったいだれが責任をとれるのかという問いかけではないだろうか。

「よくもそんなことを」

国連の気候サミットにおける怒りの表明があった。果たして愚かしい世界の人類によって管理されいた時代が過ぎ去り、AIならば彼女の怒りを抑えることのできる正しい行いを実行できるかもしれない。あるいは、老人にごめんなさいを言えと指示できるようになるかもしれない。

「その動機は一体何なのでしょうか」

動機を求めることに不思議さ、苛立ちすら覚える。機能は分かる、なぜか衆人は動機に納得すると留飲を下げられるのだ。さて警察による聴取によって得られる曖昧で意味をなさない動機と同じように、AIからそれっぽい動機を引き出すAIが求められるのではないか。もちろん資源の無駄だが。

ヒトは間違える

間違えてきた、これからも間違えるだろう。正しいことをし返せばよいという問題ではない。謝ればよいというわけでもないだろうが、とても重要なステップであるように思える。

果たしてディープラーニングはAIに謝罪を獲得させるだろうか。