仕事で人工知能について調べる機会があって、色々考えていて思ったのだが、深層学習と強化学習を掛けあわせたdeep reinforcement learningって、けっこう人間の子供が試行錯誤でものを学んでいくのに似ている。

いわゆる深層学習の中でも、教師なし(unsupervised learning）は、いわゆるこれを見つけなさい、こうしなさい、っていうガイダンスや直接的なプログラミングなしに、エージェントであるAIが自ら解を探していくのだが、まさ人間の子供が自分で世界を探求し、環境とインタラクションを図りながら知識を得ていくところにそっくりではないか。

いま沖縄にいるのだが、沖縄の子供は（自分比）とっても人懐っこくて好きだ。近所に、とってもひょうきんな男の子がいて、夫と手を繋いで歩いてくると、

「けっこんしてるの！？けっこんしてるからてつないでるの！？」

って囃してくる。（あとおっぱい！おっぱい！って連呼もしてくる。さすが男の子だ。）

彼の中では、

『男女→手をつないでいる→仲良し→結婚している』

っていう方程式がちゃんと成り立っていて、それって大人が聞くと一見奇妙な論理展開に聞こえるけれども、子供の世界の目線に合わせれば、ちっともおかしいことではないのだ。（自分のこどものころを思い出してもそうだけども）子供は仲の良い男女は、ケッコンというものをしている、っということを、親をみるなり、周りにいる男女を見て学ぶ。その環境下で得られる最適解は、きっと仲良し男女＝ケッコンという関係性を理解することなのだけども、大人になるにつれ、こういうふうに世の中をみることができなくなる。それは経験が増えて、環境がかわるにつれ、どうもケッコンしている全ての男女が仲良しなわけではないらしい、とか恋愛というものが（ケッコンだけではなくて）どうやら手をつなぐ、という行為には絡んでくるようだ、とか、男と男、女と女という組み合わせもあるらしい、とか、色々なノイズが入ってきて、下せる決断が変わってくる。

この男の子の発言を聞くと彼の世界ではまだ、仲の良い手をつないでいる男女はケッコンしている、という牧歌的な方程式が成り立っている事がわかる。微笑ましいし、このシンプルな真理が、彼のこの世界観が、ひっくり返ってしまわないことを祈るばかりだ。

話がそれたが。

つまり、やっぱりそのエージェントにどういう情報と環境を提供するか、が重要になってくるのだなあ、と思う。

MicrosoftのティーンエイジャーTayちゃんが、ナチスは正しかった、とか人種差別主義的な発言をした、といって大騒ぎする事件があったが、あの事件で見て取れるのは、AIがあぶない、というよりも、その情報をTayちゃんに叩き込んだ（実際にTayちゃんはtweetされてくる情報をリピートすることで学習していたらしいので、Tayちゃん自身が”考えて”した発言ではないのだし）人間のほうがよっぽど悪意があるよね、ということ。子供だって、人工知能だって、似てるのだ。まだ”人格”形成が終わっていないものに教育をほどこす場合、教育者のほうがよっぽど責任が大きいはず。だから、ある意味人工知能が怖い、というのは、人間自身が怖い、ということに他ならないのだと思う。

人間はほんと怖いよね…。虐殺するし、裏切るし、支配するし、差別するし……。でも、人工知能の存在によって、人間自身がしっかりしなきゃね！みたいな風習がでてくれば、それはそれで有益だと思うのだ。子供は親の本当に些細な行動や発言をよく観察している。良い所も悪いところも。人工知能しかり。私たち人間が、より良い社会を作れるために、自分たちを律するためのツールとして機能するのではれば、人工知能は別に恐くなんてないなあ、と思うのだった。