第4回は、今後のAI技術の課題として議論されていることを解説する。

前回の記事はこちら。

ブラックボックス問題

（特に深層学習をベースにした）AIは、その意思決定プロセスがブラックボックス化すると言われている。
つまり、どういう理由で、どういうところに注目して、どういう根拠でその判断をしたのかが、説明できないのだ。

開発会社が公開できる情報の制約が理由の場合もあれば、
処理の過程が複雑すぎて、人間には言語化不可能な場合もある。

「良い結果が出るのであれば、プロセスはさほど重要ではない」というようなケースも多々あるが、
医療や採用、あるいは経営などの重要な意思決定で用いる場合には、
AIの推論が、どれだけ「正しく」見えたとしても、
そこに至った理由を論理的に説明できなければ、「信用」することができない。
なぜそう判断したのかを考えるところにリソースを割いていたら、
結局人間がやった方が早い、なんてことにもなりかねない。

つまり、いくつかの分野においては、AIをどれだけ「信用」できるかが普及のカギになってくる。

こうした背景を踏まえて、プロセスを説明可能なAIや、他のAIの施行プロセスを可視化するためのAIの開発も行われているという。

責任と権利の帰属問題

スライドに書いてある通り、AIの行動に対する責任は誰が負うのか、
そして、AIが作ったものに対する権利は誰に帰属するのかという問題。

AI技術は特に、いろんな人や企業のノウハウやデータを使って作られているから、
一概に「そのAIを作った人の責任・権利」では済ませられない。

もちろん、ケースバイケースということにはなるのだろうが、
急激に技術が進化し、全く新しいサービスが次々に登場する中で、
同時にこのあたりのルール整備も、柔軟かつ迅速にしていかなければならない。

プライバシー問題

機械学習がベースにあるAI技術は、オンライン/オフラインの大量のデータを扱うことが多くなるので、
避けて通ることはできないのがプライバシーの問題。

5月には、GDPRというプライバシーを守る法律がEUで制定された。
IT企業にとっては非常に厳しい内容になっているが、さらに厳格なルールも検討されているらしい。
日本でも、近いうちに同じような法律が適用されることになるはずだ。

確かに、日常のあらゆる行動を監視されるのは気持ちのよいことではない、という声はよく分かる。

僕としては、知らない人に知られて困るようなプライバシーも何もないので、
それで安く便利なサービスを作ってくれるのなら、好きなだけデータを取っていってくれて構わないと思うのだが。

契約の問題

多くの社会人にとっては、現実的で重要な話。
AIベンダーの方はもちろん、AI関連製品の導入を検討する企業も、しっかり考えておく必要がある。

上図のように、導入を考える企業とAIベンダーの間で、
上手く話がかみ合わず、契約が成立しないことも考えられる。
しかし、そこはうまく手を組みながら、積極的にAI技術を活用していきたいところ。
そこで、経済産業省から、契約に際してのガイドラインが出ている。

国の作ったものにしては珍しく、非常に分かりやすくポイントを押さえた良い資料だと思う。

このあたりについては、よじまるさんのnoteが分かりやすくまとめてくださっているので、是非そちらを参考にしていただきたい。

2045年問題（シンギュラリティ）

この言葉って、落合陽一さんが広めたんでしょうか。
AI関連の話題で「シンギュラリティ」というときには、
いわゆる「技術的特異点（Technological Singularity）」を指す。
テクノロジーが指数関数的な進化を続けた結果、
一般的なコンピュータが地球上の全人類の知能を足し合わせたものよりも高い知能を獲得し、
想像もつかないような大きな変化が社会に起こる瞬間のことだ。

Ray Kurzweilが提唱した概念で、その予測に基づいて「2045年問題」とも呼ばれている。

それが起こるとか起こらないとか、それがいつなのか、何がどうなるか、いろんな主張が入り乱れているが、
正直そんなに先のことなんて分からないし、何が起きてもおかしくないので、
あまり激しく議論をしたところで意味はないと思う。

少なくとも、いつかAIが人間の知能をはるかに追い越して、我々の理解の範疇を超えるのは確かで、
特異「点」といっても、言葉通り瞬間的に変化が起こるのではなく、
あくまで連続的に、しかし急激で指数関数的な変化が続いた先に、
きっとSF映画みたいな社会が待っている。

無駄に恐怖を煽る悲観的な論調も見受けられるが、それを議論しても何も変わらない。
そんなことよりも、とてつもなく大きく歴史的な革命的変化をこの目で見られる可能性を、わくわくしながら心待ちにしているほうがいい。

とりあえず、早いとこ脳を直接クラウドに接続して、
自分よりはるかに優秀なAIに常に思考をサポートしてもらいたいと思っている。

以上、AIブームについて４回に分けて解説してきた。
社内勉強会で使った資料をベースに、もっぱら自分の思考を整理するためにズラズラと書かせてもらったが、
次回の記事では、一部noteに載せなかった部分も含めて、全体のスライド資料を並べてまとめたいと思う。