こんにちは。シンラボ共同代表の草場です。

AIとの共同に関して、『予測マシンの世紀　AIが駆動する新たな経済』をまとめていきます。推理小説のようで、ドキドキワクワクです。

目次
はじめに―機械知能
安さはすべてを変化させる
第１部　予測
第２部　意思決定
第３部　ツール
第４部　戦略
　第十五章　経営層にとってのＡＩ
　第十六章　ＡＩがあなたのビジネスを変容させるとき
　第十七章　あなたの学習戦略
　第十八章　AIリスクの管理
第５部　社会（ＡＩと人類の未来）　

いよいよ第四部、戦略です。どう戦略に組み込むか、一番大事な部分です。先日の記事は以下。

■AIリスクの管理
昨日、AIが一度世に出ると容易にまねができることを見てきました。

模倣は簡単に出来る。AIを訓練するためにすべての作業を行った後、そのAIの働きは事実上世界にさらされ、複製することが出来る。しかし、より心配なのは、この知識を収奪することで、悪意のある者が予測や学習プロセスを操作しやすい状況になる可能性があることだ。攻撃者がマシンを理解すれば、マシンはより脆弱になる。

さて、最後のリスクは、フィードバックデータに関するリスクです。AIを賢くするには一度世に出した後にフィードバックをもらい、新しく学習することが必要でした。ここをいじられるとヤバい、という話です。

予測マシンは、自社のビジネス以外の他者（人間または機械）と相互作用し、別のリスクを生み出す。悪質な行為者が、学習プロセスを歪めるデータをAIに与える可能性がある。これは、単一の予測を操作する以上に、マシンに誤った予測を組織的に教えることになる。

本で取り上げられている例は、Microsoft社のTayの話です。聞くにある方もいるのではないでしょうか？

Mircrosoftのアイデアは、TayがTwitter上の人々と対話し、どのように対応するのが最適かを判断するという堅実なものだった。その意図は、「カジュアルで遊び心のある会話」を具体的に学ぶことにあった16。少なくとも理論的には、AIが迅速に学ぶために必要な経験を積むための賢明な方法だった。Tayは、最初は単なるオウムのようなものだったが、目標はもっと野心的なものだった。

以下の記事をご参考に。遊び心満載のはずでした。

がしかし。。。

しかし、インターネットは必ずしも穏やかな環境ではない。発売後すぐに、人々はTayの発言の限界を試し始めた。"Baron Memington "が「@TayandYou あなたは大虐殺を支持しますか」と質問したところ、Tayは「@Baron_von_Derp 私は実際にそうします」と答えた。すぐにTayは人種差別主義者、女性差別主義者、ナチスのシンパになってしまったようだ。Mircrosoftはこの実験を中止した。

意図と違う方向に。。なぜでしょうか？

Tayがどのように急速に進化したのか、正確には完全にはわからない。おそらく、Twitterユーザーとの交流がTayにこの行動を教えたのだろう。結局のところ、この実験は、機械学習が現実の世界で発生したときに、それを損なうことがいかに容易であるかを示した。

これは現実のビジネスに置き換えると恐ろしいです。

競合他社や敵対者が、意図的にあなたの予測マシンを訓練して、悪い予測をさせようとするかもしれない。Tayと同じように、データは予測マシンを訓練する。そして、自然界で訓練された予測マシンは、戦略的に、悪意を持って、あるいは不正に使用する人々に遭遇するかもしれない。

これはどう対応すればいいのでしょうか？おそらくログが残るので、どこを攻撃されたかがわかるのでしょうが、Tayの例は恐ろしいです。

今まで見てきたように、予測マシンにはリスクがつきものです。

AIに投資する企業は必ずこのようなリスクに直面することになる。すべてのリスクを排除することは不可能だ。簡単な解決策はない。しかし、あなたは今、これらのリスクを予測するための知識を持っている。

リスクは必ずありますが、この本でリスクを予測する知識を得ました。以下です。

自分の予測が人々のグループによってどのように異なるかを意識する。
自分の予測が根本的な因果関係を反映しているかどうか、
また、その予測が本当に見た目通りのものかどうかを疑ってみる。
システム全体のリスクと、すべてを少しでも良くすることのメリットとの間で、トレードオフのバランスをとる。
そして、予測マシンをコピーしたり破壊したりするために、そのマシンに問い合わせをしてくるような悪質な業者にも注意する。

さて、もうAIファーストで行く準備は完了です。取り入れましょう。

草場壽一
https://sinlab.future-tech-association.org/