こんにちは。シンラボ共同代表の草場です。

AIとの共同に関して、『予測マシンの世紀　AIが駆動する新たな経済』をまとめていきます。推理小説のようで、ドキドキワクワクです。

目次
はじめに―機械知能
安さはすべてを変化させる
第１部　予測
第２部　意思決定
第３部　ツール
第４部　戦略
　第十五章　経営層にとってのＡＩ
　第十六章　ＡＩがあなたのビジネスを変容させるとき
　第十七章　あなたの学習戦略
第５部　社会（ＡＩと人類の未来）　

いよいよ第四部、戦略です。どう戦略に組み込むか、一番大事な部分です。先日の記事は以下。

■あなたの学習戦略
昨日は、データに関してのAppleの覚悟を見ました。

さて、この章をまとめていきます。この章では一貫して、早くAIを導入して学習を現場で進める大切さを説いています。経験が新たな希少資源となるのです。Wazeが例に挙げられています。

ナビゲーションアプリ「Waze」は、他のWazeユーザーのデータを収集して、交通トラブルの発生場所を予測し、個人的に最速のルートを探してくれる。大事なのは、予測は人間の行動を変えることだ。この予測による人間の行動の変化をマシンが受け取ると、その事実によってマシンの予測が歪められる可能性がある。

人間は予測を受けて判断し、行動します。その中で、Wazeの予想？と違う行動を人間がとることがあります。

Wazeにとっての問題は、ユーザーが交通問題を回避するために案内に従って、おそらく脇道を通ってしまうことだ。Wazeがこの点を調整しない限り、交通問題が緩和され、通常のルートが再び最速になったことを警告することは出来ない。この問題を解決するためには、Wazeは人間のドライバーを渋滞の現場に送り返し、渋滞が解消されたかどうかを確認する必要がある。

Wazeの「渋滞がある」という予測をもとに、人間が渋滞を回避して裏道に行く、予測した時の状況が変わり、データの質が変わります。これは問題ですね。Wazeを賢くするには、マシンから予測を受け取った人間は、その結果をマシンにフィードバックする必要があります。渋滞に巻き込まれた場合はその場にとどまって、渋滞が解消されたかをマシンに教える必要があります。しかし、その状況に置かれた人間はたまったものではないですね。早く渋滞抜けてゴールに着きたいのに。これではWazeを使いたくなくなります。トレードオフです。

予測によって群衆の行動が変化し、それによってAIが正しい予測をするために必要な情報が得られなくなるというトレードオフを克服する方法は容易ではない。この場合、多数のニーズが少数や一人のニーズを上回ることになる。しかし、これは顧客関係を管理する上で快適な考え方ではない。

「マシンが予測したい状況から抜けないで、製品を使ってくれ。そうするとマシンの精度があがるから。」といわれても、急いでいれば渋滞を避けて裏道に行くでしょう。
どう解消すればよいでしょうか？使うことで学習する場合は、あえてシステムを揺さぶります。

製品を改良するためには、特に "使うことで学ぶ "ということが必要な場合、消費者が実際に何か新しい体験をして、そこからマシンが学ぶことができるように、システムを揺さぶることが重要になる。そのような新しい環境に追い込まれた顧客は、往々にして悪い経験をすることになるが、他の全員がその経験から利益を得ることが出来る。ベータテストでは、顧客がベータ版を選んで使うため、トレードオフは自発的に行われる。しかし、ベータテストでは、一般顧客と同じように製品を使用しない顧客が参加する可能性がある。すべての顧客の経験を得るためには、時には、そのような顧客のために製品を劣化させて、すべての顧客のためになるフィードバックを得る必要があるかもしれない。

あえて製品の質を落としてフィードバックをもらう必要があるようです。なかなかトレードオフですが、方針を決めて早くAIを現場に出す必要があります。経験が資産だからです。

さて、マシンが様々な経験を積んで賢くなった場合、ともすれば人間が必要になくなります。そうすると、人間が経験を積めなくなります。

経験の希少性は、人材の経験を考慮すると、さらに顕著になる。マシンが経験を得ても、人間は得られないかもしれない。

再び、飛行機の例を見ましょう。

エールフランス447便は、2009年にリオデジャネイロからパリへ向かう途中、大西洋に墜落した。危機の間、比較的経験の浅いパイロットが舵取りをしていた。彼は3,000時間近く空を飛ぶ経験をしていたが、それは質の高い経験ではなかったのだ。ほとんどの時間、彼は自動操縦で飛行機を操縦していた。1970年代以降の飛行機事故のほとんどがヒューマンエラーによるものであることが証明されたことへの反発から、飛行の自動化が当たり前になっていたのだ。

飛行機の安全性を高めるために、人間はコントロールループから外されており、人間のパイロットは経験を積むことができず、運転が下手になったのです。AIが発達すると、人間が経験を積む機会が減ります。解決策はあるのでしょうか？

経済学者のティム・ハーフォードは、解決策は明白だそう：自動化の規模を縮小しなければならないのだ。自動化されているのは、より日常的な状況であり、より極端な状況では人間が介入する必要があるというのが彼の主張だ。

あり得る話ですね。例えばカスタマーサービス。よくある問い合わせに関しての返答を自動化することで時間が出来ます。するとスタッフは反復的な作業から解放され、より複雑な質問をしてくる顧客に対してより良い仕事をすることができます。

しかし、上記飛行機の例は事情が違います。極端な状況に対処するには、日常的な感覚をよく学ぶことが大事だからです。上記エールフランス機は、日常的な経験と少しずつ違うことが起こっているはずなのに、経験不足で気付かず、いきなり極端な状況になりました。

飛行機の場合、自動操縦は、乗務員が面白いことに集中できるようにするものではない。2009年末、2人のパイロットがミネアポリス空港を自動操縦で100マイル以上オーバーシュートさせてしまった有名な事件があった。彼らはパソコンを見ていた。

自動操縦に任せきりで、遊んで？いたと。

本書で取り上げた他の例は、自動運転車の領域を含めて、飛行機のカテゴリーに入る傾向がある。

自分が操縦士だったら、おそらく自動操縦の際には何もしないでしょう。自動化と経験不足のトレードオフはどのように解決すると良いでしょうか？

解決策としては、人間がスキルを身につけて維持すること、自動化の量を減らして人間が学習する時間を確保することが挙げられる。つまり、経験は希少価値のある資源のため、その一部をあえて人間に割り当てるのだ。

人間に経験をさせるために、あえて自動化する部分を減らすと。あり得ますね。しかし、逆の論理も出てきます。

予測マシンを訓練するために、大惨事の可能性のある経験を通して学習させることは、価値がある。しかし、人間をループに入れた場合、マシンの経験はどのようにして生まれるのか？

そうです、人間の経験を重視すると、マシンの経験が少なくなり、予測マシンが賢くなりません。

人間とマシンの経験の間には、学習への道筋を作る上でのもう一つのトレードオフがこれです。

ではどうするか？あとは経営判断です。

これらのトレードオフは、GoogleやMicrosoftなどのリーダーが宣言したAIファーストの意味を明らかにしている。各社は、マシンの学習のためにデータへの投資を惜しまない。たとえ目の前の顧客体験や従業員のトレーニングの質を落とさなければならないとしても、予測マシンの改善を優先する。データ戦略はAI戦略の鍵となる。

AIファーストを掲げるとしたら、人間の経験よりも予測マシンの経験を優先することになります。

うーん、迷う。

草場壽一
https://sinlab.future-tech-association.org/