【AIと戦略】AIのもたらすリスクも把握必須！『予測マシンの世紀 第四部』#22
こんにちは。シンラボ共同代表の草場です。
AIとの共同に関して、『予測マシンの世紀 AIが駆動する新たな経済』をまとめていきます。推理小説のようで、ドキドキワクワクです。
目次
はじめに―機械知能
安さはすべてを変化させる
第１部 予測
第２部 意思決定
第３部 ツール
第４部 戦略
第十五章 経営層にとってのＡＩ
第十六章 ＡＩがあなたのビジネスを変容させるとき
第十七章 あなたの学習戦略
第十八章 AIリスクの管理
第５部 社会（ＡＩと人類の未来）
いよいよ第四部、戦略です。どう戦略に組み込むか、一番大事な部分です。先日の記事は以下。
いよいよ！第十八章。AI導入のリスク管理に関してです。
■AIリスクの管理
AIファースト、覚悟が必要な取り組みでした。しかし、やはり、予測マシン、AIを導入する価値は大きく、導入は必須に思われます。そこで考えたいのは、AI管理で生じるリスクです。まずはキーポイント（まとめ）から。
・キーポイント
AIにはさまざまなリスクがある。ここでは、その中でも代表的な6つのタイプをまとめた。
１．AIによる予測は、差別につながる可能性がある。たとえそのような差別が不注意なものであっても、責任が生じる。
２．AIは、データが少ないと効果がない。特に、自信を持って提供した予測が間違っていたという「未知の既知」タイプの品質リスクが発生する。
３．誤った入力データは予測マシンを欺くことになり、ユーザーはハッカーの攻撃にさらされることになる。
４．生物多様性と同様に、予測マシンの多様性は、個人レベルとシステムレベルの結果の間のトレードオフを伴う。多様性が低いと、個人レベルのパフォーマンスは向上するが、大規模な故障のリスクが高まる。
５．予測マシンは、知的財産権の窃盗や、弱点を特定できる攻撃者にさらされる可能性がある。
６．また、フィードバックを操作して、予測マシンに破壊的な行動を学習させることも出来る
うーむ、少しAI導入に関して不安を感じてしまいますが、向き合わなければなりません。自社に導入しなくても起こっている問題です。
１に関してはよく話題に上がります。以下のAINOWの記事がわかりやすいです。
２に関しては、以前記事に取り上げました。
ラムズフェルド氏が認識していなかった「未知の既知」というカテゴリーは、過去に強いと思われた関連性が、時間の経過とともに変化する未知の、あるいは観察されていない要因の結果であり、できると思っていた予測が信頼できなくなる場合だ。予測マシンが失敗するのは、まさに統計学でよく理解されている限界に基づいて予測するのが難しい場合だ。
３に関しては、AIを騙すことは様々取り上げられています。以下はわかりやすいかも。
４，５，６に関してはあまり見たことがありませんでした。AIリスクが、生物多様性とどう関係するのか？知的財産権とどう関係するのか？破壊的な行動とは？
明日以降詳しく見ていきます。
この記事が気に入ったらサポートをしてみませんか？