『AI丸投げ』のリスク~AI神話の崩壊と高まる人間の存在意義~

 日経電子版の記事【Amazon、偽ブランド品を推奨 AIが見過ごす】は、改めて人間とAIとの関係性について考えさせてくれます。人間とAIとの協働が叫ばれて久しいですが、一体、人間は、AIとどのように対峙し、AIをどのように使いこなせばいいのでしょうか?今回のケースを下敷きにして、一般論として考えてみようと思います。


 記事では、AIによる不正検知システムの抜け穴が指摘されています。このような状況が暗示しているのは、不正業者がシステムの技術的な弱点を知り尽くして、検知の網をかいくぐれるような模造品を製造・出品している可能性です。不正業者は、決して「売れれば儲けもの」的な博打で出品している訳ではなく、きわめて精度の高い賭けに出て、AIには見抜けないだろうという確信の下に出品している、と考えた方がいいかも知れません。

 この事から明らかなのは、AIが熟練者やビッグデータなどから十分に学習を積んで精度を高めていないと、簡単に人間に欺かれてしまう、という事実です。つまり、未熟なAIに不正検知業務を丸投げするとすれば、人間の側に、『AI丸投げのリスク』感覚が欠如していることになります。

 AIを信じて使っている側よりも、AIを欺こうとしている側の方が、余程AIのクセ、特徴を分かっている、という逆説的な(アイロニーな)結果になってしまっています。


 この一点からだけでも、AIが決して何でも任せていい万能選手などでは決してない事が分かります。AIに関しては、過度な期待や、過剰な警戒が巷に溢れていますが、そのような『AI神話』とはきっぱり訣別して、そろそろ、AIは人間とペアになって初めてその実力を発揮できる、人間の『拡張知能(Augmented Intelligence)』であると呼び名を変えた方がいいと思います。ちなみに、Augmented Intelligenceは、頭文字にすればAIで、人工知能Artificial Intelligenceの場合と同じなので、「もう一つのAI」などと呼ばれています。

(付記:人工知能Artificial Intelligenceと拡張知能Augmented Intelligenceについては、下記の拙稿でも考察しています。)


 記事などからは、AIによる不正検知システムの抜け穴を塞ぐためには、不正摘発に至る別ルート、人間による検証(鑑定・審査など)や複数のAIによる検証が必要である事がうかがえます――

▶『AIによる不正検知システム』の補強

① AIがグレーゾーンとしたものを、人間の熟練者によって再鑑定する。

② AIによる不正検知の精度を、熟練者の技能から学習させ、更新
 続ける。

③ そもそもの出品業者の登録審査を、人間によって厳しく実施する。

④ 人間による登録審査のツボをAIに学習させ、AIによる登録審査システム
 を稼働させる。その場合も、最終チェックは人間による。

⑤ 模造品出品に関するペナルティを厳格化する。

⑥ 最も貴重な情報であるユーザーからの通報を軽視しない。


 これらの事から浮かび上がってくるのは、人間は、あくまでAIを自分の拡張知能として捉え、常に面倒を見て、学習を促し、AIと人間の協働した総合的なシステムをデザインして、課題の解決に当たるべきだ、という事だと思います。

 AIに丸投げしてうまく行くはずはなく、AIという
拡張知能を獲得することで、今まで以上に人間の存在意義は高まっていく、と考えるべきではないでしょうか。

この記事が気に入ったら、サポートをしてみませんか?気軽にクリエイターを支援できます。

スキありがとうございます!
8

ビジネスを考える

3つ のマガジンに含まれています
コメントを投稿するには、 ログイン または 会員登録 をする必要があります。