【AI利用で起きる「予期せぬトラブル」】
いま私の周辺で問題になっている某システムで起きていることだが、それ以外のサービスでも、現在起こっていてこれからも起こりそうな問題として

「AI利用で予期せぬトラブル」がある。

【不況で人員削減。だが】
現在は大不況が目の前と言われているので、人員削減の時期だ。そこでコストダウンのために削減された人員の行なっていたサービスを、AIで替えようと言う動きが多い。コールセンターの業務などがそれに当たるだろう。しかし、そこで受け答えをしたAIの判断が間違っていた場合の対処はどうするのだろう？その受け答えに間違いがあり、見えないところで大きなトラブルに発展する、と言うことがありえるだろうし、実際あちこちで起きていることが私の耳に入っている。

【AIはまだ人間に代われない】
経営層にとっては「AI」と言うと「人員削減ツールの勇」くらいに思っているから、少々のトラブルは全体から見ると仕方ない、と言う感覚だろう。
しかしながら、一見役に立ちそうな動きをするAIが不都合なやり取りをユーザーとすることで、全体としてじわじわとユーザーを減らしていく、と言う事例も増えている。あちこちで「こんな答えしか出て来ないならこのサービスを使うのをやめよう」という声が聞こえてくるサービスも１つや２つではない。じわじわとユーザーが引き潮のように消えていくのだ。

【「AI倒産」】
これからは、ユーザー減でおそらく事業継続困難な企業体も出てくるだろう。「黒字倒産」「勘定合って銭足らず」とは昔から言うが、これからは、不完全なAIに頼り人員削減をしたは良いが、じわじわと利用者離れが始まる「AI倒産」も増えるのじゃないか？

【AI倒産を積極的に「武器」にする？】
また、競合する業者が多い業種では、競合相手企業に導入されるAIシステムにAIベンダー経由で正規の問題のない顧客をじわじわと排除し、その事業そのものを成り立たなくするという「AI工作員」も出てくることだろう。

【しかもAIには責任はない】
AIで行われた判断は、使う人間の力量で上手くも動くし、事業全体をダメにもする。しかも「AIがやったことだから」事業者の多くには不可視な上、何が行われているのかの説明も不完全であったりする。しかも事業継続困難の責任は企業内のみならずAIシステムベンダーに及ぶことがない。

【「AI工作員」出現】
AIの知識豊富な産業スパイによって競合相手に仕込まれた「AI毒素」がじわじわと競合企業の命を奪っていく。おそらく、そんなことも考えられるだろう。

【「AI戦争」も？】
企業だけではなく、国の政府のシステムに「AI工作員」が入り、議員などの発言に影響力を与えれば、安全保障問題ともなりかねない。しかも目に見えないところで、じわじわと破壊が行われる、となれば、今後は大きな問題となることなく、「なにか」が壊れていく。

不可視で無責任なものを人間の社会で信用するべきではない。

AIが信用に足るものになるには、まだ早い。