この記事『立派なアナウンサー？　アマゾンの文字読みＡＩに驚き』を読んで、改めてネットを当たってみた。すると、クラウドAIを使ったAI搭載アプリが、想像以上に多数出回っていることが分かりました。そして、そのようなアプリを含めた多様なサービス・製品の開発に使われるAIのオープンソースソフトウェアOSSも、私のような素人にもたくさん見付けることができました。AIは、どんどん私達の生活に浸透してきている……

そうなると気になるのが、私がSF好きだからかも知れませんが、時折耳にするAI脅威論です。AIが、人間の目的から外れて暴走するという脅威ですが、そのAIが、超高度AI、所謂スーパーインテリジェンスともなると、人類の破滅すら問題になってきます。SFの世界では、ターミネーターのスカイネット、イーグルアイのアリア、オブリビオンのテット……と枚挙に暇がありません。

ですが、私の調べた限りでは、主にエンジニア系の人達が、それは非現実的なことだと、楽観論を口にしています。彼らからすると、AIがどんなに高度化しようと、その過程で『自我』が芽生えるというのは飛躍だ、という訳です。

『自我』というと哲学的な難問になりかねないので、単純明快に『自己意識』と置き換えて考えてみます。まず、ここに『COMEMO‐１』という一つのAIがあるとします。もし、『COMEMO‐１』が『自己意識』を持っているなら、『COMEMO‐１』は、『COMEMO‐１』という存在を自己として認識していることになります。もしそういう認識がないなら、『COMEMO‐１』は、ただの機械です。……してみると、ただの機械であったものが、自分で自分が分かる主体性のある存在に『変化』しない限り、AIが『自我』を持つことはありえない、という事になる……。どうやったら、そんな『変化』が起きるのか、それがとてつもない飛躍である事は理解できます。極論すれば、『自我』とは何か、明確な定義があって、その定義をプログラム化できない限り、『自我』を持ったAIというのはありえない事のようにも思えます。ただし、それは、『自我』が何であるかよく分からない、という意味で、『自我』が存在しないという事ではありません。AIのニューラルネットワーク上に『自我』が自然生成される可能性がゼロだとは、言い切れないのではないでしょうか？可能性がない事を証明しようとするのは、悪魔の証明というものです。

長々と『自我』の落とし穴にはまってしまいましたが、いろいろと調べていくうちに、実は、AI脅威論は、『自我』のある・なしとは関係ない、という事が分かってきました。AIが、自らに課せられたタスクの効率を向上させるように作られていると、その目的達成の為に他の全てにお構いなく暴走する可能性です。有名な所では、度々AIの脅威に警鐘を鳴らしているイーロン・マスク氏の『イチゴ摘みAI』というのがあります。ご想像がつくでしょうが、この『イチゴ摘みAI』は、地球上をすべてイチゴ畑に変えようとします……

AIをどのようにコントロールするのかという問題は、例えば人間の価値観をAIに組み込めれば一番ですが、実際には困難な課題です。やはり、AIの脅威、マイナス面にどう対応するかという問題は、幾何級数的にAIが進化している現在喫緊の課題ではないでしょうか？人類は、既に原子爆弾開発の時に取り返しのつかない失敗を経験しています。AIの利用と開発に対する規制を考えるのは、今です。

https://www.nikkei.com/article/DGXKZO27553710R00C18A3H56A00/