最近、AIのリスクについて考えている。

AIは、ここ数年で爆発的に伸びているテクノロジーの1つであり、それが可能にすることは多岐分野において実装されている。有名どころで言えば、ChatGPTのような文章生成AIや、Midjourneyなどの画像生成AIがある。

他にも、様々な企業が提供するサービスの裏側では、様々な形態のAIが活躍していることだろう。

こうしたAIで可能になることはたくさんあるのだが、その一方で、ネガティブな影響を及ぼすリスクもあることは念頭に置いておきたいところだ。

1つの重要なポイントとして考えられるのは、AI技術が高度に発達した結果、人間がAIの出したアウトプットを適切に「評価すること（その結果が妥当なものなのかを判断すること）」ができなくなる可能性があることだ。

AIのアルゴリズムが複雑になればなるほど、人間はそのアウトプットが「なぜ」得られたのかがわからなくなる。その結果、最終的には「よくわからないけどAIの出した結果を鵜呑みにする」という状況が生じ得るだろう。

この状況は、行き過ぎると非常に危険だと思う。いわゆるシンギュラリティ的状況とは異なるけれども、AIを適切に手懐けることができなくなった状況を意味している。

また、別の角度からの視点としては、このAI技術が「あらゆる人が使えるようになっている」ことが重要なポイントである。

これまでの多くの科学技術、特に、大きなエネルギーを扱うものや危険性を伴うものは、取り扱う人の数や種類を制限することによって安全性を保ってきた側面がある。

例えば、自動車を運転するには運転免許が必要だ。それはなぜかというと、自動車の適切な動かし方や交通ルールを知らないままに自動車を動かす人が続出して事故が多発することを防ぐためだ。

しかし、現在のAIの多くは、そのような仕様にはなっていない。ChatGPTもMidjourneyも、利用環境を整えることさえできればあらゆる人が使用することができる。

したがって、そのAIによって得られたアウトプットや、AIの使い方そのものが、好ましい結果を生み出すか好ましくない結果を生み出すかは、それを利用している人間にほとんど委ねられていることになる。

他にもまだまだ重要なポイントはあるかもしれないが、こうしたAIのリスクについては、まだあまり語る人が少ない印象だ。状況を注視しつつ、自分もよく考えていきたいと思う。