あんたは静岡での洪水のフェイク画像のニュース見たかい？

このニュース見てほしいんだけれどさ、普通に何の経験も持ってないヒトがこう言うぱっと見でリアルに見える被災の画像を作れるって現実がそこにあるわけよ。

すんげー注意して見ると、影の具合がおかしいとか、水流の具合がおかしいとか、そう言うのはあるらしいんだけれどさ。
ぶっちゃけ、俺にはフェイク画像だってことが全く把握できなかったんだよ。

いや、俺のITリテラシーの問題だって言われたら、まあそう言うこともあるのかもしれないけれどさ。

問題は、この画像を「作り上げるコストが激減している現実」ってやつだと思うわけだ。

今回はリアリティのあるファンタジー画像を誰でもいつでも作れるって現状について考えてみる回だ。

ちっと、俺たちがこれから迎える世界について考えておこうぜ。

AIがリアルな画像を作れるという事実

いや冷静に考えるとだよ。
俺たちは日々のニュースを眺めるにあたってだ。
何を持って「本当のことだ」って判断しているんだって思うと、実に危うい何かがあると思うんだ。

例えばテレビでのニュース番組。

そこで流れる映像を見て「嘘だ」って思うのって結構難しい。

なにかの事故が起きたって話だったり、事件が起きたって話だったり。
誰かタレントさんの素敵映像だったり、オモロそうな映画の情報だったり。

すべての情報に「誰かの意図」が差し込まれている。

まあ、そりゃそうだ。
意図が込められていない発信なんて存在できっこないかんね。

問題は、AI描画というツールによって「本当のこと」じゃない情報を「本当のこと」のように実にお手軽に発信できるという状態が発生しているってことなんだよな。

「嘘」を発信する意図

そう言う「嘘」を作り出せる技術がお手軽に使えるという状況があったとして、その技術を使って「嘘」を発信する動機ってなんだろう？

シンプルに想像するに「出来るからやってみた」なんだろうな。

しかも、俺みたいな弱っちー発信力しかないって自覚を持っているなら、なおさら「やってみる」衝動には勝てないのかもしれない。

そう言う興味本位での「嘘」が今は大半になるだろう。
でも意図的な「嘘」が作り上げられたら？

例えば何らかの政治的意図を実現するために扇動的な映像を作り上げる事ができるとする。
今は静止画だけだけれども、AIが動画を作り上げるなんてのは多分、近未来には実現される技術だろう。

そして、その映像に対して俺たちはきっと真偽を見極める術を持っていない。

………エグくね？

悪意なき「嘘」が自動生成される世界

それでもまだ、その「嘘」の出発点がヒトなんだったら考えようはあるのかもしれない。

何しろヒトなので意図を想像することが出来るし、そこに対して処罰を課すことで抑制力を働かせる事も出来るだろう。

長い時間をかけて「法の支配」という道具をヒトは手に入れてきたわけだしね。

でも、その「嘘」がAIによって全自動で作り上げられ続けたら？

AIには「悪意」はない。
ただ、目的のための作業を淡々とこなしてくれる仕組みだ。

そしておそらくはAIは「ヒトの幸せ量の最大化」という目的のために動くと思う。

その幸せ量ってのは何によって判断されるのか？
おそらくはネットを始めとした様々な環境におけるヒトの行動データだ。

すべての行動データをポジティブ、ネガティブに切り分けて、ポジティブの総量を最大化するための最適解をAIが導き出す様になるんだろう。

ポイントは「データ」だ。

ヒトの行動をデジタルデータにすることでAIは「最適解」を判断する。
でも、そのデータすらもがAIで作り上げられたものだとしたら？

作り上げられた「幸せ」のデータが更に嘘の「幸せ」を増幅していくことになる。

そこにすでにヒトというシステムは必要ではない。

……やばいな。
実は俺たちは、ディストピアの入り口に立っているのかもしれないな。

なあ、あんたはどう思う？

「出来るからやる」というシンプルな衝動の先に、俺たちヒトはどういう世界に足を踏み入れようとしているんだろう？