流暢な英語を話す金正恩総書記の映像を見たことありますか？どうやら最近アメリカで話題になったらしい。

見たことない方のために、
こちらがその映像。

「へー、この人こんなに英語話せるんだ。」

なんて呑気なこと思ったそこのあなた、

やばいですよ。

これ、フェイク動画。
ディープフェイクと呼ばれる技術を使って作られているようです。

（どっからどう見ても金正恩が話しているようにしか見えませんよね...。）

しかも、このディープフェイクという技術、それ用のアプリやらソフトやら使うと結構簡単に素人でも扱える代物らしいです。

一国家のトップが話している映像が簡単に作れてしまう。それも、その人が話していない内容で。怖すぎませんか？ネットニュースやらツイートやらでフェイク動画をフェイクと気づかず流してしまったら、、、。


僕たちはこれから何を信用していけばいいんですかーー！？！？

さて、今日はそんなディープフェイクについて僕が学んだこと、そして思ったことをシェアしていきます。

【今日のまとめを先に】
✅ディープフェイクはAIによって作られた合成映像。
✅僕たちはまもなく映像(視覚情報)を信用できなくなる。
✅死者を蘇らせても良いのか？問われる倫理観。

ディープフェイクという魔術

先ほどの金正恩の動画はアメリカの反汚職キャンペーンをするNPO団体が作ったもので、「民主主義が生きるか死ぬかはあなたたち次第」というようなメッセージを大統領選を控えたアメリカ国民たちに訴えるためのものらしいです。

先日のトランプさんとバイデンさんの討論会のテレビ放送においてCMとして流される予定だったらしいですが、各局が「さすがにこれ流しちゃうのはマズくね？」となって土壇場で放送を取りやめたらしいです。

こんな映像つくれちゃうなんて、
ディープフェイク、怖いですねぇ。

ディープフェイクってそもそも何？って人も多いと思いますが、僕が学んだ範囲でざっくり説明すると、

AIが作った合成映像
(本当にざっくり)

キムさんの映像やら写真やらをAIにたくさん学ばせて(ディープラーニング)、それをもとにAIがキムさんの自然な話し方・表情を割り出して作られる合成動画(フェイク)ということみたいです。

実際にそれがどんな仕組みなのかは僕は詳しくないですが、とりあえずAIがつくるというのが、いわゆるCG映像との大きな違いっていう理解をしています。

とにかくこのディープフェイク、いろんなところで話題になっているようです。政治的にも使われるし、はたまたAVの女優さんの顔に芸能人の顔合成するなんてしょうもない使われ方もしているし。

しかも問題なのが、映像編集の素人でさえ、下手なCGや合成と違って、そこそこのクオリティのものが出来上がってしまうらしいです。

フェイクかどうかが目で見てわからなくなったら、どうすればいいんでしょう？僕たちはまもなく映像(視覚情報)を信用できなくなるのかもしれません。

犯罪の証拠として映像を頼れないし、もしそれが本当の映像だったとしても容疑者が「これはフェイクだ」なんて言ったらもう収集つかなくなります。

ディープフェイクによるいじめなんていうのが中学校とか高校で問題になるのもそれほど遠い未来の話ではないかもしれません。(もうどこかで起きてるかも...?)

こう考えてみると、政治とか芸能の問題だけではなくて、実はすごく日常の近いところにある話なんじゃないかな、と。

さて、そんなディープフェイクですが、
もうひとつ物議を醸している使われ方があります。

それが、

死人を使ったディープフェイク

UnfinishedVotesというこちらの事例は、銃に撃たれて命を落としてしまったアメリカの少年がディープフェイクによって復活し「俺の代わりに投票に行ってくれ」と訴える動画を公開しています。動画の最初に出てくるのはご両親です。

ちょっと映像としては合成感が残っていますけど、こんな風に亡くなってしまった人でさえ蘇らせてしまえるんです。

ディープフェイクはもはや人類がはるか古来より望み続けた禁忌の魔術、『死者蘇生』なのかもしれません。

頭では生前の彼(彼女)ではないとわかっていても、こんな形で蘇ってくれるとしたら、あなたは失ってしまった大切な人との再会を求めずにいられますか？きっと僕なら無理かもな...。そんなことをこの動画に映る生き生きとした彼の姿を見て思ってしまいました。

でも一方で、故人の意志は尊重しなくて良いのか？という至極まっとうな意見も当たり前のようにでてくるわけです。だって、これが簡単につくれてしまうなら亡くなってしまった人の名誉を傷つけるような発言をその人自身(の姿かたち)に言わせることすら可能なわけですから。

となってくると、法や制度としても早急に対応が必要そうです。

そういった議論を見越し、デジタル上での「復活」に対して、臓器移植の意思表明みたいなことをできる面白い企画もあるようです。こちらあくまでも企画ですので、その点は注意してくださいね。

さて、

学んだことが多すぎて全然僕自身処理しきれていないので、今回の記事はなんだかうまくまとめられた気がしません。笑

考えることも山積みで、まだうまく言葉にできないのですが、
ひとまずディープフェイクに関して、

試されているのは、僕たちの情報リテラシーであり、
問われているのは、僕たちの倫理観なのかな、と。

ディープフェイクという魔術的なテクノロジー、
これからあなたはどうやって付き合っていきますか？

――――――――――
今週の分野横断情報共有Quad Talkの配信が見たい方は下のリンクから。
ただダベってるだけですが、ラジオ的に聞き流してみてください。
面白いと思ったらぜひページの「いいね」もお願いします！
隔週配信です。

【 QuadTalk #3 】
「ディープフェイクが気になる」
デザイン・テック・アート・建築の分野を専門にした同世代４人が、気になるトピックやニュースについて情報共有するミーティングを隔週(曜日不定)で配信。
#3 は、「ディープフェイク」をテーマに、そもそもディープフェイクってなんなの？とか、ディープフェイク関連のニュース、これから僕たちはなにを信用して情報を得ていけば良いのかって話、などなど。
Design : 野村 涼平 (Ryohei Nomura)
Tech : 斧 涼之介 (Ryonosuke Ono)
Art : 梅村 隼多 (Hayata Umemura)
Architecture : 池上 彰 (Akira Ikegami)