10月2日、日本で初めてディープフェイクによるポルノ動画を公開したとして2名の男性が逮捕されました。あくまで名誉棄損と著作権の侵害によるものであり、現在こうしたディープフェイクを規制する法律がない（2020年11月現在）ことの現れと言うことも出来ます。

一方、海外では欧米を中心にディープフェイク関連法案や規制の成立が進められており、地域によっては既に発効しているものも。今回の逮捕でディープフェイク＝主に性的な分野で使われるテクノロジーという印象を持った方が多いかもしれませんが、実際にはより広範に、かつ社会に甚大な影響を及ぼしかねないケースが想定されているのです。

今回は、主に昨年2019年後半以降を中心に各国のディープフェイクを巡る規制について紹介していこうと思います。なおディープフェイクの仕組みや技術自体の話は割愛します。

『ディープフェイク2.0』が来る

2019年にサイバーセキュリティ企業のDeeptraceが行った調査によると、オンライン上にあふれるディープフェイクを使った動画の実に96%がポルノ系のものだったということが明らかになりました。つまりディープフェイク＝ポルノと言っても差し支えないんですが、各国で進められている法整備は、実はどちらかというと残り4%を対象としたものなのです。

アメリカ国防省のセイバーセキュリティ担当、Bahm氏によれば、従来のディープフェイクは主にポルノをはじめとした『エンターテインメント』の分野での利用が中心でした。上記調査結果を見れば納得できる話ですが、彼曰くそれは『ディープフェイク1.0』までの話。現在はより深刻な『2.0』が始まろうとしている、と言います。『ディープフェイク2.0』とは、

・裁判で証拠として提出する映像
・株式公開など市場の操作を目的とした映像
・外交関係の悪化を意図した動画
・投票結果に影響を及ぼすような候補者の動画

これらをディープフェイクででっちあげることが可能となってしまう段階だ、と指摘します。しかもテクノロジーは常にコモディティ化が進み、時間が経てばより安価かつ手軽に扱えるようになります。それこそ学生が自宅で手軽に作る、なんてことまで出来てしまう訳です。フェイクポルノだけでも大問題ですが、前者がどちらかと言えばプライバシーや名誉の侵害に当たる一方、こちらは社会の広い範囲における混乱が可能性として考えられていると言えますね。

各国の法規制の動き

ざっくりとそうした懸念点があると知った上で、各国の法規制の取り組みをみていきましょう。

アメリカ合衆国

まずは2018年にオバマ前大統領のフェイクビデオが話題になったアメリカ。連邦法に先立って3つの州でディープフェイク規制に関する法律が成立しています。

・バージニア州
全米初はアメリカ南東部のバージニア州。合意なくディープフェイクを用いたポルノの配布に対する刑罰を定めた法律を成立、2019年7月に発効しました。該当する画像や動画の配布に対し1年以下の懲役および2,500ドル以下の罰金を課すとしています。いわゆる従来型のディープフェイクを想定した法律ですね。

・テキサス州
2019年9月に成立しましたが、こちらは選挙を狙ったディープフェイクを規制する法律。公職の候補者にダメージを与えるもの、また単に選挙に影響を及ぼすことを意図したディープフェイク動画の制作・配布を禁止しています。

ここでのディープフェイク動画の定義は『騙すことを目的として、実在の人物に実際には無かったアクションをさせているように見られるもの』。投票日の30日以内に、候補者にダメージを与えたり選挙に影響を与えることを意図して

・該当する動画を制作
・動画の公開や配布の原因をもたらす

などの行為をした場合、一年以下の懲役または4,000ドル以下の罰金が課されます。『2.0』時代の典型的な法律と言えますね。

・カリフォルニア州
カリフォルニア州では関連法が2つ、2019年10月に成立しました。

一つは選挙期間中（投票日の60日前から）、政治家を用いて動画、画像、音声を捏造することを禁ずるというもの。テキサス州同様政治家や選挙候補者が保護対象となります。

アメリカでは、2019年に酔っぱらった下院議長がTV番組に出演している動画が話題になりました。もちろんディープフェイクを用いた偽動画だったんですが、この頃から政治家に対するディープフェイクの脅威が注目されるようになっていたようです。ただし『そもそも著作権法違反を理由に闘った方が良いのでは？』という専門家の声もあるとか(;´･ω･)。既存の法律でも対処できるのは、冒頭の日本の事件を見ると確かに…という感じですが。

一方もう一つは、自身の画像を性的なコンテンツに使われたカリフォルニア州民に差し止め請求、およびその訴訟に掛かった費用の補償を認める法律。こちらはストレートに最も問題となっているディープフェイクを対象とした法律ですね。要するにカリフォルニアは『1.0』と『2.0』それぞれのディープフェイクを規制する法を、同時に定めたということになります。

・連邦政府
カリフォルニアから遅れること2か月、トランプ大統領の署名と上下院の通過によって同国初のディープフェイク関連法案が成立。大まかな内容は次の3つです。

①委員会へのレポート提出
法律の発効から180日以内に、国家情報長官（アメリカの情報機関の統括を担当）ディープフェイクが及ぼす潜在的国家安全保障への影響、および外国政府（または海外に居住する個人）によるディープフェイクの利用についてのレポートを委員会に提出すること。

各国政府のディープフェイク関連技術に対する評価が含まれたレポートとされていますが、具体的にはロシアと中国、その他ウクライナ他二か国と親密な国家が想定されています。

②選挙関連の報告
海外の機関および個人がアメリカ国内の選挙を狙い、ディープフェイクで偽情報の拡散を行ったという“信頼できる情報”があった場合、同じく国家情報長官に対して委員会に通知することを規定。こちらは一度きりではなく都度報告する形になります。

③賞の創設
ディープフェイクを検知するテクノロジーの商業化や調査を促す為、国家情報長官主催のディープフェイク・プライズなるコンペを開催。勝者には最大500万ドルの賞金を付与することが認可されています。この条項は何ともアメリカらしい！(*'ω'*)

中国

中国でも昨年11月にディープフェイク規制に関する規定文書を公開しました。

テレビやラジオなどを統括する国家広播電視総局ほか計3つの政府機関から出された文書によると、ディープフェイクや深層学習、VR等を用いた音声ないし動画について各プラットフォームに次のような要請を規定するとしています。

・ディープフェイクやVRを用いたフェイクニュースの作成・発効・拡散の禁止と、プラットフォームに該当のファイルを削除を要求
・プラットフォームのユーザーに対し、政府発行のIDや電話番号等身分証明の登録を義務付け
・使いやすい、いわゆる“不適切なコンテンツの報告”窓口をプラットフォーム上に設置

同国には7億人以上の動画プラットフォームユーザーが存在すると言われており、政府もアメリカ同様、ディープフェイクが『国家の安全を脅かし』『社会を混乱させる』という認識でいる模様です。サービスやそのユーザーに具体的な施策や手続きを求めるところは中国らしいですが、この文書では対外的な対策を念頭に置いている訳ではなさそうですね。

EU

2020年11月現在、ヨーロッパ各国がフェイクニュース関連法を成立させたという情報はみつかりませんでした。しかしディープフェイクではありませんが、2月にEUからAI規制に関するガイドラインのホワイトペーパーが発表されました。具体的には以下に関する法律の施行を提案しています。

・AIの学習には代表的データを確実に使うこと
・『AIがどう開発されているのか』の詳細なドキュメントを、開発元が遵守すること
・一般人がAIと関わる際、それを伝えること
・AIシステムは人による監視を必要とすること

まだ提案段階ではありますが、AIの規制について各国が連携を取っている証と言えるでしょう。具体的なディープフェイク規制の枠組みも近く成立するかもしれませんね。

フィンランド

EU圏内でフェイクを『社会全体への脅威』と考え、いち早く動いたのがフィンランドでした。
厳密に言えばディープフェイクに限りませんが、社会として闘う姿勢を見せている数少ない国ですので、最後に軽く紹介します。

フィンランドでは、2014年の選挙でロシアからフェイクニュースのキャンペーンを受けるという事案が発生（※フィンランドはロシアから約100年前に独立しています）。これを受け、時の政府は翌々年にアメリカから専門家を招聘、フェイクニュースの見破り方、フェイクニュースがどうバイラルになるのか、どんな戦略を取れば良いのかといったアドバイスを受け、国家としてフェイクニュースと闘う姿勢を表明します。

現在、フィンランドでは幼稚園から高校までの全学年を対象としたメディアリテラシーとクリティカルシンキングを取り入れた授業を実施。EUの選挙からTwitterのプロフィールが画面まであらゆる具体的なシーンを想定し『SNSでニュースを見た時、ソースはどこか？』『他に同じことを報じている所はあるか？』『誰が書いたニュースか？』といったことを生徒に考えさせることで、偽の情報や表現に対応できる力を育んでいます。一方で“FaktaBaari”と呼ばれる無党派のファクトチェックサービスも同時期に設立、若年層が正確な情報に基づいて投票を検討できるツールとして機能しています。

情報源がSNS中心の若年層はそれだけフェイクの影響も受けやすいですが、認識を誤ればフェイクの発信源にもなりかねません。フィンランドの施策は今やフェイクニュース対策に追われる各国のモデルケースとなっており、遂には専門家を派遣したアメリカ政府がフィンランドから招へいするほど。一般市民レベルではやはり教育が重要ですね。

ポルノが大半だが、ポルノだけで済まない

日本ではディープフェイク＝ポルノという認識が強い一方で、海外では社会の深刻な騒擾や国家安全保障のレベルでの悪用が想定されており、実際に発効している法律もあることが分かりました。裁判の証拠のでっちあげや政治家の印象操作、情報のミスリード等は民主主義社会を根幹から揺るがす大問題であり、フィンランドのように早い段階から意識付けを持つことはとても有用なのかも知れません。

AI社会が到来した今、ディープフェイクとの付き合いはは新たに身に着けるべきITリテラシーなのでしょうね。

参照サイト

https://www.itmedia.co.jp/news/articles/2010/02/news101.html
https://www.justsecurity.org/69677/deepfakes-2-0-the-new-era-of-truth-decay/
https://www.vice.com/en/article/7x57v9/most-deepfakes-are-porn-harassment-not-fake-news
https://edition.cnn.com/interactive/2019/05/europe/finland-fake-news-intl/
https://www.theguardian.com/us-news/2019/oct/07/california-makes-deepfake-videos-illegal-but-law-may-be-hard-to-enforce
https://www.jdsupra.com/legalnews/first-federal-legislation-on-deepfakes-42346/
https://www.technologyreview.com/2020/02/19/876455/european-union-artificial-intelligence-regulation-facial-recognition-privacy/
https://technode.com/2019/12/03/china-targets-deepfake-content-with-new-regulation/
https://blog.malwarebytes.com/artificial-intelligence/2020/01/deepfake-rules-take-hold-in-the-us/