インターネット上の偽・誤情報対策に関する取組についての意見募集
というパブリックコメントのために書いた内容です。
記録として残しておくだけのものです。

意見募集ありがとうございます。
まずは資料に目を通しまして、大変有意義な議論が進んでいると感じ、嬉しく思いました。
資料を読んだだけではこれまでの議論の全てを把握できてはいないと思いますが、私的に気になった点をいくつか書かせて頂ければと思います。

まず「偽情報対策に係る取組集」に関して。
取り組みが行われている、という事自体は素晴らしいと思いました。

ただ提示企業が、交渉しやすい企業に限定され過ぎているとは思います。
Yahooニュースは影響力が大きい印象もあるので、
企業努力自体は素晴らしいとは思いますが、
フェイクが主に流通するSNSは、
完全に海外プラットフォームに席巻されているので、
有効性は限定的であるとは感じました。
Google、Meta、Xと、このような対話が出来る必要があると思います。

SNSでは匿名での過度な誹謗中傷も問題になっていますが、
海外企業故のハードルが問題になっていますし、
（明確に人格否定の暴言や、なりすまし行為も、
理由も不確かなまま対話も無く受理されない場合がある）
そういった諸問題も含め、おざなりにしないためにも、
日本の行政として対話窓口を、
行政の依頼でなくとも民間からの相談も真摯に受け付ける窓口の設置を、
もっと強く要求しても良いのではないでしょうか。

次に情報リテラシー教育について。
これは情報化社会における問題抑止に、本当に必要な事だと思います。

ただ教育によって解決する事は、その教育を受けられるかどうかや、
理解できるかどうかによる格差が生まれる事になるかと思います。
「情報リテラシーは重要です」と話をしても、
私には関係ないとか付いていけないと感じる世代の方々はいるでしょう。
そういったことを自己責任と考える人もいるかもしれませんが、
生涯従事した職業の種類によっても、情報感度は変わると思います。

例えば農村で「情報リテラシーを身につけなさい」と言ってみても、
ピンと来ない方が多かったりするのではないでしょうか。
仮に耳を傾けてくれたとしても年齢などによっては、
すぐに忘れてしまうこともあるかと思います。
しかしインターネットと縁が遠ければ安全、という訳ではありません。
今や誤情報はメディアや口コミによって、
インターネットの外にも派生しますし、
オレオレ詐欺のようなものもディープフェイクによって、
益々多様化・高度化していくことが考えられます。

その時に、身を粉にして日本の食を支えている農村の方々などが、
社会に取り残されて不利益を被るという事態は、
絶対に避けなければならないでしょう。

なので情報リテラシー教育自体の議論とは別に、
そういった問題がどこでどのように発生しうるか、
どういった被害に巻き込まれ得るか、
情報社会における弱者を守る策は、どういったものがあるのか。
そういった視野からの考察も欲しいように感じました。

３つ目に法規制に関して。

https://www.soumu.go.jp/main_content/000913230.pdf

「Withフェイク2.0時代における 偽・誤情報問題の未来と求められる対策」
コチラの資料は問題点について、幅広く、
かつとても分かりやすくまとめられていると感じました。

ただ16P、法規制の起こすネガティブな側面への懸念の提示。
それ自体は適切だと思うのですが、
「AIに関する強い法規制（生成AIの利用禁止など）ありきで
考えるべきではない」という強い書き出しによって、
まるで法規制以外の方法で解決しなければならないかのような、
どのような法規制が有効かを議論する事自体が間違いであるかのような、
そんな印象を少し受けてしまう文言にも感じました。

https://www.soumu.go.jp/main_content/000927155.pdf
「第７回会合における主なご議論 」を読むと、
その辺りも議論されているような印象はありますが、改めて。

手段を考えただけで施行されてしまう訳ではないですし、
最初から「これはありきで、これはなし」などとはせずに、
懸念をしっかり踏まえた上での、
「どのような内容の法規制なら適切に施行できるか」
という議論も並行して進めて頂き、
他の手段や現在起きている問題による社会的損失や、
人権侵害の緊急度と照らし合わせ、
適切な比較検討が為された方が良いのではないか、
ということは、提言させて頂ければと思います。

特にディープフェイクを使ったポルノ被害などは、
人の尊厳に取り返しのつかないダメージを与えることであり、
資料でも仰っているような「ディープフェイクの大衆化」によって、
いつ誰が被害者になってもおかしくはない状況にあります。

手をこまねいている間に、被害者は増えていってしまいますので、
一刻も早く対応が必要とされる事柄であることには、
留意しなければならないでしょう。

では具体的に、どういった法規制の手段がありうるでしょうか。
現時点で私が考える内容も、書いてみようと思います。

まず、最も被害規模が大きい画像生成に関して。

時の権力による言論統制に繋がりかねないという懸念は、
基本的に表現規制に繋がるような法規制ということになると思いますが、
私はそもそも「表現の自由」と「生成AIの規制」は、
対立しないと考えています。

その私の考えを丁寧に書くと長くなってしまうため、
以下のnoteにまとめてありますので、
もしご興味がありましたら、ご覧になって頂ければ幸いです。

ただ、ここでは端的に書きますと、
生成は現時点で、既存の文化的文脈の上に無いものですから、
「生成」は「表現」とは、分けて考えるべきだと思います。

こう書くと、
「とはいえ生成を通した意志表示を規制したら、同じ事ではないか」
と思われるかもしれませんが、
自分は生成物、アウトプットにフォーカスを置いているのではなく、
そもそも社会問題を引き起こすくらいの社会通念から外れる技術を、
使い方の是非ではなく、技術そのものを市場が受け入れる必要はない、
そのように考えることが出来ると思っています。

現在行われている議論はその殆どが、
「生成AIは市場が受け入れる前提で、
それが引き起こす社会問題にどのように対峙するか」
という前提の視野から行われているように思います。

しかし、その前提に疑問の目を向けてみれば。
「十分にルールを守っていない技術そのもの」を規制すれば良い訳です。

生成物のファクトチェックも大切ですが、
アウトプットの良し悪しの吟味だけに注目するのではなく、
その蛇口の元栓を少し締める法規制を考えれば良い、という事ですね。
法規制というと厳しい統制のイメージもありますが、もっと簡易に、
「日本の市場ルールを守らなければ市場に参加させない」とする、
それだけでも大きな効果があると思います。

「そうは言っても、既に市場にあるではないか」
そう考える方もいるでしょう。
しかし企業による生成の表現としての利用は炎上しているように、
まだ市場は生成AIを完全に受け入れてしまった訳ではありません。

「この生成AIはNOとなった時に、それだけを除外する方法がない」
そう考える方もいるでしょう。
技術で解決しようとすれば、それはその通りなのですが、
生成AI提供者は基本的に大企業です。
行政として名指しで、
「倫理的問題解決が十分に為されていない」と指摘することで、
利用する企業へ一定の抑止力は持つと考えられます。
そうなれば市場原理で日本の市場から淘汰する効果は、
ある程度見込める筈ですし、それはただの規制ではなく、
提供側の自浄作用も急ピッチで進ませる効果にもなり、
技術の健全化による、日本の市場での「本当の推進」にも繋がるでしょう。

なのでこの規制は、
安全が担保されるまで日本は国として生成AIを持たない、
という主張ではありません。
国防を考えれば研究開発は必要ですし、それは国産であるべきです。
ただ、そういった準備が出来るまでの間は、
競争原理でひたすらに世界の市場の席巻を目論む海外技術に、
野放図に市場を開放し続ける必要はない。
という事です。

こういった防波堤としての規制というものは、
表現に踏み込まずとも考えられると思います。

また、画像分割AIなどの生成AIと類似するAI技術に関しては、
産総研から、国産の「無断学習を必要としない技術」が生まれています。

これは画像識別出来れば良く、画像生成を必要としない用途、
自動運転、ロボットアーム、医療…
そういった場面で大いに役に立つ技術です。
上述の技術を使えば、そのゴールを達成するものが、
「生成も出来るAI」である必要は、もう無いでしょう。

こちらについてもnoteにもう少し詳しく書いております。
もし興味がありましたらご覧ください。

さて、上記技術によるAIと、現状の「生成AI」。
差は殆ど「生成物の出力を目的とするかどうか」だけになります。
そしてフェイク関連の問題は、
現在の所「生成が出来ること」によってのみ、もたらされています。

その生成は現在の所、
「学習元と競合する市場」へ類似品を氾濫させることしか出来ません。
他のことへの応用は、本来生成機能など必要としていないのですから。
そうなると「画像生成」は、
濫造による市場の混乱・文化的な価値の低下と、
フェイクを作る事の役にしか立っていないのです。
（もちろん経営者目線で見れば、
人的リソースのコストカットの役には立つとは思います。
そのような作品を受け入れる市場環境は整っていないと思いますが）

なのでフェイクの抑止目的に蛇口の元を少し締めることは、
イノベーションの阻害にはならないでしょう。
むしろイノベーション推進のためには、
国を上げて、この技術を後押しするべきでしょう。
そうすることがハードローが議論されているEUなどにも、
日本の技術としてのアピールにもなるでしょう。

本当の日本の勝つチャンスは、健全化の先にあります。

書きたいことはすでに書きましたが、
画像生成以外に関しても少し書いてみます。

音声に関しても同様に考えられます。
「誰の声でも生成できる」ことは、
なりすましやポルノ目的以外に、何があるでしょうか。

何かあったとしても、
それらのデメリットが霞んでしまう程の利益は無いと思います。

「エンタメなら有用ではないか」
とも考えられるかもしれませんが、
それはハリウッドのストライキでも、大きくフォーカスされた問題です。

今後、
「米国の権利者には対価を支払い、
その分の値上がりを利用者全体が負担するものの、
日本の学習元にされた権利者には対価は無い」
という形になってしまう未来の可能性も、
懸念しなければならないことであると思います。

文章に関しても同様に考えていくことは出来ると思いますが、
フェイクニュースや詐欺、ポルノ被害の内容としては、
画像と音声の影響と比べると、緊急度は少し下がるとは考えています。

しかしデジタル赤字の大きい日本において、
貿易で黒字部分である知財を生成AIに提供し、
クラウドでただでさえ大赤字のIT関連を、
生成AIでさらに拡大する行為である側面は無視出来ません。

日本が世界に誇る「知財」を海外生成AIに自由に学習させ、
「学習元と競合する市場」への「享受目的の生成」を許し続け、
その利益の中核も海外企業に提供する。

国益という視点で見ても、現状の生成AIを利用することが、
デジタル貿易赤字拡大による国力の低下を誘引する可能性は、
強く留意する必要があるでしょう。

ところが、それにも関わらず行政機関が率先して導入してみせます。

そもそも、入力した情報は生成AIが取得する事になります。
情報は気化させるとか、ローカルで処理されるなどと言われても、
それがどこまで本当か不透明であるうちに、
個人情報の集積している役所が率先して海外技術に依存してみせるのは、
そもそもの行政側の情報リテラシーこそが、
破綻しているようにすら見えてしまいます。

第７回会合にて「安全保障」にも言及されていますので、
こういった内容も既に懸念されている事に含まれるかもしれませんが、
是非、この辺りにも言及していって欲しいと思います。

色々書いてしまいましたが、
今まで真摯に議論してきて頂いたことには素晴らしく、
そこに不足を感じることとしては、
「どのような内容の法規制なら適切に施行できるか」
という議論も並行して進めて頂き、
他の手段や現在起きている問題による社会的損失や、
人権侵害の緊急度と照らし合わせ適切な比較
という検討が抜け落ちていると感じました。

そして、その法的手段は必ずしも表現の自由と干渉する訳ではなく、
悪意ある利用から被害者を、これから被害を受ける人々を守るための、
防波堤としての、ガードレールとしての法規制、
そういったものを考えて欲しいと願います。

以上、是非ご検討いただけますと幸いです。
長文にお付き合い頂きまして、ありがとうございました。