はじめに

『画像生成AI Advent Calendar 2022』11日に寄稿した記事です。
記事はあくまで私個人の考えです、ということをご承知おきください。

掲載している絵は特に記載のない限り、自分で描いたものです。
AI生成の画像にはその旨とプロンプト明記してあります。

＊＊＊

表題の通り自分が、AIを使って生成した画像を作品制作に使用しようと検討したときに、大きく壁になった問題がありまして。

彼らAIは『権利や表現まわりのチェックと責任を人間に丸投げしてくる』んですよね。そのへん、AIが自分でやってくれないかなあって思ってます。

AI作画に対するスタンス

もともとの専門は生物方面で、機械学習については知識あまりありません。
家族が詳しいので、よく相談に乗ってもらっています。

機械学習による画像生成、10年以上前からあった潮流ですし、来るべき日が来たなあというのが正直なところ。いわばいろんなクリエイターさんの集合知なわけで、AIの作るものすごいなというのと、人類みんな色々絵で表現できるようになったの面白いなと思っています。

だいぶ前にこのあたりにもまとめています。

反面、既存の問題（自分の絵柄を使った公序良俗に反する行為や、なりすまし、絵柄を使った責任の押し付けなど）がものすごい増えたら困るなーというところを警戒しています。

こういうの。

なお。StableDiffusionのような画像生成アプリ（記事内では『AI』と呼んでいることがあります）の生成画像については、現状自分の作品に組み込むことはありません（詳しくは後述）。なおテストのためにローカルに置いたり、各種アプリのベータテストに参加しています。

自分の作業でのAIの活用と関わり

UnrealEngine5と一緒に、絵の設計段階に使っています。
使っているのはPhotoshopの機能としてのAIサポートです。
（ツール化しているものと、通常版のPhotoshopに搭載されているニューラルフィルター）

生成画像をそのまま加工して利用するパターンはこれ↓ぐらい。
『それっぽいけど意味が無いもの』を作ってもらっています。

ただ過学習っていうのでしょうか、それとも学習元の画像が少ないorバリエーションが乏しいプロンプトを引いてしまっているのでしょうか。あまり詳しくなくて恐縮ですが、生成結果が収束してしまってしているものを見かけることがよくあり、気になっています。

特定のプロンプトを含む生成で、完全に読める文字が出てきてしまったりとか、同じオブジェクトがしょっちゅう出てくる、ですとか。

なお、Danbooruにはタグ付きで30？枚ほど自分の絵が登録されております。学習結果が使われているであろうツールを触った限り、まずないかなーと思いますが、もし私の絵に似た絵が狙って出力できることがありましたら、よかったらぜひお知らせください。自分でも試してみたいです。

AI、権利や表現周りのチェック、自分でやってくれないかな

表題でほぼ書きたいこと終わっちゃってるんですけども。
AI、自分で権利や表現のチェックしてくれるとうれしいなあと。

イラストレーターの作業の一つに『絵の中の権利関係や情報の交通整理をすること』、があります。

絵に入れたい情報を取捨選択し咀嚼して、絵の目的やレギュレーションに沿った、一定のルール（＝絵柄と作風）の元に出力することを一枚一枚やっています。

• 季節や場面・設定にあった要素を選んでいるか？

• コンセプトのブレや余分なもの入っていないか？

• 度を越した表現、意図せず問題のある表現入ってないか？

• リスクを負える表現はどこまでか？

とか色々、そういうのを精査と選択、決定ですね。

でも、AIの生成した絵にはこちらがプロンプトでは指示していないものが内包されていることが結構あります。そしてAIはそのことを見た目以外には教えてはくれません。入力したプロンプトそれぞれに紐づいた学習の充実度、ソースの幅や量は使い手には見えません。どの程度のリスクがあるか提示しないまま、人間に丸投げしてきています。

気がつける範囲だけでも、体の構造がなんかおかしいとか、季節と植物合ってないとか、先に置いた画像の通り、『なんかこのプロンプトでこのオブジェクトしょっちゅう出てくるね』とか。

その判別の手がかりを、AIが自身で提示してくれるといいなとおもいます。

そのへんのチェック、AIのほうが得意だと思うんですよね。
プロンプトと画像の紐付けはAIそれぞれが持っているものですし。たとえば、入力したプロンプトによって呼び出されうる要素上位一覧や、入力したプロンプトそれぞれに対して、学習元の画像のどれにAI的には近いかランキングを提示してくれるとか、やってくれると嬉しいなあと思います（AIと人間の感覚は違うので、対象はある程度絞り込んだ上で、最終的に目視で判別したい）。

特に、学習元のデータに著作権の存在する著作物を利用しているツールの場合、万一AIが他のクリエイターの方の作品や作風と似たものを生成してきて、それを自分がチェックしきれなかった場合に、現行の著作権法では元の絵との関連性が否定出来ない可能性がありますし。

（追記＠12/11＊ここの『他のクリエイターの方の作品や作風と似たもの』は、AIが学習に用いたデータベース内のものを指しています。これが起こってしまうと、AIでの画像生成の場合、依拠性があるとされる可能性があるので。詳しくは記事末尾の参考文献をご参照ください）

AIの作った絵が、自分の作品の素材や一部として、責任を負って発表できるものかどうかの判断材料が欲しいです。

AIが人間に投げてきていること

著作権周りの潜在的な問題を別として、

1. AIの描いた絵のキュレーション（これは割と楽しい）

2. 権利関係や表現のチェック（たいへん）

3. そしてその責任（これがすごい困る）

絵を描くことを除いた、責任にかかわることすべてが人間に丸投げされてきているんですよね。絵を描く側としてはそういうのすごい理不尽だし、じゃあそのへんクリアにする時間で、自分で描いちゃおうってなってます。それなら自分で自分の表現の責任を負うだけになるので。

このあたり、開発者の皆様、なにか良い解決策ありませんでしょうか。

AIはいわば、世界中の沢山のクリエイターの方々の集合知なわけで、個人の力では追いきれないのも当然な部分あるなあ、と思っています。特に文化や言語をまたいでいるもの、つまり、『SAMPLE』の例が私の読めない言語や知らない表現で、問題のある文言や表現で起こるようなことがあったら、個人ではその責任を負いきれません。

判断する側にも集合知の力が欲しいです。

おわりに

AIでの画像生成、正直一人のアーティストとして成立しているアプリもありますし（Midjourneyとか。『初音ミクが歌ってくれたよ』みたいな人格がほしいなと思うことがある）、プロトタイプやイメージのすり合わせなど、すぐなにかを形にしたいときや、完成がイメージできる形での表現の検討、表現の咀嚼などにものすごい便利なツールだなあと思っています。

ただ、現状は著作権の問題が起こりうる可能性があったり、意図しない表現が内包されていることがあり、自分の知識の及ばない部分については、それをはかれない状態です。

ですので、権利関係の問題のない画像での学習ですとか、Stable Diffusionの新バージョンですとか、まず著作権やディープフェイクについて、開発者の方々の側で解決を模索している動きがあることに興味を持っています。

また、それとは別のベクトルからも、判断の材料が得られるといいな、と思っています。

Pythonと機械学習少しづつ勉強しているので、そのうち少しでも知識が追いつけるようになったらいいなあ、と思いつつ。

この記事はこれにておしまいです。
お読み頂きありがとうございました。

＊記事の作成にあたって、以下を参考にしています。

Midjourney、Stable Diffusion、mimicなどの画像自動生成AIと著作権
https://storialaw.jp/blog/8820

Midjourney、Stable Diffusion、mimicなどの画像自動生成AIと著作権（その2）
https://storialaw.jp/blog/8883

著作権法の一部を改正する法律 概要説明資料 - 文化庁
https://www.bunka.go.jp/seisaku/bunkashingikai/chosakuken/bunkakai/51/pdf/r1406118_08.pdf