別にバトルはしません。

2022年4月12日、「AIツール自体は違法か」まわりで追記
2024年2月6日、「AIツール自体は違法か」まわりで追記

この話のまとめ

• AI論争においては、普通の議論で一蹴されがちな感情こそが重要である。なぜなら著作権法なども著作者の精神や感情を尊重して存在している為。

• 一方で、AIツールやAIの進化自体に対して、クリエイターが感情を理由に介在する余地はあまりない。なぜなら、著作権法上で認められ、またAIは数十億の学習データを単純に継ぎ接ぎして出力するわけではない為。（追記："著作権法上で認められ"の部分は一考の余地あり）

• AI絵師が他人の著作物を入力データとして扱うことは、同一性保持権の侵害の恐れがあり、権利者側が募るのは当然である。

• AI肯定派が反論として二次創作による著作権侵害などを持ち出すことは無意味である。二次創作問題とAI盗用問題は全くもって別の要因なため。

• AIで問題になり得るのは「クリエイターへのリスペクトがないこと」で、一見感情論のように見えるが、これこそが著作権の根幹に関わる。

• AI絵師が儲けることはあっても、それによってクリエイターが仕事を奪われるリスクはあまりない（無いわけではない）。AI絵師による収益とクリエイターによる損益が、完全な比例関係になる可能性は低い。

• AIの見分けで対策することは根本的な解決にならない。AIが進化して見分けられない作品が出来たときにその対策は破綻してしまうため。

前提

• AI絵師という呼称について、思う所がある方も多いと思いますが、直感的に意味が伝わりやすいため、「AI絵師」の表現で統一してます。

• 法律の話は、原則として日本の法律に絞ってお話します。自身が法律に詳しいわけでもないのに、国際法とか海外の法律まで手を伸ばせないため。

はじめに

※ここで語る内容は基本的には自身のAI界隈に対する気持ちを整理することを第一にしてる都合上、読みやすさや完結性はあまり考慮しておらず、非常に長文で回りくどくなっていることをご了承ください。

ここしばらく、AIツールの是非や、AI絵師と呼ばれる人たちによる行動について、定期的に……いやむしろ恒常的に議論が続いています。
その議論のなかで、クリエイターがAIによる盗用について嘆くと
「時代遅れな感情論だ」「これからのAI社会に共存できるようにすべきで、乗り遅れたら淘汰されるだけ」「AIの盗用に文句を言ってるが、そういうクリエイターは二次創作をするとき版元に許可を得てないだろう」
と、AI肯定派を中心に、達観した反論が飛んでくることもままあります。

現代において、感情論は理性的な議論において下位の扱いをされることが多いです。しかし、感情論はそもそも「感情にまかせて議論を進めること」が問題にされがちなのであって「根拠が感情であること」が問題なのではありません。むしろたいていの議論において、感情の問題は介在するでしょう。
我々は議論するうえで、ついつい「法律」という基準を第一に判断してしまいがちですが、これをすると、先程のように「二次創作の違法性」を点かれてしまいます。
即ち、クリエイターは感情を理由に批判すれば「感情論だ」と一蹴され、法律などの規範を理由に批判すれば「クリエイターも違反してるのではないか」と反論されるジレンマに陥りやすい状況になっています。

しかし、一度「冷静に感情の問題からスタートする」ことによって、むしろ「法律がある意味」もふまえ、二次創作問題という議論のすり替えにも囚われることなく、AI盗作の問題点を明晰にすることができるのではないかと考えました。
この記事は、様々な観点・事例から、「感情の重要性」を読み解いてゆき、一見矛盾してると思われがちな（あるいは実際に矛盾している）クリエイターの倫理観が、実際にはそれで問題なく成立しているのではないかということを考えていきたいと思います。

AIツール自体は違法か

この見出しの結論を先に言ってしまえば、AIツールを開発するにあたって数十億の画像が無断で使われていることについては違法とはなりません。
改定された著作権法第三十条の四において、機械学習目的の著作物の使用が許可されている旨がわかります。（条文だとわかりづらいと思いますが、文化庁のサイトにて、改正の概要にしっかり説明されています。）

これを見る限り、「AIが"学習用の"ビッグデータとして画像を利用する」ぶんには、権利上の問題をクリアしてることがわかります。

クリエイター的には「しかし勝手に素材に使われている事実は受け入れがたい」「たとえ低い確率でも、元絵がそのまま出る可能性もあるのでは」と思うかもしれません。
しかし、そもそもAIは、集めたデータをコラージュのように継ぎ接ぎして作っているわけではありません。（少なくとも、NovelAIなどに使われているAIモデルのStable Diffusionにおけるやり方では）

ここでわざわざメカニズムについて話すと一気に文字数が増えてしまうので、ぜひ各自で調べてみてほしいのですが（「Stable Diffusion 仕組み」とかで検索すればすぐに解説サイトが出てくれます）、ここでも最低限、説明しておきます。

まずAIの工程をここでは以下のように分類します

学習データ：AIがAIとして機能するために収集したビッグデータ
入力：AIに描いてもらうために利用者が加える文字や画像の情報
出力：実際にAIが描いたもの、成果

超、滅茶苦茶ざっくり言えば、AIは画像を収集するだけでなく「この画像が貼られている場所にどんな言語が含まれてるか」も覚えて、さらに言えばそこから逆算して「この言語があるなら画像にはこういう特徴があるはずだ」と、言語にベクトル（方向性）の情報を加えることができます。
Midjourneyなどを扱った事がある人ならば、AIが画像を生成する工程を見たことがあると思いますが、最初はたいてい、謎のモヤモヤが現れます。
AIに指示を出すと、AIはまず、その言語ベクトルに沿った「ノイズ画像」を作り、そこから「ノイズを除去する」というかたちで画像を明瞭にしていきます。
（何故ノイズなのか？ノイズを除去とはどういうことか？の説明が大変なので、省略させていただきます。ぜひ各自で調べてみてください。）

つまり、AIは集めた画像を切り貼りしてるわけじゃなく、ほぼ無意味なノイズからはじめて、過去学習データから学んできた特徴を思い出しながら指示文章に沿った色を塗っていっているのです。

こう聞くとその工程が、経験をもとに頭の中の抽象的なイメージから作品を作る人間の工程と、そこまで大差ないことがわかると思います。

この「法律的に問題ないこと」「AIは元データをそのまま使ってるわけではないこと」を理由に、私自身は、AIツールそのものに違法性や問題を感じてはいません。
（「法律でオッケーだからオッケーだ」と言ってるわけではなく、現状のAI自体にクリエイターが脅かされるような何かを私自身はそこまで感じ取ってはいないというニュアンスです）

(※2022年4月12日追記
この「法律的に問題ない」と私が言った部分について、コメントやリプライ等で別の意見もありましたので、記事の一番下に詳しく追記いたしました。)

ただし、いくら「既存の画像を継ぎ接ぎしているわけではない」といっても「だから１００％問題ない」とは言えません。人間の創作の場合においても、無意識のうちになにかのパクリになってしまうことがあるように、AIが偶然何かと類似した画像を作ることもあるでしょう。また、後述するように、image2image……つまり入力に画像を使うことで類似画像を生成するという問題も孕んでいます。

それに、この話はあくまで今主流に使われてるAIモデルがノイズを利用した方法であるというだけで、継ぎ接ぎをするシステムなどのモデルも今後現れる可能性はあります。

あくまで「いま流行りのAIツールのシステムそのものに違法性はない」程度に留めておいてください。問題が発生するとしたら、入力と出力、及びそれを実行する人の過失次第となるわけです。

(※2024年2月6日追記
上記で"あくまで「いま流行りのAIツールのシステムそのものに違法性はない」"としたことに関して、今は逆に疑問を持ち始めています。
というのも「特定の版権の画像・映像をそのまま出力している」例が出てきているためです。"偶然何かと類似した画像を作ることもあるでしょう"と言いましたが類似とかそういうレベルではなく、構図、背景、人物、ポーズ、ライティングのほぼすべてが一致しており、せいぜい手書きで例えるならば模写したかトレースした程度の違いしかないものが出現したりしてます。

詳細は記事下の追記の項にて

NovelAIとDanbooru

NovelAIは、その学習データとして、Danbooruというサイトから作品を収集してることが問題として挙げられました。

Danbooruとは、簡単にいえば海外スラングで言うAnime、つまり日本的キャラクターイラストを中心としたPinterestのようなものと想像してください。
PixivやTwitter、はたまた個人サイトなどに上げられてる作品を引用のかたちで並べ、そのサイト内で独自にタグ付けをすることで、サイトの垣根を越えて好みの作品を探せるサイト……と言うと聞こえは良いですが、大きな問題をはらんでいます。

Danbooruの場合、収集された画像はすべてそのサイト内のサーバーにアーカイブとしてローカル保存されています。つまり、引用の枠を飛び越え無断転載を行っているわけです。
もちろん、Danbooruにアップロードするのは運営ではなくユーザーなので「悪いユーザーがいるだけ、運営に非はない」とも言われますが、そもそも自主的にDanbooruに上げてるクリエイターなんて極わずかで、実際は殆どが第三者による無断アップロードで、それに対して運営は何も対処してないわけですから、正直クリエイターの心象はまったく良くありません。
その結果「無断転載サイトから情報を集めてAIを作っている」として、批判を浴びたわけです。
（同じように、引用元が無断転載ばかりだったりするPinterestに対しても、悪い印象を抱いているクリエイターは多いです。）

ところで、NovelAIはStable Diffusionをモデルとしています。
つまり既に50億以上の情報が入ってるわけですが、何故わざわざDanbooruから学習し直してるのでしょうか？
これは、生成される画像を日本のキャラクターイラスト風の絵柄に偏らせるための再学習だと考えられます。
同じ（且つ健全な）例として、「下手くそな絵を学習させたことで、下手くそな絵しか生成できなくなったAI」である"AI絵師からし"を見ると分かりやすいでしょう。

ここで重要なのが、Stable Diffusionをはじめ、そもそもイラストAIはビッグデータを集める仮定で、Danbooruを含む違法アップロードされた画像群を学習してる可能性が極めて高い（むしろ、無差別・公平に収集してるなら、学習してないほうがおかしい）ということです。
ただ、「AIツール自体は違法か」で語ったとおり、たとえ学習元のデータに違法性のあるものが紛れていても、それを学習したこと自体に違法性はありません。

しかしクリエイターはそれでもなお、NovelAIに対して不信感や嫌悪感をあらわにしました。その理由こそが「わざわざ無断転載サイトから意図的に情報を集める行為＝クリエイターへのリスペクトの欠如」と考えられます。
つまり法的に裁くことができないにも関わらず、クリエイターは「そんなのはおかしい！」と怒ったわけです。では、この怒りは不当なものでクリエイターのわがままな声なのでしょうか。
その判断のために、まずは「法律の正しさとは？」を考えてみます。

法律は絶対的な善悪の基準か

一般に、「法を守ることは善いこと」「法を破るのは悪いこと」と考えられています。事実これは正しいでしょう。でなければ法律なんていうものは機能しなくなってしまいます。
しかし、過去にはどう考えても間違っていると言える法律が存在しました（分かりやすいところで言えばナチス政権時代のニュルンベルク法など）。

法律が善悪の指標であることは間違いありません。しかし、それはあくまで過去の経験に基づいて線引きされた規範であり、「法律に書かれていることがすべて」では決してありません。
そのためにあるのが裁判です。ほんとうに法律に書かれていることの通りにすれば良いのであれば、犯した犯罪を法律に照らし合わせて、その通りに罰すれば済む話です。しかし現実には、現場状況や当事者の精神状態など、様々な状況を加味して、慎重に判断します。前例がない場合は特に。

つまり、法律とは時代に合わせて姿を変え、柔軟に対応していくもので、そうであるが故に、絶対的な善悪の基準にはなり得ないわけです。
NFTやAIなど、新しい土壌はたいてい荒れるので「無法地帯」と言われますが、これは文字通り、前例がない＝該当する法がない＝無法なのであって、決して行っても良い＝合法を表すものではないのです。

では、法律は何を基準に善悪の線引きをし、規範を決めているのでしょうか。ここで法律全体の話をすると、いろいろな国の歴史を遡ったり、哲学的な話になりそうなので、ここでは親告罪、つまり著作権法を中心に考えていきます。

「AIツール自体は違法か」のように、また著作権法の条文を引用する……のでも良いのですが、法律の意図や目的に関しては、条文そのものより、文化庁などが用意しているテキストのほうが分かりやすく、しっかり記されているので、そちらを引用しましょう。

このように、著作者人格権が「著作者の精神的利益」を守るためのものであり、また著作物に創作者の想いが込められていることを重視してる旨が明記されています。
また、同一性保持権のWikipediaには以下のようなことも書かれています。

Wikiがソースというと文化庁に比べて弱い気もしますが、多くの法律事務所でも同じようなことを記しており（「同一性保持権　精神的苦痛」などの検索を参照）、確かに「そう理解されている」ことがわかります。
また、"著作者の意"も大きなポイントです。
あくまで論文にはなりますが、以下のような考えが記されています。

こうして見てわかるように、著作権法は「著作者の想い・愛着・こだわり」といった、内面的、感情的な要素を第一に考え、それを守るためにつくられているということが判断できると思います。

つまり、法律で定められてるから善い・悪いではなく、あくまで第一に人がいて、その人および人の感情（精神的利益）のために法律が定められているわけです。

ここで、ようやく二次創作の話に入ります。
正直AIの議論において「二次創作はどうなんだ」という反論は「論点のすり替えだ」で終われば良いと思うのですが、相手がそれで満足するとは限らないし、それで相手に変な口実を与えて議論が停滞してしまっては面倒です。
そうならないためには「二次創作とAI盗作はまったく違う話である」ことを明確にしなければなりません。

二次創作という著作権法違反について

結論から言えば、二次創作は著作権法違反になり得る……というか、過去には実際に罰金を食らった判例もあります。

ときめきメモリアル・アダルトアニメ映画化事件(1998)
ポケモン同人誌事件(1999)

こうしてみると二次創作は法で罰せられる良くないことのように思えますが、しかし2000年以降、不思議と似たような判例は見かけません。
（見かけないだけで、しっかり調べたら実際に告訴が起こってる可能性はあるかもしれませんが……少なくともサクっと調べた限りは出てきませんでした。）

これは当然、権利者が二次創作にたまたま気づいてないとか、犯罪者の数が多すぎて対処する気になれないみたいな理由で二次創作者が野放しになっているわけではありません。
著作権法は、TPP関連法案国会審議で定められた海賊版などの非親告罪を除いて、多くが親告罪として扱われています。（詳しくは後述）
つまりは、著作者が訴えない限りは罪に問われないということです。

ここで「著作者の判断で決めるものだから、訴えられていないうちは二次創作をしても問題ないということになる」と言うと「でも親告"罪"だから罪は罪だろう」とか「性犯罪も親告罪だが、それも被害者が訴えない限り犯罪じゃないというのか」と一時期はよく言われました。
（性犯罪は既に非親告罪化してるので、後者を言う人は減りましたが。）

著作権が親告罪である理由は、文部科学省に明記されています。以下は少々昔の情報ではありますが、非親告罪化されてない頃の、強姦の親告罪理由も記載されているので一緒に見比べましょう。

見てのとおり、なぜ著作権が親告罪なのかは「著作者の判断に委ねるから」であり、かつての強姦罪が親告罪だったのは「被害者の不利益となる恐れを考えたから」というように、同じ親告罪でも、それぞれ理由があります。
特に著作権に関しては「被害者が不問に付することを希望しているときまで国家が主体的に処罰を行うことが不適切である」と書いてある通り、親告"罪"だから罰すべき罪なのではなく、罰するか否かは国家ではなく権利者が決めるべき（当然、それが適切かどうかは裁判を通して判断される）と考えられているわけです。

しかし、二次創作者が権利者に黙って二次創作を行うのは、隠れてやっていることと同義で、"著作者の判断"から逃れようとしてるのでは？ほんとうにやましい気持ちがなく、問題ないと思ってるなら、著作者に確認をするのがスジなのでは？と思う方もいらっしゃると思います。

ただ、これは二次創作者よりもむしろ、著作者が「確認を入れないでくれ」と懇願しているパターンも多い、つまり、お互いが「確認をしない」ことによって成り立っている状態が、少なからず存在していることも考えなければなりません。

そもそも、現代において大々的にコミケが報じられ、SNSやPixivに二次創作が溢れてる現状、権利者がその事実を知らないほうが稀です。
（当然、純粋に知らない人がいる可能性は十分にあります。訴えられる危険性は、何時いかなる時も残っていると思っておいたほうがよいでしょう。）
権利者がその事実を知ってるということは、権利者側も多くが「見てみぬふり」をしてるわけです。
一般的に、この状態を「お目溢しをもらっている」と言ったりしますが、先に見た通り、お目溢しをもらっているということは、被害者が不問にしている……つまり、処罰する対象ではないわけです。

著作者側が確認を拒む・見てみぬふりをする理由のうちのひとつ（あくまでひとつです）に「許可することによって発生する責任」があります。
たとえば、二次創作者が「Aジャンルのアダルト同人を出したい」と権利者に問い合わせ、権利者側が快く了承したとします。
しかし、いざ事が始まってみると、そのアダルト同人に、社会的・倫理的に非常にまずい内容が含まれて、大きく炎上してしまいました。
このとき、権利者は「こんな作品を作ることを許可したのか」と責任を問われる危険性があるわけです。

ほかにも、一人に許可を出すことで、ほかの不特定多数から問い合わせが殺到して、なかには許可できないような事例が起こったとき「あの人は良かったのに何故私は駄目なんだ」「あのときは許可を出したのに何故今はだめなんだ」と、理不尽な批判を押し付けられる恐れもあるでしょう。

通常、こういう「問い合わせが来た結果対処せざるを得なくなった例」は内部の話なので表沙汰になることは稀なのですが、著作権関係ではないものであれば「「ファンの熱意が公式を動かした美談」の裏で公式はめちゃくちゃ苦労させられた話」などが、その一例として有名でしょう。
この話に関しては記事内に書かれてるファンが特定されて炎上するわ、内部事情を暴露した事実を問われて記事製作者も炎上するわで記事も消えたのですが、魚拓としてアーカイブが残り、「公式に問いかけるオタクへの牽制」カードとして未だに定期的に掘り起こされています。

もちろん、実際は「無視するという選択によって発生する責任」もあるわけで、「公式は黙認するのが正解」「ファンが公式に声をかけるのは不正解」という事ではありません。ただ、権利者は二次創作を知らないとかアダルトコンテンツの存在に気づいてないとか、そんなわけもありません。
知ったうえで様々な検討のなか、黙認している（場合がある）わけです。
ならばユーザーや二次創作者側も「何を問うべきで、何を問わないべきか」を熟考して選択する必要があるのかもしれません。

「営利目的でない限り良い」「原価回収以上の稼ぎを出してはいけない」という二次創作者側の理論も、権利者・二次創作者の両者が秩序を保つための一例であって、必ずしも稼ぎを出すこと＝悪ではありません。
（念押しをしますが、これは「判断は当事者間それぞれの思惑があり、一概には言えない」という話であり、「二次創作で稼ぎを出してもオッケー！」とは言ってません。）

ちなみに、無断転載……すなわち、漫画のいちシーンをSNS上にアップしてそれについて語ったりする行為や、リプライ等におけるリアクションについても似たようなことは言えるのですが、これこそ、私がこの場で「これは良い・これは駄目」という話をすれば、そこに責任が発生してしまうし、何より「自分はそうは思わない」と感じるクリエイターの意見を排除してしまうことになるので、あまり詳しく言えません。
しかし、ここでも判断基準として「クリエイターへのリスペクト」が大きいということだけ言えると思います。

近年では、権利元が二次創作ガイドラインを制定することも増えてきました。今までがこの「暗黙の了解」という曖昧な概念ゆえに度々論争が起こってきたことを考えると、良い流れと言えるでしょう。
そのぶん二次創作側も、その作品に二次創作ガイドラインがあるかどうか、きっちり確認するよう心がける必要があります。

ここまでの話で、二次創作における善悪は「当事者（著作者）が決める話」であり、また二次創作が著作権法に違反していたとしても、二次創作にも著作権があることも事実であるということがわかりました。
こうして考えるとたとえ二次創作をやっていたとしても、「AIの盗作に募りを感じる」のは何もおかしなことではありません。

さて、ここで言う「AIの盗作」は当然、AIにテキストを入力して、AIの思うがままに作品を作ってもらうことではありません。
次に取り上げるのが、最も大きな問題である、image2imageをはじめとした著作物の盗用による画像入力の話です。

AI絵師による盗用

Stable Diffusionにあるimage2imageをはじめ、AIツールにはテキストで入力するものだけでなく、画像をアップロードして、それをもとにAIに再構築してもらうものがあります。
これが数多くの問題を引き起こしているのです。

今回においては他人の作品を無断で「入力」として扱い、AIを通して改変を行うことを一律で「AIによる盗作」または「AI絵師による盗作」と表現します。

初期のほうで炎上したた例だと、クリエイターがお絵かき配信をしている画像をスクショし、AIに読み込ませて先に「完成された絵」を用意して、本人より先にアップロードするという、明らかな悪意を持った行為が話題になりました。

上記の例は海外の方の行動によるものですが、日本においても、同じように他者の著作物をベースにAI出力する方がAI絵師として活動されています。
実際のところ、AIで出力して終わり、というわけでなく、色々なソフトを重ねがけしたり、あるいはAIで出力したものの上からトレスして描く（3Dデッサンのように）など、様々な手法がありますが、問題はやはり入力の段階、「他者の著作物を読み込んでいる」部分にあります。

正直ここらへんの話はこちらが改めて話すよりは、著作権について真面目に話している記事があるので、そちらを見たほうが早いです。

Midjourney、Stable Diffusion、mimicなどの画像自動生成AIと著作権（その2）

こちらの「1.1 1　著作権侵害の要件：どのような条件を満たすと著作権侵害に該当するか」及び「著作権侵害が問題となるパターン　1.3.5 （5）パターン5」を見ていただければ分かるとおり

• 画風が異なるとしても、表現上の本質的な特徴が同一であれば、類似性は肯定され、著作権侵害に該当する

• image2imageなどによって、入力に著作物が使用され、類似画像が出力されてることが認められれば、じゅうぶん侵害してると言える

• 侵害している場合、差止請求、損害賠償請求、廃棄請求、回収・廃棄請求が行える（特に差止請求は、侵害者に過失がなくとも認められる）

ということになっています。

「テキストからAIが生成するとき、ノイズからはじめて一から描いてるので継ぎ接ぎしているわけではない」という話をしたのに対して、「画像からでも工程は同じじゃないのか？」と思われるかもしれません。
しかし、その話でも語ったように、「AIツールに違法性はないのだから、問題が生じるのは入力と出力、それを行う人次第」であり、他者の著作物を使ってAIで改変させる行為は「AI利用者の故意過失により、依拠性・類似性が認められる改変を行った」ということになります。

つまりは、同一性保持権の侵害＝「著作者の意に反する変更や改変によって、精神的利益を害した（精神的苦痛を与えた）」に該当する可能性があるわけです。

「AIを通している」というのはあくまで手段に過ぎません。
また「AIを通しただけじゃなく、様々な手を加えてる」ことも同じです。
たとえば著作物の無断複製は、デジタルデータをコピーしてアップロードすることも、プリンターで印刷してそれを使うことも、あるいは模写やトレスで人力で真似ることも複製にあたります。手段がなんであれ「複製」であることが問題なわけです。
同じように、AIによる再構築も「同一性保持権を侵害している」ことが重要なのであって、そこにAI肯定派がよく言う「AIによる技術革新」にまつわる特別な理由はなにも通用しません。
同一性保持権を侵害された＝著作者の意にそぐわない改変をされた＝精神的苦痛を味わったことを理由にすれば、AI絵師による盗作がいかに問題か、同時に何故ひとの作品を入力として扱うことが盗作になるかが分かります。

「AIツール自体は違法か」で引用した三十条の四の一部をもう一度以下に引用しましょう。AIが違法あるなしに関わらず「著作権者の利益を不当に害すること」が優先されることを忘れてはなりません。

クリエイターへのリスペクト

今までさんざん著作者の精神的利益や苦痛、感情の重要性を説いていきましたが、では「嫌だから嫌だ、やめてくれ」で押し通して良いのでしょうか。
それこそクリエイターの暴走による「感情論」になってしまいます。
そうならないために、クリエイターの募りに対しても、全うなものと、そうでない＝不当なものを完全でなくとも区別しなければなりません。
（法律の話でも言った通り、"完全に"何かを区別することは困難です。）
この区別に一役買うものとして仮定したいのが「クリエイターへのリスペクト」です。

今までの記事のなかで、二次創作や無断転載の話、またDanbooruの話において、「クリエイターへのリスペクト」というワードを出しました。
分かりやすく表すためにいままでこう表現しましたが、リスペクトというと、「クリエイターを尊敬しなさい」という上から目線の話に聞こえてしまいそうなので、ここで一度、この言葉について詳しく定義します。

クリエイターへのリスペクトは、「クリエイターを悲しませたり、苦しむようなことをしないこと」というニュアンスで語りたいと考えています。
「悲し"ませる"」と言ったように、能動的＝過失であることが重要です。
リスペクトという単語はラテン語の「re-（～の後ろへ）specio（見る）」つまり「思わず振り返って見てしまう（ほど特別）」という流れでつくられたとされています。
この「振り返って見る」の部分に着目して、「その行いでクリエイターが傷つかないかどうかを振り返ること」を「クリエイターのリスペクト」と表現したいわけです。
当然この定義はこの記事の中にのみ適用するものなのですが、クリエイターが「クリエイターへのリスペクトが足りない」などと言うとき、わざわざ自分を棚に上げてるわけじゃなくて、「長い時間の苦労や、その先に身につけた技術あって活動してることをわかってほしい」という気持ちが強いのではないか……という予想にもとづいています。人それぞれなのは前提として。

「著作物には著作者の思いが詰まっている→だから保護する必要がある」という感情本位の大原則を端的に表した言葉、それが「クリエイターへのリスペクト」ということです。
ゆえにこそ、AIの議論をはじめ、絵描き（著作物）がかかわる議論においては、感情に起因する訴えこそが重要になってきます。
ちなみに、保護する必要がある→著作権法があると続けても良いのですが、それなら「著作権法への侵害」と言えば良い話になってしまいます。
ここでわざわざ著作権法と区別しているのは、今まで説明した通り、法律の条文に従うだけでは「何故なのか」を見落としてしまうからです。

それでは感情に起因する訴えはどのようなものでしょうか。
ここ最近のAI問題に関しては、大枠として以下のような点についてクリエイターは不安の声を上げていると思います。

1. AI技術そのものに対する警戒

2. AIにより仕事が奪われる可能性への焦り

3. AIを悪用する人への怒りや悲しみ

4. 労力を無下にされる苦しみ

このうち、１、２については、例えば「人間が何年もかけて手にする技術を、AIは一瞬で我が物にしてしまう」とか「それによって仕事が奪われてしまうかもしれない」というものがありますが、これらは一種の、将来性への漠然とした不安によるものです。
AIが特定の著作物や著作者の想いを脅かしているわけではなく、つまりこの例においてはそもそも「リスペクト」の概念そのものが存在しません。
「リスペクトがない」のではなく「リスペクトという存在がない」のです。
しかし３において、例えば「他者の著作物を勝手に入力として扱うこと」は特定の著作者の意に反することをしている、即ち「クリエイターへのリスペクトがない・出来ていない」ことを示しており、問題となるわけです。

ここでDanbooruの話に戻ると、NovelAIの問題点も浮き上がっていきます。
先に話した通り、NovelAIがたとえDanbooruから集中的に学習していても、それは法的には問題ありませんでした。
しかし、「出力結果を調整するため、AIに与える学習データを選ぶ」行為は人為的な行いであり、そこには「リスペクトの有無」が存在します。
（”「リスペクトがない」が存在する”というややこしい表現になって申し訳ありませんが、”リスペクトの存在自体がないこと”とくらべて、何が違うのか・言いたいのかは伝わると思います。）
さらに言えば、AI以前に、無断転載の温床となってるDanbooruのあり方自体にも「リスペクトがない＝出来ていない」と言えるでしょう。

つまり「NovelAIのシステム自体には問題がないが」→「Danbooru利用者（または運営も）はクリエイターへのリスペクトがなく」→「そんな場所から故意に収集する（無作為の収集じゃない）NovelAI開発者もクリエイターへのリスペクトがない」→「故にクリエイターの反感を買っている」
ことがわかります。
NovelAIは法律的には問題なくとも、法律が重視しているクリエイターの精神的な部分を犯していることが明らかになったわけです。

「だからこの行為も法律で罰せられるべきだ」「罰せられるように法律を改正すべきだ」と私は言いませんが、ここでは「クリエイターがNovelAIの学習方法に対して怒りを感じるのはおかしなことではない」という話だけは明確にしておきたいと思います。

ところで、４で言うような「労力」の話はとても難しいです。
というのも「AI出力という行為」これも確かに労力のひとつなのですが、
一方で絵描きはそれとは比較にならないほどの労力をかけています。
「たった２日間だけの仕事に200ギニーは高すぎる」と言われた画家のホイッスラーは「生涯をかけた成果に対して200ギニーだ」と返したエピソードに代表されるように（よくピカソが言ったことにされてますが）、絵描きは長い技術の積み重ねで1枚の絵を描いてるわけです。

しかし、これは逆に言えば「AI絵師が数年間の苦労をしていたら文句はないのか」という話になります。
別に資本主義批判をしたいわけではないので、労力に価値を見出すこと自体に何か言うつもりもないですし、労力があるから思い入れが湧くのはそうなのですが、少なくとも労力を理由にAIを否定するのは難しいと感じます。

当然ながらこれは「クリエイターの労力は作品価値の判断材料にはならない」と言いたいわけではありません。
先に引用していた"著作者が著作物に対して主観的に持つ「愛着心」や「思い入れ」、「こだわり」という、著作者の著作物に対する主観的な利益"は、労力によって発生する側面が確実にあるでしょう。
しかしこれもやはり「AI生成に愛着心や思いやり、こだわりがあれば、AI生成物にも著作権は発生するのでは？」という話になります。

"AI生成物に著作権はあるのか？"の部分に関してもここでは議論しません。
（米国では「ない」という決定になったそうですが）
ただ、二次創作が「著作権を持ちながらも著作権侵害の可能性がある」ことと同様に、仮にAI生成物に著作権が発生したとしても、入力の段階で盗作していれば著作権侵害となる可能性は揺るがないと私は考えています。

AI絵師とクリエイターの利益は比例しない

AI絵師が「ひと月で～円稼いだ」という話をしたことについても、よく議論が起こっています。
なかには「こういうことをするのは反社だ」「AI絵師の行動はすべて嫉妬や劣等感によるもの」とかの話も出ていますが、相手の立場をどうこう考えたところで、それが本当かどうかも分からなければ、立場が明らかになったところで丸く収まるわけでもないので、今回は立場に関する話は想定しないでおきます。
同じ理由で、この記事ではAI肯定側が言う反対派に対する「底辺絵師の嫉妬」などの立場も考えないこととしています。

しかし、絵描きが必死に画力を磨いて作品を作っても見向きもされない一方で、AI絵師がAIの出力でSkebやFANBOXの荒稼ぎをしていると考えると、確かに理不尽に感じるものです。
（そもそもSkebでAIデータを納品することは規約違反なので、AI納品で稼ぐのは明らかな悪質行為なのですが…一旦そこは置いておきます。）

「このままではイラスト界隈はAIに食いつぶされてしまうのでは？」と、先程の「クリエイターへのリスペクト」の２で言ったような不安が出てくるのも無理はありません。
しかし「AI絵師が稼げていること」と「クリエイターの稼ぎ」は別であることは、前提として考えておかなければなりません。

そもそも、AI絵が売り上げている土俵を見て、「私も同じ土俵の上か」を考えてみる必要があります。この話に関しては、絵描きそれぞれで全然違うものになってくるので「こうである」と言うのは難しいのですが。

基本、AI絵に関しては「完成度・見栄え」に特化して、その価値を売っているパターンが多いかと思います。
というのもAI絵師の様子を見てると、技術者寄りの思考というか、「顧客の要望に合った絵を作る」「AIの不自然さを無くす」というところがメインで、作品コンセプトや意図などを考えてるパターンが滅多に見られないためです。

そこでまず、絵描きとしては「私は完成度・見栄えだけで売り出したいのか？」とか「稼ぐために絵を描いているのか？」を考える必要があります。
絵描きのなかにはもちろん、稼ぎたくて必死に描いてる人や、承認欲求のために描いてる人も多いでしょう。しかし、本当にそれだけならば、流行のものだけを描き続ける、所謂イナゴ絵師で良いはずです。
しかし実際には、絵を稼ぎや承認欲求を満たす手段と割り切って、そうなっている人は稀です。たいていのばあい「表現したい何か」「描きたい何か」があるのではないでしょうか。
つまり、愛着心、思い入れ、こだわりです。

この時点で、既に立つ土俵は異なっていきます。土俵が異なるということは、価値観も異なります。

AIイラストが使われる場としては、たとえばイラストCG集、Youtube動画のサムネイルなどが思い浮かびます。確かにAIが活躍できてしまうし、場合によっては収益を得てしまうでしょう。
また「絵描きに依頼する金がないからAIで済ませよう」という選択肢が出ていることは、絵描きの存在を蔑ろにされてるように感じるかもしれません。
しかし、例えばYoutube動画のサムネイルは今でも「○○さんのイラスト」であることが、AIの魅力的なイラスト以上に効果を発揮することは多々あります。「○○さんの描いた××が見たい」「○○さんの関わった作品が見たい」という価値が存在することは、クリエイターにとっては非常に心強いファンの「感情」であると言えます。
こうしたファンによる「クリエイターへのリスペクトがある」状態が、そのままAIに仕事が奪われることなく、クリエイターの価値や仕事を保つ構造になっているわけです。
ちなみに、ここでの「リスペクト」は前途した定義のものではなく、一般的な意味合い、すなわち「尊敬」のことです。

日本の今のクリエイター市場は、ファンの存在が非常に大きくあり、そしてファンはAIの出来栄えだけでクリエイターのファンをやめるほど単純ではないということを考えておくと、少し不安が和らぐのではないでしょうか。
仮に、ファンがどこかのAIに金を使ったとしてもそれは「AIに金を使った」だけであり、「クリエイターを捨てた」わけではありません。

AI絵師とクリエイターは、現状の市場を考えればそもそも顧客の一致が部分的なので、単純な比例関係（AI絵師が儲かり、クリエイターが損をする）にはならないのではないか？と思います。

だからといって、やっぱり「ろくに苦労してないのに稼いでるなんてずるい！」と思ってしまうところはあると思いますが、それこそ純粋な嫉妬になってしまう恐れがあります。
あくまで「クリエイターへのリスペクトがない悪質な行為」を問題にしていくことからブレないように考えていきたいと私は思います。

今後について

今後、クリエイターをAI盗作の被害等から守るためには、現行法で対応して「これはいけないことだよ」という判例を作るか、あるいはそれと並行して、AIの進化に柔軟に対応できるような法案を考えるか……というのに結局落ち着くのかもしれません。
少なくとも、現状明らかにクリエイターと対立して行動を起こしているようなAI絵師に直接はたらきかけるアプローチで解決するのは困難だと思うので、「クリエイターが苦しんでいる」という感情は、AI絵師に対してだけではなく、国や法律に対して投げかけるほうが近道なように感じます。
（今後新たにAIに手を出すなかには、本当に問題点が分かってないだけの人もいるかもしれないので、積極的な議論、声掛け自体は大事ですが、徒労に終わったときの精神的負担も覚悟する必要があります）

また盗作とは別に、AI絵の見分けの部分についても思うところがあります。
Skebなどでは「AI絵を見分けるAI」を導入したり、またノイズを加えることでAI学習を阻害するソフトが公開されたりと、「AI絵を区別する」ことが一種の課題のようになっています。
しかし、AIの学習を妨害することは、その妨害を乗り越え、より高精度なAIを生み出す、所謂いたちごっこに繋がります。
と言ってもこれは仮に妨害が出なくても同じで、AI技術者たちが完全なイラストを目指す以上、遅かれ早かれ将来的に完全に見分けがつかなくなるAIモデルが生まれる可能性はじゅうぶんにあります。
（逆に、完全に見分けがつく技術が出る可能性もあるのでしょうけど）

完全に見分けのつかないAIイラストが出てきたら、それこそ混乱が多く発生する事態になると考えられます。
例えば、現在においてもSkebでAIが禁止されてることを理由に、AI生成であることを隠して活動をしようとするパターンが存在します。
AI対策の障壁を乗り越えるにはそれなりの知識や技術、工程が必要でしょうから、実際にそうしている人は少ないのですが、この「AIであることを隠して売る」が容易になってしまうと、多数の偽装AI絵師が発生してしまう恐れがあります（この多数は、一人による複垢も可能であることを考えるとかなり現実味があります）。
いくら「イラストはファンとのつながりで成り立つ」といえど、そのファンまで騙せる数が多すぎれば市場が崩壊してしまう危険性もあるでしょう。

これもある種、現時点では被害者のいない将来を想像しただけの「漠然とした不安」ではあるのですが、そもそも「クリエイターのことを考えてAIを制限しているSkebのルールを犯して収益を得ようとしてる」事実が現状で既にあるということを考えれば、対策が必要なように感じます。

この点において、中国がAI生成マークを義務化したことは大きな参考になるでしょう。仮に完全に見分けがつかない場合、マークの有無も成り立たないのではと感じるかもしれませんが「AI生成物はAI生成物であると表示する義務がある」こと「表示しないのはその義務に反していること」を国が明確にするのは、少なくとも野放しに比べれば大きな抑止になります。

本当はAIツール側がこういう制限をかけてくれればいいのですが、オープンソースになっている以上、国際法で取り決めでもしないと難しいでしょう。と言いつつ、国際法で条文を明記する条約法を批准する国も全部ではないようなので、どう足掻いてもスキはできてしまいそう……。

あるいは逆に、ちゃんと描かれたイラストが「ちゃんと描かれたイラストである」ことの証明をするというパターンも考えられます。
この手段としてはまぁ、NFTとかも有力だったのですが、あちらも結局暗号通貨界隈であることが裏目に出て、無法地帯だし広まらないしでなんとも……という感じですね。
それと、そんな技術が出来たとしても、出来る前の過去の絵すべてにそれを付与できるか？というと、非現実的であるという問題も抱えています。
（NFTとはなにか？の話も、noteでクソ長い記事を書いてたりしたので、興味があれば見ていただいても構いません。ただし、NFTから離れて久しいので、情報としては古いです。）

おわりに

以上が、ここしばらくのAI議論をなんとなく受動喫煙したうえでの、自分のなかでのAI観という感じです。
「感情」をテーマに扱いつつ可能な限り思想が偏らないようにしたつもりですが、哲学者よろしく自分の考えを自己否定・再考したかと言われると、そこまではやってないので、結構なバイアスがかかっていると思います。
最後まで読んでくださった方がいましたら、是非ここに書いてある内容にただ頷いたり、頭ごなしに否定するのではなく、否定も肯定も疑って、一歩引いた目線で考えてみていただけたらと思います。

追記

2022年4月12日追記分

「AIツール自体は違法か」について、第三十条の四などを根拠に違法性はないと私は考えておりましたが、それに対する反応をいただきました。

まずツイートでいただいた意見について。
（しばらく前にもらったそのツイートを、リプライとか引用とか@とかで探したんですがちょっと見つからず……申し訳ありませんが記憶を頼りにしたニュアンスです。もしご本人様の目に留まって「言ってること違うよ！」となったらお知らせください）
『第三十条の四は開発目的を前提としてるので、営利目的は認めてない』『第三十条の四において"著作権者の利益を不当に害することとなる場合は、この限りでない"と記載してしまったことが失敗で、AI絵師に「利益を害さなければよい」という判断をされてしまった』
という旨の感想をいただきました。

先に後者の「利益」のあたりの話をすれば、これはAI絵師側が本当にそう判断したのであれば、単純に「そのAI絵師が誤読した」だけと言えそうです。
記事本文で何度か書いたように、原則として著作権法における「著作権者の利益」は「精神的利益」も含んでいます。なので、物質的な利益の影響がどうであれ、著作権者が自らの著作物を使われていることに精神的苦痛を感じていれば、それは精神的利益を害しているということになるはずです。

ただ、AI絵師もひとりではなく、そもそもこの理論を盾にしてない人もたくさんいるでしょうから、全員が全員、これを理由にAI絵師は正当性を主張している……とも言えなさそうですね。

次に前者に関して。
文化庁の「著作権法の一部を改正する法律（平成30年法律第30号）について」では、第三十条の四など、改正された内容について、その目的などが書いてありますので、そちらを再確認してみます。
例えばQ&Aでは「思想または感情の享受を目的としない利用は具体的にどのような行為が対象か」というQに対して

と回答しています。成る程確かに、「開発が目的」であることを2度にわたって記していますので、文化庁の意図として、営利目的は含まれていなさそうです。
NovelAIやStableDiffusionなどはそれぞれがそれぞれの意図に沿った出力をするために追加学習をいろいろやったりしてるわけなので、それ自体は「開発目的」と言えなくもなさそうですが、サブスク課金で一般公開させて自由に使用させることは流石に「開発目的の提供」と言えないような気もします。

しかし、仮に開発側が「ユーザーがどういう情報で入力して何が出力させるかの情報もAI開発のための大切なデータだ、だから開発目的だ」と言ったなら、そうかも……という気もします。
ほかの著作権法と照らし合わせたらまた違うのかもしれませんが、少なくとも三十条の四単体では営利目的による使用や、また開発段階において許可を得ずに集められたものが、一般に広く使用された場合の規定はありません。

（一応、「著作権法の一部を改正する法律　概要説明資料」を見る限り、ビッグデータやAI技術は「生産性恒常の鍵」「イノベーションの創出」が期待され、また既存の法律が理由で開発や利用を萎縮してしまうことを防ぐために改正されたことが明記されており、必ずしも「研究機関のみの発展に限定して許可を出したい」という意図で改定したわけでもなさそうです。
なので健全な方法の限りでは、一般に広く使われたり、営利目的を含む利用について制限をかけたくなかったのではないか？という気もします。）

結局のところ、文化庁からしてみれば改正した段階で「こんな状況なんて想定してないよ！」ということなのかもしれません。

次に頂いたnoteのコメントを勝手ながらこちらに引用させていただきます。

なるほど、確かにこの判断に基づくとStableDiffusionはじめ、オープンソースとして公開されているものを一般人にも利用できるようにしてるものは大抵サブスクなどで利益を上げているので営利目的になってますし、またそこで得た利益を科学研究に再投資してるかも不透明そうです。
（日本語で雑に調べた限りですが……）

ただ、「ドイツの研究機関であるLAIONが集めた物なので日本の法律ではなくドイツの著作権法によりフェアユースかどうか判断されます」の部分は正直調べた限りだと、本当にそうなのかイマイチよくわかりませんでした。

というのも、国内外の著作権の扱いを決めるための万国著作権条約やベルヌ条約において、「他国の著作物を使う場合は、原則としてその著作者の国の法律に従う」ことが記載されているのです。

つまり著作物はあくまでその著作物が作られた国とその国の法律が優先されて保護されることになるわけなんですが……この場合どうなるんでしょう。

1. 著作物はその国の法律で保護→その国の判断でツールの違法性も変わる

2. その国でツールは違法→それはそれとして著作権は各国で違法性を判断

3. そもそもここで言った前提や上記の2択が間違っている

う～～～～ん…………
両国・両種で違法だとしたらどっちであれ変わらないような気もしますが、しかし実際に裁判を起こすぞ！とかになったときに「どっちでもいい」とはならないでしょうから、ハッキリさせたいところですが……。
やっぱ他国の法律とか国際法が絡むと訳わからなくなってしまいます……詳しい人誰か教えてください……。

そういうわけで、私は「AIが画像を収集する行為にも、生成する手段にも違法性はない」と判断していましたが、少なくとも「画像を収集する行為」の部分について、「研究開発目的でない」「営利目的である」という2点において、必ずしも合法とは言えなさそう……という感じになりました。
「法律は絶対的な善悪の基準か」で記した言い方をすれば、少なくとも日本国内では「想定してないので"無法"状態である」と言えそうです。

となると結局、法改正を待つまでのあいだに現行法で判断するには、実際に判例ができるような裁判沙汰が必要になるのかもしれません。

2024年2月6日追記分

「AIツール自体に違法性はない」と考えていましたが、「学習元の画像が本当にそっくりそのまま出力される」事例が少なからず現れはじめており、この自身の考えを改めるかもしれません。

実際の事例についての詳細は、よー清水氏による以下記事の"画像生成AIが盗作を隠さなくなってきている"の項より。

"システムに問題はないよね"と思っていましたが、ほぼ元データそのままの画像を出力してしまうのは、もはや「集めたノイズ情報から構築してる」とかじゃなくて「元画像から学習段階で行った処理を逆に進めて元画像に戻してる」ようなもの（間にいろいろなプロセスが挟まってたとしても、それはある種のロンダリング程度のもの）で、「それはもう駄目では？」となっています。もちろん出力設定のランダム性云々次第なんでしょうけど、低いランダム性でこういうのが出てしまう時点で、かなり危ない。
「ディープラーニング学習による手術ロボットが突然ランダム値上がりすぎて暴れまわって患者を切り刻みまくるリスク」みたいな話題とか昔からありましたが、生成AIに関してはその逆＝ランダム値が機能しなくなる可能性がある時点で恐ろしいよね……と感じます。

当然、模写やトレースはAI如何に関わらず原則として著作権違反（それを罰するかどうかは個々の状況と権利者の考えで判断する）ですし、「結果出来るというだけで、人間だって同じようなものだし、それならばAIシステム自体にやはり罪はないのでは？」と思われる方もいるかもしれませんが、むしろ「AIがただの道具」であることが問題で、AIは結果として出力の良し悪しの判断ができず、そのまま出力することもあります。
そうなると、責任の所在が曖昧となり（最近文化庁がここらへんで素案を提示してましたが、Xの人たちの反応を見てる限りパブコメでいろいろ異論が出てそうなので、やはり一筋縄ではいかない問題なのでしょう）、「責任の所在が曖昧である」ことを悪用する人が増えるリスクもあります。

とか考えると、一概に「AIは悪くないよね」と言える空気じゃなくなってきてるというか、AI推進派が自らAIの正当性をどんどん狭めてるような気すらして、なんともなぁという感じです。

ちょっと追記前の文章に対して、あまり拠り所が少なく感情ベースの話が多くなってしまったので、「これは感情ベースの話ではあるなぁ」程度に読んでおいてください。

というかいい加減イチから新たなAI所感の記事を書いたほうが良い気がする……もう2万5000字になっちゃったよ～！