初めて問題を知った人向け

Q. 絵を描いたのがAIでも人間でも良いものは良いんじゃないの？ AIを使っただけで怒るなんて過激すぎじゃ……

批判されてるのは実は無断転載に近いせいです。
生成AIはコピーを出力してしまうことが少なくないという科学論文が一年以上前から出ています。「AIが描いた綺麗な絵」が単に知名度が無い絵のコピーや合成に過ぎないかもしれず泥棒を称賛することになりかねないので批判されています。ハリウッド俳優すらストライキするほど世界中が一致団結して。

論文紹介記事: 画像生成したらコラージュだった件 - Zenn

確信犯(誤用)向け

Q. AIを使ったか聞くなんて魔女狩りだ！

「お絵描きソフトはペイント？ Photoshop？」と聞くのは魔女狩り？
生成AIが「ツール」に過ぎないなら聞いても何の問題もないはず。むしろ「最先端技術のAI使いこなせててすごい！」という称賛になるはずでは？
実際ChatGPTなど文章系の生成AIは「校正」など「どのように使用したかを具体的に明記すれば受け入れる」と明確にしてるところもある。

Q. 【産業革命と同じ】人間から生成AIへの置き換えは、かつてカメラが画家を、自動車が馬車を置き換えたのと同様のものであり、それへの抵抗はラッダイトに過ぎない

A. カメラは画家を必要とせず自動車は馬や御者を必要としないが、生成AIは「学習元(イラスト、脚本、論文、プログラムのコード、声優の声、俳優の姿そのもの等)＝人間の成果物」を必要とするのでまったく違う。しかも「学習元」を作る人間のようには成長しないのでアタリショックが起きる可能性の方が高い。

Q. 【この流れは止められない】技術が進歩しそれが世に出た以上もう止めることはできない

A. Winnyは軍事機密が流出するぐらい普及していたが現在は使われていない。マジコンは被害額が4兆円を超えたが消えた。日本四大公害を引き起こした企業や自動車会社は超大企業だったがそれでも今は規制されている。

Q. 【"中立"こそが公平な態度】

A. 転売行為の悪質さを知らない人が「転売ヤーについて私はわからない」と言うのはおかしくないが、知った上で「転売ヤーについて私は中立です」と言う人は誰もがおかしいと思うだろう。「強盗に中立」「津波と共存」もあり得ない。もちろん画像生成AIが「津波」と同じくらい絶対悪では無いだろうが、「どんなものに対しても中立」が間違いであることは確か。

Q. 【AIの学習と人間の学習は同じ】

A. 深層学習は人間の脳を真似しているが、当然のことながら脳内の化学反応などすべてを再現している訳では無い。犬の脳は人間の脳と基本的な構造は同じだがそれでも「犬の学習と人間の学習は同じ」とは言われない。人間の脳細胞を直接使った場合ですら「人間の学習と同じ」にはならない。

チューリング・テストの考えからいけば、「知性」を持ってるかは内部は関係なく出力から判断するしかない。そして人間に対して「マリオを描け」と命令してもマリオの公式絵のコピーを出力することはあり得ないが、画像生成AIはコピーを出力してしまう。出力だけ見ても人間と同じで無いことは明らか。

Q. 【道具は使い方次第】生成AIを悪用する人間が悪いのであり生成AI自体の問題ではない。包丁で人を殺す人間がいるから包丁を規制しろと言うのか

A. 刃物でもやまゆり園事件のような大量殺戮は可能だから銃乱射事件で大量の死傷者が出ても銃は「道具」に過ぎず関係ないというようなもの。

銃なら包丁より大量殺人が容易な上、包丁は色々な用途に使えるが銃はほぼ殺傷目的にしか使えないという大きな違いがあり「道具」と一括りにできない。
さらに言えば包丁も法律で理由なく外に持ち歩くのは禁止されている。

Q. 大資本（ビッグテック）が「生成AI」を独占する状況は確かに問題である。オープンソースにすべきだ

A. 「資本家が活版印刷機を独占して作者の許可なく小説を複製して儲け放題な状況は問題。すべての人が活版印刷機を所有して作者の許可なく小説を複製して儲け放題にすべき」と言ってるようなもの。「オープンソース」→「みんなの利益」とマルコフ連鎖してるだけでは⸮ 実際ChatGPTの方がまだマシな回答をする。

そもそも「AI」に限らず商業ソフトウェアでオープンソースで無いものなんていくらでもあるのにどうすればオープンソース化を強制できるのか⸮ 法律を作って⸮ 「規制を行なう法律」より「オープンソース化を強要する法律」の方が「自由」の侵害度が高いのに本当にそれでいいのか⸮
あと「ソースコード」自体はほぼゼロコストでコピーできても、データセットや〔学習〕を行なうための数万個のGPUや大量の電力は大資本で無いと手に入らないから「オープンソース化」しても無意味では⸮