AIを疑問視するなら、まず人間について論ずるべき

I’llです。

12月9日、EUで世界初となるAI規制法が可決されました。私はAI開発企業にだいぶ忖度した内容になると個人的に考えていましたが、比較的踏み込んだ結論になったと思います。とはいえ、最速での施行は2026年からですので、あと2年はAI関連企業がイケイケなわけで、世の中がどう変わっていくかは不透明感が拭えません。

私はAIが本質的に危険だとは思いません。むしろ画像生成AIを使う「AI絵師」のノーマナーな振る舞いを見てきた私たちからすると、AIを開発しAIを使う側の人間の脅威こそが本質であり、包丁が危険だから販売禁止にするべきという話ではなく、包丁を人に向けることが問題である、という論点で考えるべきだと思います。

かなり踏み込んで話をすれば、私たち一人ひとりが本質的に「サービス提供者が人間に限られる必要はない」のです。サービスの質が高ければそこに生身の人間が介在しなくても構わないのが現実で、それがコンビニのおにぎりであれ、工場のライン作業であれ、内容に差がなければ主体が人間である必要性を感じないはずです。
しかし、そうやって人間の生業がAIやロボットに代替されるとすれば、経済活動において人間が介在する余地はほぼ消失すると言ってよいと思います。政治的施策すらChatGPTの提案をAIが高度な検討をして誰かがハンコを押せばいいだけですし、それがアーティストやデザイナー、学者や研究者であっても、出力が同じであれば人的リソースを割くことなく素早く結果が出たほうが望ましいはずです。
ただ、そうなれば現実的に人間の仕事の価値は失われ、その社会構造でどうやって経済活動をし、生活費を得るのか問題になってきます。AIやロボットを製造管理する側だけに経済的メリットが集中し、それ以外の大衆には「やるべきことがない」という歪んだ社会構造になっていく恐れもあります。
今の話は極論ではありますが、「サービスの提供者が人間である必要はない」という本質的傾向を無視して、全方位でAI開発を加速させるのは少し考えが足らないのではないかと私は思います。
”人手不足を補うためにAIを活用しよう”という意見ももっともですが、AI開発が行きすぎて雇用をオーバーキルしてしまう恐れはないでしょうか。
「今は全然そこまで使えないから大丈夫だよ」とたかを括っていても、本当にいつかAIが進化して全業務をカバーしてしまえば、雇用される側はどうすればいいのでしょうか？

私は、AI推進派の加速主義が現代の価値観に沿った思想だからこそ、危機感があります。プロセスを自動化し、結果を最適化するというスキームは確かに合理的で、しかし合理的だからこそ、人間がマンパワーでやる不合理性と相対してしまうのです。この点において、EUが率先してテック企業の加速主義を牽制した現状は、既存の社会構造に対して保守を選択したと言えます。ただ、自国の利権に甘くありたいアメリカや、法制度がガバガバな日本、国内のAIを禁止しておきながらスクレイピング大国となっている中国など、各国の思惑があり依然不安定なままです。

絵描きの私が感じた、画像生成AIの脅威

AIイラストを例に、私個人の話をします。

私がAIイラストを初めて見た時、頭にカッと血が上りました。今まで体を壊すほど上達に努力をかけたと自負していた私は、AIイラストのクオリティが自分の何倍も技術力が高く、魅力的な絵に仕上がっていると感じたからです。プロとして見れば微妙な箇所は多いものの、クオリティの面では太刀打ちできないと悟りました。これは正直、嫉妬です。同時に自分の何万時間という努力が踏みにじられたと感じました。「これからAIが描けばいいじゃないか」と不貞腐れたのも事実です。おそらく、こういう感じ方をした絵描きは多かったのではないでしょうか。

2023年の春頃にはだいぶ議論が進み、AIイラストに対する風当たりが変わりました。それまで私も「プロもAIを使うべきだ」と考えていました。しかし実際にStableDiffusionを触ってみて、「業務に使用するメリットが皆無である」と最終的に結論を出しましたし、仕事の現場でも画像生成AIの需要が高まることは、ほぼありませんでした。
今では、生成AIを使わないほうが望ましいというのが業界のコンセンサスになりつつあります。大量生産されたハイクオリティローコストのコンテンツは、業界を席巻するどころか白い目で見られている、というのが肌感覚です。AIイラストは市場の一部で需要を喚起し、新たな産業となっていますが、産業全体へのビッグバンは言われていたようには起こりませんでした。

これは昨今のブロックチェーン技術やEV推進もそうですが、専門家やインフルエンサーがいくら持て囃そうと、大衆は正直というか、新興産業が本質的な課題をクリアできずにバブルになりいつの間にか消える、という事象があまりに多い気がします。私も早い段階で、画像生成AIはP2Pと同じ道を辿るのではないか、とぼんやり想像していたように思います。
ただ、今回私が直接影響を受けなかっただけで、美少女イラストで生計を立てていたイラストレーターや、著作権フリーの素材配布をしている企業にはもろに影響を与えています。そもそもLaion-5Bが超法的なスクレイピングを経由した後、そのデータセットが研究目的ではなくガチガチの商業目的に使われており、人権や権利上の問題さえも含んでいます。そこはAI規制派にとって批判の主軸となる点です。しかし、技術がさらに進化し権利上の問題も完全にクリアし、ゼロからAIが現在のクオリティを上回ってきたら、我々クリエイターの防御壁は完全に突破されます。
「今はまだこの程度だから」生計を揺るがすほどのダメージはありませんが、AIが完全に漫画や映画のような複雑な工程まで自動生成する日が来たら、エンタメ市場そのものが崩壊するはずです。人間のやることを全てAIが上書きすれば、人間は何かを食べて適当に寝ていればいい、という時代になりかねません。半ばSF的な極論ですが、完全に実現はしないまでも、かなり要素の濃い時代になる可能性があると私は思います。

いくら成果主義の世の中でも、プロセスを無視した成果は歓迎されない

人々がAI絵師に対して反感を持ちやすいのは、彼らがノーマナーな言動に一切の疑問も反省も持っていない部分です。大抵の人は、AI自体に問題があるとは思っていません。権利侵害が前提の技術、それをマウントするだけの人が、我が物顔で権利を主張することに反感を買う要因があるのではないでしょうか。
そもそも、大衆の関心がAIイラストに向かないのは、「ちちぷい」などのAI生成作品投稿サイトのユーザー数を見ればわかります。他の作品投稿サイトでは、AI生成作品が一部禁止もしくは完全禁止されています。おそらく、人々は思ったほど「人の手を介していない作品」には魅力を感じないのかもしれません。
Pixivなどの作品投稿サイトを見回すと、私を含め大多数のユーザーの作品よりAI生成作品のクオリティが高いのは、肌で感じます。Twitterで10万フォロワーがいるような神絵師の技術レベルなので当然ですが、AIイラストと一目でわかるからこそ評価数を見ても注目されていないことがわかります。
(※余談ですが、一般ユーザーの作品をスクレイピングしたのであれば、デッサンの狂いや線の歪みなども学習するはずですが、ソシャゲの最先端のキャラデザを踏襲し、美少女に特化して高品質イラストを優先する画像生成は、個人的に違和感があるというか、商業的な意図を感じざるを得ません。)

私はこの流れが非常に意外だったというか、市場原理で考えればAIイラストが既存のプロの仕事を駆逐するのは時間の問題だと思っていました。しかし消費者心理としても、ビジネスの場におけるコンプラにしても、AI生成作品を受け入れる土壌ではなかったというのが興味深いと思います。
まあ、Laionが限りなく黒に近い問題を省いたしても、人の手による作品でなければ作品的価値、商業的価値がないと見なされたのは、一考に値します。
結果が同じ、あるいは質としてそれ以上でありながら人の手による成果物が望ましい、という風潮こそ、文明や文化活動の本質に則ったものなのかもしれません。
その点において、ショートカット的に出力された成果物より、プロセスを含んだ成果物を評価する価値観は、この時代でもインスタント性が万能ではない根拠として、心に留めておく必要があるのかもしれません。

積み上げたものは、積み上げた人のものであるべきである

よく考えれば、私たちが日常で可読性の低い広告まみれのサイトを開いても、一応はCookieの使用を問われます。これはGDPRというEU発の個人情報保護規制に基づいたものです。そういったビッグデータの一部でさえ収集を同意するかという時代において、「自分でデータベースにアクセスして自分の作品が使われているのが嫌なら申請してね」というオプトアウト制は、あまりに傍若無人であると言わざるを得ません。この点においても、よー清水先生がしっかりご指摘されています。(こういった、言論の分野でコンセンサスを主導される方には頭が上がりません。しかも、下記の記事の主張は、私が今回書いた内容とほぼ一致します。「お前の記事はよー清水先生の受け売りじゃないか」と突っ込まれても首を垂れるしかないほど、的確なご指摘ばかりです。尊敬します。)

そもそもAIは、規制を前提とする技術ではないと思います。言ってみれば、AIはプログラミングの上位互換であり、ファミコンゲームのCPUの延長です。科学が発展し、クローン技術や遺伝子操作が無限に可能になった世の中であろうと、国際的な法の秩序を破ることはタブーになっています。
だからこそ、アンモラルなAI開発に規制が入るのはやむを得ない措置であるとも言えます。ただ、生成AIが反社会的行為や世論の分断のために利用されるのは想像以上に早く、また国際的な議論の決着も比較的早かった印象があります。
その背後には、世界的な人権意識の高まりがあり、利益は法の支配のもとにあるべきだという思想が広まったからだと思います。やはり人権は踏みにじられるべきではないし、困っている人は見逃されるべきではない、そう誰もが考えるからではないでしょうか。

国際的な権利意識の高まりと共に、「積み上げたものは、積み上げた人のものである」という意識が広まっていくべきですし、実際そうなりつつあるように感じます。他人の成果の上澄みをこそぎ取り利益に繋げる行為は、莫大な研究開発にかけた最先端技術を盗み出す産業スパイと同質の存在です。その悪徳の手段としてAIが使われるとしたら、謂れのないAI悪玉論が誕生しても致し方ないように思います。しかしそれは、AIを開発し使う側の人間のモラルの問題であり、犯罪に使われる包丁自体には全く問題がないのと同様です。
だからこそ、これからのAI産業や人類の未来のために、加速主義的開発はAIの可能性を逆進させかねないと私は思います。

最後に:  “安心してAIを使いたい”

ここまでAI規制論に沿った話をしてきましたが、私自身はAIを積極的に使いたい側です。
私は漫画を描いていますが、カラー漫画は恐ろしいほどの工程と時間を要します。はっきり言って全くコストが似合いません。
もし、自分の線画に自動着彩し、あわよくばレイヤー分けまでしてくれたら、作業後半は完全にAIに渡すことができます。それによって全作品にかかる時間は半分になるはずです。その日が一日でも早く来てもらいたいのは山々ですが、権利を無視して築き上げた技術を流用するのは、コンプラでガチガチになっているプロにはできません。業務に活用するならば、完全にクリーンな技術でなければ不可能です。これが実現するのは、5年か10年はかかるかもしれません。
だからこそ、私はAIが現在の法体系以上にガバナンスを持って運用される日を楽しみにしています。
画像生成AIの技術は、これから開発を徐々にナーフされるか、過度に先鋭化しながらダークウェブのような存在になっていくのではないかと予想しています。
しかし、人間が人間である以上、あらゆる道具や技術が人の本質を変えることがなかったように、これからの時代も人間が必要とするものは変わらないと思います。
それは、例えショートカットをして最適な成果物を生み出せたとしても、人のプロセスを見て判断するストーリー的な心理であり、ショートカットをしてもプロセスが正しければ納得するはずです。そこが歪められたら、文明自体が終焉を迎えるかもしれません。
ゆえに成功を目指す人は、コツコツやるのが大事で、コツコツやった経緯と、コツコツやって作り上げた成果を周りに見てもらうのも大事かな、というのが今回の件で一番勉強になったことです。
「画像生成AIのほうが絵がうまいから、もう絵を描くのはやめた」と心が折れた人がいたなら、誰かがあなた自身の絵で救われるかもしれない可能性を信じるべきだと思います。
だから、もう一度ペンを持ってみませんか？と私は言いたいです。

長文失礼しました。最後までお読みいただき、ありがとうございました。