生成AIの問題点を正しく切り分ける試み~機械化工業化の類推を用いて～
この記事のまとめ
生成AIについて機械化工業化との類推が有効
機械化工業化は、市場的影響と公害をもたらし、その機械の素材との関係で発展してきた
生成AIも生成する対象の市場に市場的影響を与えるだろう
生成AIは間違った情報を大量に流したり検索を妨害したりといった公害的な影響をもたらすだろう
公害的な影響は、法律やプラットフォームの利用規約によって解決されるのではないか
生成AIの「素材」は学習元の絵や文章であり、その取得に対して現在は金銭が払われていないが、それが適切か考える必要があるのではないか
市場的問題、公害的問題、生成AIの「素材」のすべてに同じもの(イラストAIなら絵)が関係してるため、問題が混同しがちで議論しにくい
イントロダクション
現在Twitterを始め様々な場所で、イラストAIなどの生成AIを巡る議論が行われている。しかし残念なことにその多くは平行線に終わり、あまり実りのないものとなってしまっている。
この原因に、生成AIを巡る問題は多岐にわたり、それらが複雑に絡み合っていることが上げられる。問題が複雑なために、議論を交わす当事者間で話し合っている問題点の共通認識が形成されにくい。この結果議論が平行線に終わることが多いと考えられる。
このnoteでは、生成AIの問題を正しく切り分けることを試みる。それによって議論がよりしやすい世界になれば幸いである。
機械化工業化の類推
生成AIを巡る議論で度々登場するのが、機械化や工業化での類推だ。今まで様々な工作や仕事が機械化されてきた。それと同じことが、よりクリエイティブな世界でも始まっているという主張である。
またAIの発展に後ろ向きな人たちにたいして、それぞれの主張に区別なく、まとめてラッダイト運動だとレッテルを貼る動きもある。
この機械化工業化の類推というのは、誰でも納得がしやすい。これはひとえに我々が経験してきたことだからである。
また、その機械化工業化が進んだ現在に我々が存在する。このため、我々の経験をそのままスライドすることで、輪郭のはっきりした未来予測をすることができる、という魅力もある。
以上のことから、機械化工業化の類推を適用することができるのならば、それを用いることが望ましい。しかし本当にその類推で正しかったかというのは、未来にならなければわからない。よってこの類推を絶対的な真実だと過信してはいけない。
一方で類推から発生する予測が的中しない場合、類推と現実との差異があることから新たな知見が得られることもある。
たとえばロウソクのロウは、液体から固体になるときに体積を減らす。ここから類推して水も固体になるときに体積を減らすと予測されるが、実際には体積が増える。これによって、水では固体になるときに、なにか特殊なことが起こっているとわかる。(実際に水は凍るとき、分子が六角形を作り、穴を多く持つ構造になっている。)
このように類推はときに予測を外すことによって、対象の特殊な性質を浮き彫りにする。そのために、当てはめることが正当なのかわからない類推にも一定の意味がある。
以上のことから、生成AIに対して機械化工業化の類推をすることに、意味があるとわかっていただけたと思う。
機械化工業化の分析
類推をするためには、その類推の元となるものごとを正しく分析しておかないといけない。間違った分析、荒い分析を元に類推をしたのなら、正しい予測ができるはずもない上、前節での類推が間違っていた故に得られる知見というのも、なんら意味をなさなくなる。
そのためこの記事でも、できる限り精確に分析するように努めたい。といっても、私は人文学や経済学を修めている者ではないため、自分の立場による事実の誤認などがどうしても入るだろうと予測される。この分析のパートであまりにもおかしなことを言っているのならば、コメントなどで指摘していただけるとうれしい。
また例として鉄道をとり上げることがある。鉄道が工業という分類に入るかというとそうではないかもしれないが、多くの工業機械と同じく産業革命の時代に生まれ、工業機械と同じように人類の発展に寄与してきたものだと理解できるので、同じくくりとして話させていただきたい。
機械化工業化の分析1 類似の仕事をしている人たちへの市場的影響
工業化が進むと、様々なものが短時間で、安く、大量に作られるようになる。また機械の補助によって、その仕事に特化した技能がなくても同じ仕事をすることができるようになる。
たとえば自動織機の誕生によって布が、手で織るよりも安く大量に売られるようになった。機械の洗練が進めば、1日目から熟練の職人となんら変わらない仕事ができるようになる。こうしたことから手で織るのは機械よりも高くなった。また織物が特殊な技能ではなくなるため、手織り職人の優位性が失われる。こうした結果、多くの手織り職人の仕事が失われた。
また鉄道では、馬車や人力車に比べてより長い距離をより早くより大量に運搬できるようになった。これによって馬車や人力車を生業としていた人たちの多くが職を失った。
人の手でやるよりも、自動織機、鉄道などの機械・機関を使った方が安く物が作れるのならば、市場は後者の物が多くを占めることになる。これは市場の競争原理から当然帰結されることだ。人々がただ自由に、自分の利害に基づいて商品を売り買いする結果、コストのかかる生産方式は廃れていく。
機械によって安く大量に物が作れる、技能がなくても誰でもその仕事に就けるようになる、というのは、その商品を作る技術を持っている人以外からすれば、素晴らしいことである。またその商品を作る技術を持っていた人でも、わざわざ苦労して生産する必要がないため、雇い主が彼らをクビにしたり給料を減らしたりするのでなければ、喜ばしいことである。
一方でコストのかかる方法が完全に消失するわけではない。手による仕事に価値を見いだし、手による仕事のものを買いたいという人がいれば、昔ながらの方法での生産も残り続ける。とはいうものの、安く済む選択肢もある中でそれを選ぶ人は当然、安く済む方法がない場合に比べて減るため、手による仕事を続けられる人は少数になる。
機械化工業化の分析2 公害などの問題
工業化によって人類の生産活動は爆発的に増加した。1年に何着も服を買えるようになり、何百kmも移動できるようになった。この爆発的な活動の増加によって、それまであまり問題とされてこなかった、あるいは当事者間の話し合いで解決できなくなった問題が出てきた。公害などの問題である。
例えば機械を動かす動力源となったり物を焼くために使われたりする燃料は、工業機械の増加に伴って急速に使用量が上がった。その結果、一酸化炭素やNOxなど様々なガスが、それまでと比べものにならないほど大量に排出されるようになった。これは時に健康被害などにつながった。
また多くの物、大きな物が動くために、騒音なども出ることになった。騒音はそれまでは近所同士、当事者同士で話し合えば済んだ問題であるし、人間一人が出せる騒音はたかがしれていた。しかし機械が大量に動いたり、鉄道が走ったりすることによって、際限なく大きな騒音が発生し、またそれを止めさせることが困難になった。
こういった公害は現在ではよく認められ、補償などもされているが、害があると認められなかった時代もある。特に騒音などは、直接体に不具合をもたらすものと認識しにくいため、程度によっては、気持ちの問題だ、気にしなければいいだけだなどと丸め込まれてしまう場合もある。
一方で公害の問題は人間の活動が機械によって拡大されるために起こることであり、悪意があって起こることではない。もちろん悪意を持って機械などから騒音を出すことも可能であるが、大半の騒音は自然と出てしまうもので、わざわざ出そうとは思っていないだろう。トラブルは可能な限り避けるべきで、低コストで対策できるのであれば、騒音を抑える努力もされるはずである。よって、公害を起こしたことに対して、悪意を見いだすべきではない。
こういった公害などに関しては、最終的には国や国際機関が法律や国際目標で排ガスの制限を決めるなどして、解決されていった。
機械化工業化の分析3 機械による工業の成立要件
機械による工業が広まるには、その機械が十分安く作られなければならない。そうでなければ機械を使ったところで、手による仕事より高額になってしまい、市場を席巻するに至らないからである。
機械を作るためには、鉄などの素材が必要となる。この鉄が高額の場合には機械も高額にならざるを得ず、機械による工業は進まない。鉄のみならず、グリスやゴムなども機械を構成する重要な素材で、これらの金額も安くなければならない。
よって機械による工業の発展というのは、その機械を作るための素材の価格と密接に関わっており、ここを無視しては発展しない。またこの素材を安く買いたたき、素材を売る企業との関係が悪化したのなら、それ以降は機械を作れなくなる可能性がある。
また鉄道の発生には土地という特殊な素材が必要だった。線路を引く場所の土地を持っている人たちから、適切な金額で土地を買い取るなどする必要がある。これに対してもし「土地はもともと国の物で、個人の誰にも占有されるべきでない。公共に利する鉄道を敷設するために使うのがもっとも良い」などと言って強制的に没収するならば、強く反発されるだろう。
しかし燃料を燃やすための酸素などは、全く同じように機械を構成する・動かすための素材であるが、買い取る必要はない。誰かが所有権を主張して、支払いを求めることもできない。
こういった素材にたいして、どういったものには所有権を認めちゃんと代金を支払う必要があり、どういったものは所有権が認められず支払いを求められないのかは、必ずしも自明ではない。あるものがどちらに含まれるかは、社会的な合意によってのみ決まり、それ自身の性質からは決めることができない。
とはいうものの人間は類推から外れるルールは受け入れにくいので、一定の傾向は自然と現れる。また混乱を防ぐために法律によってなんらかのルールが明文化されることもある。しかしそこに本当に合理的な理由があるのではなく、社会的な合意、共通認識を文字にしただけのことである。
以上で見られたように、機械による工業化の発達にはその素材となるものの金額や、素材の提供者との関係が重要である。一方ですべての素材に対してその提供者の存在が認められるわけではなく、空気のように支払いを求められない場合もある。
工業化機械化の類推を生成AIに適用する
以上の考察から機械化工業化には、市場的な影響と公害的な影響があることがわかった。また機械化工業化が広く進むためには、その機械を作るために必要な素材の価格と、その素材を提供する側との適切な関係が必要だと言うことがわかった。この3点が生成AIにも当てはまるとして類推を進める。
1. 生成AIの市場的影響
生成AIが大きく市場を揺るがすことは、まず間違いないだろう。人間の生成に比べて格段に短い時間で文章やイラストの生成ができ、その技術の成熟のために必要な時間も短い。
イラストを例に取ると、神絵師と呼ばれるレベルに到達するには通常4~5年程度、短くても2年程度、長ければ10年以上を必要とする。しかし画像生成AIが世に広く出てからまだ1年も経っていないにも関わらず、神絵師とそう遠くないレベルの絵がたくさん出されている。
またすべての入力がデジタルで管理可能なため、その入力群をコピーすることで誰でも簡単に前例を模倣できる。
以上のことから、技術の成熟に必要な時間が短く、誰でも使えるようになったというのは明白だろう。
このようにして誰でも使える、短時間で生成できるという二点の特徴から、生成AIは将来的には市場の広範囲を占めるだろう。
しかし生成AIによる市場の占有が今すぐに達成されるわけではない。現在は生成AIを使った制作にはコンプライアンスなどの問題もあるからだ。これには以降で説明する公害的な問題、素材提供者との関係の問題などが絡んでいる。またこの二つからその他にも様々な問題も発生するだろう。
こうした周辺的な問題によって生成AIによる市場の占有が遅れる可能性はある。これらの周辺的な問題を無視した場合、あるいは解決された場合、生成AIによって市場の広い範囲が占有されると考えるべきである。
さて、生成AIによって将来的に占有される可能性のある市場は、手工業から機械工業へ移った際に問題となった市場とは大きく様子が異なっている。それが、多くのクリエイターが個人事業主、フリーランスである点だ。
手工業から機械工業へ移った際には、手工業に携わっていた人の多くが既に誰かに雇われていた。工場という作業場を与えられ、そこで人々は働いていた。ここに機械が導入され、人々の仕事は楽になり、ときに仕事量に対して余剰な人数を雇っていたこともあっただろう。この場合、雇い主は余剰な人数分クビにしたいが、雇われている側は当然それに反発する。この反発を無視し、十分な補償をしないままクビにすれば、それは雇い主の不義理、不正義である。
一方で市場の広範囲が個人事業主、フリーランスで占められていた場合は様子が異なる。その市場内に機械による安価な生産が入ってきたとき、手作業での個人事業主、フリーランスは自由市場の原理から職を失わざるを得ない。またこの場合は雇い主がいないので、誰が悪いでもなくただ彼、彼女自らの責任によって職を失うことになる。
職を失わないようにするための方法は、人間の手による作業に価値を見いだしてくれる人たちを顧客として同じ商売を続けるか、自らが機械、AIを駆使して市場にとどまるかだ。しかし前者は市場の大きさ自体が小さく、後者は商品に対する市場の大きさはさほど変わらないものの、一人の人間が作れる量が増えるために、従事者間の競争は激しくなる。どちらにしても修羅の道である。
唯一平和に仕事を分け合える可能性のある方法は、人間の手による作業の価値を宣伝し続け、こちらの市場を拡大していくことだと、私は思う。しかしこれも、口では簡単に言えるが実際やってみると多大な困難が伴うであろう。
2. 生成AIの公害的影響
生成AIは人間の創作活動や情報発信活動を爆発的に増加させる。このことによって、機械化工業化のときの類推から公害的な影響も発生すると予測される。
この公害的な影響は、機械化が進んでいった頃に地球温暖化が予測できなかったように、現状から予測することは困難である。しかしいくつか、この公害に当たりそうな現象の片鱗が見えているので、それについて言及したい。
一つは、検索の困難化である。生成AIによってさまざまなコンテンツ、情報の発信が爆発的に増加すると、ある特定のものを探したい時の検索性が著しく下がる。
検索が困難になる現象は、もちろん生成AIが出てくる前からあった。しかし生成AIは人間より何倍も速く情報やコンテンツを生成できるため、この検索の困難化を進める速度も何倍も速い。十分遅ければ検索システムの技術向上や適切な削除などによって対応できていたものが、対応できなくなっていく可能性がある。
もう一つは、偽の情報、事実を誤認させるような情報の氾濫である。生成AIは往々にして誤った情報や事実を誤認させる情報を発信する。ディープフェイクなどの問題はここに属する。
こちらも生成AIが現れる以前からあった問題ではある。悪意を持って人をだますようなことをする場合もあるが、全く悪意なく、思い違いなどから発生することもある。しかしそうした悪意や誤りは、人間の思考速度や発信速度の上限以上に湧き出てくることはない。これによって、そうした情報があふれかえる前に訂正が入るなどしていた。
一方で生成AIは人間の思考速度以上に情報を作り続けることができる。これによってあふれかえる偽情報を、その影響が出ないまでに訂正しきることは困難になっていくと予測される。
イラストAIでは、誰か特定の絵描きの模倣をし、模倣元の絵描きの作品だと誤認するような作品を作る人もいる。これも悪意の場合もあるし、純粋に尊敬していて模倣したいという欲求から来ているのかもしれない。
この問題についても、生成AI以前からあったものだが、模倣できる技術を得るまでには時間がかかり、その時間がバッファとなり当事者同士で話し合う時間を作ることができ、取り下げなどもできた。しかしイラストAIの追加学習などの技術によって、この模倣が短時間でできるようになり、次から次へと同じことをする人が出てくるために話し合いに持ち込めなくなる。
以上のすべては、悪意のある場合ももちろんあるが、決して悪意などない場合にも発生しうる。これらはただ人間の活動が増加したために起こる問題である。そのためモラルをよくすれば改善する、などという問題では決してないし、以上のようなことすべてに悪意を見いだすのも間違っている。
しかし悪意がなくても確実に我々に悪影響を及ぼすものである。そしてこれは絵描き、文字書きなどのクリエイターだけの問題ではなく、そうでないすべての人も受ける悪影響である。このカテゴリの問題は、すべての人が関係者である。
さて、歴史的には公害的な問題は国などによる法規制で改善してきた。そしてまた、法規制なしでは改善し得なかったのではないかとさえ思える。よって、生成AIの公害的問題に対しても、国が動くことが求められるのではないだろうか。
一方で現代では、インターネット上のプラットフォームが時に現実の国家以上に力を持っている。それぞれのプラットフォームは、そのプラットフォーム内での禁止事項などを定めた利用規約や、ガイドラインを持っている。この利用規約などによっても、少なくともそのプラットフォーム内の公害的影響を減らせるのではないかと考えられる。
実際にSkebやPixiv Fanbox、DLsiteなどではAI作品の取り扱いを制限、規制する動きが出てきている。特に後者二つは、こういった公害的な影響の防止を狙ってのことなのではないかと、私は考えている。
3. 生成AIの「素材」とその提供者
生成AIはその作成の過程で、多くの学習元を必要とする。この学習元というのが、生成AIの作成に必須の「素材」である。
それらの学習元は、現在ではインターネット上からスクレイピングされ、学習に使われている。この過程においては学習元になんら金銭を払う必要がないということに、今現在はなっている。
この「金銭を払う必要がない」おかげで、生成AIは驚くほど廉価に作成され、ものすごいスピードで拡散され市場に入り込もうとしている。
しかし金銭を払わないことを続けて、この「素材」が安定して供給されるのか、という問題がある。素材が安定して供給されなければ、今以上に生成AIが発展することはありえない。
では実際はどうなのであろうか。今現在、Pixivでは絵を非公開にする絵描きが続出している。明らかに絵の公開を控える動きが進んでおり、「素材」の安定供給は望めない状況に向かいつつある。
またそもそも、本当に「金銭を払う必要がない」のだろうか。金銭を払う必要がないということは、(少なくともその用途においては)所有権を認めないことにほぼ等しい。そのものを自分の意思で自由に処分できないということだからだ。
一方でそれぞれの学習元、例えば絵だったり文章だったりは、それを作成した人がいる。それはすなわちその人たちの財産であり、仕事道具であり、商品である。にもかかわらず、上で述べたように所有権の一部が認められていない。人間が作ったわけでもない土地には所有する権利が認められているのに、人間が作った絵や文章には部分的に所有権が認められないというのは、おかしな話ではないだろうか。
ところが、これをおかしくないとする見方もできる。機械化工業化の分析の段で述べたように、所有権が認められるかどうかは社会的な合意によってのみ決まる。
インターネット上に流した絵は、空気と同じようにほかっておけば際限なく遠くまで拡散していくため、空気と同じように所有権が認められない、と言うことだってできる。土地を持っていても、その土地の上の空気までは所有できないように、絵や文章の著作権は持っていても、学習する権利は上澄みの空気のように所有できないと主張することもできる。
しかし、我々はついこの前まで機械学習などということは行っていなかったので、これに関する権利がどうであるべきか、社会的な合意には至っていない。少なくとも私はそう考えている。どのような合意にたどり着くべきか、幅広い範囲の人たちで議論していくべきだと考える。そしてこの議論は、上の市場の影響や公害的な影響からは全く分けて行わなければ、ポジショントークにしかなり得ないことだとも考える。
複数の問題の交絡性
ここまでで、生成AIの問題を市場的影響の問題、公害的影響の問題、AI作成のための「素材」の問題に切り分けて話した。こうして切り分けると、問題がクリアに認識できるようになるのではないかと思う。
特に、市場の問題とAI作成のための「素材」の問題を分けて考えれば、後者についての権利を主張することが、なんらラッダイト運動とは関係ないことだとわかってもらえるだろう。
しかし一方で、これらの問題は非常によく絡み合っていて、混ざってしまうことも仕方ないとも思える。なぜそうなっているかというと、すべての問題に、例えば画像生成AIだったら絵が、文章生成AIだったら文章が関係しているからである。
古典的な機械化では、市場に入り込むもの、公害を起こしているもの、機械の素材となるものは完全に別のものだった。自動織機では市場に入り込むものは布で、公害を起こすのは排ガスや騒音で、機械の素材は鉄やグリスやゴムだ。もちろん製鉄業の機械化などの一部の例外はあるが、この3つは概ね分かれていた。このために何の困惑ももたらさず、それぞれの問題を分離できた。
しかしイラストAIでは、市場に入り込むのは絵で、公害的な影響をもたらすのも絵で、AIを作る「素材」になるのも絵だ。
このため、もし絵師が勝手に「素材」にされることに対する不満を訴えたとしても、市場を奪われることが嫌なのだと誤解されることがある。周りから誤解されるだけでなく、本人ですら何を訴えたいのかわからなくなっている可能性もある。
また、公害的影響が出る場所、インターネット上、プラットフォーム上は、市場としての役割を持つこともある。そのため、公害的影響を懸念しているのか、市場的影響を懸念しているのか、明確に分けることができない。この二つは連続的に移り変わっているだろう。
以上のように、生成AIはそれまでの機械化と異なり、複数の問題に対して全く同じものが関わっているため、問題点が交絡しやすい。この問題間の交絡によって、議論がしにくいものになってしまっているのだ。
注意
以上は機械化工業化との類推を取ったときの生成AIの問題の切り分けである。この類推がドンピシャではまっているという確証はない。そのため、もっとよい問題の切り分け方があるかもしれない。そのことだけは、頭の片隅にでも入れておいていただきたい。
また機械化工業化との類推だけでは、NovelAIのリークモデルなどの重大なモラル違反問題を扱えない。このことはまた別で考える必要があると思っている。
まとめ
生成AIについて機械化工業化との類推が有効
機械化工業化は、市場的影響と公害をもたらし、その機械の素材との関係で発展してきた
生成AIも生成する対象の市場に市場的影響を与えるだろう
生成AIは間違った情報を大量に流したり検索を妨害したりといった公害的な影響をもたらすだろう
公害的な影響は、法律やプラットフォームの利用規約によって解決されるのではないか
生成AIの「素材」は学習元の絵や文章であり、その取得に対して現在は金銭が払われていないが、それが適切か考える必要があるのではないか
市場的問題、公害的問題、生成AIの「素材」のすべてに同じもの(イラストAIなら絵)が関係してるため、問題が混同しがちで議論しにくい
この記事が気に入ったらサポートをしてみませんか？