前回の記事では、クリエイティブプロセスにおいて生成AIがもたらす可能性のある変化について考察しました。

画期的で、クリエイティブ面においても非常に大きな変化をもたらすことが予期される生成AIですが、その反面、リスクも未知数です。

ここでは、ビジュアル表現関連のリスクに焦点を当て、現時点で専門家やメディアによって指摘されているリスクについて整理し、考えてみたいと思います。

著作権の問題

生成AIのリスクを考えるときの一番の悩みの種が、著作権の問題です。

何故かと言うと、生成AIという新しいテクノロジーに法律が追いついておらず、著作権侵害か否かの境界が未だ明確となっていないからです。

生成AIを利用する側が生成AIと著作権について考えるとき、重要となるのは主に次の２点です。

1. 生成AIによって生成されたコンテンツによる(既存の著作物に対しての)著作権の侵害

2. 生成AIによって生成されたコンテンツに著作権は発生するか否か

日本の文化庁が昨年６月に公開した、AIと著作権に関する資料には、それぞれ以下のように記載されています。

ⅰ) “AIを利用して生成した場合でも、その利用が著作権侵害となるかは、人がAIを利用せず絵を描いた等の場合と同様に判断されます。 ”

ⅱ) “AIが自律的に生成したものは、著作物に該当しないと考えられますが、 「創作意図」と「創作的寄与」があり、人が表現の道具としてAIを使用したと認められる場合は、著作物に該当すると考えられます。 ”

ⅰ)について付け加えると、既存の著作物との「類似性」及び「依拠性」が認められるかがポイントとなります。

問題は、この「依拠性」が認められるか否かと、ⅱ)の“「創作意図」と「創作的寄与」があり、人が表現の道具としてAIを使用した”と認められるか否かという点については、決定的な前例が出るまではケースバイケースというような状態にあることです。

しかも、決定的な前例となるような例が出たとしても、日本では著作権の侵害と認められなかった例が、他国では著作権の侵害と認められるということは普通にあり得そうなので、注意が必要です。

因みに生成AIとは関係ありませんが、「Hermes(エルメス)」のバーキン(バッグ)を想起させる’MetaBirkin(メタバーキン)’という名のNFTを巡る訴訟が、今年の２月にアメリカで行われ、制作したアーティストが同ブランドの商標権(※著作権ではない)を侵害していると判決(現在控訴中)が下されました。

デジタルアイテムの商標権侵害に関しては、この判決が今後一つの基準になると考えられます。

生成AIをめぐる著作権についても、そのうち同様の訴訟が起こり、その結果が基準となっていく可能性が高いのではないでしょうか。

生成AIと著作権の問題については、先ほど述べたように未だ不確定の要素が多く、きちんと理解しようとするとかなりややこしいです。

おそらく文章にすると非常に長くなりますし、そもそも自分は法律の専門家ではないので、これ以上詳細に説明することは控えたいと思います(気が向いたら、別で記事を書きます)。

実際に生成AIを使用してデザインされた画像や動画をサイトやメディア(SNSも含む)で公開しようと考えている人は、先ほど言及した文化庁の資料に目を通すことをおすすめします。

また、今月15日には、文化庁が新たに「AIと著作権に関する考え方」の素案を提示しました。

現在、この案について広く意見を求めるパブリックコメントを実施しており、今年度中に報告書を取りまとめるようなので、こちらに関しても確認しておくと良いでしょう。

情報の漏洩

生成AIによって生成された画像は、そのプラットフォームのデータベースに加えられるのが典型的のようで、この場合、第三者が同じプラットフォームを使用して画像を生成する場合、プロンプト次第で自分の生成した画像と類似の画像が出力される可能性があります。

例えば、あなたが次のコレクションのデザインに取り組んでいて、(未発表の)あるデザインのバリエーションを試そうと、そのデザインの画像を入力して新たな画像(デザイン)を生成した場合、それと類似の画像が、他の誰かに対して生成されるかもしれないということです。

したがって、Image to Image(画像から画像)の生成AIを使う際には、すでに発売された製品やデザインを使うのが望ましいと考えられています。

これは、ChatGPTのような文章生成AIを使用するときも同様で、公表していない情報や機密情報を入力しないように注意が必要です。

また、こうした事態を避けるために、入力したデータが取り込まれないようにするかどうかを選択できる例が増えているので、こうした選択が可能であるかを忘れずにチェックすることが重要です。

バイアスと予期せぬ炎上

生成AIの生成するコンテンツにはバイアスがあると言われています。

例の一つが、人種や性別に対する固定観念です。

例えば、こちらのBloombergの記事によれば、画像生成AIの一つである「Stable Diffusion」では、「CEO」や「医者」という言葉を入力すると男性の画像が出力される可能性が非常に高く、低賃金の職業を入力すると肌のトーンが暗い人の画像が出力される傾向があることが確認されたようです。

しかも、こうしたバイアスは現実世界よりも極端であるとのことです。

これは、言ってしまえば、現実を歪めてしまっているということですが、生成AIを利用する側は、特に自分がよく知らないこと、実際に目にしたことのないもの・場所などに付いては歪みに気がつかない可能性が大きいので、注意が必要です。

例えば、画像生成AIを使用してデザインした広告イメージが、偏見を誇張するようなものであったり、(歪められた現実が実際のものだと)見る人に何らかの誤解を招くようなものであった場合、SNS上で炎上したり、ブランドに傷がつくリスクも考えられます。

また、生成AIを取り入れることで、予期せぬ炎上が起こるリスクもあります。

昨年、デニムで有名なLevi’s(リーバイス)は、多様性という観点から様々な人種のモデルのイメージを生成AIで生成しました。

もちろん、これは様々な人が、自分に外見が近いモデルを見ることで、商品を着用した姿をより明確にイメージできるようにと、顧客のことを考えた施策だったはずです。

しかし、人間のモデルを起用しないことで、人間のモデルが仕事を失うことを警鐘するコメントなどがSNS上で相次ぎ、非難されるという予期せぬ事態を招きました。

こうした炎上に関しては、生成AIを使用しなくても予期できない場合が多いので、リスクを100%コントロールすることは不可能のように思えます。

ブランドやディレクター(デザイナー)の世界観が学習される

ここまでは、生成AIを利用する上でのリスクについて述べましたが、最後にブランドやデザイナーにとっての外部リスクについて述べたいと思います。

前出のリスクと違い、自らが注意を払うことでコントロールできるものではないため、ビジネス上の脅威という観点では、一番のリスクかもしれません。

おそらく今までにも、ブランドやディレクターのデザイン、世界観が模倣されるようなことは少なくなかったと思いますが、これがAIによって学習されるとなると、模倣のクオリティと容易さが段違いに上がるはずです。

そうすると、例えば、あるラグジュアリーブランドの世界観を学習させたAIが生成するデザインを商品化し、それをそのブランドの価格帯よりも低い価格帯で販売するといったことも簡単にできてしまいます。

あるいは、ラグジュアリーストリートブランド「OFF-WHITE」の創始者で、２０２１年に急逝したVirgil Abloh(ヴァージル アブロー)の手がけた過去のコレクションをAIに学習させ、そのAIモデルを使って商品企画を考えるということも可能なはずです。

実物の商品にした時に、どれだけのクオリティのものになるかは別の話ですが、少なくとも企画や表層的なデザインの難易度は、人間のみで完結する場合と比べ、圧倒的に低くなるはずです。

もちろん、いくら模倣のクオリティが上がっても、前編で述べたように“本物の”ブランドにしていくのは非常に難しく、結局はこれまでに築き上げたブランドの強さがモノを言うということに変わりはないと思います。

しかし、影響力のあるブランドやディレクター(デザイナー)ほど、AIに学習させる対象となる可能性が高く、それによってビジネス上の脅威に晒されるリスクも高いのではないかという気がします。

因みに、先ほど言及した文化庁による「AIと著作権に関する考え方」の素案において、

特定のクリエーターの作品を集中的に学習させる行為や

検索を制限する措置を講じたWEBサイトのデータを学習に使用した場合

などが、著作権の侵害にあたる可能性があるとされています。

非常に重要な問題ですので、今後の動向を注視する必要があります。

※ note、X(twitter)ともにアカウントを開設したばかりなので、フォローしていただけると助かります。よろしくお願いします。

X(twitter)アカウント → https://twitter.com/catalystylisme