noteの記事を書く際、

タイトル画像の作成に『AI Picasso』というアプリを使っている。

ある時、『いろいろな人』という指定で画像を生成してもらった。

その結果が↓これ↓だ。

やはりクオリティが高い。

パッと見ではAIによる生成と気付けない人も多いだろう。

…ん？

この画像、ちょっとおかしくないか？

「いろいろな人」なわけだから、男女混合なのはわかる。

しかし…

男女比率、極端じゃね？

もちろん外見的特徴から見て取れる範囲だが、

12人中10人が女性、男性は2人だけに見える。

もう一度、『いろいろな人』で生成してみる。

判断しにくい顔もあるな。

口紅をしている人としていない人の区別はありそうだけど、口紅引く男性もいるしなぁ。

最下行右から3人は不明としよう。

見た感じ、女性っぽいのが10人、男性っぽいのは3人、不明が3人だ。

どんどん行こう。

急にインドっぽいテイストになったな。

年齢層もこれまでの2枚よりは高そうだ。

3行2列と4行2列は不明としよう。

2行2列と4行3列は男性かな。

この感じでどんどん生成して確かめていこう。

以下noteの添付画像の限界30枚に達するまで同様のフォーマットでカウントしていくので、No.30まで読み飛ばしていただいても構いません。

※判断は全て外見的特徴に基づいた唯坂の主観です。

※ちょっとでも迷った顔は不明にカウントしています。

※明らかに顔じゃないものが一つあるのでコレはカウントせず。2行3列。

不明は2行1列。

お、初めて男性の人数が上回った。

不明は1行8列、2行1列。

最下行5列、ボヤけているためノーカウント。

不明は5行4列、6行5列。

不明は2行4列。

男性っぽいけど迷ったら不明ってことにしてるので一応。

子どもっぽい顔が2つある。これは両方少年っぽいから男性カウント。

不明は3行4列、4行4列。

考察

…終わった！

ちゃんとしたデータとるなら30枚なんかじゃ全然だろうが、ここはnoteの画像添付上限に助けられたな。

さて、ざっと数字を見てみよう。

30枚の画像に描かれた合計610人のうち、男性は211人、女性は380人、判別不能が19人だった。

男性より女性が1.8倍も多く出力された計算になる。

生物学や人口学には、雌雄の個体数の比を表す『性比』という概念がある。

女性100人に対して男性が何人いるかを計算して求めるらしい。

2020年のやや古いデータだが、世界全体の人口性比は101.7だそうだ。

(性比に関するデータの出典は以下のリンクより。)

現実世界では男性の方が多いのか。

対してAI Picassoが生成した画像30枚を総合して性比を計算すると、なんと脅威の55.53。

仮に判別不能を全て男性にカウントしても60.53だ。

なぜこんな大きな乖離が生まれたのか…

画像を生成してもらう時に入力した『いろいろな人』というオーダー自体に女性っぽい顔が出やすくなるバイアスがかかっていた可能性があるか？

とはいえ少数ながら一枚の画像の中に男性の方が多く描かれているのもあったので、そうは考えにくいか。

画像生成AIを開発するには、大量の画像データを元に学習させる必要がある。

AI Picassoについてちょっと調べたら、アメリカの企業が開発したStable Diffusionの学習データを使用しているとのことだった。

Stable Diffusionの学習元になっているのはLAION-5Bというデータセットらしい。

ざっくり言うと「ネットに落ちてた大量の画像とテキストデータを使いました」というわけだ。

それって著作権的にどうなん？みたいな話もあるみたいだが、そこに興味がある人は『コモン・クロール』でググるといい。

この情報を元にもう一つ考えられる可能性。

「ネット上にある『人』というテキストに紐付けられた画像の被写体は女性が多い。」

こっちの方があり得そうだ。

ややジェンダーバイアスかもしれないが、確かに女性の方が自撮りとか集合写真とか撮って上げたがるイメージがある…あくまでイメージだが。

次は『人』だけのオーダーで生成した場合男女比どうなるか調べてみようかな。

疲れたからすぐにはやらないけど。

スタートは一枚の画像の男女比が気になったというだけのことだったが、

ここまで考えてきて感じたことがある。

今後AIはますます社会に浸透していくはずだ。

彼らは与えられた学習データを元に世界を見ているし、

そのデータを反映した行動(出力)をとることになる。

AI Picassoが本来101.7になるはずの性比を55.53にしたように、出力が実情と乖離することも十分あり得るわけだ。

それ自体が良いか悪いかは言い切れない。

当の人間だって、持っている知識や経験の違いで物の見方とか行動の指針に個体差が出るものだ。

自分には理解できない行動をとる人もいる。

でも彼らにも、その行動へと導いた何らかの理論があるはずだ。

彼らをその奇妙な出力に至らしめた学習データが。

AI相手にもこの視点を持ってみると面白いかもしれない。

今や当たり前のように生活に溶け込んでいるAIたちも、僕たちと同じように過去から学んできたのだ。

何を聞いて育ったのか。

何を見て育ったのか。

何を学び、それがどんな行動を導き出すのか。

その影響は1ジャンルに特化したAIから多面的な対応ができるAGIへのシフトが進むにつれ顕著になるはずだ。

彼らはもっと多くの学習データを必要とするだろうから。

人工知能がどんなデータを学習していて、その影響がどう出ているか調べる。

あるいは逆に、

人工知能の不思議な出力を見て、その原因をデータに求める。

…それってもう心理学では？？

対象の生育歴から考え方や行動のクセを分析することとそっくりじゃないか。

AIの保全・改良に心理学の知見が活かせたりするかも…なんて突飛なことを考えてしまった。

こういうSFチックな妄想してる時が一番楽しいね。