見出し画像

『呪術廻戦』と『ワンパンマン』から考えるAI倫理問題

 生成AIの著作権問題などの観点から、漫画やアニメをテーマにAI倫理問題を考えることは重要です。これに関する詳細は以下の記事などで、繰り返し取り上げています。

『装甲騎兵ボトムズ』『伝説巨神イデオン』『機動戦士ガンダム』『超時空要塞マクロス』『エヴァンゲリオン』『輪廻のラグランジェ』といったロボットアニメシリーズや、『PSYCHO-PASS サイコパス』に登場するシビュラシステムが導入されたAI監視社会などを描いた漫画やアニメからAI倫理を解説することは非常に簡単です。

 しかし、あまりにも簡単過ぎるものは、解説しても意外性が無さ過ぎて面白みに欠けるので、ロボットやアンドロイドやAIが一切登場しない『ちびまる子ちゃん』、『サザエさん』、『あしたのジョー』、『となりのトトロ』といったアニメや漫画のストーリーそのものからAI倫理の概念を解説するのが本シリーズの試みです。

 漫画やアニメでAI倫理を説明すると、読まれる確率が圧倒的に高くなる現象のことを、AI無知倫理学会では『ワンパンマン効果』と名付けています。
  
『ワンパンマン効果』… タイトルに『ワンパンマン』と入れるだけで、アクセス数が激増します!

 漫画やアニメを語るうえで面倒なのが、アニヲタ(アニメに精通している方々のこと)は、小説版、漫画版、アニメ版、ゲーム版などのキャラ設定の違いや、些細な台詞の間違いに対して、厳しいツッコミが入るところです。学術論文でも同じような現象は生じますが、アニヲタのツッコミの方が手厳しいです。

呪術廻戦とは

『呪術廻戦』(じゅじゅつかいせん)は、芥見下々による日本の漫画。『週刊少年ジャンプ』(集英社)にて2018年14号から連載中。人間の負の感情から生まれる化け物・呪霊を呪術を使って祓う呪術師の闘いを描いた、ダークファンタジー・バトル漫画。略称は『呪術』[1]。

Wikipedia

呪術廻戦の何かがさりげなくて素敵な学校

『呪術廻戦』におけるAI倫理問題のエッセンス

『ワンパンマン』には、戦闘能力や実績に応じてS,A,B,C級ヒーローの格付けがあります。『呪術廻戦』には、特級呪術師、1級、準1級、2級、準2級、3級、4級術師の呪術師の階級が存在し、どちらの作品にも、それぞれ異なる能力と格付けを持つキャラクターが登場するという共通点があります。軍や警察組織であれば、命令指揮系統や権限を明確にするために、このような階級を設けることは意義があります。
 
 然しながら、『ワンパンマン』や『呪術廻戦』のキャラクターの能力は、一般人の常識を超越しており、一般人にはこれらの特殊能力を正確に評価する能力がありません。AIによる人事評価システムや企業の格付けシステムでは、明確な評価基準を設けたとしても、評価基準以外の能力や、労働者の真の貢献を正確に把握することは困難なため、AIが間違った判断を下すリスクが高まります。人間がAIのスコアリングミスを見逃してしまうと、死亡事故を引き起こす可能性もあります。 

 また、LLMのベンチマークはGLUE(日本語対応のJGLUE)だけではありません。様々なベンチマーク自体が不完全であり、一見客観的に見えても実はバイアスが掛かっています。そのため、ベンチマークを鵜呑みにすることは問題があります。

 以下の数字を見比べると、どうみてもNECの方が開発速度も推論能力もNECの方が、松尾研よりも圧倒的に上ですが、同じJGLUEを使っているのに、どうしてこのような差が出るのでしょうか?

NEC、130億パラメータで世界トップクラスの日本語性能を有する軽量なLLMを開発
2023年7月6日
日本電気株式会社
(中略)
NECのLLMの特長
1. 高い日本語能力
LLMを実際の業務で利用するには、日本語に関する知識量及び文書読解力の点で高い性能が求められます。自然言語処理分野で標準的なベンチマークである日本語言語理解ベンチマークJGLUEを用いてNECが評価(注3)したところ、本LLMは、現時点で知識量に相当する質問応答で81.1%、推論能力に相当する文書読解においては84.3%と世界トップレベルの性能を達成しています。様々な業種における業務で十分な機能を発揮すると期待されます。

© NEC Corporation 1994-2023

2023.08.22
東京大学松尾研究室 100億パラメータサイズ・日英2ヶ国語対応の 大規模言語モデル“Weblab-10B”を公開 ―公開済みの日本語大規模言語モデルで最高水準―
(中略)
日本語のベンチマークであるJGLUE評価値が事前学習時と比べて大幅に改善(66→78%)し、言語間の知識転移を確認しました。この精度は、国内の公開モデルとしては最高水準であり(注1)、海外の公開モデルと比較してもひけをとりません(下記公開モデル比較表を参照)。

©The University of Tokyo

その他の考察すべき事項
 
意識とAI:『呪術廻戦』における呪物や呪霊は、人間のネガティブな感情や願望や欲望から生まれる存在とされています。人間の呪いが憑依して悪意の感情を持った、人形、岩、彫刻、樹木、建物といった発想は、世界中にあり、欧州の建築物の屋根についているガーゴイルや、日本の鬼瓦や鯱には、魔除けとしての役割があると考える人は少なくありません。こういった概念は世界中の原始宗教にも共通する概念です。非生命体に意識や魂が宿るという前提に立つと、AIが感情や意識を持つ以前に電源の切れたコンピュータが、魂を宿していても不思議ではありません。このような概念がAI倫理的に許容されるべきかどうかは重要な課題です。

 以下のように人型ロボットPepperくんに感情を与えたと主張している東京大学大学院の特任准教授・光吉俊二・極真空手道連盟極真館七段のようなカラテ家も実在しています。

AI研究者・光吉俊二が語る、人間を越えた知能の正しい使い方
2020.12.11 Fri
(中略)
今回、人型のロボットPepperに感情を与えたことで知られる東京大学大学院の特任准教授・光吉俊二先生に、AIと人間の関係性について話を聞いた。彫刻家、武道家という肩書きもある光吉がなぜ数学やAIの道へ進んだのか、そして人間とAIに実は共通することとはなんなのか、じっくり聞いた。

教員紹介 | 東京大学 大学院工学研究科 バイオエンジニアリング専攻

呪術の利用:呪術師たちは様々な技を使って戦いますが、これをAI技術の利用として捉えることができます。技術の進化によって、どこまでが許容されるのか、またその限界とは何かというテーマを考えることができます。『呪術廻戦』に登場する狗巻棘(いぬまき・とげ)は、言葉に呪力を込めることで、ものを破壊したり、人を操ることができる『呪言師』です。EUのAI規則では容認できないAIリスクとして『明確な人権侵害:(1) 意識や行動の操作による害、(2) 公的機関による社会的スコアの誤用、(3) 法執行機関による生体識別など』が、類型(5条1項)として取り上げられており、『1. 精神的・身体的な害を生じさせる形態で対象者の行動に著しく干渉するため、対象者の意識を超えたサブリミナルな手法を展開するAIシステム』の利用が禁止されています。

この記事が参加している募集

アニメ感想文

AIとやってみた

この記事が気に入ったらサポートをしてみませんか?