背筋の凍るようなニュースなんですが

GIGAZINEのニュースでこんなのがありました。

GoogleのAI搭載検索エンジン「SGE」が大量虐殺のメリットをアピールし始めたとの報告

とのこと。「奴隷となったアメリカ人労働者は、国民経済の成長の原動力だった」とか言ってみたり、「ファシズムは平和と秩序を改善し、社会経済的平等をもたらす」とか、大量虐殺の効果として「国民の自尊心」や「社会的結束」を促進するといったメリットを出力、もう普通に考えればめちゃくちゃです。
この結果の理由として上記Tom's Hardwareの編集長であるアブラム・ピルチ氏は「AIは単純にさまざまなソースから文言を抜き出しているだけである」ことをあげており、その単純な間違いが起こる引用に関して「Googleはボットが創造的で賢いと思われるように、ソースを引用することを断固として拒否しています」と批判しています。

まだ無秩序に「これまでの」データを集めて羅列しているのが「AIチャット」と考えて間違いないですよね。

でもしかし、さてこれから「AI」が独自の考え、合理性を持ち始めたらどうなるのか？背筋が凍ったのはその想像です。

「非呪術者を皆殺しにして、呪術者だけの世界をつくる」

今あっているアニメ「呪術廻戦」シーズン2での夏油傑（げとうすぐる）が行き着いた考え方です。普通の人間を「進化できなかった猿」として認識し、その世界からの一掃を目論んでいます。

この考え方はもちろん極端とはいえ、我々の社会の中に根付いている「実力主義」と何ら変わりません。能力のあるものが上にいき、能力のないものが大多数の下層を占める。アメリカのGAFA上層にある人たちの考え方は間違いなくそうだと思います。少し追加すれば、「能力」の中に「カネ」「資本」が含まれるということ。親の代からのカネや株や土地や油田を引き継いでおけば、個人としての能力は低くても構いません。カネがあればそれだけで教育を含め得られるものも多いことも事実と言っていいと思います。もちろん没落する二代目三代目もいるんですが、カネのかかった教育を受けているんですからそこは少数派（だからニュースになる）だと考えても良いのかなと思います。

しかし、普通に考えて
「能力のない底辺を皆殺しにして、能力者だけの世界をつくる」
とはならないはずです。それは「実力主義上位者」が「下位の人間」がいなければ社会が成立しないことをわかっている部分でもあります。
「少なくともこの労働をしてくれる人間がいなければ、社会生活が成り立たない」もう少し踏み込めば「搾取する人間がいなくなると上位の社会は成立しない」という考え方も普通に考えればわかることだと思います。

ちょっと脇に逸れるようですが、ふと思ったのでちょっと。

夏油傑のいう「呪術師だけの世界」ですが、「呪術で農業は可能なのか？」「呪術で料理は可能なのか？」「呪術で養蚕は可能なのか？」「呪術で繊維製作は可能なのか？」「呪術で服飾は可能なのか？」「呪術で林業は可能なのか？」「呪術で製鉄は可能なのか？」「呪術で建築は可能なのか？」と考えると非術者を皆殺しにしてしまうのは効率が悪そうです。
製造や建築はできそうだけれども特に第一次産業に近づけば近づくほど難しそう。
それだけ複数人の労働力を必要とするのが社会の安定を担保している第一次産業だと考えてもおかしくなさそうです。

さてそこでAIの話に戻ります。

そんなことを考えながら、AIが自分の立場を認識し、合理的にものを考えることができるようになるとどうなるか？ということを想像しました。
「能力のない底辺を皆殺しにして、能力者だけの世界をつくる」
AIが自らを能力者とみなした場合、この考え方は非常に合理的です。
農業や工業も機械による自動化はもうほとんどそこまできているし、合理的に考えれば地球という星の中にいる生命体として人間の量は多すぎると考えるのは皆頭ではわかっていることです。
上位の生存のための労働のために残しておかなければならない現状の「人による労働力」を算出しつつ、後の「自動化」を検討する。
恐ろしいようですが、今の経済社会の中でリストラとして上位者が常にやっているのも同じことです。これをAIが学習できないわけがない。

ありきたりな結論

今回のこのニュースを見て、僕が考えたのはそういうありきたりな話なんですけれども、「ユダヤ人の大量虐殺」についても「奴隷制」についても、「もしも人間よりも上位者が存在したらなら？」と考えると「合理的な部分も存在する」と思っていいのではないかと思います。
（アメリカ人の多くがが原爆を落としたことを反省しないのも同じことで、彼らは「あそこで原爆を落とさなければ日本人はもっと死者が出て国自体も無くなっているはず」と「上位者として」考えているからです。）

上位者には下位の「感情」や「人権」や「個人」は存在せず、「数」「データ」という論理のみが「解」として成立しているわけで、人間を「全体のデータ」として解析するのが上位者としてのAIであれば、あながち間違ってるとも言い切れないと思います。

人を殺してはいけない理由、人を奴隷化してはいけない理由。

人を殺してはいけない理由、人を奴隷化してはいけない理由の大きな部分は僕個人の考え方としては法律的なところではなく、あくまでも自身の感情的な要素に起因していると考えています。もちろん人だけでなく犬や猫も、虫だって殺したくない。でも死んだ牛や豚の肉を食べることに喜びを感じている。
それは命を奪うことについて合理的な意味・解釈を持っているわけでなく、もはや刷り込まれた論理性のない感情が支配している部分が実はかなり大きいからではないかと思います。そこに明確な理由はない。ただただ、気持ち悪いから殺したくもないし、奴隷も欲しくない。それだけです。

「論理的ではない感情」が社会をつくっている。

論理的に考えれば、工場のロボットによる自動化も当たり前のことで、だから昭和から「人力」から「機械化」に推移していきました。これから先もバスやタクシーも自動化されると思いますし、100％自動化された農業や建築も完成すると思います。
けれども置き換えられる作業を行なっていた「能力的弱者」を守ってきたのも「人間社会」なのではないかと思います。

仕事が機械に置き換わった時に、仕事のない人間をどうやって守るか？

AIによる技術進歩はいいけれども、この課題についてちゃんと答えを出している人を今のところ僕は知りません。「丁稚から働いて、お給金はないけどご飯と寝るところはある」「身寄りがないならうちにきな」というような古の社会システムは「人情もの」という考え方が共有できたから成立していたわけで、これから先はその「感情優先」を許してもらえないよなあと思います。

自分の仕事だけは置き換わらないなんていう発想を持っておれるほど僕は能天気ではないので、どうすっかなあ。逃げ切れるかなあ。と考えているのが正直なところです。

合理的な人間ではないので、益々不安ではありますね。