AIの話をニュースで見るたびに、思い出すのは人造人間キカイダーである。

「良心回路」というのを50歳前後の元男子は知っているはずだ。

左右非対称で、半分が透明のロボット。

人造人間キカイダーに埋め込まれている装置である。

「良心回路」……人を傷つけたり殺したりしない「良心」をロボットに受け付けたもの。この「良心回路」が不完全なため、キカイダーは半分悪の心をもっており、だから左右非対称。

悪の組織ダークがキカイダーの生みの親の光明寺博士につくらせた、良心回路のない完全な悪のロボット、ハカイダー。左右対称で、脳みそがむき出しになっている。ちなみにこの脳みそは、たしか光明寺博士のもので、「人質」として、キカイダーが攻撃できないようにハカイダーの頭部にでーんと置いてある、という設定だった気がする。

えーと、自分の記憶がどれだけあやふやかを後で確かめる意味でも、とりあえず、ウィキペディアなどを一切見ずに書いております。間違ってたら、それは私の記憶違い、というわけであります。

キカイダーは「ピノキオ」がベースだった。ゼペット爺さんが光明寺博士で、キカイダーはピノキオ。最後は、人間の心＝良心を持つことで、機械から人間になれるといいなあ。そんなテーマだったような。

その裏にあるのがアイザックアシモフのロボット三原則。

ロボットは、人間を傷つけない、殺さない。

ロボットは、人間の命令に絶対従う。

ロボットは、以上２つの原則に抵触しない限り、自分を守る。

たしか、こんなやつである。70年代のロボットが出てくる話は、このアシモフのロボット三原則がとにかくやたらと出てきた。

というのも、実際のロボット＝機械は、平気で人を傷つけるし、命令は聞かないし、まったくもって原則どおりになってなかったからである。だから、三原則は、原則というより「願望」に近い。ロボットが、この三原則を守ってくれるといいなあ。でも守らないんだよなあ。

やはり70年代のアニメの人造人間キャシャーンなんかも、たしかロボット軍団の反乱だったし、ブレードランナーのレプリカントも、ターミネーターも、三原則の真逆をいくロボットたち、のお話でした。

そんななか、キカイダーの話は、むしろ「良心」は人間のもっているものであり、それをインストールすることではじめて、ロボットは人間となり、悪から善になるのだ、というメッセージをテレビでは見せていた、ような気がする。少なくとも小３か小４くらいの私は、そんなふうに見ていた。

最後は悪の軍団ダークとその総裁ギルを倒すと、光明寺博士と姉弟を置いて、（たしかお姉ちゃんはキカイダーが好き！って感じの設定だった）、キカイダーは不完全な良心回路を持ったまま、旅に出ておしまい、であった。

印象深いのは、70年代の東映の特撮やアニメは、特撮のほうは石森章太郎、アニメのほうは永井豪に原作を持たせ、漫画では、テレビ番組とまったく異なる、実にどす黒い名作を描かせちゃう、というパターンがなんどもあった。いちばん有名なのは、そう、デビルマンですね。石森さんでいうと、仮面ライダーや返信忍者嵐がそうだったが、このキカイダーの漫画版も実にどす黒かった。

連載の最後を覚えている。キカイダーが、いままで出てきた兄弟のキカイダーたちも、宿敵のハカイダーも、みんなぶち殺しちゃうんですね。たしかハカイダーのなかにある悪の回路を埋め込まれることで、意識して冷酷になれる、裏切りもできる、そんな打算ができるようになり、目的のために兄弟をもやすやすと皆殺しにできてしまうようになった。

最後、ハカイダーに「お前の悪の心が僕に入ったおかげで強くなった」とキカイダーは言い放つわけです。これで不完全な良心回路は、悪の心をインストールされることで、完全になった。

つまり、最後に漫画版のキカイダーは人間になる。

そして、石森さんは最初の設定を持ち出す。

ピノキオはついについに人間になりました。

めでたしめでたし。でも、ほんとうに人間になって幸せになったのかな。

ここですぱーんと終わる。

デビルマンと同様の「テレビと違うじゃん」トラウマの作品でありました。

唐突にAIの話になるが、ビル・ゲイツが過去10年読んだ本の中でもっとも面白かったのが、スティーブン・ピンカーの「暴力の歴史」だとインタビューで述べていた。

技術の発展とともに、人間が死ぬ比率は飛躍的に減っている。

同様のことを、「繁栄」でマットリドレーも語っている。

技術万歳。

ただ、ビル・ゲイツがクギをさす。

「人工知能の発展だけは、人類を利する方向に行くとはかぎらないぞ」

イーロン・マスクも同様の危機感を表明している。

つまり、ビル・ゲイツもイーロン・マスクも、AIには、ほうっておくと、ときにはターミネーターになっちゃうかもしれないぜ、と言っているわけである。

つまり、「良心回路」が必要なわけである。

では、その「良心」とはなんのなのか。

途上国の貧しい子すべてに、シリコンバレーやシンガポールの恵まれた子（もはや、東京、じゃないですよねW）と同様の生活を施すことは、地球のあらゆる資源の容量をオーバーしてしまう。昔からさんざん議論されていて、決着がつかない話。貧しいひとがみんな豊かになると人類滅亡する。

では、いつでもどこかに貧しいひとがいればいいのか。

この場合、「良心」はどこにおけばいいのか。

「良心」の設定の仕方で誰もが連想するのは、マイケル・サンデルの議論。自動車が暴走し始めたときその運転手が橋から落ちて死ぬべきか、道路際につっこんで自分は助かるけど群衆５人を轢き殺すべきか、という話である。

自動運転の時代になると、AIはこういう「判断」をいろいろな想定をして組み込まないといけなくなる。そのときAIの「良心回路」を、人間はどう設定するのか。

サンデルの話が出たときは、まだ自動運転が目前に迫っていなかった時期だったが、もはやAIによる自動運転は実用段階にある。

AIで自動運転を設定したときに二者択一で、運転手が死ぬべきか先方の誰かを轢き殺すか、という状況で自動車にどう判断させるか。私たちは、良心の定義を行い、「良心回路」を設定しなければならない。

結局、どうなってるんでしょうね、自動運転のこの手のプログラムは。

キカイダーは、まだ日本のどこかをさまよっている。

テレビ版も漫画版も。たかだか４０年前だ、元気にギターをかきならし、サイドカーを走らせているだろう。

そんなキカイダーくんに聞いてみたいところである。機械にとって、良心とは何かを。

いや、そうじゃないですね。機械に良心を埋め込む、人間にとって良心とは何かを。

生き物としての人間の良心回路はおそらく、ハミルトンの血縁淘汰とロビンダンバーいうところの「150人の村」の規模だけで不完全ながら機能するように進化した。血縁と互恵的利他主義の産物だろう。

その後、文明が発達するにつれて、大脳皮質が良心回路の拡張をいろいろやってるけど、そこで「良心」の設定はあまりに複雑なレイヤーに満ち満ちている。結果、ある種の「良心」は、大量殺戮を生んだりする。

良心の話は、ものすごーくややこしくって、おっかない密林が目の前に見えるので、ここでおしまい。引き返します。

え、どこがメディアの話だって？　それはもちろん、メディアこそ最初にAIが普及する分野であり、そしてすでにさまざまな「良心」がお互いを「悪」だといいつのる場所であるからですね。

続きます。