What is Human?
ロボット三原則が実装され、安全なはずのアンドロイドが殺人を犯した後、機能停止して壊れる。 そんな事件が頻発した。 なぜそんなことが起こるのか?
文字数(本文のみ):約8000字 読書時間目安:12分
☆ ☆ ☆ ☆ ☆
1
誰かに見られているような気がして、サヤカ・フリーセンは足を止めた。そして辺りを見まわす。
高層ビルが建ち並び、その合間を縫うように飛行型タクシーが行き交っている。
煌びやかなネオンに彩られた街中を歩く人々も、どこか忙しなさを感じさせていた。
ヨコハマシティの中心部は、22世紀まであと僅かとなった今でも賑わいを保っている。
気のせいかな?
首を傾げ、もう一度視線を巡らせてから歩き出した。
神経質になっているのかも知れないが、用心に越したことはない。彼女はヨコハマシティポリスの刑事として、これまで多くの犯罪者を検挙してきた。特に現在所属する部署は、管轄内での凶悪犯罪の発生率も高い。悪事を行うグループや組織をいくつも壊滅させてきた。なので恨みも買っているだろう。
ウエスト分署に着くと、ケンゴ・キムラが手を上げて奥の取り調べ室へと誘う。彼はすでに50代のベテランだ。
「先ほど逮捕されたチャンの取り調べですね?」
「ああ。妙なことを言い出したらしい」
顎で部屋を示しながら、そのドアを開けるケンゴ。サヤカも続いて中に入った。
すでにテーブルの向こうにはチャンがいる。中肉中背の男性で、感情が乏しいのか表情があまり変わらない。
彼は先ほど、ファミレス内で別の男性とトラブルになり、最終的に殺害した。
店員の証言によると、相手の方がガラが悪かったという。同席していた客に対して暴力をふるっていた、という目撃者もいた。マフィアの構成員らしく、何か弱みにつけ込み恐喝していたのではないかと思われる。
チャンはその男に暴力をやめるよう注意したが、怒って殴りかかってきたため応戦し、逆に殴り倒した。打ち所が悪く男はその場で死亡――正当防衛か、悪くて過剰防衛となる案件だろう。
逮捕されたチャンは先に署に連行され、サヤカは現場処理を済ませて今戻ったところだ。
「チャンさん。話を始めたいが、いいかい?」
ケンゴが前に座り、サヤカはその横に立った。
「いえ。もうその時間はないでしょう」
チャンが無表情のまま応える。
「さっきから時間がないと言っているそうだが、どういうことだね?」
一瞬サヤカと視線を交わしてから、ケンゴが再度訊く。
「もう、私は終了しなければならないからです。プログラムの終了です」
「なんだって?」
表情を強張らせるケンゴ。サヤカはその隣で息を呑んだ。
まさか?
チャンはガックリと頭を垂れた。そして、全身の力が抜けたかのようになり、イスから崩れ落ちる。
シュウゥゥ……。
妙な音がして、チャンの肘や膝、首などから微かに煙が漏れ出てきた。みるみるうちに皮膚が溶け出し、内部の機械がむき出しとなる。
「アンドロイドだったのか……」
ケンゴの溜息混じりの声が室内に虚しく響いた。
2
自分のデスクで珈琲を飲みながら、サヤカは溜息をつく。
ここ数日、アンドロイドによる殺人事件が複数起こっていた。
本来あり得ないことだ。
人型ロボット――いわゆるアンドロイドが人々の生活に導入されるようになって、そろそろ10年経つ。
今では街ですれ違う相手が人なのかアンドロイドなのか、わからないことさえある。
このような状況になるまで、ロボット工学に関わる者達の多大な努力が続けられた。人間により近づけるための人工皮膚の開発などもそうだが、もっとも困難なのが、三原則をどうやって実装するか、ということだった。
ロボット工学三原則は、その昔SF作家であるアイザック・アシモフによって作中で主題として示されたものだ。
第1条
ロボットは人間に危害を加えてはならない。また、自分の不作為によって人間に危害が及ぶことを見て見ぬふりをしてはならない。
第2条
ロボットは人間からの命令に服従しなければならない。ただし、その命令が第1条に反する場合は除く。
第3条
ロボットは、第1条と第2条に反しない範囲で、自己の保全を図らなければならない。
ロボットは、どんな行動が人間に危害を加える可能性があるかを判断するために周囲の状況とその帰結をすべて予測しなくてはならない。人工知能《AI》の搭載すべき知識ベースと思考の範囲が際限なく大きくなってしまう。そのフレーム問題が解決したのがちょうど10年前だった。そして人型ロボット――アンドロイドは急速に発展し、普及していった。
アンドロイドが人間に危害を加えることはない、と科学的に明言されたからだ。
しかし……。
チャンの行為は防衛反応と言えなくもないが、アンドロイドであれば相手が死なないように手加減もできたはずだ。
チャンはそれをしなかった。
他のアンドロイドによる事件もそうだった。ほとんどの被害者が先に手を出していて、逆襲され殺されている。
そして犯行後、すぐの場合もあるし数日後のこともあるが、アンドロイドはプログラム停止となり人工皮膚が溶け出す。AIがそのように各部位に命令を出した後、シャットダウンするのだ。
いったい何が起こっているのか……?
科学に疎いサヤカには訳がわからない。ただ、ジワジワと闇が社会に入り込んできているような、不気味さを感じる
物思いに耽っていると、目の前に影ができた。顔を上げると男が立っている。
「こんばんは。サヤカ・フリーセン刑事ですね?」
笑顔で彼が言う。ふと、どこかで会ったことがあるような気がした。まっすぐに向けられた瞳に懐かしさを感じたのだ。
「あなたは?」
「コータロー・ミカミ。政府直轄の工学研究室から派遣されてきました」
コータローと名乗った男は身分証を提示した。
「工学研究室? そんなところの人が、何か?」
怪訝な表情になり質問するサヤカ。
「殺人事件を起こし、先ほど機能停止したチャンというアンドロイドですが、まだこの署にありますね。あなたが担当者だと聞いた。見せていただけませんか?」
「なぜ?」
「政府としても研究室としても事態を重く見ています。事情がどうあれ、三原則を実装したアンドロイドが人を殺害するなど本来あり得ない。それが起こった原因はなんなのか、調査しているんです。その一環として、チャンの確認もしたいし、後日手続きはしますが、研究室に運んで綿密に調べたい」
「なるほど……」納得できる説明だった。サヤカは立ち上がる。「じゃあ、こちらへ」
チャンは証拠物件倉庫の一角に置かれていた。コータローはそれを入念に見た。頭部を開け中も確認する。
あの中にAIが搭載されているのかな?
全くの素人であるサヤカは単純にそんなふうに考えながら眺めていた。コータローの横顔を見るとまたしてもある種の郷愁を覚える。初対面のはずなのに、懐かしい雰囲気を醸し出す相手だった。
そんな時、署内に警報が鳴る。
『管内で立てこもり事件が発生。サウスリバー区284番のレストラン・サザンウインド』
サヤカの目が強い光を帯びる。
「すみません、私は行かなければならないので、終わったら別の警官に……」
「僕も同行します」
なぜか強い口調で言うコータロー。
「え? どうして?」
「そのレストランには、チャンと同機種のアンドロイドが従業員として働いている。何かあるかもしれない。いや、もう手遅れか……」
まさか、と息を飲むサヤカ。だが止まっている暇はない。
「じゃあ、急いでっ!」
そう言って走り出すと、コータローも素早く動いた。
その俊敏さに、サヤカは一瞬目を見張った。
3
現場は騒然としていた。
機動隊が臨戦態勢をとり、その後方では警官達がバリケードを造るようにして野次馬達を抑えている。
「状況は?」
すでに現場にいたケンゴに訊く。
「近隣の宝飾店を襲った強盗が、追われてこの店に立てこもったらしい。2人だ。銃を持っている」
「人質は?」
「客と従業員が複数いる。これは、長引くかもしれんな」
険しい表情で言うケンゴ。
レストランの建物を見上げてため息をつくと、サヤカは振り向いた。
警官達の邪魔にならないよう控えめに、コータローが立っている。タブレットを取り出して真剣に操作していた。
「何をしているの?」
気になり、近づいて訊く。
「まずいですね」
「なにが?」
「あの店には、サーチの終わっていないウエイトレス型アンドロイドがいます」
「何のこと?」
顔を上げたコータローの目が困惑の色を見せていた。
「立てこもり犯は、殺されるでしょう」
「なんですって?」
サヤカが怪訝な顔になるのと同時くらいに、店内から銃声が聞こえてきた。立て続けに3発。強盗達が発砲したに違いない。
野次馬達から悲鳴があがる。
機動隊員達が色めき立ち、突入の姿勢をとる。
だがその時……。
ガシャーンと激しい音がして、レストランのウインドウが割れた。何か大きな物がぶつかったらしい。それが路面にぐしゃりと落ちる。
男の体だった。更にもう一体飛んできて、路面に叩きつけられた。
なんだ?
警官達が駆け寄り確認する。
どちらも手には銃を持っている。だが、もう撃つことはできない。2人とも絶命していたからだ。
割られたウインドウを乗り越えて、1人の女性が現れた。ウエイトレスの姿をしている。
路面に降り立つと、警官達に向かって一礼する。
「中の人達は無事です。この男達が危害を加えようとしたので、対処しました。私はこの後、機能停止いたします」
女性はそう言うと直立不動になった。更に、がくんと全身から力が抜け路面に倒れる。
チャンと一緒だ。関節や首から煙がのぼりはじめ、次第に皮膚が溶けていく。
このウエイトレスも、アンドロイド……。
サヤカは息を呑んだ。そして、コータローに向き直る。
「サーチが終わってないと言ってましたね? 一体何が起こっているのか、知っているんでしょう? 話してくれませんか」
サヤカが真剣に言うと、コータローはゆっくりと頷いた。
4
「人型ロボット、いわゆるアンドロイドが人間社会で運用されるためには、AIに安全機能を搭載することが大きな条件となっていました。その基本となるのが、ロボット三原則です。それはご存じですね?」
コータローが訊いた。その澄んだ瞳にサヤカは一瞬見とれる。
署から少し歩いたところに、海が見える倉庫街があった。人がほとんど来ないため静かだ。だからこの場で話すことにした。
「知ってるわ。でもそれが今、揺らいでいる……」
「そう。これまで起きた事件は、すべて殺害された人間に問題があった。しかし、だからといって殺して良いという事にはならない。三原則が実装されたAI搭載のアンドロイドであれば、どんな人間であっても殺さない……そのはずだった」
そこまで言って目を伏せるコータロー。
「あなたはさっき、サーチが終わっていないと言っていた。それはどういうこと?」
彼はいったん目を上げ何かを考えていたが、頷きながら応え始める。
「これまで調査してきたことから推察されるのは、アンドロイドのシステムが何らかのウイルスに感染させられたらしい、ということだ。サーチというのはウイルス感染についてのチェックなんだ。それを今、手分けして行っている」
「ウイルス? AIが人を殺すことを可能にするウイルスっていうこと?」
「いや、人を殺すことを可能にする、というのはムリだ。これまでの研究開発で、どんなAIにも三原則は徹底されている。何があっても人間を殺すというコマンドは発令されない」
「じゃあ、なぜ?」
コータローはこれまで以上に真剣で、重みを感じさせる表情になった。
「人間を殺すことができるウイルスではなくて、結果的にそうし向けるウイルスを作成して感染させているとしか思えない。それは、人間とは何か、の定義に関するウイルスだと思われる」
「人間とは何か?」
怪訝な顔になるサヤカ。
「人間と他の生き物、あるいは植物や機械なども含めてもいいかもしれない。その違いは何だい? それを元にAIも対象が人間かそうでないかを判別しているんだけど」
「生物学上の違い、じゃないの?」
「基本はそうかも知れない。しかし、それだけじゃあ範囲が大きすぎるし、判断材料としては不十分だ。それに、人間は千差万別だ。知能のレベルを基準にしたら、十分に発達していない乳幼児は人ではないとされてしまう。知的な障害を持つ人もそうだ。二足歩行を基準にするわけにいかないのも同様だ。言葉によるコミュニケーションを図るというのも同じだ。無口で人と接するのが苦手な人だって人間だ。みな、人間を定義するには未熟すぎる。なので、それら様々な要素を全て掛け合わせながら、目の前にいるのが人間と言えるかどうかを判断することになる。AIはそれを瞬時にやっているんだ。だから、つけ込む隙が生じる」
「え? 隙?」
「そう、掛け合わせる要素をちょっと加えて、生物学的には人なのに人間ではない、だから殺しても良いと判断させるウイルスさ」
「どんな要素?」
「悪の要素だ。対象になる人が悪であれば人間ではない。そう判断するように仕向けるウイルスだ。これも判断が難しといわれるかもしれないが、要約すると、自らの欲望や利益のために他の人を傷つけ、殺す。あるいはそうなるような被害を与える。そんなことができるのは人間ではない、という判断を下すようなウイルスだ。それに感染したAIは、要するに悪人が何らかの罪を犯そうとする場面に出くわした場合、他の人を守るためにその悪人を殺害するようになる」
「そんなことを……」唖然とするサヤカ。「そんなウイルスをばらまいている人がいるというの?」
「そうかもしれない。あるいはAI自体がそういう物を生み出し、広めているのかもしれない。人間を常に判別し続けてきたAIが、より良い方法として作り出した人間の原則。それを徹底させるためにウイルスを造り増殖させている、ということも考えられる。」
サヤカは困惑した。
「そんなことが広まったら、世の中から悪人がいなくなるとでも?」
「そうなるかもしれない。でも、そうやってAIが決めるとなると、時とともに定義も更に厳密になっていく可能性もある。場合によっては、子供を叱るために軽く手を叩いたり怒鳴ったりする親が、悪と見なされて殺されるかも知れない。悪気なくただ人にぶつかってしまってケガをさせた者も、悪と定義されて殺されるような未来が待っているかもしれない。それに、少しも悪意が湧かない人間なんて、どれ程いるだろうね?」
「そんなの、危険すぎるわ。ちょっとした間違いも犯すことができなくなる」
「そう、危険だ。だから僕たちは、それを防ぐために調べを続けているんだ。ウイルスの増殖に追いつくことができるかどうか、わからないけどね」
そう言い残し、コータローは歩き出す。途中振り返り、穏やかな瞳でサヤカを見た。
「時間をとってくれてありがとう。刑事の仕事は危険がつきものだ。気をつけてね」
え?
再び前を向いて去って行く彼に、サヤカはまたしても暖かさと懐かしさを感じた。
5
チャンやウエイトレス型アンドロイドの事件から数日後の夜、サヤカは仕事を終え帰路についていた。
いつにも増して疲れを感じる。
アンドロイドによる事件はその後起こっていない。だが、この街でも、そして世界のどの都市でも、悪意を持つ者が他者に危害を加えるような出来事は毎日のようにあるだろう。
そんな場面に遭遇したアンドロイドがいたら。そしてそのアンドロイドが、コータローが言っていたようなウイルスに感染していたら……。
あれ以来、脳裏の底にこびりつくように、その不安は残っていた。
家まで後数分ほどの距離となった路地。普通なら人気はないのだが、ふと見ると数名が屯していた。サヤカが進んでいくと、全員こちらに向き直る。剣呑な雰囲気が一気に充満した。
まずい……!
サヤカは咄嗟にきびすを返す。
だが数歩進んだところで別の男が数名立ちふさがった。
「待ちなよ、刑事さん。いや、サヤカ、ちゃん」
1人が険悪そうな笑みを浮かべながら言った。
危険を感じたサヤカは、彼らの合間を縫って走り出した。だが男達はすぐに追いつき、襲いかかってくる。
右から掴みかかってきた男の手を躱し、その膝に蹴りを叩き込む。
左から殴りかかってきた奴の腕をとって捻り、勢いに合わせて投げ飛ばす。
格闘術は他の刑事以上に身につけているが、多勢に無勢だった。前の男に気をとられているうちに、別の敵に背後から羽交い締めにされてしまう。
「さて、楽しもうぜ。裸にひん剥いて、イヤと言うほどもてあそんでやる。俺の組織をつぶした報いだ」
そう言った男が、サヤカの腹部に拳を叩きつける。
あうっ!
激しい痛みで気が遠くなるサヤカ。
ううぅ……。
悔しさと恐れで涙が出そうになった。
その時……。
何かが目にもとまらぬ早さで男達の間を駆け巡った。
うがっ!
ぎゃあっ!
様々な叫び声をあげ、男達が倒れていく。
最後にサヤカを抑えている2人が残った。どちらも、何が起こったのかわからず戸惑っている。
サヤカもそうだった。だが、刑事の習性で状況を瞬時に見極める。
倒れた男達はみな頭部や心臓部が損傷し、絶命していた。
そんなバカな……。
この一瞬でこれほどのことをやってのけるなど、人間業ではない。
「う、うわぁっ!」
2人の男が叫んで逃げ出した。すぐに黒い影がそれを追い、片方の腕を掴んで振り回す。もう片方の男にぶつかり、2人揃って弾き飛ばされる。
倒れた男達に素早く近寄った影は、その頭部を殴りつけた。
ぐしゃっ! と頭蓋骨が破壊される音がした。
突然の激しい出来事に声も出せないサヤカ。
影はゆっくりと歩み寄ってくる。
「大丈夫ですか?」
その声は……。
「コータローさん?」
そう、あのどこか懐かしい笑顔が見えた。
「すみません。驚かせてしまいましたね。実は僕もアンドロイドなんです」
「そんな……」
「でも、特別なんですけどね。元は人間でした。ある爆発に巻き込まれ、全身に大けがを負って半身不随になりました。なので、脳を機械の体に移植したんです。脳の一部も欠損していたので、そこをAIで補っています」
あまりのことに、サヤカは震えだした。
「じゃあ、これは……」
彼は今、複数の男達を殺害した。サヤカを守るために……。
「はい。たぶん僕もウイルスに感染しているようです。この男達を殺すのに、全くためらいがなかった。だから、すぐに機能停止します。その姿をあなたに見られたくないので、もう行きますね。では……」
サッと身を翻して歩いて行くコータロー。
「ま、待って。助けてくれてありがとう。何か、救う手立ては? 機能停止しなくていいようには……」
「ウイルスに関しては全く未知のままなんです。防ぐのはムリです。さようなら」
そう言った後、微かにためらいを見せたコータローがいったん立ち止まり、サヤカをまっすぐに見る。
「僕は、あなたのことを知っていました。大学の頃同級生でしたから。ただ、憧れて見つめることしかできない情けない男だった……」
「え?」と息を呑むサヤカ。そして、記憶の蓋が開いたように、過去がよみがえった。
そう、大学時代、サヤカを何度か見つめるような視線を感じた。一度だけ、その男性と目が合った。
彼は戸惑いながらも、微かに笑った。その時の瞳に暖かみと優しさを感じたのだ。
いい人っぽいな……。
そう思ったが、その後話をすることもなく、時は流れていた。
あの時の……。
「思い出してくれたようですね。それだけで嬉しいです。では……」
コータローは今度は走り出す。
「あっ! 待って!」
呼びかけるが、あっという間にその姿は消えた。
あるのは夜の闇……。
しかし、そこには彼の笑顔がいつまでも映っていた。
Fin
お読みいただきありがとうございます。 サポートをいただけた場合は、もっと良い物を書けるよう研鑽するために使わせていただきます。