SFと倫理の関係（サーキット・スイッチャー／安野貴博）
第９回ハヤカワSFコンテスト優秀賞受賞作。
舞台は ”完全自動運転車” が普及した２０２９年の日本。主人公の坂本は自動運転アルゴリズムの開発者で、大手自動車会社と提携するスタートアップ企業の代表でもある。車中でコードを書く生活をしていた坂本は、ある日突然、首都高を走る車内に監禁され、動画配信をされながら脅される。犯人の要求は「坂本が開発したアルゴリズムに人種差別が組み込まれている、それを配信しながら検証しろ」というものだったー
SF小説にジャンル分けするにはあまりにもリアルなテーマで、考えさせられる作品だった。自動運転がどんなに普及しても、機械である以上必ずバグは発生する。「AかBのどちらかの道を通らなきゃいけない、そのどちらにも人間がいる」という状況で、どちらの人間を轢くかを判断するアルゴリズムを、誰かが組まなきゃいけない。
坂本が組んだアルゴリズムは、被害者の数がより少ない道を選択させるもの（人数が同じならばランダム）だったが、賠償金を減らすべく、外見で判断して外国籍の人を積極的に殺すことが最良と考える者もいる。後者の人間は主張する。
「第一に、全ての原因は我々ではなく、むしろこの社会にあると言えます。新しいチャレンジをする時に、ゼロリスクを要求する文化自体が、賠償金を高騰させました。それが市場そのものを歪めてしまったんです。第二に、我々はこの四年の間に手動運転に殺されるはずだった多くの人を救ったのです。当時から、自動運転の方が人間の運転より事故が少ないことはわかっていました。自動運転が早く広がれば、より多くの命を守れるというのは、詭弁でもなんでもありません。」
「犠牲になった人たちの顔は見えるが、救われた人たちのことは見えないのです。誰が助かったのかは本人ですらわからない。我々は感謝なんてされるわけがない。だから初めから、恨まれることしかない意思決定であることは明白でした。そうだとしても、その恨みを背負った上で、世の中をもっと良くする為に、私は積極的に選択しているんです」
こんな主張を突きつけられた坂本は、最後、財産であるはずの自社のアルゴリズムをオープンソース化するという選択をする。
「世の中の誰もが、自分の考える正義をアルゴリズム上に実装できるようになるということです。（略）トロッコ問題が発生した時、どういう判断基準で、進む道を選ぶのか人は自分たちで決められるようになります。すると、ユーザーの選択による自然淘汰が発生します。誰もが、どのアルゴリズムの車に乗るか選べるようになります。見えざる手が、アルゴリズムを進化させていくでしょう。それこそが、機械に大切な意思決定を委任する社会の、あるべき姿だとは思いませんか？」
私はこのタイミングで作者について調べてしまったのだけど、やはり現役エンジニアのようだった。（おまけに東大卒、私と同い年）
アルゴリズムの開示は莫大な経済損失なので、現実世界でそんなことをする会社はないだろう。それでも現役エンジニアの著者は、誰かがその痛みを引き受ける必要があると考えるらしい。
私はこの思考回路が、文系より文系だと思った。
ビッグデータを集めて、どんな解釈を付与して学習させるか、を決める役割は、今のところ人間が担っている。その人間がある意図をもつことで、人種差別を正しいとするアルゴリズムは簡単に完成し、私たちの知らぬ間に普及し得る…という話は、AI関係の他の本で読んだことがある。
それを超リアルな世界に落とし込んだのが本作だった。
令和４年にもなると、SFと倫理は切っても切り離せない関係になり、「こんな未来が来るかもよ。おー怖！」という昔のSFは成立しなくなっているのだなぁ、としんみりした。
自動運転とか、人工子宮とか、AIによる創作物の著作権云々とか。法の整備と人々の倫理観のアップデートは、技術の進化スピードには到底追いつきそうもない。
この記事が気に入ったらサポートをしてみませんか？