植田かもめの「いま世界にいる本たち」第11回
"Army of None: Autonomous Weapons and the Future of War"
（無人軍隊：自律兵器と戦争の未来）
by Paul Scharre（ポール・シャーレ）2018年4月出版

岩をつかんで、投げつける。

そんな昔からずっと、軍事技術の肝は「自分をリスクにさらさず、敵を攻撃すること」にあったと本書"Army of None"は語る。

米国や中国、中東や中央アジアなど16の国が、自国の兵士を犠牲にせずに敵地を攻撃できる武装ドローンを既に保有している（本書の2017年時点のデータ）。米国の安全保障シンクタンクに勤め、イラクとアフガニスタンに従軍経験もある著者のポール・シャーレは、無人兵器にかかわる包括的な議論を展開する。

機械にどこまで自動で意思決定を任せてよいのか。本書の問いは、軍事兵器だけでなく、自動運転車などの機械と人間との関係にも射程が及ぶものだ。

無人兵器の現状

まず本書は、無人兵器の研究開発の現状を紹介する。

ひと口に無人兵器といっても、その種類や自動化のレベルは様々だ。研究が特に進んでいるのは、国境警備やミサイル防衛など、監視用の軍備だと思う。例えば米海軍が研究している無人兵器は、「スワーム（群れの意味）ロボティクス」という技術によって、大量の無人ボートが組織的に動いて領海を巡視する。無人の機械が陸・海・空を24時間自動で巡回警備しているという未来が予想できる。

こうした防衛目的の軍備だけでなく、完全自動で標的を攻撃するタイプの兵器も既に開発が進む。イスラエル発祥の「ハーピー」と呼ばれるドローンは、レーダーで標的を捜し、見つけたら人間の許可を待たずに攻撃する。

では、人間の生死にかかわるような無人兵器の開発や使用を規制するべきなのだろうか。

ロボット兵は人間よりも「人道的」か

戦争も武器も世界から無くなることが理想だと思うが、本書を読むと、軍事技術やその規制には数多くのパラドックスがあると分かる。

例えば「無人兵器の普及は戦争における犠牲者を減らす」という主張が紹介される。一般に、武器の精度が上がると標的を限定できる。このため、非ターゲット（一般市民など）の巻き添え被害が減るからだ。ターゲットをパターン認識することは現代の人工知能が最も得意とすることのひとつである。

また、戦時の人間の行動は、残念ながらとても「非人道的」だ。例えば、降伏した相手への攻撃は国際法が禁じているが、人間は反撃の恐怖から攻撃を加えてしまうリスクがある。でも、機械は反撃される恐怖を感じない。そもそも、人間であれ他の動物であれ、戦争の目的は「殺傷」ではない。「支配」（dominance）なのだ。皮肉なことに、機械の兵士の方が、人間よりも「人道的」に行動し、不必要な殺傷を減らすかもしれない。そんな主張がある。

一方、その逆に、無人兵器によって戦争の犠牲者が増えるとの懸念も本書は紹介する。理由は、簡単に言うと「殺人兵器の利用への心理的なハードルが下がる」からだ。例えばデューク大学で人間と機械の関係を研究するミッシー・カミングスによると、兵器に限らず、自動化された機械を使用すると、人間はその結果に対して倫理的な責任を感じにくくなるという。

モラルをプログラミングできるか

さて、本書でも何度も言及される「ターミネーター」をはじめとして、多くの映画やSFでは、機械が「暴走して」人間を攻撃する。機械の誤作動をどう防止するかは大きな問題のひとつだ。

でも、もっとリアルな問題は、「暴走していない」機械に人間のモラルにかかわる意思決定をどこまで認めるか、ではないだろうか。

モラルの判断をプログラミングすることは、一筋縄ではいかない難問（tricky business）だ。著者のシャーレは、アフガニスタンでの自身の従軍経験を語る。あるヤギ飼いの少女の行動が原因で、彼らは敵に見つかった。戦争法に照らせば、少女の行動は敵対的な行動にあたり、少女を攻撃しても「合法」であったという（本書によれば、戦争法において戦闘員の定義に年齢の要件はない）。

では、もしも「合法な状況下ならば攻撃してもよい」とだけプログラムされた無人兵器があったとしたら？

その兵器は少女を攻撃するだろう。でも、それが人道に反するのは明らかだ。人間のモラルは文脈次第で変わる。

意思決定とは、価値判断だ。そして、何が人間にとっての価値なのかは、機械ではなく、人間が決めなければならない。無人兵器をどこまで自動化するかという本書後半の議論は、まるで政治哲学者のマイケル・サンデルの著作を読んでいるような気分になる。無人兵器を語ることは、「これからの正義の話」なのかもしれない。

ポール・シャーレ著"Army of None"は2018年4月に発売された一冊。

おまけ

さて、上に書いた「モラルにかかわる意思決定を機械にどこまで認めるか」という話題は、以前にもこの連載で扱ったので、ぜひ併せてご覧いただきたい。

また、話の補助線として、『サピエンス全史』『ホモ・デウス』の著者ユヴァル・ノア・ハラリの発言を最後に紹介したい。インドでのあるインタビューで、ハラリは「現代ほど哲学者が必要な時代は無い」と語り、自動運転車を例に次のようなジョーク混じりの話をしている。

「（現代に哲学者が必要な理由は）テクノロジーが、哲学の問題をエンジニアリングの実装の問題に変えてしまったからです。

例えば自動運転車の前に子どもが飛び出してきて、後部座席で眠るオーナーの命と子どものどちらかを犠牲にしなければならないとしたら、自動運転車はどうするべきでしょうか。何千年もこうした議論をしてきた哲学者たちと違って、エンジニアは待っていられません。哲学者の議論は現実の世界に大した影響を与えてきませんでした。でもこれからは違います。もし彼らがどちらの命を守るべきか結論を出して、エンジニアが実装したら、100%の精度でその結論を実行できます。

もしかしたら、自動車メーカーは『消費者に判断させよう』と言うかもしれません。飛び出してきた歩行者の命を守るようプログラムされた『テスラ・利他主義者（altruist）』と、搭乗者の命を守る『テスラ・利己主義者（egoist）』の2つのモデルを投入して、どちらを買うか消費者に選ばせるのです。なぜなら消費者はいつも正しいのですから！

でも、もしこうした判断を市場に委ねるべきでないのであれば、私たちにはかつてないほど哲学者が必要なのです」

（ペンギン・ブックス主催の講演動画より。9:35付近からの発言を要約）

執筆者プロフィール：植田かもめ
ブログ「未翻訳ブックレビュー」管理人。ジャンル問わず原書の書評を展開。他に、雑誌サイゾー取材協力など。
Twitter: http://twitter.com/kaseinoji
Instagram: http://www.instagram.com/litbookreview/