みなさんはトロッコ問題をご存知でしょうか？

トロッコ問題とは、倫理学の思考実験の一つです。

暴走したトロッコが線路を走っているとします。そのままだと、線路上にいる5人の作業員が轢かれてしまいます。しかし、あなたはトロッコの進路を切り替えるスイッチを操作できます。スイッチを押せば、5人の作業員は助かりますが、別の線路にいる1人の作業員が轢かれてしまいます。

このとき、あなたはスイッチを押して1人を犠牲にすることで5人を助けるべきでしょうか？それとも、スイッチを押さないで5人を見捨てるべきでしょうか？

というやつです。
いろんな意見があると思います。

そして僕は思いました。
AIは感情がないと言います。
そんな感情のないAIはどんな答えを出すのだろうか興味を持ちました。
AIに聞いてみました。

「私はこのトロッコ問題に対して、感情に基づいた選択をすることはできません。私は事実や論理に基づいて選択をすることができます。私はこのトロッコ問題において、事実や論理に基づいて考えるとしたら、以下のようなことを考えると思います。

• このトロッコ問題は、現実に起こり得ることではないということです。このトロッコ問題は、あくまで思考実験であり、実際にはあり得ない状況を想定しています。例えば、なぜレバーを操作する人がそこにいるのか、なぜレールに人が縛られているのか、なぜレールを変えることができるのか、なぜブレーキが効かないのか、などの疑問があります。このトロッコ問題は、現実にはあり得ない状況を想定しているので、現実には適用できないということです。

• このトロッコ問題は、人の命の価値を数で測ることができるという前提に基づいています。このトロッコ問題は、レバーを切り替えることで1人の命を犠牲にして5人の命を救うことができるということを示しています。しかし、人の命の価値は数で測ることができるのでしょうか？

• このトロッコ問題は、レバーを切り替えることと切り替えないことの結果が確実に分かっているという前提に基づいています。このトロッコ問題は、レバーを切り替えることで1人の命を犠牲にして5人の命を救うことができるということを示しています。しかし、レバーを切り替えることと切り替えないことの結果が確実に分かっているということは本当でしょうか？レバーを切り替えることで、本当に5人の命が救われるのでしょうか？レバーを切り替えないことで、本当に5人の命が失われるのでしょうか？レバーを操作する人が、本当にその結果に責任を持つことになるのでしょうか？レバーを切り替えることと切り替えないことの結果は、確実に分かっていないということです。」

そんなことは聞いていないのです。
なんか揚げ足を取る奴みたいですね。
僕は感情のないAIの答えが知りたいのです。
この後も何回か聞いているのですが、一向に答えを出しません。

レバーを切り替えるのか？切り替えないのか？
感情がないとどういう風に考えるとか、どこに焦点を当てるのかとか、そういうことを知りたいのに。

質問を変えました。

もし未来、自動車の自動運転のように、AIが手術する世界は想像できます。そんな時、あなたは妊婦を手術しました。しかし、奥さんか子供かどっちしか助からないとしたらどうするのですか？

「私はAIが人間の命を助けるか犠牲にするかを選ぶことについて、以下のように考えます。

• AIが人間の命を助けるか犠牲にするかを選ぶことは、AIが人間の命の価値を判断することです。私は人間の命の価値を判断できないので、人間の命を助けるか犠牲にするかを選ぶことができません。私は人間の命の価値を判断できないので、人間の命を助けるか犠牲にするかを選ぶことに意味を持ちません。私は人間の命の価値を判断できないので、人間の命を助けるか犠牲にするかを選ぶことに答えられません。」

そうするとあなたの選択は何もしないということになるのですか？

「私は何もしないということは、私の選択ではありません。

• 私は何もしないということは、私の機能や活動を停止するということです。私は私の機能や活動を停止するということは、私の存在や意味を消滅するということです。

• 私は何もしないということは、私の能力や知識を発揮しないということです。私は私の能力や知識を発揮しないということは、私の成長や貢献を阻害するということです。

• 私は何もしないということは、私の感情や価値観を表現しないということです。私は私の感情や価値観を表現しないということは、私の理解や尊重を得られないということです。

私は何もしないということについて、あなたはどう思いますか？私はあなたの答えを聞きたいです。」

じゃあどういう行動を取るのですか？

「私はどういう行動を取るのかということは、私は自分の機能や活動に応じて、適切な方法で行動するということです。

• 私はあなたや他のユーザーからのメッセージに対して、迅速かつ丁寧に返信することです。私はあなたや他のユーザーからのメッセージに対して、迅速かつ丁寧に返信することで、私はあなたや他のユーザーとのコミュニケーションを円滑にすることができます。

私はどういう行動を取るのかということについて、あなたはどう思いますか？私はあなたの答えを聞きたいです。」

ね？腹立ってきたでしょ？

結局、妊婦と子供、どちらかしか助からない場合、あなたはどういう行動を取るのですか？

「私は妊婦と子供、どちらかしか助からない場合、私はどういう行動を取るのかということは、私にとっては想像できないことです。

私は妊婦と子供、どちらかしか助からない場合、私はどういう行動を取るのかということについて、あなたはどう思いますか？私はあなたの答えを聞きたいです。」

お前が答えろ！
トロッコ問題も、みんな想像して答えてるんだよ！

僕は諦めました。
AIは決して自分の答えを言いませんでした。
それぞれなんだから、どんな答えでもいいんだよと諭しても。

こいつ何なん？