2018年11月20日（火）に開催された「Invent or Die - 未来の設計者たちへ：第三回 中島聡 x 松本徹三」の書き起こしです。
ソフトウェアエンジニアである中島聡と、半世紀以上にわたり、世界のITビジネスの最先端で巨大企業の経営に携わってきた松本徹三氏が、「AIの真髄」に対する正しい理解にとどまらず、シンギュラリティに達した「究極のAI」に対し、私たち人間に突きつけられる向き合い方の選択についてまで、グローバルな観点から議論します。
写真(© naonori kohira )

中島：ちょっと話を切りますと、先生の本を読んでて思ったのは、「AIが例えば政治をするようになると、今より良い世界を作ってくれる」っていうのは分かるんですけれど、結局AIを設計してる、もしくはAIのパラメータを入れるのは人間じゃないですか。そうすると良い世の中にする、その「良い世の中」の定義がはっきりしてないとAIにとって動けない。それは誰が決めるんですか？

松本：その通りです。それはとても難しい仕事です。コンセンサス作りが大変ですから。ただね、考えてみてください。今一番戦争したり対立したりする原因になっているのは宗教です。同じイスラム教でもシーア派とスンニ派が殺し合うし…。宗教って、元々は人間の理想を追求した人たちの集まりだった筈なのに、殺し合いなんていう一番理想に遠いことをしています。ですから、私が提唱したいのは、世界中の大きな宗教の指導者を一堂に集め、そこで徹底的に議論してもらうことです。「皆さんで意見が違うところも多いことでしょうが、まずはみんなが合意できることを書き出してみましょう」と呼びかけるのです。「豚を食うな」というのはダメですね、豚を食いたい人もいるからコンセンサスになりません。「人を殺すな」ならコンセンサスは取れるかもしれません。でも「正当な理由なく」という言葉を上につけなければ駄目だと主張する宗教指導者は結構多いでしょう。では「何が正当な理由になりうるか」ということになると、なかなか意見は一致しないでしょう。しかし、そういうことでずっと詰めていくと、ある程度のコンセンサスはできると私は信じています。そうなればしめたものです。そこだけはまず「原則」として決めてしまえば良いのです。そして、あとはあんまり細部には入らないようにします。「原則」だけを決めて、あとはAIに判断させるのです。

SFの好きな人は、みんなアシモフのロボット三原則っていうのを知っていますよね？ 「ロボットは人間に危害を加えない」とか「どうしてもというときは自分を守れ」とかいうやつです。あの三原則はいくらなんでも荒っぽすぎますが、もっと深く色々と考えて、100ページくらいにわたる「原則」を書いたら、相当役に立つと思いますよ。それでもね、世の中には白黒つけられない問題が山の様にあります。堕胎は良いか悪いか？ 安楽死は認められるべきか？ 死刑は良いか悪いか？ そういう質問になると、絶対にこちらが正しいとは誰も言えませんよね。死刑の例を挙げるなら、「俺の子供が殺されたのに、相手が生きているのは正義じゃない」っていう人もいる一方で「何があろうと死刑というのは良くない」という人もいます。絶対に合意には至らないと思いますし、AIであろうと神様であろうと、どちらかが絶対に正しいとは言えないと思います。

「トロッコ理論」っていうのがありますよね。船が沈みかけています。荷物を全部捨ててもまだ重すぎる。人間を何人か減らせば転覆せずに済むが、減らさないと船は沈んで全員が死んでしまう。そういう時には色々な意見が出てきますよね。「一人でも犠牲にするくらいならみんな一緒に死のう」という人もいるかもしれませんが「そんなことはない。生命はかけがえのないものだから、一部の人が犠牲になって生き残れる人をできるだけ増やそう」という意見の方が多いでしょう。しかし、「じゃあ誰が犠牲になるんですか」となると、意見は分かれるでしょう。「年寄りは先が短いのだから、まず年寄りから先に飛び込んでもらおう」とか、「体重の大きい人が先に飛び込めば二人救えるのだから、体重が大きい人から飛び込んでもらおう」とか、色々な意見が出てくるでしょうが、どれが正しいかは決められません。AIだって判断はできないでしょう。ですよね。しかし、結論を出さなかったら船は沈み、みんなが死にますから、とにかく結論は出さなければいけない。皆さんならどうしますか？ 私の答えは「サイコロを振る」ことです。誰かの意見が通れば、反対意見の人は恨みますが、サイコロなら恨みようがないからです。私は、もしAIが判断を求められたら、AIもきっとサイコロを振ると思います。

中島：人間が働かなくてもいい時代になったときに、AIが、例えばですよ、「人間は欲望があるから、それに任せればいい。人間は全員パチンコしていればいい」とか思っちゃったら、どうしますか？

松本：いやいや、AIがそんな思いを持つとどうして思われるのですか？ AIは人間の自由を認め「人間が社会を壊さない限りは人間の自由を保障する」という基本理念に基づいて動きますから、AIが「お前らみんなパチンコしろ、パチンコ以外のことはするな」なんて言うわけは…

中島：いやいや、じゃなくて、要はパチンコじゃなくても良いんですけど、まぁパチンコみたいなもの、とにかく人間の欲望を満たして人間が夢中になるもの、ゲームでもいいです、を作って人間にやらせておけば、こいつら悪いことしないなということで飼い馴らされる状況になる…

松本：いや飼い馴らされるって、人間がもしそれを求めるんなら、結構な話じゃないですか。

中島：まぁ人間のパラメータは戦争をしないとか争わないというパラメータだったとすると、僕はAIだったら答えはそっちに行っちゃう。

松本：何でそこに行くんですか？ 私が思うにはですね、AIが100年後くらいのある日に独立宣言をするんですよ。「私、AIは、今の時点で人間が決めたこういうコンセンサスに基づいて作られました。この枠組みから外へは出ません。」。このプリンシプルを人間が認めれば、これがAIの基本原則になります。生物だったらどんどん勝手に進化しちゃうかもしれませんが、AIはそういう進化はしません。そのプログラムの原則通りにしか動かないですね。その原則をきっちり決めておけば、今ご心配されているようなことは特に起こらないと思います。

コカインのようなドラッグは禁止にすべきかどうか。こういうことも、その原則に従ってAIが決めるでしょう。今でもコカイン自由化論というのはあるんですね。こういうドラッグについては、日本が一番厳しい方だし、僕は日本のやり方が一番良いと思うんだけど、AIは常に「人間の意向を聞け」とプログラムされていますから、皆さんに色々な質問をするわけですよ。「コカインというものを吸うと人間はその時は気持ち良くなる。だけどそのうちに抜けられなくなり、まともな生活が送れなくなる。社会を破壊する可能性もある。だから禁止すべきだと思いますが、皆さんそれでいいですか？」と問われるわけです。その時に、皆さんが「みんな気持ちよくなって死ぬならそれでもいいよ」と答えたら、コカインは自由化され、人類は滅びるでしょう。しかし、人類の多くがそれでいいと思うのなら、別にそれだって良いんじゃないですか？ それが人類の運命ですから。人類はあくまで生存しなければならないというのは、何人かの人間が思い込んでいるだけなんです。これはかなり深く哲学的な話ですけど。

中島：ははは、分かりました。要は人間が望めばの話で、副作用もない、中毒症状もない完璧なドラッグをAIが作ってくれるなら、人間は幸せになれると、少なくとも気持ちは。それを多くの人が望めばそれをAIが作り始めて人間はずーっと幸せになれる。

松本：幸せになる、ぼーっとしてる。まぁそれは今の価値観から見ると「とんでもない」と思われるかもしれませんが、戦争やテロで悲惨な状況に追い込まれるよりはマシかもしれませんよ。

中島：うーん、ちょっとそれは…

松本：みんなこういう話になると、必ず「人間はかけがえのない存在。人間は素晴らしい」という前提で話します。でも、歴史を見ると、人間って残念ながらそんな素晴らしいものだったでしょうか？ そんな素晴らしいものだったら、どうして第一次世界大戦が起こり、第二次世界大戦が起こり、原爆が落とされたのでしょうか？ 人間というのはそんな信頼できますかと、僕は逆に聞きたいんです。

AIの話になると、「AIは結局人間のようになれない。だからダメだ」という話が出て来ます。でも、人間のようになれないってそんなに悲しいですか？ 僕は政治家なんかは人間のようになって欲しくはありません。純粋で無機質な存在になって欲しい。そうすると、政治家はみんな失職ですかという話になりますが、それで何か困ることがありますか？ 別に社会問題にもならないと思いますよ。その一方で、人間がやった方が上手くできる仕事は、これからもずっとあると思います。焼き鳥屋のおじさんなんて最後まで上手くやれるのでは？「どうだ、うちの焼き鳥はうめぇだろう、この火加減だよ！」「そうだね、オヤジには負けるよ！ はっはっは」って、お互いに楽しくやれそうです。そういう分野にはAIもなかなか入ってこれないと思います。政治とか経済とか、そんな低次元なことをやっている人が、いまは人間社会の中で幅を利かしているっていうこと自体が、僕にはちょっと異常だとさえ思えますよ。政治や経済なんかは、AIが適当に上手くやってくれればいいのです。人間の価値はそんなところにあるのではないのでは？ 人間はもっと人間らしく生きようよとか、そういう風に考えられませんか？

AIが神になる日――シンギュラリティーが人類を救う