ユヴァル・ノア・ハラリの最新作

『21 Lessons for the 21st Century』英語版の要約‘Digital dictatorships’ P61~68

‘デジタルの独裁政権’

本日も来ました。ハラリ氏独特の、トリッキーなタイトル。デジタルと、独裁は、私たちの認識では結びつかない言葉同士です。奇をてらうような導入に、えぇ！っとなりますが。デジタルが進歩すると独裁政権のように、私たちを支配するようになる。これが主題です。今日は、このことを念頭に、読んで頂けると理解がしやすいかもしれません。

　　|||||||||||||||||||||||||

人々はAIが、従順なままであると信じていない。よって人々は、AIに脅かされる。ロボットが人間に反乱し、路上で暴れ狂い、みんなを殺すといったような、サイエンスフィクション映画を私たちはたくさんみてきた。しかし、ロボットにまつわる本当の問題は、正反対のものである。ロボットがいつもご主人に従順であり、決して反乱を起こさないために、私たちはロボットを恐れるのであろう。

私たちが殺人ロボットを発達させ、配備するようになるまでは。ロボットが、常にそのコードに従うということを、私たちは認識しておく必要がある。もし、コードが制御されていたら、ロボットは普通の人間の兵士をはるかに超えた発達をするであろう。しかし、もしもコードが冷酷で残忍であったら。結果は、カタストロフィとなるであろう。ロボットにまつわる本当の問題は、それら独自の人工知能ではない。むしろ問題は、ご主人である人間のバカさ加減と残忍さにある。

(中略あり。)

もしも、独裁政権がそのすべての市民に、DNAをスキャンさせ、中央組織に医学的データをシェアさせたのならば。遺伝子と医学の研究に大きなアドバンテージとなる。20世紀における独裁政権の主たるハンディキャップは、全ての情報を一つの場所に集める意図だが、それは21世紀の決定的なアドバンテージになりうる。

現在の形のデモクラシーは、バイオテックとインフォテックの出現によって生き残れない。デモクラシーは、それ自体を究極的に新しい形に再利用することもできない。すなわち。人間は、‘デジタルの独裁’の中に生きることになるであろう。

神の権威からすれば、私たちは、人間であり、偉い存在である。そして、神の権威は、アルゴリズが単にアドバイザーに過ぎず、究極的な権威がまだ人間の手の中にあるという幻想を抱かせる。私たちは、AIをドイツの首相やグーグルのCEOに任命しないであろう。しかしながら。その首相やそのCEOによってとられた決定は、AIにとってよって方向づけられている。その首相は、いくつかの異なった意見の中から選択ができる。しかし、それらすべての意見はビックデータ分析からの結果であるかもしれない。それらの意見は、人間が見た世界のあり方ではなく、AIが見た世界のあり方を反映しているのであろう。アナログ的な例を挙げると。今日、世界中の政治家は、いくつかの異なる経済政策を選択できる。しかし、ほとんどの場合、様々な政策は経済学者の見解を反映している。政治家は、選択をしたという幻想を抱いている。しかし、本当に重要な決定は、経済学者、銀行員、およびビジネスマンによって、かなり前になされている。これから20年以内に、政治家は、AIによってつくられた政策の中から選択をするようになるに違いない