AIが神になる日、読みました。

シンギュラリティ後の世界について、政治的決定を全てAIにゆだねることで
下記のようなメリットがあると書いています。

・人類の滅亡リスクを下げることが出来る
　(政治家に任せておくといつか核戦争しちゃうかも)

・公明正大な意思決定により、ある種の理想社会を実現できる
   (政治家は自分の私利私欲を追ってしまう)

・圧倒的な計算力により人間より優れた政策を立案できる。

例えばこういうメリットがあるので、AIが神のようになりますよ、と。

そのためには、「どういうAIを創る必要があるか(倫理・信念について)」や「人間とはそもそも何か」を徹底的に考えていく必要がありますと書いています。

そのため、本の中で、今までの宗教や哲学者を振り返る部分が多いので、過去の焼き回し的な内容が多く、目を引く内容はそんなに多くなかったなぁ。

あと、それは違うのでは、と思ったのは下記の箇所。

AIに正義という価値観を教える際に、どうしても埋められない
「価値観の相違」は、現在なお世界のいたるという所にあり、
これが文字通りの「神学論争」となって、
深刻な「信念の衝突(文明の衝突)」を引き起こしてしまう。

本書がシンギュラリティ後のAIに全てを委ねる世界について書いているので、AIに入れる価値観を1つにしなければならず、そこでは「信念の衝突」が
起こってしまう、という懸念なのですが、別に1つのAIに価値観を統一する
必要はあるのでしょうか。国連的な組織を作って、イスラム圏代表のAIと
西欧代表のAIで議論させたら良いんじゃないでしょうか。

あ、それを取りまとめる議長のAIが意思決定をする際に信念の衝突が
起こっちゃうということか。うーん、それはどうなんでしょう。
難しいですね。。。

と、この本に書いてあることを考えて頂くと分かるのですが、
シンギュラリティ「後」の世界という遠い先の未来について書いている
本なので、今話題のAI(機械学習)について理解したい人が読む本というより、「人間とは何か」とか「倫理とは何か」ということとAIについての関係性を
考えたい人が読む本だと思います。