第3部 ホモ・サピエンスによる制御が不能になる

人間はこの世界を動かし、それに意味を与え続けることができるか？
それに意味を与えて続けることができるか？
バイオテクノロジーとAIは人間至上主義をどのように脅かすのか？
だれが人類のあとを継ぎ、どんな新宗教が人間至上主義に取って代わる可能性があるのか？

第8章 研究室の時限爆弾

2016年の世界は個人主義と人権と自由市場という自由主義のパッケージに支配されている
自由主義個人の自由を重視するのは人間には自由意志があると信じているから
⇨現代の科学では自由意志が倫理的な判断として存在するとするのではなく、
生化学的なプロセスのなかでの決定的かランダムかその組み合わせのいずれかとなり
自由ではないと考えうる
⇨自由意志が入り込む余地はない
⇨科学的理解が及ぶ限りでは決定論とランダム性でおわる
⇨人間や動物は自分の欲望に即しているかもしれないがその欲望を選ぶことができているか
どうか
⇨やはり自由意志などない

どの自己が私なのか？

経験する自己と物語る自己が存在する
物語る自己は経験の時間を無視し、経験の平均のみを取り、物語る

物語る自己は重要な原材料として経験をつかって物語を創造する
⇨そうした物語が経験する自己が実際に何を感じるかを決める
E.g.健康診断で食事を抜くときとお金がなくて食べられない時では空腹の経験の仕方が違う
⇨物語る自己によって空腹の原因としてあげられた意味次第で実際の経験も大幅に違う

経験する自己は強力なので物語る自己が練り上げた計画を台無しにすることがよくある

物語る自己を感じ続けること、仮に矛盾だらけだったとしても単一のアイデンティティが
ある
⇨わたしは分割不能の個人で、明確で一貫した内なる声があり、世界全体に意味を提供している
という自由主義の疑わしい信念を生じさせた

無数の宗教的儀式や戒律の根底
⇨神や国家といった想像上の存在を人々に信じさせたかったら、彼らに何か価値のあるものを
犠牲にさせるべきだ。その犠牲に伴う苦痛が大きいほど人はその犠牲を想像上の
受取手の存在を強く確信する

これからの民主主義と自由市場と人権は「自由意志などない」というファクトと
どのように向き合っていくのか

第9章 知能と意識の大いなる分離

自由市場と民主的な選挙を擁護する自由主義者が信じる自由な選択を脅かす
三つの実際的な進展

1 人間は経済的有用性と軍事的有用性を失い、そのため、
経済と政治の制度は人間にあまり価値を付与しなくなる

今まで：自由主義が支配的なイデオロギーとなったのは、人間全員に価値を
認めることが政治的にも経済的にも軍事的にも理にかなっていたから
⇦大量生産ラインではひとりひとりの人間が大切だった
例）フランス革命時代
国民に政治的権利を与えるのは、民主的な国の兵士や労働者が独裁国家の兵士
や労働者よりも働か位が勝る
⇦政治的権利を与えれば動機付けや自発性が高まり、それが戦場と工場の両方
で役立つという考え方がひろまっていた

しかし、21世紀にはこの考え方が機能しない
⇨21世紀の最も先進的な軍隊は人員よりも最先端のテクノロジーに依存する割合
がはるかに高い

今まで：経済の領域でも人権と自由を守ることで経済が発展してきた
21世紀からは経済的重要性がなくなってきたとき道徳理由だけで人権と自由をまもる
ことが難しくなってくる
軍にとっては知能（パターン認識にもとづく）は必須だが、意識はオプションにすぎない
いままでは農業・工業・サービス業で人間の身体的な能力と認知的な能力が使用されてきた
身体的な能力だけでなく認知的能力の分野までAIにとって代わられれば、仕事を奪われるものが
増えてくる可能性がある
⇨人間が専門性を高めてるがゆえ、さらにAIによる代替がすすんでいる

そもそも自由主義が社会主義を打ち負かすことができたのは自由主義が社会主義の綱領から
最良の部分を採用したから

2 経済と政治の制度は集合的に見た場合の人間には依然として価値を見出すが、
無類の個人としての人間には価値を認めなくなる
⇨経済と政治の制度についてはAIが人間自身よりも人間たちのことをよく理解し、
重要な決定のほとんどを人間のために下す
⇨経済と政治の制度は個人から権威と自由を奪う

今まで：個人主義を信じることは理にかなっていた
⇦個人を完全に理解しうる演算能力をもっていたテクノロジーは存在していなかった

物語る自己よりもはるかに自分のことをよくしっているシステムが生まれる可能性がある

3 経済と政治の制度は、一部の人間にはそれぞれ無類の個人として価値を見出すが、
彼らは人口の大半ではなくアップグレードされた超人という新たなエリート層を
構成することになる

⇨医学に関して
今まで：20世紀の医学は病人を治すことを目的としていた。健康水準を
誰かが下回ったら、問題を解決し、他の人と同じ水準にしようとする
⇦経済面での労働力確保、軍事面での兵力の確保など大衆の時代であったからこそ
医療が大衆にも広がった

21世紀の医学は、健康な人をアップグレードすることに狙いを定めつつある
⇨一部の人を優位に立たせようとするエリート主義の事業となる

第10章 意識の大海

テクノ宗教
1データ教
人間はこの世界における自分の任務を完了したので、全く新しい種類の
存在に松明を手渡すべきだと主張する

2テクノ人間至上主義
いままでの人間至上主義に固執する
いままでのホモ・サピエンスはすでに歴史的役割を終え将来はもう重要
ではなくなるという考え方に同意するが、さらに優れた人間モデルである
ホモデウスを生み出すためにテクノロジーを使用すべきであると主張する
ホモデウス：自分の脳の配線を少し得ただけで認知革命のときに達成したような
アップグレードをおこなう
テクノ人間至上主義は、人間の心をアップグレードし、未知の経験や馴染みのない
意識の状態へのアクセスを可能にしようとする
⇨ヒトラー等が選抜育成や民族浄化によって超人を創造することを目論んだのに対し、
21世紀のテクノ人間至上主義は遺伝子工学やナノテクノロジーやブレインコンピューター
インターフェースの助けを借りてもっとずっと平和的にその目標を達成することをのぞんでいる

<心のスペクトル>
近代以前の多くの文化では意識にはより優れた状態が存在するとして瞑想や薬物や儀式を
通して到達できると信じられていた

人間至上主義に革命が起こると、近代の西洋文化が卓越した精神状態に対する信心や関心
を失い、平均的な人間の平凡な経験を神聖視するようになった
⇨尋常ではない精神状態を経験することを求める人がいなくなりつつある

自由主義的な人間至上主義からテクノ人間至上主義
⇨心をアップグレード

ポジティブ心理学：健常者の心の状態を研究が今までは進んでいなかった
その時々の経済や政治制度が必要とする心的能力をアップグレードすることに
フォーカスしていた
⇨サピエンスはもともと小さく親密なコミュニティの成員として進化し
その心的能力は巨大な機械の中の歯車として暮らすことには適応していなかった
⇨しかし現代とそれ以降、人間の心に対するアップグレードは政治的な必要性
と市場の力を反映する可能性が高い
E.G.アメリカ軍のヘルメットの話：悩む事を捨てさせ、決断させる
⇨心を生み出す実際的な能力が、精神状態のスペクトルに関する
私たちの無知や政府と軍隊と企業の狭い関心と組み合わさると、災難
の処方箋ができあがる
⇨体や脳をアップグレードできるが心を失いかねない
⇨そういう意味ではテクノ人間至上主義は人間をダウングレードする
⇨社会を支配するシステムがダウングレードされた人間を好むのは
超人間的な才覚をもつからではなく、システムの邪魔をして物事を
遅らせるのを避けられるから
農業革命時代：賢いヤギがもっとも人間をてこずらせていた
テクノ人間至上主義時代：賢いヤギを排除するため、人間はこれまで
よりはるかに効果的にデータをやり取りして処理できるものの、
注意を払ったり夢を見たり疑ったりすることができない人間を生み出す
おそれがある
今までは人間は能力を強化されたチンパンジー
⇨将来は特大のアリ

テクノ人間至上主義は人間至上主義のあらゆる宗派と同様、人間の意志を神聖視している

人間至上主義が内なる声から本当の自分を見つけ出すことを目指していたのにたいし、
テクノロジー（薬物等）によって内なる声のボリュームを大きくしたり小さくしたりすることが
可能になる
⇨本物の自己への信仰を捨てることにつながる
⇦誰がスイッチを操作しているのか明白ではないから
（現代の精神医学：内なる声や本物の願望は生化学的な不均衡と神経疾患の産物にほかならない）

テクノ人間至上主義は人間の意志がこの世界で最も重要なものだとかんがえているので
人類を促して人の意志を制御したりデザインし直したりできるテクノロジーを開発させようとする
⇨しかしそのデザイン能力を使ってどのようにすればよいかテクノ人間至上主義にはわからない
⇦どのようにデザイン能力を使えばよいかわかった時には神聖な人間もまたただのデザイナー製品になってしまうから
（デザインされた意志からデザインされるものになってしまうから）
⇨人間の意志と人間の経験が権威と意味の至高の源泉であると信じている限りそのような
テクノロジーには決して対処できない

より大胆なテクノ宗教は、人間の欲望と経験を中心にまわる世界を予見などしない
⇨欲望と経験になにがとって変わるのか？
⇨情報
⇨データ至上主義

第11章 データ教

データ至上主義：森羅万象がデータの流れからできており、どんな現象うやものの価値も
データ処理にどれだけ寄与するかで決まるとされる

アランチューリングにより、電子工学的アルゴリズムが生化学的アルゴリズムにも
適用できると指摘
⇨動物と機械を隔てる壁を取りはらう

データ教により単一の包括的な理論：ベートーベン交響曲第5番と株価バブルとインフルエンザウイルス
が同じ概念とツールを使って分析できる
⇨音楽学者と経済学者と細胞生物学者が理解しあえる

今まで：データ⇨情報⇨知識⇨知恵
データ至上主義：データ⇨情報×（人間には処理できないからアルゴリズムのに処理させる）

データ至上主義の母体はコンピューター科学と生物学
個々の生き物だけではなくハチの巣やバクテリアの子ロビー、森林、人間の年など
様々な形の社会全体もデータ処理システムとみなされている

経済学者は経済も、欲望や能力についてのデータ処理システムとみなしている
⇨資本主義が分散処理するのに対し、共産主義は集中処理に依存

資本主義：生産者と消費者を直接結びつけ、彼らに自由に情報を交換させたり、
各自に決定を下させることでデータを処理する

フリードリヒ「当該の事実に関する知識が多くの人の間に分散しているシステムでは、
価格はさまざまな人の別個の行動を調整する働きをなしうる」

株式取引：これまでに人間が作り出したデータ処理システムのうち最も早く効率が良い

データ処理の観点から「税金」が高いとは？
⇨利用可能な資本のかなりの部分が政府に集まり、政府が情報処理者になる
⇨過度に中央集権化されたデータ処理システムが出来上がる
⇨この極端な例：共産主義

資本主義が共産主義を打ち負かしたのは、テクノロジーが加速度的にしんか
する時代には分散型データ処理が集中型データ処理よりもうまくいくから

21世紀にデータ処理の条件が変化するにつれ変化がおこるかもれしない
⇨選挙や政党や議会のような制度は廃れるかもしれない

議会も独裁者も処理がおいつかないデータに圧倒されているため1世紀前
の先人よりもはるかに小さなスケールで物事を考えている

⇨21世紀初頭の政治は壮大なビジョンを失っている
⇨だれもこの世の中をコントロールなどしていない。ビジョンがないことに
いいこともわるいこともあるが、市場にまかせてて本当にいいのかという疑問ものこる
億万長者は攻めるターゲットを小さくしててそれに見合うだけの利益を享受しているだけ
地球温暖化などの複雑なシステムを理解して解決することは現段階でできない

データ至上主義の視点に立ち、人間一人をデータ処理のチップとみると
システム全体の効率をあげるため

1プロセッサー数を増やす
⇨人口を増やす

2プロセッサーの種類を増やす
⇨人の種類を増やす

3プロセッサー間の接続数を増やす
⇨他の都市との交易ネットワーク整備

4既存の接続に沿って動く自由を増やす
⇨交易ネットワークでの秩序を統制する

認知革命（7万年前）で交易ネットワークが整備され、3が実現
農業革命（1万二千年前）に人口が増え（1）、高密な局地的ネットワークができた
科学革命（500年前）書字と貨幣の発達のお陰で人間の集団同士が結びつき
貨幣や帝国、宗教が出現以来、人類は全世界を網羅するような単一のネットワークの
構築を意識的に夢見るようになった

仮に人類が単一のデータ処理システムだとしたらシステムは何を出力するか？
⇨データ至上主義者なら、その出力とは「すべてモノのインターネット」
と呼ばれる新しいさらに効率的なデータ処理システムの創造だというだろう
⇨この任務が達成されたらホモ・サピエンスは消滅する

<情報は自由になりたがっている>
データ至上主義の至高の価値：「情報の流れ」
もし生命が情報の動きで人間の生命が善いものだと考えるなら
人間はこの世界における情報の流れを深め、拡げるべきだということになる
データ至上主義：人間は「すべてのモノのインターネット」を創造するための
単なる道具でしかない。「すべてのモノのインターネット」は地球から銀河系へ
そして宇宙全体にさえ拡がる
戒律1：多くの媒体と結びつき多くの情報を生み出し、消費することによって
データフローを最大化しなくてはならない
戒律2：接続されることを望まない異教徒を含め、全てをデータフローのシステムにつなぐこと

「情報の自由」は「情報」に与えられる
⇨アイディアはそれを生み出した人の所有物ではない
⇨データ至上主義者は経済成長も含めて、良いことはすべて情報の自由にかかっている
と信じている

人間至上主義：経験は私たちの中で起こっていて、私たちは起こること全ての意味を
自分の中に見つけなければならず、それによって森羅万象に意味を持たせなくてはならない

データ至上主義：経験は共有されなければ無価値で、私たちは自分の中に意味を見出す
必要はない、いや、じつは見出せないと信じている
⇨自らの経験を記録し、大量のデータフローにつなぐとアルゴリズムがその意味を見出して
私たちにどうすべきか教えてくれる
⇨私たちは自分自身やデータ処理システムに、自分にはまだ価値があることを証明しなく
てはならない。そして価値は経験することにあるのではなく、その経験を自由に流れる
データに変えることにある

データ至上主義は人類にたいして厳密に機能的なアプローチをとり、
人間の経験の価値を、データ処理メカニズムにおける機能に即して評価する
もし同じ機能をもっとうまく果たすアルゴリズムが開発されれば
人間の経験はその価値（システムにデータ変換してのっけること）はなくなるだろう
⇨主観的経験の有無が重要になるだろうか？
⇨人間は生化学的なアルゴリズムにすぎない

18世紀 人間至上主義が神中心から人間中心に変えることによって神を主役からはずした
21世紀 データ至上主義が人間至上主義に変わって人間中心からデータ中心にかえることで
人間を主役から外すかもしれない

但し、意識を持たないアルゴリズムが既知のデータ処理課題のすべてにおいて
意識を持つ知能をいずれしのぐことができたとして、
意識を持つ知能を意識を持たない優れたアルゴリズムに取り替えることによって
失われるものがあるとしたらそれはなんだろうか？
⇨あったとしてもデータ至上主義のもつパラダイムは大きい（多くの分野にまたがるから）

長期的視野を持つと3点大きく無視できない動きがでてくる
1科学は一つの包括的な教義に収斂しつつあり、それは生き物はアルゴリズムであり、
生命はデータ処理であるという教義
2知能は意識から分離しつつある
3意識を持たないものの高度な知能を備えたアルゴリズムがまもなくわたしたちが
自身を知るよりも私たちのことを知るようになるかもしれない

我々が問い続けるべき3つの問い
1生き物は本当にアルゴリズムにすぎないのか？そして生命は本当にデータ処理にすぎないのか？
2知能と意識のどちらのほうが価値があるのか？
3意識はもたないものの高度な知能を備えたアルゴリズムが、私たちが自分自身
よりもよく私たちを知るようになった時、社会や政治や日常生活はどうなるのか？