東浩紀「訂正可能性の哲学」はAI関係者必読だ!
先週、今週とあちこちへ出張が続いているので、移動時間の合間、ネットが途切れる山奥にさしかかったあたりで東浩紀「訂正可能性の哲学」を読んだ。東さんの本はいつもそうなのだが、あまりの内容に驚愕した。
そして昨日はたまたま東さんにVisionProを体験させる約束をしていた日なので、会う前に一気に読み終えた。すごい。もっと早く読めばよかった。
東さんの本は基本的に「凄すぎる」ので、読むと影響を受けすぎてしまってしばらく自分の思考が戻ってこない状態になる。しかし最近の僕は、むしろ忙しすぎて誰かの思考を取り入れたいモードになっていたのだ。
その意味で、まさに今の時代に必要とされている本だと思うし、本当にすごい。10年前に上梓された「一般意志2.0」の続編でもあり、なおかつアップデートでもある。もちろん読んでなくても全然良い。
特に舌を巻いたのは、落合陽一の「デジタルネイチャー」や成田雄介の「無意識データ民主主義」といった最近の思想的潮流を「ルソーで言う全体意思」であると一刀両断したことだ。
東はこれらを一括りにまとめて「人工知能民主主義」と呼ぶ。簡単に言えば、人工知能民主主義とは、ビッグデータの集積によって自動的に政治的判断が行われ、それが人々にとって幸福を導くのだという考え方である。
人々の欲望をデータ化し、最新の人工知能で大局的な視座で私欲を交えず判断することが人民にとって幸せなのだと言う、一見今風に見えるこれらの主張は、実はルソーの時代からほとんど進歩していないどころか、むしろ「一般意志」の暴走を招く危険な考え方であるとも指摘する。
東自身も「一般意志2.0」の前半で同様の思想を展開するが、後半では人工知能民主主義を批判するという、分裂気味の内容になっている(脚注に詳しい)。
20世紀以降、独裁国家と呼ばれる国家が次々と出現した。しかも、それらの多くは全て「民主主義」と国号に掲げていることが多い。社会主義は民主主義の一形態であり、ナチ党は投票によって選ばれた。ルソーもまた人々が個別に抱く個別意志と、その単純な合計である全体意志といったもの(つまりビッグデータのようなもの)は、本当の統治には向いておらず、社会全体の暗黙の合意事項や公序良俗といったものを考慮する「一般意志」なるものが統治するべきであると主張しており、ルソーはむしろ民主主義よりも君主制を支持していた。
本書の重要なテーマはこの「全体意思(ビッグデータ的なもの)」と「一般意志」は何が違うのか、ということである。その違いを一言で言えば「訂正可能性を持つか」ということになる。
東は訂正可能性を無とした統治は、「一般意志が死ねと言ったら喜んで死ぬ個人」が肯定される世界だという。確かにこれは危険な考えかただ。
最近の僕は「金融資本主義からAI資本主義への転換」をあちこちで唱えている。
「人工知能民主主義」という言葉が出てきて、それが批判された時にはヒヤッともしたが、同時に東の主張が僕の心にしっくりと深く浸透してきたのは興味深い。
僕の考えるAI資本主義は、人間性を極力排除するのではなく、むしろ人間性を極限まで高めるための仕組みである。
僕の考えるAI資本主義では、社長をAIが担当する。なぜそうなのかといえば、社長の仕事の大半が非人間的なものだからである。
世の中に無数の会社があり、無数の会社が生まれているのに生まれるのと同じかそれ以上の会社が廃業する理由は、まさしくこの点にある。
僕は社長をやめ、東も社長を辞めている。経営のストレスは個人の創造性や創作性を著しくスポイルする。個人の発想力や想像力を最大化するためには、経営という機能をその個人が担当する必要はない。東も僕も、ともに社長を雇っているが、会社のオーナーは自分である(ゲンロンの場合は上田社長も共同オーナーだそうです)。僕は経営を極力コンパクト化し、最終的には経営の重要判断をAIが行い、どうしても人間でなければできない折衝などを人間の「社長秘書」が行う。
では、オーナーは何をするのかと言えば、「やりたいことを決め、責任を取る」という機能に集中するのだ。
やがて自動的にAI社長が販売戦略を立て、取引先と交渉し、仕事をとってきてくれる時代が来るだろう。しかもそれはそう遠くない未来に実現しそうである。今年とか、来年とか。
今、ChatGPTのAPIに勝手にメールを書かせたら、たぶん自動的にいい感じのメールを書いてくれるはずだ。そういうメールを人間が書くのでは到底間に合わないくらい多くの人に書くことができる。
AIが実質的なリーダーで、思想的なグルを人間が務めるという形はハインラインの「月は無慈悲な夜の女王」でも描かれている。
僕は昨年、冗談で描き始めたAIによる漫画作品「宇宙の探偵 五反田三郎」で未来の地球はブロックチェーンの崩壊により廃墟と化し、地球人口が数千人まで目減りする未来を描いた。
「五反田三郎」では未来の地球では五大陸が消滅しており、唯一残った最大の大陸が佐渡ヶ島大陸である。
ここは崩壊する地球に「敢えて宗教的な理由で」残った人々の生き残りが暮らしており、彼らの全ては21世紀の人々の冷凍受精卵から産み落とされたクローンであり、ヒロインもまた地球帝国でクローンとして生まれ、AIの両親のもとで育ち、AIの言うことは全て正しいという教育を受けている。
このヒロインは生物学的には100%人間ではあるが、登場人物の中で最も人間離れしている。木星の衛星エウロパで探偵家業を気取っている五反田三郎にすれば、宇宙人のような存在である。
僕自身は「人工知能と自然知能が競えば、かならず人工知能が勝つ」という前提を信じている。これはあらゆる判断においてそうであると考えている。ただし、入力される情報が正確であれば。
このヒロインを設定したのは、僕自身、「全てAIが正しいとしても、それは本当に個人にとっての幸福を即座に意味するのか」という疑問があった。実際、ヒロインのヘレナはAIの父に言われるがままに単身木星の衛星エウロパにやってきて、いきなり忍者軍団に襲われることになる。この部分だけ取り出したらヘレナという個人にとっては災難しか生まない。しかし、宇宙忍者に襲われたことで五反田三郎と出会い、二人は冒険の旅に赴くことになる。もしもAIの父がそこまで読んでいたとしたら・・・そんな想像を掻き立てられたのだ。つまり僕は人工知能の判断を絶対的なものとして信じているが、同時に、それが特定の個人の幸福を保証するものではないと考えている。
ヘレナの運命がどうなるかについて、実は全く考えてない。素人の描くマンガなんか深く考えてつくってるわけがないのである。
ただ、ある時点でヘレナが不幸な結末を迎えることがあるか、もしくはヘレナが幸福な結末で終われるか、実は幸福か不幸かはどの時点から振り返るかで随分変わる。
スティーブ・ジョブズは自分が創業した会社を追放された経験を振り返り、「あれは人生最高の出来事だった」と語った。もしも95年にそう言っていれば負け惜しみに聞こえただろうが、2005年のスタンフォード大学でそれを聞いた人々の心に浮かんだことは全く違った。
ジョブズが平均的な人間と比べて不幸だったか幸福だったかは、彼の人生をどの時点で切り取り、振り返るかで随分変わる。
生まれた時から孤児で、少し貧しい育ての養父母のもとで育ち、大学に進学するも三ヶ月で中退し、電話タダがけ器で一儲けした。地元のホームブリューコンピュータクラブでバカにされたが、バイトショップの店長から初めての受注を受けるが大失敗する。コンピュータショウに初出展して「木でコンピュータをつくってやがる」とバカにされ、悔しくてプラスチックでボディを作ったAppleIIで大成功するが、ゼロックスの研究所で見たAltoに衝撃を受け、社内で大暴れしてチームを追い出され、(創業者なのに)海賊旗を掲げてMacintoshプロジェクトを乗っ取り(まさに海賊だ)、発売までこぎつけたものの売れ行きの悪さで会社を追放され、新しく立ち上げた会社も鳴かず飛ばずで、95年に彼がインタビューを受けた時、もうほとんどの人がジョブズのことなんか忘れていた。
YouTubeにNeXTの社内ビデオがいくつも公開されているが、NeXT時代のジョブズのプレゼンテーションはひどく悲惨だ。
「ジョブズはプレゼンの天才」だと言う人がいたらまずNeXT時代のビデオを見せるべきである。
でも、ジョブズがAppleに復帰し、自分を追放した取締役全員を追い出し、iMacとiPodを成功させ、AppleStoreを作り、iTunesStoreを作り、iPhoneを作り、iPadを作るくらいになると、もはやジョブズはどこを切り取っても不幸な人間だとは思われないだろう。
つまりジョブズはAppleを訂正し、コンピュータ産業をスマートフォン産業のプロトタイプへと訂正し、エンターテインメントを訂正し、最終的には自分の人生を訂正したのである。
訂正可能性について僕の理解が正しいかよくわからないが、きっとこういうことなんだと思う。
「あんなことがあった。あのときは正しいと思ったけど、今思えば"厳密に"正しいとは言えなかった。だけど今振り返れば、あれをやったから今がある。あのとき自分はAをしていたのではなく、今やっているBのための準備をしていたのだ」
もしも訂正することが封じられていたら?
ビッグデータによる人工知能民主主義は、「常に正しい」ので訂正を挟む余地がない。しかし実際には「正しさ」は時代とともに変わり、その「正しさ」の変化を生み出すのは人と人との会話であり、「思い」の変化である。
「思い」はその瞬間瞬間だけ切り取っても意味がなく、合計することはもっと意味がない。
「AIの判断の正しさ」とは何か。
AIの応用例として強化学習が圧倒的に強力な理由は、「勝つ」ことに集中しているからである。
しかし「何が正しいか」を議論し、導くのは常に人間だ。
「あれも欲しい、これも欲しい」とわがままを言うのは人間の仕事なのである。
AIは与えられた条件の中で常に最善手を見つけ出す。
しかし何が「最善か」決めるのは人間で、「最善」は変化し続ける。そのため人間は常に訂正可能性とともにある。AIによる判断が強力になればなるほど、人間は議論を深め、熟考し、自らの哲学を見つめなければならない。
目の覚めるような、素晴らしい本だった。