＊　シンギュラリティと人工知能民主主義

2010年代の流行語の一つに「シンギュラリティ（特異点）」という言葉があります。ここでいう「シンギュラリティ」とは人工知能が人間の知能を超える転換点を指しています。この「シンギュラリティ」という言葉が注目されるようになった契機としてアメリカの未来学者レイ・カーツワイルが2005年に出版した『シンギュラリティは近い』という著作が挙げられます。そこでカーツワイルは2045年には人工知能が人間の知性を超えると予言しています。こうして2010年代になるとカーツワイルの議論に触発される形で人工知能が創り出すバラ色の未来を語る議論が多数現れるようになりました。

こうした状況を東浩紀氏は今年公刊した『訂正可能性の哲学』で2010年代とは「大きな物語」が復活した時代であったと述べています。ここでいう「大きな物語」とは平たくいえば人類はある特定の終極＝目的に向かってまっすぐに進歩しているという思想をいいます。

この点、20世紀中盤までは例えば「共産主義」という名のイデオロギーが「大きな物語」として曲がりなりに機能していた時代でした。けれども、そのような思想は1970年代あたりから批判され始め、冷戦構造が終焉した20世紀の終わり頃にはもはや「大きな物語の失墜」が語られるようになりました。

ところが21世紀に入ると、そのような「大きな物語」は「共産主義」のような社会科学ではなく「シンギュラリティ」という情報産業論や技術論といった新たな装いのもとで復活し始めることになります。要するに、文系の「大きな物語」が消えたと思ったら、理工系から新たな「大きな物語」が出現したわけです。こうして今や我々は「共産主義」という「第一の大きな物語」の代わりに「シンギュラリティ」という「第二の大きな物語」が席巻する時代を生きている、と東氏はいいます。

その一方で2010年代はスマートフォンとソーシャルメディアの普及によるポピュリズムが台頭し、社会があらゆるところで分断され民主主義の危機が全面化した時代でもありました。そしてこのような民主主義の危機こそがシンギュラリティへの夢をさらに強化することになります。すなわち、いくら優れた通信環境を与えていくら良質の情報を提供しても結局のところ人間とはフェイクニュースと陰謀論に踊らされる愚昧な生き物でしかないのであれば、むしろ重要な意志決定は人間ではなく人工知能に委ねるべきであり、少なくともその支援を受けるべきではないかという発想が出てくるということです。

このような人間による意思決定への失望を前提とした民主主義を東氏は「人工知能民主主義」と名指し、その起源を「社会契約」の始祖の1人として知られる18世紀の思想家ジャン＝ジャック・ルソーが唱えた「一般意志」に見出します。

＊　一般意志とは何か

ルソーの主著として知られる『社会契約論』は1762年に出版され1789年に起きたフランス革命に決定的な影響を与えました。ここで提示された「一般意志」とはひらたく言えば社会全体の意志のことをいいます。ルソーはまず人間は文明以前の自然状態では孤独に生きていたと仮定します。けれどもそれだけでは強い外敵には対抗できません。そこでわたしはあなたに暴力を行使しないから、逆にあなたもわたしに暴力を行使しないでくださいという契約を交わし、みなの暴力を一箇所に集中させて大きな強い集団を、すなわち社会を作ることになりました。これが「社会契約」です。

そしてルソーにおける「一般意志」とはそのような「社会契約」が成立したときに必然的に生まれる「集団の意志」と定義されます。ここでいう「集団の意志」とは普通に考えれば個人の意志を集めたものということになりそうです。ところがルソーはこの「一般意志」につづいて「特殊意志」と「全体意志」という概念も導入しています。ここでいう「特殊意志」とは個人の意志であり「全体意志」とは「特殊意志」の集まりをいいます。つまり個人の意志としての「特殊意志」の集合は「全体意志」でしかなく「一般意志」ではありません。

この点「一般意志」と「全体意志」の差異はルソーによれば「公共性」の有無の差異ということになります。すなわち「特殊意志」とは個人の私的な利害でしかなく「特殊意志」が集まった「全体意志」もやはり個人の私的な利害の集合体でしかなく、社会全体の公的な利害を代表することはできません。けれども「一般意志」には「全体意志」と異なり、社会全体の公的な利害を代表する「公共性」が宿るということです。

それゆえにルソーは「一般意志はつねに正しい」と断言します。ここからルソーは社会の統治は一般意志に導かれるべきであり、市民は一般意志を体現する統治者の命令には絶対に服従しなければならないというような過激な主張を展開しました。つまり極端な話、統治者が市民に向かってお前は死ねと命じたら市民は死ぬことが「正しい」のであり、それを間違いだと思うのは市民の方が「思い違い」をしているからである、とルソーはいいます。つまり、ルソーによれば一般意志が特定の個人に死を命じるとき、その人は既に実は自分自身の死を欲しているはずであるということです。

＊　ルソーにとって社会契約とは何だったのか

では、このような絶対的かつ危険極まりない存在である「一般意志」とは「特殊意志」の集合体である「全体意志」に何を加えれば、あるいは何を減じれば生成されるものでしょうか。

そもそも周知の通り「社会契約」という考え方自体はルソーのオリジナルの思想ではありません。ルソーより先に社会契約を提唱した哲学者としてトマス・ホッブズとジョン・ロックの名が挙げられます。けれども実際にはホッブスやロックの提唱した社会契約とルソーの提唱した社会規約の間には大きな隔たりがあります。

この点、ホッブズは自然状態では人間は殺し合いかねないので暴力を王に集中させるために社会契約が必要だと論じました。また、ロックは人間が本来持っている原初的な財産権を保障するために社会契約が必要だと論じました。つまり、ホッブズもロックも人間は孤独では生きていけない、いつ殺されるかわからないし、いつ財産を奪われるかわからないと考えており、だからこそ人々は社会契約を必要とすると主張したわけです。

ところがルソーは『社会契約論』に先行する『人間不平等起源論』という著作で、ホッブズやロックと異なり、人間は自然状態の方が幸せだったと主張していました。つまりホッブズやロックは人間は孤独では生きていけないと考え、だから社会契約が必要だと主張しましたが、これに対してルソーは人間はむしろ孤独の方が幸せに生きることができると考えていたということです。

だとすればルソーはなぜ社会契約を必要としたのでしょうか。この点『社会契約論』という本は一般的に、まず最初に自然状態があり、次に人々の間で「社会契約」が交わされ、結果として共同体（社会）が生まれ「一般意志」が生まれるという直線的な過程を描いたものとして理解されています。ところが東氏は『社会契約論』には逆に最初に共同体（社会）の方が存在し、次にその起源として「社会契約」が見出され、結果として「一般意志」があたかも最初から存在していたものであるかのように仮設されるという、遡行的な発見の仮定が隠されているのではないかといいます。

＊　訂正可能性の論理

『人間不平等起源論』には「ある土地を囲いにして、『これはおれのものだ』と最初に思いつき、それを信じてしまうほど単純な人を見つけた人こそ、政治社会の真の創立者であった」という大変有名な一説があります。すなわち、ルソーからすれば人は皆孤独で幸せに生きることができるのだから社会契約など本来必要ではない「にもかかわらず」ある時「これはおれのものだ」と主張した誰かが不平等な社会を発明して「しまった」ので、みな社会契約を交わすほかなくなって「しまった」ということです。このようにルソーは社会契約の裏側に「にもかかわらず」「しまった」という論理を見出していたということです。

そして、このようなルソーの「にもかかわらず」「しまった」の論理を東氏は「訂正可能性」という論理から説明しています。20世紀を代表する哲学者の1人であるルートヴィッヒ・ウィトゲンシュタインは後期の代表的著作である『哲学探究』（1953）において「人は言語を使ったゲームをルールを知らないままプレイしている」という驚くべき主張を行いました。そして言語哲学者ソール・クリプキはこのようなウィトゲンシュタインの発見を「ルールとは共同体がプレイヤーを選別することではじめて確定する」という裏返った共同体論によって論証しました。

すなわち、あるプレイヤーの行為がルールに違反していると判断することは原理的に不可能ですが、大多数の人々がその行為はルール違反だと見做す共同体に属していると信じているため、その行為はルール違反だと「訂正」されてしまうということです。

もっとも、このような「訂正」は共同体からプレイヤーに向けられるだけではなく、同時にプレイヤーから共同体に向けられることにもなるはずです。すなわち、共同体のルールとは静的に確定したものではなく、常に動的に更新される「訂正可能性」を孕んだものとなります。

こうしたことからルソーのいうところの社会契約もまた「これはおれのものだ」と叫んだプレイヤーによってそれまでの「自然状態というゲーム」が「所有権というゲーム」に「訂正」された結果として遡行的に発見されたものであるということです。

＊　事物＝自然としての一般意志

だとすれば、ルソーのいう「一般意志」もまた単純に実在するものではなく、あくまで「もしいま不平等な社会が成立してしまっているとすれば」という条件節のもとで、遡行的に見出される仮設的な存在であると理解されるべきことになります。

もっとも現実問題、不平等な社会は世界のどこにでも成立しています。そして、このような不平等な社会における「一般意志」をルソーはしばし人間を超えた「事物」に例えます。換言すれば、ここでルソーは「一般意志」の力を人間が生み出した制約ではなく、天気の良し悪しや土地の高低や水の流れのような「事物＝自然」による制約として捉えていたということです。

ルソーが「一般意志はつねに正しい」と断言できた理由がここに端的に現れています。「自然」による制約を「正しい」とか「正しくない」とかを判断することそれ自体に意味がありません。「自然」とはただそこにそれがあるだけの状態をいいます。雨が降れば傘をさすしかかないし、山を越えたかったら登るしかないし、川を渡りたければ船を探すしかないわけで、こうした「自然」に向かって「それは正しくない」などとと叫んでも仕方がありません。こうした意味で「自然」はつねにすでに「正しい」のであり、それゆえに「一般意志」という「自然」もつねにすでに「正しい」ということです。

＊　一般意志はつねに正しいとされてしまう

一般意志はつねに正しい。統治者が命じたら市民は死ななければならない。こうしたルソーの主張は一見して統治者の理不尽な命令を素朴に肯定する危険な主張のように見えますが、けれども本当はそれは「もしいま不平等な社会が成立しているのだとすれば」という条件節が挟み込まれていることを見落としてはならないということです。

そして、このようなルソーの思想を「まっすぐ」に受け継いだのが現在の「人工知能民主主義」ということになります。すなわち、それは「まっすぐ」であるがゆえに危険であるということです。ルソーの主張はその後の時代における無意識の発見や統計学の確立によって「まっすぐ」に合理的に読解できてしまいます。すなわち、ルソーのいう「一般意志」とは実は集合的無意識と統計的法則性について語っていたものとして理解できてしまうということです。ここから真の民主主義を実現するためには人間よりも機械の指示に従った方がいいのではないかという「人工知能民主主義」の発想が出てくるわけです。

けれどもそれはルソーが忍び込ませた「にもかかわらず」「しまった」という訂正可能性の論理を削ぎ落とした理解に他なりません。ルソーの「一般意志はつねに正しい」という命題は「一般意志はつねに正しいとされてしまう」という隠れた副命題とともに理解されなくてはならない、と東氏はいいます。そして、こうしたルソーの隠された警鐘は「人工知能民主主義」という問題のみならず、現代において我々の生活を取り囲むビッグデータ・アルゴリズムや生成系AIがもたらす問題にもすべからく当てはまるものでもあるといえるでしょう。