この論文は、伊藤穣一が2017年に書き下ろしたもので、元々は英語で書かれています。私にとって、この文章は今でもその輝きを失っていないと感じており、当時すでに、これからの時代の変化に対応するためのさまざまなエッセンスを記しています。長文ではありますが、関心のある方はぜひ目を通していただきたいと思います。また、原文を読みたいと感じる方のために、以下にリンクを貼っておきます。

自然界の生態系は、多くの「通貨」が相互に作用し、フィードバックシステムを通じて繁栄と調整を可能にする、複雑で適応性の高いシステムの優れた例です。この協働モデルを、人工知能に対するアプローチの指針として採用すべきであり、指数関数的な経済成長や技術の進歩を通じて現在の人類の状態を超えるとされる「シンギュラリティ」という概念を目指すのではない。シンギュラリティとは、技術が急速に進化し、人間の理解を超えた未来の到来を指す言葉です。60年以上前、MITの数学者であり哲学者でもあるノーバート・ウィーナーは次のように警告しました。「人間が組織の一部として組み込まれる際、権利が尊重される形ではなく、単なる歯車やレバー、棒として使われるようになり、その原材料が肉と血であることはほとんど考慮されなくなる」。私たちはウィーナーの警告に注意を払うべきです。

はじめに：通貨という概念
太陽が地上を照らすと、光合成が起こり、水と二酸化炭素が太陽エネルギーを利用して酸素とブドウ糖に変換されます。光合成は、物質やエネルギーを異なる形に変える生化学的プロセスの一つです。これらの分子は他の生化学的プロセスにより代謝され、異なる分子へと変わります。科学者たちはこれらの分子をしばしば「通貨」と称します。これは、細胞間やプロセス間でのやり取りがお互いに利益をもたらす力を持っているためです（つまり、事実上の「取引」が行われています）。このような分子の大きな違いは、「マスター通貨」や「外国為替市場」が存在しないことです。それぞれの「通貨」は特定のプロセスでのみ利用可能で、この「通貨」が形成する「市場」が「生命」というダイナミクスを動かします。

あるプロセスや生命体が発展し、その成果として特定の通貨が豊富になると、他の生命体はその出力を別の形に進化させます。何十億年の時間を経て、地球の生態系はこのように進化し、複雑で自己調整型のシステムを多数形成しました。これらのシステムは、例えば人間の体温を安定させたり、地球の気候を調整したりします。ミクロからマクロに至るまで、様々な要素が絶えず変動し、変化する中でも、これらのシステムは安定性をもたらします。あるプロセスの成果は、別のプロセスの原材料となります。最終的には全てが互いに繋がっています。

私たちの文明では、主要な通貨はお金と権力です。多くの場合、社会全体を犠牲にしてでもこれらを蓄積することが目標とされています。地球の生態系に比べると、はるかに単純で脆弱なシステムです。地球の生態系では、無数の「通貨」がプロセス間で交換され、様々な入力と出力が行われる複雑なシステムが形成されています。これらのシステムには、適応や蓄積、流れ、そして接続を調整するフィードバックシステムが存在します。

残念ながら、現在の人類文明には自然界に見られるような回復力がありません。私たちの目標と社会進化の原動力となるパラダイム（基本的な考え方）は、数十年前に数学者ノーバート・ウィーナーが警告した危険な道を人類に歩ませています。単一の「マスター通貨」という概念は、多くの企業や機関が当初の使命を見失わせる原因となっています。価値観や複雑性よりも、指数関数的な経済成長に重点を置く傾向が強まっており、この動きを牽引しているのは営利企業です。これらの企業は自治権、権利、権力をほぼ無制限に拡大し、社会的な影響力を増大させています。こうした企業の行動は、ガン細胞のそれと似ています。健康な細胞は成長を調節し、環境に適応しますが、ガン細胞は増殖を最優先し、自己の機能や周囲の状況を無視して拡散します。

私たちを突き動かすムチ
人間は進歩を実現するために存在し、その進歩には制約のない、指数関数的な成長が必要だという考えが、私たちを駆り立てるムチとなっています。この考え方は自由市場資本主義の制度の下で実現され、現代の企業が自然と形成されました。ノーバート・ウィーナーは、企業を「血と肉でできた機械」と表現し、オートメーションを「金属でできた機械」と呼びました。シリコンバレーを拠点とする新しいタイプの巨大企業（「ビットでできた機械」とも言える）は、シンギュラリティーという新興宗教を信じる人々によって設立され、運営されています。この新興宗教では、指数関数的な成長の崇拝が現代の計算や科学に適用され、自然と形成されたものです。計算力の指数関数的成長を考慮すると、AI（人工知能）がその漸近線的な存在として位置付けられています。

シンギュラリティー信者たちは、コンピューターを使ってシミュレートできないものは存在しないと信じ、コンピューターがいずれ現実世界の複雑さを完全に処理できるようになる日が来ると考えています。彼らにとって、これまで解決不可能とされていた多くの問題をコンピューターが解決してきたことが、その証拠です。彼らはコンピューターを、どんな困難な課題にも対応できる強力なツールと見なし、最終的には人間が既知の限界を超え、現実さえも超越する速度を実現すると信じています。実際に、人工知能は自動車の運転、ガンの診断、裁判記録の検索や調査など、すでに多くの分野で人間の代わりに活用されています。将来的には、AIは人間の脳と融合し、全知全能の超知性を形成すると見られています。コンピューターは人間の思考を増強し、ある種の「超死性」（amortality）をもたらすとされています。この「超死性」とは、死が加齢によるものではなくなるという考え方であり、いずれは人間が死ぬという現象からも脱却可能になるという信念です。

しかし、企業が人間の超越性の前触れであるとしても、コンピューターのさらなる利用やバイオハッキングが進めば、世界のあらゆる問題を解決できるというシンギュラリティー信者の考え方は、幼稚なものに思えます。強化された思考能力と超死性を手に入れることを夢見る人もいますが、企業はすでにある種の「超死性」を実現しています。企業はその構成要素が統合されることで、存在し続ける限り、その合計以上の力を発揮します。これは、企業が超死的な超知性とも言える状態です。

計算の増加が必ずしも人間の「知能」の向上につながるわけではありません。それは単に計算力の強化に過ぎません。シンギュラリティーの成果がポジティブなものになると考えるためには、十分な力を持っていればこのシステムが自分自身を調節できるようになると信じることが前提です。しかし、最終的な成果は複雑すぎて現時点では人間には理解できないものですが、「それ」は自らを理解し、自らを「解決」する能力を持っています。旧ソ連で行われた全体計画に、完全な情報と際限ない権力が組み合わさったような状態を目指している人たちがいますが、分散型のシステムに基づいたより洗練された見方をする人もいます。シンギュラリティー信者の中には、十分な権力と統制を持てば世界は「飼い慣らせる」と信じている人たちがいますが、全員が不死と豊かさをもたらすポジティブな超越としてシンギュラリティーを崇めているわけではありません。ただ、多くの人々は、すべての曲線が垂直になる「最後の審判の日」がいつか来ると信じています。

シンギュラリティーという概念は、指数関数的に成長するAIがやがて人間を超える存在になるというものです。これは、過去の成果や現在の努力が意味を成さなくなるという考え方に基づいています。この「宗教」は、機械だけが解決可能とされていた複雑な問題を計算を活用して解決した経験を持つ人々によって創設されました。彼らはデジタル計算という、理解可能で制御可能な完璧なパートナーを見つけ出しました。このシステムは複雑性を活用し、処理する能力が急速に高まっています。この技術を使いこなすことができる人々は、富と権力を手にすることになります。シリコンバレーでは、この技術の集団的な思考とカルト的な崇拝が経済的な成功をもたらし、正のフィードバック・システムが形成されましたが、このシステムは自己規制する能力がほとんどありません。シンギュラリティーを信奉する人々は、自分たちの信念が宗教扱いされることに反発し、自分たちのアイデアが科学やエビデンスに基づいていると主張します。しかし、彼らは自分たちの究極のビジョンを実現させるために、根拠のない主張をすることや、現実的な真実よりも信念に基づく大胆な行動を取ることがあります。

S字曲線もベル曲線も、傾斜が始まると初めは指数曲線のように見えます。システムダイナミクスに精通している人々にとって、指数曲線は自己強化が行われている状態、つまり無限の正のフィードバックを意味します。この点がシンギュラリティー信者を興奮させ、システムの専門家を不安にさせる原因かもしれません。シンギュラリティーという概念に囚われていない大多数の人々は、物事はS字曲線で説明可能と考えています。つまり、自然界はあらゆる事象に適応し、自己調整する性質を持っているというわけです。例えば、パンデミックが発生しても、感染はやがて減速し、状況は新たな平衡に適応します。以前の状態には戻らないかもしれませんし、相転移が起こる可能性もありますが、シンギュラリティーという、人間の複雑さや死という苦悩から解放してくれる救世主または最後の審判としての考えは根本的に誤っています。

このような還元主義的な視点は新しいものではありません。B.F. スキナーが強化理論を発表した後、教育は彼の理論に基づいて行われるようになりました。行動主義的なアプローチは学習の限られた範囲でのみ効果を発揮することが、現在では学習を研究する科学者たちによって認識されていますが、多くの学校では依然としてドリル練習に依存した教育が行われています。別の例として、優生学運動があります。これは社会における遺伝学の役割を大幅に、かつ誤って単純化した運動であり、自然選択を人工的に促進すれば「人類を改善できる」という還元主義的な科学観を提唱し、結果としてナチスによる大量虐殺を加速させました。優生学の影響は今日もなお残り、遺伝学の研究では、知性との関連を調べるものはほぼ全てタブー視されています。

人間は、過度に還元主義的な科学を社会に適用した歴史から学ぶべきです。ウィーナーが述べたように、「私たちを打ち続けるムチにキスするのをやめる」べきです。複雑な事象をエレガントに説明し、混乱を理解に還元することは科学の主要な動力の一つですが、アルベルト・アインシュタインが言った「事物はできる限り単純にしなければならないが、それ以上に単純にしてはならない」という言葉を忘れてはならない。現実世界の知り得なさ、つまり還元できない性質は、アーティストや生物学者、リベラルアーツや人文学を学ぶ人々が日常的に接しているものであり、私たち人間は、そのような性質が存在することを受け入れなければなりません。

ウィーナーが『人間の用途』を執筆していた冷戦時代は、資本主義と消費主義が急速に拡大していた時期であり、宇宙競争の始まりとも重なり、コンピュータ時代の成熟期でもありました。当時は科学と工学が世界の問題を解決できると信じることが、今よりもずっと容易だった時代です。

その時期にウィーナーが論じていたサイバネティクス（人工頭脳学）は、客観的な視点から制御・調整が可能なフィードバックシステムに焦点を当てた学問でした。このいわゆる第一次サイバネティクスは、科学者が観察者として起きていることを理解し、その理解に基づいてエンジニアがシステムを設計できるという理論でした。

しかし、今日私たちが直面している問題、例えば気候変動、貧困、肥満、慢性病、現代テロリズムなどは、リソースを増やし制御を強化するだけでは解決できません。これらの問題は、複雑な適応システムの産物であり、しばしば過去に使われた解決策の副作用として生じています。たとえば、無限の生産性向上や過度のコントロールの試みが原因である場合が多いです。こうした背景から、第二次サイバネティクスが登場しました。第二次サイバネティクスは、自己適応型の複雑なシステムと、観察者自身がシステムの一部であるという考えに基づいています。ケビン・スラビンが『参加としてのデザイン』で述べているように、「あなたが渋滞に巻き込まれているのではなく、あなた自身が渋滞なのです」。

この理解は、私たちが問題とその解決策をどのように考えるかに大きな変化をもたらしています。単に外からシステムを操作しようとするのではなく、そのシステムの一部として、私たち自身も変化に貢献しなければならないということです。このアプローチは、より持続可能で実用的な解決策を導く可能性があります。

現代の重要な科学的課題に効果的に対応するためには、世界を多くの相互接続された、複雑で、自己適応型のシステムとして見なす必要があります。これらのシステムは様々なスケールや次元を持ち、観察者や設計者からは切り離すことができないものです。私たちは、微生物から個人のアイデンティティ、社会、さらには人類という種全体に至るまで、異なる適応度の地形（フィットネス・ランドスケープ）を持つ複数の進化システムの参加者です。つまり、個々の人間も、より大きなシステムの一部であり、体内の細胞のように、システムレベルでの設計者として機能することがあります。

ウィーナーは生物学的進化や言語の進化については論じていますが、進化力学を科学的な探求のために活用するというアイデアは深く掘り下げていませんでした。生物学的進化は繁殖と生存に推進され、私たちに子孫を残し、成長する願望を植え付けています。このシステムは常に成長を調節し、多様性と複雑性を増加させ、自身の回復性、適応性、持続可能性を高めています。このような広範なシステムについての認識が高まる中、私たちは生物学的、社会的な背景から得た進化論的、環境的な入力に基づいた目標や方法論を持っています。しかし、創発的知能を持つ機械は明らかに異なる目標や方法論を持っています。システムに機械を導入することで、機械は個々の人間を強化するだけでなく、より重要なことに、複雑なシステム全体を強化することに貢献します。

この考え方は、私たちが世界とその問題にどのように取り組むべきかについての新たな視点を提供します。科学と技術の進歩をただ単にツールとしてではなく、全体的なシステムの一部として組み込むことで、より持続可能で効果的な解決策を導く可能性があります。このアプローチにより、個別の問題だけでなく、相互に関連する問題群にも対応することが可能になります。

現代の「人工知能」という概念には問題点があります。それは、他の複雑な適応システムとの相互作用が考慮されずに、独立した形態、目標、方法論を提案している点です。人間と機械という対立ではなく、人間とシステムを統合する形でのアプローチが求められています。つまり、「人工知能」ではなく「拡張知能」を目指すべきです。システムを単に制御、設計、理解するよりも、より複雑なシステムの認識力を持ち、堅牢で責任ある要素として参加するシステムの設計が重要です。また、システムの設計者でありながら同時にシステムの構成要素でもある私たちは、自己の目標と感性を問い直し、適応させることが必要です。操作するよりも慎重さが求められるのです。

これを「参加型デザイン」と呼びましょう。参加者自身によるシステム設計です。これは、単なる成長や力の増大ではなく、活力と健康を増進させる「繁栄の関数」の強化に似ています。システムがどれだけ創造的に適応する能力を持っているかは計測可能であり、システムの回復力や資源を独創的に利用する能力も評価できます。

優れた介入を行うためには、問題解決や最適化を超え、環境や時代に適した感性を育むことが重要です。これはアルゴリズムよりもむしろ音楽に似ています。音楽では感性やセンスが重視され、多くの要素がある種の創発的な秩序にまとまります。楽器の編成や奏法を通じて、システムが適応したり、プログラムされていない形で動作することを促すことができますが、それでも整合性を保つことが可能です。音楽を介入として使用することは新しいアイデアではありません。1707年、スコットランドの作家兼政治家アンドリュー・フレッチャーは「わたしに国の歌を作らせればよい。法律は誰が作るかは問題ではない」と述べました。

法律を作るよりも歌を作ることが意味がないと思われるかもしれませんが、歌は通常、法律よりも長く社会に残ります。また、歌は各種革命で重要な役割を果たしており、その価値観は人から人へと伝えられてきました。これは単なる音楽やプログラミングの話ではなく、歌が持つ影響力を活用して社会的変化を引き起こすことの重要性についての議論です。これは、ドネラ・メドウズらが『世界はシステムで動く』で論じたような、システム思考の重要性を反映しています。

ここで「人工知能」という概念の問題点が浮かび上がります。その問題は、他の複雑な適応システムとの相互作用を無視し、独立した形態、目標、方法論を提案している点にあります。私たちは、人間対機械という二元的な考え方ではなく、人間とシステムを統合する形でのアプローチを探求するべきです。つまり、単なる人工知能ではなく「拡張知能」を目指すべきであり、システムを単に制御、設計、理解するだけでなく、より複雑なシステムの認識力を持ち、堅牢で責任ある要素として機能するシステムを設計することが重要です。さらに、システムの設計者である私たち自身も、システムの一部として、より慎ましいアプローチを目指し、自己の目標と感性を問い直し、適応させる必要があります。ここでは操作することよりも、慎重な取り組みが求められます。

これを「参加型デザイン」と呼びます。これは、参加者としての参加者によるシステム設計であり、単なる成長や力の拡大ではなく、活力と健康を増進させる「繁栄の関数」に似たアプローチです。システムがどれだけ創造的に適応する能力を持っているかを評価し、システムの回復力やリソースを独創的に利用する能力も評価することができます。

優れた介入を行うためには、問題解決や最適化を超えて、環境と時代に適した感性を育むことが重要です。このアプローチはアルゴリズムよりも音楽に似ています。音楽では感性やセンスが重要であり、多くの要素が一種の創発的秩序にまとまります。楽器の編成や演奏方法によって、システムが適応し、プログラムされていない形で動作することを促すことができますが、それでも整合性を保つことが可能です。音楽を介入手段として利用することは新しいアイデアではありません。1707年にスコットランドの作家兼政治家アンドリュー・フレッチャーが「私に国の歌を作らせれば良い。法律は誰が作ろうと私には関係ない」と述べたように、歌はしばしば法律よりも長く社会に残り、各種の革命で重要な役割を果たしてきました。その価値観は人から人へと伝えられています。これは音楽やプログラミングの話ではなく、歌が作用するレベルで活動することにより社会的変化を引き起こすことの重要性についての議論です。これは、ドネラ・メドウズが『世界はシステムで動く』で論じたシステム思考の重要性を反映しています。

ノーバート・ウィーナーは進歩の崇拝について警鐘を鳴らしました。彼は次のように述べています：

「進歩を倫理的原理として信奉する者は、この限りない準自発的な変化プロセスを肯定的に捉え、この世がいつか天国のようになると後世に保証できる根拠と見なしています。進歩という事実を信じることは可能ですが、多くのアメリカ人にとって、進歩という倫理的原理と事実は一体のものとされています。」

「持続可能性」という概念に関しても、今でも「大きい方が良い」と考える傾向があります。あるものが必要以上に存在する状態が、過剰で問題を引き起こすマイナスの状態であるという理解が不足しています。これに対して、適合度関数（fitness functions）の価値と通貨を再評価し、私たちが参加するシステムにとって適切かつふさわしいものであるかを検討することが求められています。

この視点からすると、システムや社会に対するアプローチを見直す必要があります。単に進歩や成長を追求するのではなく、それが私たちの生活や環境にどのような影響を与えるかを考慮に入れ、持続可能な方法で価値を生み出すことが重要です。進歩は技術的な成果の増大だけでなく、生活の質や社会的公正、環境の健全性を向上させる方向で評価されるべきです。

ウィーナーの示唆に注意を払いながら、私たち自身がシステムの一部としてどのように行動するか、またその行動が大きなシステムの健康にどのように寄与するかを自覚することが求められています。これは、単に問題を「解決」するのではなく、適切なバランスと調和を目指すことに他なりません。

結論：繁栄の文化
「繁栄」という概念は、エリザベス・アンスコムが1958年に発表したエッセー以来、特に重要な意味を持つようになりました。繁栄を特徴とする感性と文化を創り上げるためには、「成功」についての多様な指標を受け入れ、権力とリソースを蓄積することよりも、経験の多様性と豊かさが重要です。これこそが、私たち人類が必要としているパラダイムシフトです。この多様性は、非常に適応性の高い社会を創造するために必要な、技術や文化のパターンを豊かにしてくれます。また、システムの要素がお互いを養いながら、単一通貨に依存する単一文化が生み出す搾取や収奪のエートスを排除する助けとなります。この新しい文化は音楽、ファッション、スピリチュアル性などの芸術形態を通じて広がる可能性が高いです。

日本で中学生たちに環境問題について尋ねたところ、彼らが幸福や自然の中での人間の役割について質問を返してきたことは、非常に勇気づけられる体験でした。同様に、MITメディアラボでの「意識の原理」という講義を共同で教える過程で、学生たちが成功や意味を測るために様々な指標（通貨）を使って、この複雑な世界での自分たちの居場所を探す難しい課題に正面から取り組んでいる姿にも励まされます。

さらに、IEEEのような組織が人工知能開発の設計ガイドラインを経済的影響ではなく人間の福祉を中心に構築し始めていること、また、Conservation Internationalのピーター・セリグマン、クリストファー・フィラルディ、マルガリータ・モラが行っている自然保護活動が原住民が繁栄できるように支援している点も非常に鼓舞されます。そして、伊勢神宮の神官たちが過去1300年にわたり、自然の再生と循環性を祝い、20年ごとに植樹し神殿を建て替え続ける儀式も、持続可能な文化の素晴らしい例です。

これらの事例から、私たちがどのようにして繁栄の文化を築き上げ、持続可能な未来を実現するかのヒントを得ることができます。私たちは成功を多次元的に捉え、経験の豊かさと多様性を重視することで、より良い社会を構築するための新たな道を切り開くことが求められています。

1960年代と70年代のヒッピー運動は「ホールアース（全地球）」というコンセプトで、地球規模での統合と調和を目指していました。しかし、その理想は一時的なものに終わり、世界は今日の消費文化へと回帰してしまいました。私は新たな覚醒が起こり、文化的変革を通じて人々の行動に非線形の変化を引き起こす新しい感性が現れることを期待しており、またそう信じています。システムのあらゆる層で、より回復力のある世界を創り出すための活動を続けることは可能ですが、特に文化の層が、我々が自滅の道をやめるための根本的な是正につながる潜在力を持っていると考えます。

この変革を実現するのは、歴史が示すように、新しい感性を反映し増幅する若者たちの音楽や芸術によってです。その感性とは、貪欲さを拒否し、「十分すぎるのは多すぎる」という認識を持つことで、自然を支配するのではなく自然と調和して繁栄することです。

この新しい感性の浸透は、個々人が環境に与える影響を深く考え、持続可能な生活を選択することから始まります。これは、資源の使用を抑え、再生可能な素材を利用し、地域社会との連携を重視する生活様式を採用することを意味します。また、教育の場でも、単に知識を伝えるだけでなく、持続可能な未来を築くための価値観やスキルを育成することが求められます。

最終的には、この文化的変革が社会全体に波及し、政策の形成、企業の戦略、そして日常生活の選択に影響を与えることで、真の持続可能な繁栄を目指す社会が形成されることを目指しています。このような社会では、経済成長だけでなく、人々の幸福と地球の健康が平等に重視されるのです。

#還元主義に挑む
#持続可能な未来
#文化的変革
#ChallengeReductionism
#SustainableFuture
#CulturalTransformation