私は、Neo-Cyberneticsのコミュニティに参加し、これまでに記事に書いてきた内容がサイバネティクスの考え方と共鳴しているということを知りました。

サイバネティクスは、フィードバックループや自己組織化といった制御や複雑系に関わるシステム的な現象を解明していく学問的な分野です。個々の物事が影響を与え合いながら時間が進行すると、全体としてどのようなことが起きるか、という視点で考えるという特徴を持っています。

Neo-Cyberneticsのコミュニティの発起人であるDaniele Nanniさんの最新の記事によると、サイバネティクスは科学の中であまりメジャーな分野とは言えないようです。Wikipediaをざっと読んだところ、そのブームも盛り上がりを見せては落ち着きを見せるという事を繰り返してきたようです。

しかし、私はサイバネティクスは真にメジャーな位置になるべきであるし、その時代的な要請も強まっていると考えています。それと同時に、サイバネティクスにはその難しさと普及を阻む壁がありますが、それを克服するための風が吹き始めていると考えています。その風は、自然言語を扱えるようになった人工知能です。

この記事では、サイバネティクスの重要性と、Neo-Cybernetics運動の精神の私なりの解釈について述べていきます。そして、人工知能とサイバネティクスが、より良い世界に向かう風と帆になるという社会構想を描いていこうと思います。

■科学技術のオーバードーズ

現代は科学技術は必要な度合いを超えて進化しつつあり、一方で社会的な直接の要求とは離れていき、科学技術は科学技術のために進化しているように見えます。もちろん、純粋科学を探求することはどんな時代でも必要ですが、そこから生まれる科学技術が、社会の要件とのギャップを埋めることができないどころか、ますます広げている事は、あるべき姿とは思えません。

特に、科学者や技術者の中からも、社会的な影響の大きさや人類の実存リスクへの言及もなされているような人工知能やバイオテクノロジが、このまま社会とのギャップを無視して研究開発されていく様子は、体に良いとうそぶきながら、毎晩、体を壊すほどの酒を飲む人のように私には思えます。

多少のアルコールは体に良いのかもしれませんし、暗い気分を良くしてくれるでしょう。しかし、それはオーバードーズ（過剰服用）の言い訳にはなりません。体の限界を超えて摂取することに合理的な理由はありません。科学技術の進歩も私には同じ姿に見えます。適度な量というものがあるはずです。どのくらいがオーバードーズなのかは、体を壊してから知っても手遅れです。私たちは、もっと理性的になるべきです。

アルコールが体に支障がない限りは、完全に止める必要はありません。少しずつ、体の方も慣れていくため、少しずつ量を増やすことはできるのかもしれません。しかし、体が明らかに異常が出れば、ドクターストップが必要になります。科学技術も同じです。科学技術の探求を続けたいのであれば、適量を見極めて自制する理性を持たなければ、やがて研究ができなくなる可能性があります。

■サイバネティクスの重要性

Neo-Cyberneticsが目指すサイバネティクスは、まさにこの点に立脚します。従来の科学が社会との接点を気にせずオーバードーズする危険を内包しているのに対し、Neo-Cyberneticsは社会の視点、倫理の視点、そして社会およびサイバネティクスを含む科学という全体についてのガバナンス（統治）を、内包します。

ガバナンスは支配という事ではありません。社会が自分自身で自らを律したり方向付けをする仕組みです。小さな組織であればお互いに注意事項を守り運営する方法で済みますし、大人数を要する社会では政府や政府機関が必要になりますが、そのあり方を決めるのも内容を決めるのも、民主主義においては社会の参加者の総意です。

サイバネティクスは、フィードバックループを持つ制御や、複雑系の中で自己組織化、生物のような自己調整などの、システムの動作を研究対象とします。その先には、知能のように予測や意志決定、組織や社会のようにガバナンスが待っています。さらに、現在の社会のガバナンスが技術進化の質的な変化のスピードに追い付けていないと仮定するならば、その未来のガバナンスの在り方まで、サイバネティクスの射程に入れる必要があるでしょう。

■科学者や技術者のリテラシ

そして、Neo-Cybernetics運動は、このサイバネティクスの科学的な理論を、科学者や技術者のリテラシとして広げることを、その目標にすることになるのでしょう。

科学者や技術者にとって、数学が当たり前の知識であるように、科学技術が様々な現存するシステムに与える影響も当たり前に想起されるようにする必要があります。そうしなければ、新しい科学技術を世間に公表したり、その技術を社会実装することの意味が直感できず、社会を破壊するガンのような取り返しのつかないものを、無邪気に社会にばら撒いてしまう時がくるかもしれないからです。

■社会人のリテラシ

そして同時に、サイバネティクスの知見から得られた基本的な考え方を、社会の運営者のリテラシとして広げることも、目標にすることになるのでしょう。社会の運営者とは、社会で活動をしている人たち、即ちすべての人です。大人はもちろんですが、その準備期間である子供たちにも少しずつ把握してもらう必要があります。

母国語その他のコミュニケーション手段を多くの人が当たり前に使うことと同じように、自分が社会の運営に対して行う労働や消費活動、そして意見表明や投票行為が、社会にどのような影響を与え、ひいてはそれが自分や自分の周りの人、そして未来の自分たちにどのように返ってくるのかを、当たり前に想起できるようにする必要があります。

そうしなければ、真剣に自分たちの得になると思い込んで、危険な科学技術の開発を後押しするような活動や言動をしてしまい、気がついたら誰も危機の対処ができず、後戻りもできない地点まで、社会を押し進めてしまう危険があります。まるで、大量のアルコールが本当に体に良いと誤解しながらオーバードーズしてしまう人のように、自らの意志で社会を破壊する恐れがあるのです。

それを防ぐためには、科学技術の進歩にも適正分量が存在することと、それを越えないように調整する必要がある事を、科学技術に携わる人だけでなく、それを要請し摂取する人たちも、理解していなければなりません。

もし、社会の多くの人が、オーバードーズを意識せずに、お金や承認を科学技術者に与えてしまうようであれば、一部の科学技術者が金銭欲や承認欲求に従って過剰な科学技術を開発し、社会に広げてしまうでしょう。

■サイバネティクスの難しさ

サイバネティクスは理論的に難解な面ももちろんありますが、正しく理論を体系立てて教材を充実させれば、基礎の部分はそれほど極端に難しいものではないと思います。その理由は、基礎的なフィードバックループや、自己組織化という現象自体は、私たちの日常でも観察したり、ワークショップ的に自分たちで体感的に理解することもできるものだからです。

サイバネティクスの真の難しさは、その実践や社会実装のコストにあります。ここで言うコストは、金銭面だけでなく、労力や費やす時間も含みます。

一般的な科学技術は、その理論を突き詰めていき、そこから大きな何かを発明すると、それを基礎技術として広く様々な場所や分野に応用することが可能です。技術者やメーカーが一つの製品を設計して、それを工場で大量生産すれば、誰もがそれを使って便利さや豊かさを享受できるようになります。冷蔵庫やテレビや車のような製品、スマホのようなデバイス、SNSのようなサービスなどを思い浮かべると分かりやすいと思います。

サイバネティクスの理論は、その一部はもちろん製品やサービスに組み込むことが可能です。しかし、真のターゲットは、家事や余暇や社会活動を含む個々人の生活や、会社や地域社会やその他のコミュニティを含む社会的な集団活動です。それらは個々に固有の性質や文化や振る舞いを持っている、システムを形成しています。そうしたものを対象とするサイバネティクスは、その実践において、個々の生活や活動にフィットするような形とすることが理想です。

いくら理論が確立できても、その実践の場が無数にあり、一つ一つにフィットするように高度な調整が必要だとすれば、他の科学技術のように社会に広く便益をもたらすことはコスト的に難しいという事になります。

また、もう一つの大きなターゲットとして、自治体や政府、国際社会のガバナンスがあります。この分野にサイバネティクスの知見に基づいた実装を試みる時にも、実現コストの問題が出てきます。理想は、意志決定をする主体が、取り得る選択肢の影響範囲と影響度合いを理解し、その上で意志決定をすることです。

しかし、民主主義国家における主権者である個々人が、選択肢の影響を正しく理解して投票できるようにすることには、困難を伴います。そこに、社会コミュニケーションが必要になりますし、問題によっては科学コミュニケーションも必要です。これらの知識を多くの人に知ってもらい、正しく判断してもらうのは、個々人の時間も含めた多くの社会コストがかかる事になります。

■AI時代の頭脳労働

サイバネティクスの実践に関わる社会的コストの問題は、社会も組織も個人もコスト合理性を求め、多くの人が労働や成長や余暇に時間を使って忙しくしている現代では、解決の難しい問題に思えます。その観点では、サイバネティクスの理想は、単なる空想に思えるかもしれません。

しかし、少し風向きに変化が来ています。ChatGPTのような、自然言語を使える人工知能の登場です。

2023年10月現在の時点では、その技術的なポテンシャルと今後の応用の広がりへの期待は大きいものの、まだその影響範囲が見定められてはいない状況です。しかし、それは現在のAI技術レベルだけの話です。これから先、この分野の技術は成長していくことは間違いありませんし、おそらく５年から１０年のうちには、また驚くようなイノベーションがあり、より人間のできることに近いことができるAIが登場するでしょう。

これを繰り返せば、現代的な知的労働の殆どは、AIに任せる方がコスト効率が良いという時代が、やがて現実にやってくるでしょう。例えば、1人の人間を雇用する年収で、世界トップレベルの大学の首席卒業者よりも成績の良いAIを10個分、24時間365日運用できるような時代になったら、オフィスに座って現代的な仕事をするための人間を今と同じくらいの人数雇う事は無いでしょう。

そのような時代が到来するのであれば、その過程や到達後において、オフィスワーカーや電話応対をする現代的な労働は、人間ではなくAIが実施するはずです。その分、頭脳労働者の数が余ります。その余剰労働は、サイバネティクスの実践の場である個々の生活や組織における、きめ細かな検討と意思決定の場へ向けさせることができます。そうした個々の場でも、AIが現代的な頭脳労働を担う事はできます。

■日常的な意志決定におけるAIとサイバネティクス

しかし、責任を伴う意志決定という部分においては、どうしても人間の責任者が必要になる場面が出てきます。これまでは効果の割に利益が出なかったために画一化されてしまい、きめ細かな対応が出来なかった生活やコミュニティや小さな組織の活動があったはずです。そうしたところへ、AIの知的活動能力に加えて、意志決定を担う事の出来る人間を配置することができるようになる未来を、想定することができます。

例えば、子供たちがケンカしているのを目撃したときに、どのように対処するでしょうか。一般的な答えは、AIが提示してくれるでしょう。しかし、その子たちの今後の関係性や、そこから学ぶ事、今後の精神の成長について、最適な唯一の答えはないでしょう。そこに責任を持つことは、親や周囲の大人の責任であり、AIは責任を担う事はできませんし、それを期待すべきではありません。過去の知恵についてAIからアドバイスをもらう事はあっても、子供たちに何をどう伝えるかは、人間が責任を引き受ける必要があります。

同じように、生活の中で、あるいは近所づきあいや友人関係、地域活動の中で、様々な唯一の正解のない問題は数多くあります。今までは、忙しくてじっくり考える時間もなく、画一的なルールやサービスで妥協していた物事は多くあるはずです。それを例えば全てコスト最適化すればよいなら、AIに任せればよいでしょう。しかし、伝統を守るか新しいことにチャレンジするか、便利さを優先するか美観を大切にするか、濃い人間関係を構築するかお互いの生活に踏み込まないようにするか、そういった問題は、１人１人が考えて選択することです。AIは、どちらを選ぶとどうなるかは教えてくれるかもしれませんが、どの価値を重視して決定し、その決定の結果として起きることを受け入れるのは、その個人やコミュニティです。

サイバネティクスのリテラシは、そうした意志決定に際して、様々な影響を考慮する能力となります。今までは過去の自分の失敗や成功の体験、感情や直感を頼りに考えていたことを、より包括的で多面的に考えるよう促します。それが全ての選択を最善にするわけではないでしょう。しかし、しっかりと自分のことを大切にしつつ、未来や社会や環境の事などもじっくりと考えて選択する人が増えれば、間違いなく、より良い世界に近づくでしょう。

■社会的な意志決定におけるAIとサイバネティクス

もう一つの、ガバナンスに対する主権者の意志決定のためのコストについても、AIが景色を変えます。これまで、選挙の争点や意志決定のために必要な情報を集めて、理解し、疑問を誰かに質問して納得する、というプロセスは大変に時間と知識を必要とするものでした。しかし、AIが登場することで、１人１人の知識背景や考え方のクセに合わせて、政策の背景や論点の説明、疑問点に対する理解しやすい回答などを、AIが担う事が出来るようになるはずです。そうすれば、主権者はより正しい理解に基づいた意志決定が行えるようになり、サイバネティクスが目指す意志決定の仕組みに近づきます。

この時に、AIが意志決定を誘導したり、あるいは主権者がAIに意志決定の影響を受けやすくなると、問題を引き起こします。あくまで人が意志決定の主体であり、AIからの情報や説明を客観的に受け止める能力が必要になります。その点でも、サイバネティクスの知見から得られた基礎知識を、主権者全員がリテラシとして持ち、真に自分の意志を発揮できる能力を身に着けることが前提となります。

■サイバネティクスに吹く風

こうした形で、サイバネティクスの実践に伴うコストの問題をAIが軽減し、やがては問題の解消にも至る事が出来るなら、サイバネティクスはその価値が認められ、社会に浸透するでしょう。

このような筋書き通りに上手く事が運ぶかは分かりません。さらに言えば、AIはその技術進化の度合いや社会実装を誤れば、取り返しのつかない問題を引き起こす諸刃の剣ですので、全面的に手放しに迎合することには慎重であるべきです。

しかし、少なくとも、これまでよりもこれからの時代が、サイバネティクスが社会に求められ、サイバネティクスがそれに応えることができる状況が揃いつつあります。

船の操縦を意味する言葉を語源とするサイバネティクスに、今、風が吹いているのです。

■さいごに

ただ風に吹かれていれば良いわけではありません。

舵と帆を適切に操作しなければ、嵐に向かって突き進んでしまうかもしれません。そうではなく、風を読んで水平線の向こうにある嵐を避けつつ、私たちが向かうべき方向を自分たちで決め、その方向に進めるように船を操舵する必要があります。

風が吹かなければ、操舵術だけでは前には進めません。追い風だけでなく、たとえ向かい風であっても、腕の良い船乗りは船を前に進めることができます。また、腕の良い船長は、危機においては船員や乗客の意見に惑わされることなく船が沈むことのないように最善の選択をしなければなりません。一方で、船が穏やかに進んでいる限りは、船員や乗客の意見を取りまとめて、皆の望みが少しでも適うような航路を選ぶでしょう。

サイバネティクスはそのための道具です。Neo-Cybernetics運動はこの船をより安全で、より良いものにするために、船長たち、船員たち、そして乗客が知っておくべきサイバネティクスの知識を整理してガイドラインやパンフレット、注意事項などのドキュメントにまとめて配布する活動に当たります。

そして、最も大切なことは、Neo-Cybernetics運動のコミュニティとそのメンバーも、この船に乗っているという事です。安全な陸地から客観的に眺めている立場ではありませんし、空の上から指示をする立場でもありません。船の上に乗って、風を直接感じ、自分自身が乗る船が沈まぬように細心の注意を払い、快適で心地よい旅をするために先を見通そうとする人たちです。

そして、自分たちだけでこの船を動かすことができないことも、また、そのようなことを目指すべきではないことを知っています。様々な乗船者とコミュニケーションを取って信頼関係を構築していく必要があるのです。

そういった精神が、この運動の中心には流れていると、私は感じています。