今回はAIと直感について話しましょう。

AI時代の到来

レーニンは言った:「時には何十年も何も起こらないが、時には数週間で何十年ものことが起こる。」

2022年の終わりから、まるで別世界にいるかのような感覚に陥っています。AIの急速な進歩に我々は驚かされ、我々のいくつかの概念が大きく変わりました。今、我々はいくつかの問題について、以前よりも明確に考えることができるようになったかもしれません。私は、このAI革命が我々にもたらした三つの教訓があると感じており、同時に二つの展望も持っています……この話ではまず最初の教訓について述べます:直感は論理よりも優れている。

AIの本質：直感

まず基本的な認識から始めましょう。一体全体AIとは何なのか？私の見解では ―

AI = 経験に基づき、直感を使って、予測を行う。

過去の経験データを用いてモデルを訓練します。このモデルは入力と出力のみを気にします。訓練が完了した後、新しい入力を与えると、それはかなり良い出力を提供します。これを予測と見なすことができます。どのようにしてこの入力からその出力を計算したのかをモデルに尋ねると、答えは「どうやってかは言えない、それは直感だ」となります。

2022年に発表された研究では、DeepMindの科学者たちが物理学者にとっては少し落胆するようなことを成し遂げました:AIを用いて制御された核融合装置内のプラズマの形状を制御しました。

以下の装置は磁気拘束核融合を行うためのもので、トカマクと呼ばれています。これはドーナツの形をしています。ドーナツの中に描かれた淡い黄色のガスは、核融合に参加するプラズマです。ドーナツの外側に囲むように配置された黄色のコイルに電流を流すと、ドーナツの内部に磁場が発生し、この磁場がプラズマを空中で保持し、ガスが壁にぶつからないようにします。

あなたの任務は、これらのコイルを制御して磁場を調整し、プラズマに理想的な形状を与えることです。しかし、どうやって制御するのでしょうか？

コイルのパラメータからプラズマの形状まで、非常に複雑な計算が介在します。以前は物理学者が直接実験を行うか、物理学の基本原理から出発して正直に数値シミュレーションを行うかのどちらかでした ― そしてこれらの方法は、与えられたコイルのパラメータで形状がどうなるかを求めるものでした。

しかし、本当に欲しいのは、特定のプラズマの形状を指定し、どのようなコイルのパラメータが必要かを教えてほしいということです。パラメータから形状への「正の推論」がそれほど難しいのであれば、「逆の推論」はさらに難しくなります。

しかし、DeepMindは強化学習の方法を用いて、逆推論の問題を解決しました。彼らはAIを使ってコイルを非常に正確に操作できるようになり、どのような形状を望むかを指定すると、その形状を提供できます。この仕事は非常に素晴らしく、実際の実験で証明されています。

……私がこれほど多くを語ったのは、DeepMindの論文の一節を引用するためだけです:

「強化学習のアプローチは……何を実現すべきかに焦点を移し、どのように実現するかではない。」

この言葉はどれほど力強いのでしょうか。その意味は、何を望むかだけを言えば良い、どのように得られるかを問わなくても良いということです。

AIにとって、入力と出力のみを気にすることが必要です。

AIのこのようなやり方は非常に神秘的に聞こえますが、実はこれが世界で最も自然な思考方法です。なぜなら、これは人間の脳を含む、あらゆる生物の感知方法だからです。このシリーズで以前使用したこの図に戻りましょう ―

この世界は秩序があり、理にかなっており、何も理由もなく起こることはありません。そのため、私たちはウルフラムの哲学を採用し、世界のあらゆる進化と運動 ― 星が恒星の周りを回ること、草木の成長、石が高いところから落ちることなど ― を計算と見なすことができます。そして、私たち人間が世界を理解し、予測するためには、実際の世界の計算結果を事前に知るための、より単純で迅速な計算を通じて行わなければなりません。

神経回路計算

そのために、私たちは二つの計算方法を使用しています。一つは神経回路、もう一つは形式論理です。

形式論理とは、問題を数学的な問題に変換して推論することです。方程式を書き下し、その中の各パラメータには特定の意味があり、各推論ステップには明確な因果関係があり、なぜそのような中間ステップを踏むのかを非常に明確に理解している、というものです。形式論理は人類の偉大な発明であり、啓蒙時代以来、問題を分析する唯一の正統的な方法です。私たちのすべての科学理論は、形式論理に基づいています。任意の問題、任意の操作を形式論理で明確に表現できれば、それが真に「理解している」ということになります。形式論理は「理性」を代表します。

最も単純な加算減算から最も複雑なコンピュータプログラムや物理学者の数値シミュレーションに至るまで、通常「計算」と呼ばれるものはすべて形式論理です。形式論理では、特定のルールに厳密に従って操作する必要があり、これは人間の脳にとって実はかなりの労力です。これが、私たちがコンピュータを発明し、形式論理のアルゴリズムを代行させた理由です。

人間が本来得意としていた、生まれながらにしてできる計算は、実際には神経計算です。脳から身体に至るまで、人体はいくつかの神経回路で構成されており、これらはさまざまな感覚を提供します。神経計算とは、これらの感覚のプロセスです。あなたが空腹を感じたり、友人の顔を認識したり、蛇を恐れたりするのは、身体や外部の信号の一連の解釈であり、この解釈プロセスが神経計算です。神経計算には述べられる規則はなく、自分でそれをいくつかの中間ステップに分解することはできず、どのようなパラメータが関与しているのかも明確にすることはできませんが、それでも直感的に感じることができ、それは迅速です。これは形式論理とはまったく異なる計算路線であり、私たちが通常それを計算と呼ばない理由です。

神経回路計算と形式論理の間には交差点があります。これは、人間の脳もいくつかの単純な数学問題を解くことができるからです...しかし、数学の問題を解くことは私たちが最も得意とすることではありません。私たちがより得意とするのは、神経ネットワークを使って複雑なものを直接感知することです。

たとえば、猫を見たときにそれが猫であることを知る能力は、ごく普通に見えますが、実際には形式論理で記述するのがほぼ不可能です。この物体のどのパラメータがそれが猫であることを示しているのでしょうか？方程式はありません。

あなたはただ、「私は以前にいくつかの猫を見たことがあり、猫がどのようなものかを知っているので、猫を見たときにそれが猫であることを知っている」と言うことしかできません。

このような言葉にできない神経感知こそが、AIが行っていることです。AIの本質は、人間の脳と同じような神経計算です。

各AIにはモデルがあり、このモデルは神経回路であり、数百万から数千億のパラメータを持っています。既知の経験でAIを訓練するとき、各ケースが来るたびに、入力から出力へのフィードバックがこれらのパラメータを一度に更新しますが、各更新の幅は非常に小さいです。訓練中にこのケースがこのパラメータの数値をわずかに増減させる理由を説明することはできず、訓練が完了した後も各パラメータの意味を説明することはできません。そして、AIを使用するとき、それぞれの予測推論は、無数のパラメータが共同で参加するプロセスです。

これは、大脳が問題を考えるたびに無数の神経細胞が共同で参加するプロセスと同じです。このプロセスが言葉にできないのは、参加するパラメータがあまりにも多いためであり、それが何か内在的な神秘性を持っているわけではありません。

多くの人々がAIをブラックボックスと不平を言います。入力から直接出力が生成され、その間に何が起こったのかを説明することができません...しかし、人間の脳もブラックボックスではありませんか？

あなたは運転中に慎重にハンドルの角度を計算しますか？バスケットボールをするときに、シュートの力を公式で記述しますか？これらの判断は実際にはすべて神経ネットワークの感知です。あなたが歩くとき、あるいは手で物をつかもうとするとき、あなたは言葉にできない感覚に基づいて適当な動作をします。これは私たちが日常的に知らず知らずのうちに使用している神経計算です。ましてや、芸術家の美的感覚やインスピレーションも同様です。

しかし、時には神経回路計算が私たちを驚かせることがあります。たとえば、盗賊をよく捕まえるベテランの警察官が、駅にふらっと立ち寄り、ふたりを見ただけで、誰が盗賊である可能性があるかを知ることができます。人々は彼に尋ねます、「どうやってそれを見分けたのですか？私には見分けることができません。あなたの直感は本当に不思議です！」警察官は言います、「特に理由はありません、ただ慣れただけです:私はただ多くを見てきただけです」― 彼の神経ネットワークは盗賊を捕まえることに多くの訓練を受けているのに対し、あなたは受けていません。

直感が論理よりも優れる

これに対して、マサチューセッツ工科大学は2020年にAIを使用して6万以上の化学分子式から新しい抗生物質を見つけ出しましたが、警察官が盗賊を捕まえるのと本質的に違いはありません。AIは単に訓練中に多くの分子式を見てきただけです。

どうしても違いを言うなら、AIと人間の脳の違いは、人間の脳は私たちが進化の過程で慣れ親しんだものを訓練に使うのに適しているのに対し、AIの神経ネットワークは分子式、遺伝子配列、磁場コイルのパラメータなど、何でも訓練に使うことができることにあります。

このシリーズの最初の記事で、キッシンジャーらがAIに対して賞賛したことを紹介しました。彼らは、AIのすごさはそれが「人間のようである」ことにあるのではなく ― つまり、人間のようなことができるという意味で ― それが人間ではない、つまり、人間が理性で認識できない、または感じ取ることができない規則を感知できるところにあると言いました...私たちは、これが啓蒙時代以来の大きな変化であると言いました。

今振り返ってみると、AIが*人間のようだという表現がより正確だと思います。AIの感知方法は人間の感知方法と全く同じであり、ただ範囲が広く、速度が速く、無限にアップグレード可能なだけです。

AIは人間よりも人間らしい。

そう言えば、啓蒙時代以来の形式論理方法の普及、学者たちによる「理性」の称賛は、長い知能進化の歴史の中で一時的なエピソードに過ぎなかったのかもしれません。入力から直接出力を感知する神経ネットワークを使用することが、より根本的で、より普遍的で、より強力な知能です。AIの出現は、知能をその本質に戻すものに過ぎません。

私たちは認識しました。形式論理は、単純で、パラメータが少なく、できれば線形の問題を解決するためにのみ使用できます。特定の形状のプラズマを得るために磁場コイルをどのように制御するかのような、実世界に満ちている複雑で、パラメータが多く、非線形の問題に対しては、結局のところ神経計算に頼らざるを得ません。

したがって、私たちが得た最初の教訓は、直感が論理よりも優れているということです。

社会への影響

AIがこれから大流行し、神経計算が各分野で形式論理を置き換えるようになれば、これは社会に深い影響を与えるでしょう。重要なのは、形式論理で記述された知識は一歩一歩書き留めることができ、理解されることを意味し、それは伝播可能で普及可能であるということです。この医師が新しい治療法を発明し、他の医師が彼の論文を読み、操作手順を確認すれば、直ちに現地で再現することができます。これが知識の学習です。

しかし、神経計算は普及が困難です。このAIが新しい抗生物質を発見したとして、それはどのようにしてそれを成し遂げたのですか？私はあなたの操作手順を使用して消炎剤を発見することができますか？できません、なぜならAIはそれがどのようにして発見したのかを説明することができず、言葉で説明できる操作手順はありません。唯一の方法は、消炎剤のケースを使用して新しいAIを再訓練することです。

これは、GPTのような言語モデルを除き、すべての専用AIが「一事一議」であり、ローカルであり、各具体的なアプリケーションに特化して訓練されることを意味します。アメリカのデータで訓練された自動運転AIを直接中国で使用することはできず、このトカマク装置を操作するAIは別の装置を操作することはできません。

そしてこれは、世界に無数のAIが存在することを意味します。それらは具体的なタスクのために生まれ、異なる特性を持ち、まるで一つ一つが生命体のようです。そして、それらは千篇一律の労働者ではなく、それぞれに性格を持つ職人のようなものです。

あなたはその仕事がどのように行われたのかを尋ねる必要はありませんが、誰がそれを行ったのかを尋ねるでしょう。各AIは異なり、同じことを行っていても、訓練の経験が異なるため、それぞれの成果も異なります。彼らは自分たちの作品にサインをします。

世界は工業複製の時代から職人のカスタマイズの時代に戻ります。AIは伝説の神奇な中国の医師のように、それぞれの患者に異なる治療計画を提供し、全て感覚に基づいて治療し、それぞれに独自のスタイルがあります。

そのような世界は、本来私たちが知っている世界です。