見出し画像

SF作家のヴィジョンは予言か、それとも妄言か。5月26日発売『そろそろ、人工知能の真実を話そう』を予習しよう

ジャン=ガブリエル・ガナシア『そろそろ、人工知能の真実を話そう』より、本書のキーワードである「シンギュラリティ(技術的特異点)」という概念の来歴について解説した箇所を先行掲載いたします。はたして、シンギュラリティ=AIが人類の理解を超える時点は訪れるのでしょうか? 今回の抜粋の最後では、この問いに対する著者の立場が垣間見えます。

***
第二章 技術的特異点(シンギュラリティ)

最初のシナリオ

今、科学者たちの間にある考えが広まっている。すなわち、未来の大転換は、未知の天体の地球への衝突、大規模な気候変動、大気汚染、酸性雨、オゾンホール、温室効果によってもたらされるものではない。また、国家と人類の文明を容赦なく消滅させる核戦争によってもたらされるものでもない。それは、ごく自然に、日々確実に数を増やす機械によってもたらされる。こうして普及することで、機械は自らを製造し、成長をして、最後はわれわれを飲み込んでしまうのである。それはなんの前触れもなく始まるだろう。すべてが円滑に進み、あと戻りはできない。きっとすぐには理解できないはずだ。事態はだんだんと加速して、ある時突然、暴走が起こる。世界が変わり、人間が変わる。自然も、生活も、意識も、時間さえも、まったくの別物になってしまうのだ──

この変化こそが、技術的特異点(シンギュラリティ)と呼ばれるものである。シンギュラリティについては、すでに多くの不安の声が上がっているが、その危険性や重要性について検討する前に、この言葉の起源について概観しておこう。

最初のシナリオはSF小説だった。1980年代に、アメリカのSF作家、ヴァーナー・ヴィンジの小説によって、シンギュラリティという言葉が広く世の中に普及したのである。さらには、1993年に発表された「来たるべきシンギュラリティ」というエッセイの中で、シンギュラリティは理論化されることとなった。ヴィンジはこのエッセイの中で以下のような予測をしている。30年以内に、情報技術の進歩によって、機械は人知を凌ぐ超越的な知性を獲得するだろう。その結果、自然界における人間の位置づけや序列や自律性は大きく変化することになる。人間は、機械と結合することによって、自らの知性や認識能力(論理、記憶、知覚)や寿命を大幅に増大させるだろう。その時、人間は生命とテクノロジーが融合したサイバネティック生物、いわばサイボーグになる。それによって、情報技術の進歩の驚異的な加速化が引き起こされる。そして、情報技術があまりに拡大しすぎた結果として、知識の生産システムが急激に変容することになり、もはや、人間の理解力では把握できない段階にまで至ってしまうのだ。ヴィンジはこのエッセイにおいて、こうした出来事が、1993年から2023年までの30年の間に生じるとしている。

ところで、機械が人間の手から自由になり、自律することによって、機械に与えられていた限界を超えて際限なく増加していくということを想像したのは、ヴァーナー・ヴィンジが最初ではなかった。1962年、「最初の超知的機械に関する思索」という会議が開催される。この会議には、第二次世界大戦中に数学者アラン・チューリングと共同研究をしたことで有名なイギリスの統計学者、アーヴィング・ジョン・グッドが参加していた。彼はこの会議ですでに「知能爆発」の可能性について論じている。すなわち、「超越的な知能」を獲得した機械が自らの複製を生み出し、自らを改善し、世代を経るにしたがってより知的になることで、知能が爆発的な発展を遂げるというのである。

また、ポーランド人数学者のスタニスワフ・ウラムは、1950年代以降、テクノロジーの進歩が急激に加速したことによって、数学的特異点という大波乱が生じる可能性があると指摘している。1956年、大作家アイザック・アシモフは、こうしたウラムの考えに感化されて、自身の最高傑作のひとつ、「最後の質問」という短篇小説を発表した。この小説には地球規模の超巨大コンピュータが登場するのだが、コンピュータは熱力学の第二法則を覆し、ついにエントロピーを減少させてしまう。

さて、ヴァーナー・ヴィンジは、ハンガリー出身の数学者ジョン・フォン・ノイマンの考えから多大な影響を受けている。フォン・ノイマンは、機械の性能が急激に上昇することによって、テクノロジーの発展が行きつくかもしれない局面を説明するために、数学的な意味で理解されていた「特異点」という単語を用いた。ただし、フォン・ノイマンは、「人知を凌ぐ超越的な」知性への到達には言及しなかった。ヴィンジは、まさに、そうした技術の到達点こそが、いわゆる技術的特異点(シンギュラリティ)の本質を表わしていると述べている。さらにヴィンジは、この急激に生じた断絶の後、「ポスト特異点」という新しい時代に入ると主張している。その時、人間の時代は終焉を迎え、ポストヒューマンの時代が訪れるのである。そして、人間のうち、機械をその身に備えた者だけが生き残ることができるのだ。

ここで注意しておきたいのは、ヴァーナー・ヴィンジが科学教育を受けており、SF作家として活動するのと同時に、カリフォルニアのサンディエゴ大学において数学と情報処理学の教授でもあったということである。1960年代の半ば頃に書かれた初期の作品は、人工的に増大した知性の限界を題材にしていた。ヴィンジはその後すぐに想像するようになる。機械の計算能力の向上は、驚くほどの処理容量の増加となって現われ、さらには性能のあくなき自己改良につながるだろう。そして、コンピュータの自己改良には終わりがないので、コンピュータの知能が、人間の理解力を超越する水準にまで達する時が訪れるだろう、と。ヴィンジのこうした考えは、ジョン・フォン・ノイマンの直観だけでなく、ムーアの法則にも依拠している(図1)。

ムーアの法則によれば、機械の性能は急激な勢いで上昇するのだという。これは、インテルの創設者のひとりであるゴードン・ムーアが1965年に発表したものだ。この法則によると、1959年以来、マイクロプロセッサのトランジスタ数は18カ月から24カ月ごとに倍増していくらしい。実際、今日に至るまで、情報をストックする能力とプロセッサの計算速度は急激な勢いで増加を続けている。少なくとも、24カ月ごとに倍増していることは法則として立証されているのがわかる。しかし、近年のさまざまな兆候を見ていると、この増加速度は停滞する傾向を示している。そうなれば、ムーアの法則はまもなく有効性を失うことになるだろう。

こうして法則を観察することは、シンギュラリティを判断するのに大いに役立つ。ということで、われわれは断言しよう。数学や情報処理学の知識があっても、ムーアの法則をよりどころにしていても、シンギュラリティに関する1980年代のヴァーナー・ヴィンジによる最初の仮説は、科学的ではなかった、と。

***

著者がシンギュラリティ仮説を「科学的に怪しい」とする詳しい根拠は、『そろそろ、人工知能の真実を話そう』本編にてぜひお確かめください。

★★★★著者来日決定★★★★
入場無料フォーラムの詳細はこちら


みんなにも読んでほしいですか?

オススメした記事はフォロワーのタイムラインに表示されます!