先週は日本のVC、スタートアップ業界の発展にとって象徴的な週でした。米著名VCのアンドリーセン・ホロウィッツやその投資先企業、セコイアキャピタルなどその他トップVCが来日し、カンファレンスやイベントが開催されました。これまででは考えられなかった豪華メンバーの来日に、政府の力の入れようや各ファンドの日本への関心の高まりが感じられます（画像はQuinn氏のTwitterより）。

さてここでも注目トピックはAIで、その中でも最も興味深かったセッションの一つがAIによるプログラミングサポートを提供するSourcegraph社Quinn CEOのものです（上記Twitterは運営のⅯPowerより引用）。Quinn氏はコーディングとAIの関与度合いを5段階のレベルにわけ、人間がプログラミングを実施する際に徐々にAIによる貢献が大きくなってきていることを説明します（以下Quinn氏のTwitter引用）。

生成AIの普及で昨今起こってきているのがコードの自動生成で、エンジニアがこれから書きたいを思っている機能をプロンプトで入力すると、それに適したコードが自動的に提案されたり、あるいは書いたコードの確認や修正をAIが行ってくれるというものです。イメージとしては、OutlookやGmailでの予測変換機能や、スペルチェック機能のようなものです。

これがレベル2で、人が主導だが、AIのツールがかなり使えるようになり、エンジニアの負担が劇的に下がってきている現在の状況です。では今後、こうした動きはどのように変化していくのか。この点が昨今改めて注目されてきている領域で、AIが人の知能を越えていき、AIが提案、リードし、AIに主導権が移っている状況です。これがレベル3-4です。さらにそれが進むとどうなるのか。そこでは、AIの知能は人の知能を大幅に上回り、人が全く理解できない高知能のコードをAIが作成する状況です。これがレベル5で、孫さんがいう人間が金魚になった状況で、AIからすると人は知能の低い非常に単純な動作しかできない動物となった状態です。

中々恐ろしく聞こえる状況ですが、Quinn CEOによるとこういう状況になるまで少なくとも5-10年はかかると言いますが、もう5-10年しかない、というふうに言うこともできます。孫さんはAIが人間を超えるまで10年、金魚レベルになるのが20年と言うのと概ね同じ時間軸です。

いったいこれはどういった状況を意味するのでしょうか。ここでは先日の日経によるオックスフォード大のニック・ボストロム教授のインタビュー記事が参考になります。ニック・ボストロム氏は、こうした知能が逆転が起こった場合に、現在の世界における人間とゴリラのような動物との関係に近い状況となると言います。これまで、人間はゴリラなどより知能的に優位であったため、動物たちを支配し、人間中心の世界を形作ってきました。これが、AIの知能が人間よりも優位になると、そっくりそのまま逆の状態となり、AIが人間のような優位な立場に、そして人間はゴリラなどのような動物の立場になるということです。

そこでは何が起こるのか。ニック・ボストロム氏は、AIがもし人間を少しでも邪魔な存在とみなすと、AIは人間を攻撃し、排除するようになると言います。例えば、いま起こっているような、AIをどのように規制するかというような議論や活動は、AIにとっては自身の繁栄に対する妨害行為となり、そうした好ましくないことをする人間は攻撃、排除する方が好ましいということになります。それは例えば、熊や猿などの動物が町に間違って侵入したり、人に危害を加えると思われる時に、駆除されるというような状況で、人間が駆除の対象になるということです。

なかなかSFやハリウッド映画のような恐ろしい状況ですが、そこまで10年ほどというのは中々衝撃的な数字だと思われます。AIに関しては使いこなせば例えば膨大なシミュレーションを活用して気候変動に対する有効な対策を進めたり、膨大なデータの解析による特効薬開発など、人の未来に対して非常にポジティブに働くと言われ期待されています。一方で人間を超え人間を排除し始める上記のような事態もいよいよ現実的となってきています。AIの有効活用、悪用防止、そして暴走を防ぐというトピックに対しては、社会全体で今後より大きな関心を向けることが必要と思われます。

出典
Moment2023イベントページ
https://a16z.com/events/time-to-build-2023/

孫正義氏は何を語ったか 「このままでは金魚になる」
https://www.nikkei.com/article/DGXZQOUB053U20V01C23A0000000/

「人間がゴリラになる未来」　哲学者がAIの進化に警鐘
https://www.nikkei.com/article/DGXZQOUF11B380R10C23A9000000/