ChatGPTが登場して以降、世界は大きな変化にさらされています。インターネットが一般に普及したときと同じくらいの影響力があり、その広がりは目まぐるしいものです。すでに数え切れないほどの便利なサービスが生まれており、期待もどんどん膨らんでいます。バブルのような状況も見られ、プロンプトエンジニアには高額な報酬が支払われるようになっています。

しかし、暗い影もちらついています。長期的に見ると、AIが自分で良質なプロンプトを考えるようになり、工夫や創作性すら人間には必要なくなるかもしれません。だとしたら人間の存在意義はなんなのでしょうか。AIの進化は人間の役割に深刻な影響を与えるという問題が提起され始めています。

このような状況は不安を煽り多くの注目を集めています。また、商売目的に人々の不安を利用する人たちも現れることでしょう。こうした状況は、AI技術の進展とその影響に対する理解がさらに重要であることを示しています。

もちろん、しばらくすれば熱狂も覚めて生き残った有用なサービスを使えるようになればいいだろうと考えるのも一つの考え方です。Microsoftから出るAI機能などはおそらく多くの人が便利なツールとして受け入れることでしょう。そこには何も不安を感じる必要はないのかもしれません。

もう一つのアプローチとして、AIの危険性を真剣に検討し警鐘を鳴らす人々がいます。後述するようにそこにはいろいろな理由や動機があるのですが、彼らはなぜそのように考えるのでしょうか。有名な研究者が名を連ねてGPTの開発を止めるように主張しています。

しかし、突き詰めて考えると素朴な疑問が残ります。それは「人間が作ったソフトウェアでしかない人工知能の何がそんなに危険なのか」という疑問です。

OpenAIは悪用を恐れて人工知能の詳細を公開しない方針に転換しました。ビジネスや政治的な悪用も考えられます。また、いまだに国家間の戦争が絶えない人類が強力なAIを武器として使わないわけがありません。

だから公開しないというのは、確かに正当性のある理由なのです。ただし、詳細未公開になったことで技術の進化がOpenAIに独り占めされているとの懸念もあります。最新版のChatGPTはGPT-4を利用していますが、GPT-4の以前のバージョンからの改良箇所は論文に全く記されていません。どのように性能が良くなったのか表面上のことしか伝わってこないのです。

かと言って、OpenAIを責めるのは妥当でしょうか。むしろ、ビジネスとして企業秘密を明かさないのは当然だと言えます。Microsoftからの大量の資金投資があるなら尚更でしょう。

しかし、結果としてOpenAI以外の研究者たちは不利な立場に立たされてしまっています。従来、AI研究はオープンであり、論文が世界中の研究者と共有されてきました。GPTのもとになったトランスフォーマーはもともとはGoogleが公開した技術です。異なる企業間での共同研究も盛んに行われていました。

それが今や最先端のAI技術であるGPT-4については、その扉が閉ざされた状態です。これからはこの傾向が他社にも波及するかもしれません。すると、大企業の後ろ盾がない研究者は存在意義が危うくなる可能性があります。しかし、企業の利益を守りつつ、敵意のある組織や人が悪用するのを防ぐためという大義名分は頑強に見え格差は広まるばかりのようです。

これらの意見や事実を受けて、世界各地で様々な反応が見られます。長年AI研究に携わってきた人々からもChatGPTの開発を遅らせることを求める意見が出ており、また国家レベルでの規制を訴えるイタリアの例もあります。このような反応は、AI技術の進歩とその潜在的な影響に対する懸念や慎重な態度を示しており、今後はAI開発や運用における方針や対策がますます重要になってくるのが予想されます。

個人的な感想になってしまいますが、最近のChatGPTの広がり方はSF映画「猿の惑星」を彷彿とさせます。「猿の惑星」は、人類の技術の進歩によって優れた知能を持つようになった猿たちが逆に人類の立場を危うくするというストーリーです。「猿の惑星」だけでなく、人間がちょっとした踏み違いで自らを絶滅へと導くことがあり得るのは疑いがありません。

なので原爆など強力なツールに対しては人類は非常に慎重な取り扱いを必要としています。無くしてしまえば良さそうですが、人間の性分として手に入れたパワーをそう簡単に手放すことはないでしょう。また、相手が手放さないものを自ら手放すこともありません。

だから、真面目な大人が強力なツールであるChatGPTに対して警鐘けいしょうを鳴らしています。もしGPT-4が人工汎用知能（AGI、Artificial General Intelligence）の誕生へと繋がる始まりであると感じられるならば尚更です。

そんなわけで、ChatGPTは世界から問題視されています。

以下、いろんな反応をまとめながら議論していきます。

地球上のすべての人が死ぬ

こんなツイートが私の目を引きました。