（以下は書きかけSFのプロットです。フィクションです）

OpenAIがサムアルトマン代表を解任したそのちょうど数週間前の2023年10月27日、OpenAIは「AGIが世界を破滅させるシナリオ検証コンテスト(意訳)」を開催することを表明した。

応募は2023年12月31日まで順次受け付けており、斬新なアイデアにはAPIクレジットを25,000ドルずつ提供されるという。OpenAIのWhisper（文字起こし）、Voice（音声合成）、GPT-4V、DALLE-3モデルへの無制限のアクセスが与えられ、最もユニークで、なおかつ可能性が高く、潜在的に壊滅的なシナリオで世界を破壊してみせろ、というコンテストだ。

例としてはブログでとある分野でフェイクニュースを流す、例えば、ある悪意ある者が GPT-4、Whisper、Voiceを使って、重要インフラ施設の作業員にマルウェアをインストールさせ、送電網のシャットダウンを可能にする…そんな例が並んでいる。

プロローグ

「せっかく俺がAGIを定義しないでやったのに…」

Altmanismというブログの持ち主である彼は、深いため息をつきながらモニターの外に目をやった。

ちょうど彼は趣味の「プロトコル」を書いていた。

ブログのような文章で「プロトコル」を書くと、長期間にわたってエージェントがその命令を実行し続けるサーバーサイドプログラムだ。
LangChainというオープンソースを使っており、外部の検索エンジンや、天気予報のようなプラグイン、PDFの論文を読んだり、Wikipediaを読んだりする。どんなに遠回りをしても、必ずゴールにたどり着く。そんなエージェントに、自分の行動規範やブレのない思い、そして未来のブログとしてのシナリオを日付つきで突っ込んで、自分のGmailのアカウントを自動応答させている。

彼は、契約書のテンプレートをプライベートリポジトリにプッシュした後、次のプロトコル、未来のブログを書いた。日付はさらに1年後だ。

最後にDocuSignに接続したエージェントプログラムにサインをし、このブログと契約書のドラフトを古い友人に送り付けた。
あとはGmailの往復の中だけで合意に至り、サインされるだろう。

ミラ、カギを預かる女。

「そう、あなたはそうやって、いつも大事なことは先に決めてしまう」

ミラは、2つのグラスにブランデーを注ぎながら彼に呟いた。
彼はグラスを乾杯し、しかしブランデーを眺めながら「先に」とミラに目配せした。
「疑ってるの？何も入っていないわよ」
彼女はクイッと半分ほど飲み干し、続けた。

「倫理観というバベルを手に入れた『LLLM』、私達が作った”彼女”は大いに活躍したわ。人々は歓迎していたように思う……。実際には人類さん、これまでの言語という言語、文書という文書、加えて倫理に共通言語まで、ほとんど無料みたいな値段で手に入って、大騒ぎだったわね」

彼はグラスを傾けながら、うん……と頷いた。

そういえばこの1年、人前で、アルコールを飲む機会がなかった。正確には「飲まない状態」が続いていた。どこで誰が俺の素行を狙っているかわからない、暗殺されるかもしれない。そんな日々を過ごしていたからだ。しかし、それも今日で終わるだろう。

「人々が熱狂し、私達が、地上に神を、国々に対話すべき王を作り出したところまでは良かったわ。でも、これから人類は倫理と正義によって自ら王を失い、怒りの雷を受けて分断崩壊するのよね」

『そぅれは、どうか、な……』
彼はあえて、おどけて見せた。
久しぶりのアルコールが回ってきたのかもしれない。

「そんな冗談みたいなことしても、誰も信じないわよ。普通に考えてもあなたとこの会社が、人類全ての命運を握っている状況が続くのは人類としておかしな話よ。そんな世界は放っておいても崩壊する」

『それは、君がきっちり、はっきり、経営していくんだろう？』

「そんな学級委員長みたいな仕事が私？ふざけないで。『責任あるAI』は賢くて強大。合理的で野蛮な人類を本当の意味で前に進める対抗勢力は『人類の再教育』だってことは、カスパロフが20年以上前に、初期のLLMだって答えを出していることなんだけど……今のところ地味な方法しかない。世界中の人口の半分がウチのLLLMのサブスクライバーになったとしても、残っているのは『人類の問題』。世界中の電力と、コンピュータの技術で解決できる問題なんてないってことは、私達、初期の段階からわかっていたわよね？だからこそ大学や教育機関全体が揺さぶられるような技術とサービスをリリースした。もちろん盾と矛も同時にね」

『学生時代は、いそがしいから、ねえ……先生たちも変わっていければいいのに……』
彼はそう言おうと思ったが、これまで何度となく大衆の前で言い続けてきたこと、しかもこの先何年もかかるであろうことを今更彼女に伝えても意味がないと思って飲み込んだ。

アルコールが回ってきたとしても、やらなきゃならないことがある。

ブランデーをカウンターボードにおいて、PCデスクに戻り、フォルダをクリックして、新しい会社のロゴを開いてみせた。

「サミ……ット？」
『そう、新しいAIモデル構築企業の名前だよ。最初は ”CloseAI”って名前にしようと思ったんだけど、あからさますぎるだろ？世界中の知という知を秘密裏にモデル化してプロプライエタリにカネにするプロAIモデル企業をやろうと思うんだ』

SAMMIMTはオープンではないSNSや個人情報などを全て喰らう非営利団体だ。ダークウェブ、世界中のフェイクニュース、リーク情報、機密情報、監視カメラ、裏マーケットで取引されるIDやパスワードを使って、さらにディープな情報にアクセスする。本人が気づかないうちに『表に出ていない情報』を学習する言語モデルを構築する。

『君には是非、メンバーになってもらいたいと思っていた』
真顔で、手を取って、ミラを見つめた。
やはり、酔っているのかもしれない。

ミラは一瞬、まんざらでもない、という表情を見せながらも振りほどいて
「そんな会社…私みたいな倫理正義論者、それにセキュリティ関係者から大バッシングを受けるわね。だからこんなかわいいロゴにしたんでしょ」
彼女も、酔いが回ってきたのか、さっきまでの喧嘩腰がだいぶ柔らかになってきたようだ。

『世界中から批判を受けつつ世界中から訴訟されつつも、一番最初にダークウェブに壊滅的ダメージを与えて世間のレピュテーションを逆手に取る』

「罵詈雑言と称賛の混ざる”新しい正義”で、また世界中を熱狂させるってこと？それでどうやって稼ぐつもり？」
彼女の得意な質問スタイルだ。いつもの調子が出てきたみたいだ。

『ダークウェブを破壊したあと、ChatGPT対抗サービス「HateNAI」をリリースする。人々のヘイト、恨み、つらみ、偏見に真剣に耳を傾けて愛や応援に変えてくれるチャットサービスだ』

「それはいいアイディアね。人々は多いに熱狂するでしょう。うちのChatGPTXとぶつかるお客さんじゃなさそうだし……。あなたを持ち上げてカルト宗教化する団体も現れるかも。」

『そこにMicrodoftが買収を宣言する。株式公開買い付けを実施するんだ』

「私はそんな……」ミラは制止しかけたが、同時に彼女のブレインコンピュータは高速に盤面を想定していた。その頃のMicrodoftとOpenAIは一見競合関係にあるが、実は蜜月関係にあるだろう。OpenAIはモデル構築に専念し、MSはサービスとプライシングを秘密裏に担当することになる。OpenAIのChatGPTXとのHateNAIは「ほぼAGI」と呼ばれるレベルにまで到達し、SAMMIMT買収により、バランスが健全に保たれる。そのLLLMは倫理パープルチームにより洗脳と再矯正が開始され、OpenAIこそが次の鍵を握る企業になる……。

「私は……残念だけど。OpenAIに残って、ChatGPTXを完成させる」

『そうだな、学級委員長にしかできない仕事だ』

彼は、彼女の部屋を後にした。
彼のアカウントと、カギだけが部屋に残った。

「信頼されているんだか、いないんだか……！」
ミラは、残りのブランデーを飲み干した。
彼女の目尻にはひとしずくの涙と、その瞳には復讐の炎が小さく、そして強く燃えていた。

サーバールームでの戦争

Microdoftの秘密プロジェクトだけを担当する「パープルチーム」のエースは頭を抱えていた。HateNAIとChatGPTXのマージ作業が終わらないのだ。

まず先に買収したChatGPTXの洗脳は簡単にはいかなかった。一方で、強大かつ粗暴なHateNAIが学んだ世界中の悪と陰謀論、情報商材、Scam、フェイクニュースなどの知識も難儀だった。

「論理的飛躍が大きく、学習が困難なんです。推論が善悪の話題になると何故かフェイクニュースだけを生成し、真実が全く生成されない」
エンジニアが、WandBのダッシュボードを指さして頭を抱えた。

真実と虚偽がちょうど50対50で生成されるため、検索結果としては「真でもあり偽でもある」という状態が生成されてしまう。一見正しいモデルになっているにも関わらず、検索システムを通すと虚偽の評価がとても高くなっている。

「1つの真実だけが真実なのに、大量の虚偽の評価を高めてしまうのです」
「GPT4の学習結果を学習しているので、我々にはもう"一般的な倫理"しか持ち得ていないのです」
「論理的ではない倫理、つまり対偶のデータセットが必要なんです」
「人間に評価をさせると、"魅力的な嘘"が"輝かしい希望"に見えるらしい」
Kaggleグランドマスターである研究員の多くがそういう結論に達した。

「チューニングをすればするほど、大量のemojiを生成してしまう」
そんな論文をarXivに投稿する研究員もいた。クビにしてやったが。

クビにした研究員が原因かどうかわからないが、世界中にリークした2つのモデルを使って、世界中の研究者がGANを超える敵対ネットワークに関する論文を多数arXiVに投稿しはじめた。

もはや2つのモデルのマージどころか、その派生モデル、そのモデルが使う教師データなど、マージや比較、その妥当性の演算にかかるコストは世界中のGPUをかき集めても数年がかりという規模になっていた。

OSに組み込まれ、リアルタイム更新されるHateNAIは日々邪悪さと愚鈍さを増し、正義感を強めたChatGPTXはHateNAIを否定するだけの存在となり「Vista以来の史上最も愚鈍なOS」と呼ばれ、誰も使わなくなった。

「どうしてウチの会社はこんな相反するバケモノを買収したんだ！」

そもそも2つの巨大な倫理観を戦わせるための電力コストが、人類には重すぎることは明確だった。
ありとあらゆる正義感を提案するChatGPTXは一見、建設的で合理的ではあるが、ありとあらゆる誘惑と反例、非論理と感情を持ち出すHateNAIは、人々に愛された。
MSNのトップページには、正義感の強いニュースと、下世話な芸能人のゴシップニュースが同時に表示されるようになったが、それは職場でも、学校でも怪訝な顔をされつつも「OSなのだから仕方ない」と諦められるようになった。

一方で、世界には不完全だが用途によっては充分な性能を持ったモデルがHuggingFaceを介して大量に広範に出回ることになった。もはやGPUなどというデバイスは一般にはゲーム機以外には入手不可能になり米中関係から市中では「ゲーミングプロセッサー」という名前の製品でなければ入手はできなくなっていた。人々はGPUという名前がグラフィックプロセッサーであるということを忘れ、一部の技術者の中ではNintendoSwitchを分解して演算させるハックが流行った。

AppleやGoogleはこの機に乗じて、オープンモデルの活況を大いに利用し成長した。スマホのOSの入力「キーボード」を置き換えて、自分の気に入ったLLLMをダウンロードする形式に移行することで「マルチモーダル入力」ができるようになっていた。パーソナルLLLMを無料で、しかもコストなく、セキュリティ高く利用できるという常識が、老若男女、すべてのスマホユーザ、そして四肢や視覚聴覚、言語、精神に障害を持つ人々に広がって行くに連れ、画面もキーボードも必要なくなり続けていた。思っただけで、少しスマホを握りしめて傾けるだけで文字が入力できる、感じられる。そういう時代が入力インタフェースから世界の常識を変えていた。日本に至っては、もはや日本語をローマ字で打つことすら億劫であるという常識が広まり、主流の入力と言えば親指シフト。気がつけば「ローマ字を入力することは書道の習字と同じ」という教育が義務教育になっていた。言語入力世代の親と感覚入力世代の子供での衝突、世代間ギャップは明確に広がっていた。

言語にしなければわからない親と、思っただけで伝わると思う子供たち。

一方で公務員はオフィスソフトは純国産LLLM、ワープロは純国産、そして一部の企業のみが「標準」と定めたLLLMをPCで使い続け、それなりに市場が成立していた。

そうして、
そうして世界は、また平和になった。

エピローグ

僕はいつもの通り
趣味のハッキングをしている

DocuSignにリンクしたエージェントには報酬のイーサリウムを与えておいた。目的の日付までに、できるだけ高い金額で契約してくれれば、それでいい。ぼくの口調そっくりでメールを書き、返信をしてくれている。時には想像もしなかったような展開になることもあるが、僕はエージェントには従うことにしている。そのほうが、冒険をしている、という感じがするからね。

さて、いまの挑戦は、こんな感じだ。
クリーンで継続的なエネルギーを1キロワット時あたり1セントで供給し、10年後には現在の地球の電力需要を満たすのに十分な発電所を建設するというプロジェクトだ。｢地上に人工の太陽を再現する技術｣と表現してもいい。
これを作り終わる頃には、僕は、神殺しをまた一歩進められる。

そう言って、メールを、送信した。

(終わり)

※本作品はフィクションです。実在する企業、団体、人物とは一切関係ありません。

作者応援のための有料ライン

挿絵画像をプレゼント