以下のOpenAI Sam AltmanとRavi Belani(司会)のインタビュー動画の和訳です。重要そうなところは太字にしました。

S=Sam Altman,R=Revi Belani,Q=聴衆からの質問

R: スタンフォード大学での起業家精神セミナーにようこそ。ここは起業家を目指す学生のためのセミナーです。私はRavi Belani、経営科学工学部の講師であり、アルケミストという企業スタートアップ向けのアクセラレーターのディレクターです。今日はSam Altmanを迎えて、非常に楽しみにしています。

S: (Samの発言はありません)

R: SamはOpenAIの共同創設者であり、CEOです。ここにいる皆さんはすでにOpenAIをご存知かと思いますが、知らない人のために説明しますと、OpenAIはChatGPT、Dall-E、Soraなどを開発した研究及び展開企業です。Samはセントルイスで育ち、スタンフォード大学で学びました。学部生時代にこのETLセミナーに参加していました。彼はYコンビネーターの初期メンバーとして、ソーシャルモバイルアプリ会社「Looped」を立ち上げ、後にシークォイアなどから資金調達を行いました。その後、スタンフォードを中退し、7年間Loopedで働き、その後Yコンビネーターに戻り、2014年から2019年までその社長を務めました。2015年には、全人類に利益をもたらす汎用人工知能を開発することを目的とした非営利研究ラボ、OpenAIを共同設立しました。OpenAIはChatGPTのローンチと共に史上最も急成長するアプリの記録を更新しました。Samは「タイム」誌の世界で最も影響力のある100人に選ばれ、2023年の「タイム」誌のCEOにも選ばれました。また、最近ではフォーブスの世界の億万長者リストにも名前が挙がっています。

S: (Samの発言はありません)

R: Samはサンフランシスコに住んでおり、サンフランシスコとナパを行き来しています。また、彼はベジタリアンです。それでは、ステージ上でSam Altmanを迎えましょう。

S: (Samの発言はありません)

R: これはSamにとっては長い紹介だったかもしれませんが、簡潔さが魅力です。ですので、質問も簡潔にしましょう。ちなみに、今週はSamの誕生日週でもあります。彼はこの月曜日に39歳になりました。この場所と時間を考えると、これはいくつかの反省を促す瞬間でもあります。もし、19歳の頃に戻ってこのETLに参加していたときの感覚を3つの言葉で表現するなら、それはどのような言葉になるでしょうか？

S: (Samの発言はありません)

R: よろしいですか？難しい質問ですね。

S: ええと、3つの言葉だけですか...わかりました、それでは「興奮している、楽観的、好奇心旺盛」です。

R: 現在のあなたを3つの言葉で表すと？

S: 同じだと思います。

R: それは素晴らしいことです。世界は変わりましたが、あなたの基本は変わっていないようですね。ただ、過去19年間の変化はこれからの19年間の変化と比べると見劣りするでしょう。

S: ええ。

R: そこで質問ですが、もし今日あなたがスタンフォードの学部生だったら、どうしますか？もし明日にでもフリーキー・フライデーのように19歳のスタンフォード学部生として目覚めたら、今の知識を持っているとして、何をするでしょうか？

S: 非常に幸せだと感じるでしょう。数世紀にわたって最も幸運な時代に成長していると感じるでしょう。世界が変わる程度と、それに影響を与える機会は驚くべきものです。会社を起業したり、AI研究をしたり、数多くのことを始めるのに、これ以上の時期はないと思います。今が会社を立ち上げるのに最適な時期であると言えますし、インターネット以来、おそらく技術史上最も良い時期です。AIを利用できることで、毎年ますます驚くべきことができるようになります。最も影響力のある新しい企業がこのような時に生まれ、最も影響力のある新製品が作られます。私は非常に幸運だと感じ、そのチャンスを最大限に生かそうと決意します。どの分野に貢献したいかを考え、それを実行に移します。

R: 貢献する場所については、どのような考えを持っていますか？学生として残ることを望みますか？そうであれば、どの専攻を選びますか？

S: 学生として残ることはないでしょう。ただ、私がそれを選ばなかったからというだけで、学生として残ることは十分に良い選択です。私にとっては、その選択をしなかっただろうと思います。

R: これはあなたですから、もしあなたが19歳に戻ったとしても、研究に取り組むと思いますか？

S: そうだと思います。これは驚くべきことではないでしょうか。人々は自分が何をするかを選びます。AI研究に取り組むと思います。

R: その研究はどこで行いますか？

S: 明らかに私はOpenAIに対してバイアスを持っていますが、意味のあるAI研究を行える場所であれば、どこでも非常に満足するでしょう。

R: その研究をアカデミアか民間企業のどちらで行うかについては中立的ですか？

S: 悲しいことに、業界を選ぶと思います。

R: 実際的には？

S: 大量の計算リソースを必要とする場所にいる必要がありますから。

R: もし研究に参加するとしたら、先週ここに来たケーザー氏は創業者になるよりも既存の会社に参加することを強く推奨していましたが、19歳や20歳の学生が今スタートアップを立ち上げるべきか、それとも他の起業家精神に富む研究所やベンチャーに参加すべきか、どのようなアドバイスをしますか？

S: 彼が会社に参加するケースを提案したので、私は反対の意見を述べます。会社を始めることで多くを学ぶことができます。もしいつかそれをしたいと思っているのであれば、ポール・グレアムが言っているように、スタートアップを経営する方法を学ぶ唯一の方法は、スタートアップを経営することです。それが確実にやりたいことであれば、飛び込んで始めるべきです。

R: そして、もし誰かがAIの会社を立ち上げたいと考えているならば、AIにおける最も大きな近期の課題は何だと思いますか？具体的には、OpenAIが次の3年間で解決しないと思われる「穴」は何でしょうか？

S: これは一見合理的な質問ですが、私はそれには答えないつもりです。なぜなら、誰もがスタートアップを始めるべきだというアドバイスは、誰からも受けるべきではないからです。私や他の誰かがここに座って言うほど明白なことは、おそらくそれほど良いスタートアップのアイデアではないでしょう。この衝動を理解していますし、私も人に「どんなスタートアップを始めればいいか」と尋ねたことがありますが、影響力のあるキャリアを築く上で最も重要なことは、自分の道を切り開くことです。他の誰かがどうせやるであろうこと、または多くの人がやるであろうことについて考えているのであれば、その考えには懐疑的であるべきです。明らかでないアイデアを思いつく良い訓練になります。今私が思いつかない重要なアイデアがあるかもしれませんが、この部屋の誰かがその答えを知っていることを私は確信しています。自分を信じ、自分自身のアイデアを思いつき、非常識なことをすることを学ぶことが重要です。私たちがOpenAIを始めたとき、それは非常に非常識なことでしたが、今では非常に明白なことです。今私には明白なアイデアしかありませんが、皆さんが他のアイデアを持っていることを私は確信しています。

R: では、別の方法で聞いてもいいですか？現在あなたが取り組んでいるが他の人が話していない問題は何ですか？

S: とても大きなコンピュータをどうやって構築するかです。他の人もそれについて話していますが、私たちはおそらくまだ誰も想像していない視点からそれを見ています。また、私たちは単なる小学校や中学生レベルの知能ではなく、博士レベルの知能やそれ以上を作り出すとき、それをどのように製品に組み込むか、社会や人々の生活にどのように肯定的な影響を与えるかについても格闘しています。その答えはまだわかりませんが、それがかなり重要なことだと思います。

R: その流れで、本当に大きなコンピュータの構築について話を続けてもいいですか？あなたが取り組んでいると言われている半導体製造の試みについて、何か教えていただけますか？それがどのように異なるか、何がそのビジョンですか？

S: それは単なるファウンドリだけではありませんが、それもその一部です。AIインフラが将来的に最も重要な入力の一つになるとますます信じるようになってきたため、それがエネルギー、データセンター、チップ、チップ設計、新しいネットワークなどを含む全体のエコシステムとしてどのように見えるかです。私たちはそのすべてを行う必要があります。

R: 多くの大きな問題がありますね。

S: はい。これが人類の技術史のアークです。私たちはより大きく、より複雑なシステムを構築しています。

R: 計算コストについて質問があります。ChatGPT-3のモデルを作るのに1億ドルかかったと聞いていますが、これは1750億のパラメーターを持っています。GPT-4はパラメーターが10倍で、コストは4倍の4億ドルです。これが正しい方向であれば、次のモデルのコストはさらに増加しますか？

S: はい。

R: そして、そのコストは乗数的に増加しますか？

S: おそらくです。

R: では、それをどのように資金調達するのでしょうか？

S: 人々に非常に有能なツールを提供し、彼らが将来をどのように構築するかを見極めることは非常に良いことだと思います。それは非常に価値があると思いますし、私は皆さんや世界中の他の人々がこれをどう利用するかに賭けています。OpenAIのどこかに、私たちがどれだけお金を使っているかを心配しているビジネスマインドの持ち主がいるかもしれませんが、私はそれにあまり関心がありません。

R: それはあまり気にならないのですね。 OpenAIは素晴らしいですし、ChatGPTも素晴らしいです。他のモデルもすべて素晴らしいです。昨年、5億2千万ドルの現金を獲得しましたが、収益化の源泉について考える必要はありませんか？

S: まず、そう言ってくれて嬉しいですが、ChatGPTは素晴らしいとは言えません。最高とは言えるほどではありません。GPT-4は、今後皆さんが使うことになるであろうモデルの中で最も愚かなモデルです。しかし、初期に頻繁に製品を出荷することを信じています。もし私たちが地下室でAGIを構築し、世界が何も知らずに進むことになったら、それは良いことだとは思えません。私たちは良い隣人であるべきだと思います。だから、何が起こると信じているのであれば、そのビジョンを表現することが重要です。それ以上に、製品を人々の手に渡すことが方法です。

S: 技術と社会が共進化することを許し、社会が集団的に、また個々の人々がこの技術から何を求めているのかを教えてもらうことが重要です。どのようにして製品化すれば有用か、モデルがどこでうまく機能し、どこで機能しないかを知ることができます。私たちのリーダーや機関に反応する時間を与え、人々にこのツールをどのように生活に統合し、使用方法を学ぶ時間を与えます。皆さんの中には宿題でこれを使ってズルをする人もいるかもしれませんが、他の多くの人々がとても素晴らしいことにこれを使用していることでしょう。そして、各世代が続くにつれて、その範囲は広がっていきます。不完全な製品を出荷することは少々苦痛ですが、代替案よりはずっと良いです。特に、この場合は社会に責任を持って配備することが私たちに求められていると思います。

S: 私たちは学んでいますが、AIと驚きはうまくいかないことがわかりました。人々は驚きたくありません。徐々にロールアウトされ、これらのシステムに影響を与える能力を持ちたいと思っています。これが私たちの進め方です。将来、段階的な配備があまり良い戦略でないと考える事態が完全に起こり得ますが、現時点では最善のアプローチだと感じています。これにより多くを学び、それによって大きな世界も何かを得ることを願っています。私たちが年間5億ドル、50億ドル、または500億ドルを燃やすかどうかは本当に気にしません。私たちが社会にそれ以上の価値を最終的に提供し続けることができ、請求書を支払う方法を見つける限りは、それで大丈夫です。AGIを作るのは高価ですが、それだけの価値はあります。

R: では、2030年に「Sam、あなたは成功しました」と言える世界はどのようなものですか？

S: ある意味では、非常に重要な方法であまり変わらないかもしれません。私たちはここに戻ってきます。新しい学生の集まりがあり、スタートアップが非常に重要で、技術が非常にクールであると話しているでしょう。私たちは世界に新しい素晴らしいツールがあることに感謝しています。それが私たちが今日6年前にテレポートしてそれを手に入れられたら、それは素晴らしいでしょう。人間よりも多くの主題で賢く、私たちのためにこれらの複雑なタスクを行うことができるものです。新しいプログラムを書いたり、新しい研究を行ったり、新しいビジネスを始めることができるでしょう。しかし、太陽は引き続き昇り、人々は引き続き人間ドラマを繰り広げます。生活は続きます。ですから、私たちが指先で豊富な知性を持つようになるという意味で、いくつかの意味で超常的に異なるかもしれませんが、他の意味では全く異なりません。

R: AGI、つまり汎用人工知能について話していますが、以前のインタビューで、あなたはAGIを「平均的な人間の能力を模倣できるソフトウェア」と定義しましたが、具体的な時間を教えてください。AGIが実現すると思われる時期はいつですか？

S: AGIのタイミングについては、より正確な定義が必要です。現在の定義でも、あなたが示したものは妥当ですが、解釈の余地が広すぎて、人々が本当に知りたいことを把握するには役立ちません。人々が「AGIまでのタイムラインはいつか」と尋ねるとき、彼らが本当に知りたいのは「いつ世界が劇的に変わるのか」、「いつ変化のペースが急速になるのか」、「いつ経済の仕組みが根本的に変わるのか」、「いつ私の生活が変わるのか」ということです。これらはさまざまな理由で予想外の時期に起こるかもしれません。例えば、ある領域で博士レベルの知能を構築し、研究者をより生産的にすることができるかもしれません。それが世界を大きく変えるように思えるかもしれませんが、それが起こった後も、数年間は世界のGDP成長率に変化が見られないかもしれません。これは非常に奇妙な考えですが、私が最初に持っていた直感とは異なります。だから、人々が気にするマイルストーンに到達する正確なタイムラインを示す方法がわかりませんが、私たちが持っているよりもはるかに能力の高いシステムに到達するのは、今後1年以内、そしてその後も毎年です。ですから、AGIのタイムラインを予測することをやめましたが、次の数年間で毎年、はるかに能力の高いシステムを持つことになると思います。

R: AGIの危険性について質問したいですが、AGIの最大の危険は、すべての新聞で取り上げられるような壊滅的な出来事から来るのでしょうか、それとももっと微妙で悪質なものでしょうか、例えば今の皆がTikTokを使ってADDになっているようなものですか？微妙な危険性の方がより心配ですか、それとも壊滅的な危険性の方が心配ですか、それともどちらも心配ではありませんか？

S: 私は微妙な危険性の方がより心配です。なぜなら、それは私たちが見落としやすいからです。壊滅的な危険性については多くの人が話し、多くの人が考えています。それを軽視するつもりはありません。それは本当に深刻で、現実のものです。しかし、私たちは少なくともそれに対処するために多くの労力を費やしています。あなたがTikTokでみんながADDになるという例を挙げましたが、私たちはそれを予見していませんでした。それは本当に困難です。未知の未知数は本当に難しいので、私はそれらをより心配していますが、両方とも心配しています。

R: それらの未知の未知数の中で、特に心配しているものはありますか？

S: それらが未知の未知数であれば、私にはわかりません。

R: それでも教えてください。

S: 私は、短期的には物事が変わると思っているよりも少ないと思いますが、他の主要な技術と同様に、長期的には変化がより大きいと思います。私は社会がそのような新しいものに適応する速度と、新しい社会契約をどれだけ早く理解できるかについて心配しています。それに取り組む時間がどれだけあるかということです。

R: これからの数十年で、特に重要になると思われるスキルについて教えてください。

S: それは非常に良いことだと思います。私はレジリエンスが教えられると信じていますし、長い間最も重要な生活スキルの一つだと思っています。次の数十年で、レジリエンスと適応性は非常に重要になるでしょう。自己認識についての質問ですが、自分がこの旅を始める際の主な動機を自覚していると感じますか？
S: まず、私はレジリエンスが教えられると信じています。長い間、それは最も重要な生活スキルの一つであり、次の数十年で、レジリエンスと適応性が非常に重要になると思います。自己認識の質問については、私は自己認識があると思いますが、それは内側からは難しいですね。

R: 自己認識に関する私たちの初級クラスで尋ねる質問をしてもいいですか？あなたの最大の強みは何だと思いますか？

S: 私は多くのことに優れているわけではありませんが、多くのことに長けています。私は多様性が評価されなくなってきていると感じていますが、多くのことが得意ならば、それらの間の関連性を見出すことができます。そうすることで、専門家が持っているアイデアとは異なるアイデアを思いつくことができます。

R: あなたの最も危険な弱点は何ですか？

S: 最も危険というフレームワークは面白いですね。一般的に、私は技術に対してあまりにも肯定的すぎる傾向があると思います。ただ、私は好奇心旺盛で、どこへ行くのか見てみたいと思っていますし、技術が全体として良いものだと信じています。しかし、それが常に真実であるわけではなく、真実でない場合は多くの人にとって非常に悪い影響を与えています。

R: ハーバードの心理学者デビッド・マクランドは、すべてのリーダーは三つの基本的な欲求のどれか一つに動かされていると言っています。それは、愛されること、達成すること、権力を持つことです。あなたがそれらを順位付けするとしたら、どのようになりますか？

S: 私のキャリアのさまざまな時点で、それらすべてが動機でした。現在のところ、私は有用で興味深い何かを成し遂げたいという欲求に駆り立てられています。確かに、お金や権力、地位を求める時期もありました。

R: あなたが最も自分自身であると感じたのはいつですか？

S: 私は常に自分自身です。

R: 最後の質問ですが、まもなく公開されるChatGPT-5について、あなたが最も興奮している点は何ですか？

S: まだわかりません。これは避けようのない答えかもしれませんが、GPT-5やその他の呼称がどれであれ、それがより賢くなることが最も重要だと思います。これは逃げのように聞こえるかもしれませんが、人類の歴史の中で最も注目すべき事実の一つだと思います。私たちは何かを行い、高い科学的確実性を持って、GPT-5がGPT-4よりもはるかに賢くなると言えます。GPT-6はGPT-5よりもはるかに賢くなるでしょう。そして私たちはこの曲線の頂点にはまだ近づいていません。これは単一の領域で、ある評価で、またはあるモダリティで改善されるわけではありません。単に一般的な意味で賢くなるのです。そして、その声明の重大さはまだ過小評価されています。

R: 素晴らしいですね、Sam。彼は本当に皆さんの質問に答えたがっていますので、質問タイムに移りましょう。

Q1: こんにちは。本日はご参加いただきありがとうございます。私はスタンフォードの3年生です。AGIの責任ある配備についてお話を伺いたいと思います。OpenAIがAGIに近づきつつある中で、それをどのように責任を持って配備する計画ですか？人間の革新を阻害せずに、それを促進するためにはどうすればいいでしょうか？

S: 実際、人間の革新を妨げることには全く心配していません。私は、人々がより良いツールを手にしたとき、彼らは常に私たちを驚かせ、驚くべきことをすると信じています。それが歴史が示していることです。私たちはその恩恵を受けることができます。ただし、モデルがより能力を持つようになるにつれて、私たちの責任はより大きくなります。私たちは、レッドチーミングや外部監査など、多くのことを行っていますが、モデルがより能力を持つようになるにつれて、さらに段階的に配備し、使用状況をより密接に監視する必要があります。私たちは過去には数年に一度大きなモデル更新をリリースしていましたが、もっと細かく、より段階的に配備する方法を見つける必要があるかもしれません。それがどのように行うかはまだ明確ではありませんが、それが責任ある配備の鍵となるでしょう。

R: 次の質問、どうぞ。

Q2: 前に述べたように、ますます大きなコンピューターと高速なコンピューターが必要とされていますが、世界の多くの地域にはそれらのデータセンターや大規模なコンピューターを構築するインフラがありません。これがグローバルなイノベーションにどのように影響すると見ていますか？

S: その点について2つの部分があります。まず1つ目は、どこでコンピューターが構築されているかに関わらず、トレーニングや推論にコンピューターを利用するためのグローバルかつ公正なアクセスが非常に重要だと思います。私たちのミッションに非常に近いことの1つは、ChatGPTを無料で利用できるようにすることです。ただし、特定の国では、運用できないか、あるいは運用したくない理由があるため、これには例外があります。世界中の人々が利用したいと思う人々に無料で提供しています。世界中の人々にトレーニングコンピュートをより利用可能にする方法について考える方法がますます重要になると思います。私たちは、ある程度のコンピューティングへのアクセスを人権として考える世界に到達すると思います。そのコンピュートにどのようにアクセスするかを、世界中の人々に配布する方法を見つけなければなりません。2つ目は、国々が独自のAIインフラを持つことの重要性にますます気付くようになると思います。我々は、世界中を旅行し、これらを構築する多くの国々で役立ちたいと思っています。私たちがそのプロセスにおいて小さな役割を果たせることを願っています。

S: 二つ目の側面として、国々は自国のAIインフラの重要性を認識し始めるでしょう。私たちは、それらを構築したい多くの国々で、その手助けができることを願っています。

R: 次の質問、お願いします。

Q3: 私の質問は、AIが将来の宇宙探査や植民地化にどのような役割を果たすと考えているかについてです。

S: 宇宙は明らかに生物学的生命には適していませんので、ロボットを送る方が簡単です。

Q4: こんにちは、Sam。多くの創業者がここにいますが、私の質問は「非合意のアイデアをどうやって知るか」についてです。それが複雑だと思う理由を説明した後で質問します。AIが会社を立ち上げる場所としては、かなり合意されていると思いますが、それが正しいとも思います。ただ、どのアイデアが非合意かを知るのは難しいです。一般の人々は技術をどう見ているのか、そして技術コミュニティやさらには技術のエリートは異なる見解を持っています。あなたはどのようにして自分のアイデアが十分に非合意であると確認しますか？

S: まず、反対することが正しいというわけではなく、正しく反対することが大切です。もし過去の17回のうち2回だけリセッションを予測したとしても、2回は反対意見が正しかったかもしれませんが、他の15回は間違っていたことになります。だから、反対意見を持つことに夢中になりすぎることは簡単ですが、重要なのは正しいことです。通常、大多数の意見が正しいですが、反対意見が正しく、価値が最も高い場合があります。

S: それは必ずしも0か1で起こるわけではありません。部屋の全員がAIが会社を立ち上げるのに正しい場所だと同意しても、正しい会社を立ち上げ、成功させる方法を見つけ出す一人がいれば、それが重要です。他のすべての人がそれが最適ではないと考えていたとしても、それが重要です。従って、一般的な知恵が正しい場合はそれに従い、あなたがユニークな洞察を持つ分野を見つけてください。それをどのように行うかという点で、適切な仲間を見つけることが非常に重要ですが、独自の思考を持つ人々を見つけることも重要です。ただし、これには一人で、あるいは共同創業者としてあなたと一緒にいる数人と共に取り組む部分があります。

S: すでに適切な仲間を見つける方法を探しすぎている場合は、何か間違った枠組みにいるかもしれません。自分自身や自分の直感、自分自身の思考プロセスを信じることを学ぶことが大切です。これは時間が経つにつれてずっと簡単になります。誰もが出発点でこれを完全にマスターしているわけではありません。なぜなら、あなたを作り出したすべての社会的圧力と進化的圧力がそれに反対しているからです。これは時間とともに向上するものであり、初めから高い基準を設定しすぎないようにしましょう。

Q5: こんにちは、Sam。今後数十年でエネルギー需要がどのように変化すると予測していますか？また、再生可能エネルギー源が1セント/キロワット時になる未来をどのように実現すると考えていますか？

S: エネルギー需要は間違いなく増加します。現在の世界の電力発電能力は、おそらく3,000〜4,000ギガワット程度ですが、もしAI用に追加で100ギガワットを必要とした場合、それが大きな影響を与えるわけではありませんが、いくつかの影響はあります。将来的にAIに数百ギガワットを必要とする日が来れば、それは大きな変化です。しかし、私たちが実現したい他の多くのことがあり、エネルギーは人々の生活の質と非常に密接に関連しています。

S: 私の予想では、最終的には核融合が地球上での電力発電を支配するでしょう。これが最も安価で豊富で信頼性が高く、最も密度が高いエネルギー源になると思います。もちろん、私が間違っている可能性があり、それが太陽光発電と蓄電システムになるかもしれません。現実的には、どちらかが8割を占め、場合によっては一方が他方よりも優れている場合があるでしょう。しかし、本当にグローバルな規模で1セント/キロワット時のエネルギーを実現するには、これらが最も有望な二つの選択肢です。

Q6: こんにちは、Sam。私は昨年のOptiDropのことについて質問があります。その経験から何を学びましたか？また、Microsoftからのオファーがあったにもかかわらず、なぜ戻って来たのですか？

S: 学んだ最大の教訓は、私たちには素晴らしいチームがいて、私なしでも会社を運営できたということです。数日間、彼らはそれを証明しました。また、チームが非常にレジリエントであることを知りました。OpenAIはこれからも多くの狂気の事態に直面するでしょうが、世界のさまざまな地域がAGIへの感情的な反応を強め、問題がより高まるにつれて、チームが圧力下でもよく機能することがわかりました。私が戻って来た理由ですが、最初に取締役会から連絡があり、「戻って来てくれないか」と言われた時は「いいえ」と答えました。しかし、少し考えた後で、私はOpenAIとその人々、私たちが築いた文化、そしてミッションをどれだけ愛しているかに気づきました。それを一緒に完遂したいと思いました。

R: これは明らかに非常にデリケートな話題ですが、OpenAIの構造について話してもいいですか？非営利団体が営利企業を所有するというロシア人形のような構造についてです。

S: 私たちは段階的にその構造に至りました。もし最初からわかっていたら、私たちはそれを選ばなかっただろうと思いますが、最初は製品を持つつもりがなく、単なるAI研究ラボであると思っていました。言語モデルやAPI、ChatGPTのようなものについては全く考えていませんでした。もし会社を始めるなら、いつか製品を売るという計画を持っているべきで、私たちはそれが必要だとは思っていませんでした。

R: 最初にそれを始めたときの意図は何でしたか？

S: 私たちは単にAI研究を前進させたいと思っていました。

R: そして、これが動機に戻りますが、それは純粋な動機ですか？お金を稼ぐことや、権力を得ることに関する動機はありませんか？

S: お金をたくさん持っていたので、それは大きな動機ではありませんでした。私は何か道徳的に純粋なものを主張しているわけではありませんが、それがその時の私のドライバーでした。

R: これを尋ねるのは、私たちがここで原理に基づく起業家精神について教えるとき、組織構造から推測される原則を理解できるからです。アメリカ合衆国が設立されたとき、ガバナンスのアーキテクチャは憲法で、三つの政府の枝があり、チェックとバランスが設けられています。それから、権力の集中に対する懐疑論や、変化が遅いこと、変更が困難であるが、非常に安定していることなど、特定の原則を推測できます。OpenAIの構造を見ると、何が目的で作られたのかを考えさせられます。

S: 我々が到達した構造は段階的なもので、知っていたら選ばなかったと思いますが、人生を逆再生できるわけではありません。適応するしかありません。AIが重要になると考え、規模に応じて学習するアルゴリズムを持っていると思いましたが、そのスケールでどれだけ予測可能に良くなるかはわかりませんでした。これが人類の歴史で非常に重要なことになると考え、すべてを正しく行うわけではありませんでしたが、大事なことには正しかったのです。私たちのミッションは変わっていませんし、途中で構造を適応させ、将来もそれを続けます。しかし、人生は問題セットではありません。授業で行うようにすべてをきれいに解決することはできません。進行中に自分を信じ、適応していくことが私のアドバイスです。少し雑然としていても、それを管理できます。

R: 実際に、この構造について話し合う価値があります。OpenAIの理事会は、すべて独立しており、彼らは非営利団体としての義務を持っています。その義務とは、株主ではなく人類全体の利益を代表することです。

S: 実際には、私の共同創設者であるグレッグも理事ですが、私が知る限り、理事の誰もOpenAIから金銭的な利益を得ていません。資本主義は良いものであり、お金を稼ぐことも良いことです。私の共同創設者が理事として財政的な利益を持っていたとしても、彼らがミッションの重要性を真剣に受け止めなかったことは一度もありません。しかし、私たちはインセンティブが整っていると考えており、それがどのように進化していくかをこれからも見守っていきます。

R: OpenAIの新しい基金に関して、あなたはそれからキャリーや投資に追随する利益を得ていませんね？

S: はい、それは正確です。私はキャリーやその他の投資から利益を得ていません。

R: ありがとうございます。もう一度学生の質問に戻りましょう。

Q7: AGIが地政学や世界の権力バランスにどのような変化をもたらすと考えていますか？

S: AGIは、これまでにないほど大きな影響を与えると考えていますが、それが具体的にどのような変化をもたらすかを正確に言うのは非常に難しいです。また、それが日常生活にどれほどの影響を与えるかも予測がつきませんが、世界の権力バランスには大きな変化があると感じています。

Q8: こんにちは。私はAIの一般的な知能の展開と、責任あるAIについて尋ねたいと思います。AIシステムが自己の不確実性や脆弱性を認識し、それを外部に伝える能力がどれほど必要だと思いますか？

S: AIを過度に人間味あるものとして考えることは避けるべきですが、AIが自己の欠点を認識し、それを理解する能力は非常に重要だと思います。この能力は現在も重要であり、これからも追求すべきです。

Q9: サム、今日は貴重なお時間をいただき、外からの視点でOpenAIの文化と団結、そしてChatGPTやすべてのブレークスルーから明らかな強度とスピードについて話していただき、ありがとうございます。また、取締役会による一時的な解任や従業員全員がOpenAIは人々なしでは成り立たないとツイートしたことについても耳にします。これに背景があるとすれば、AGIを達成するという結束したミッションやそれ以上の何かがあると言えますか？文化を日々推進しているのは何でしょうか。

S: 私はそれが共有されたミッションだと思います。皆がお互いを好きで、私たちはこの非常に難しいことを共にやっていると感じています。しかし、本当に深い目的意識とミッションへの忠誠心があると思います。そのような環境を作り出すことができると、それは少なくとも私がスタートアップの中で見てきた中で最も強力な成功の要因です。私たちはそのような人々を採用するように努めていますが、AGIがそこまで大きな問題ではないと考えている人でも、最初の3ヶ月後にはそれを信じる傾向があります。それは私たちが持つ非常に強力な文化的な力です。

Q10: ありがとうございます。現在、オープンソースのモデルが非常に強力であるところから、AIの誤用についての懸念があります。グローバルな紛争や選挙など、今直面している課題について、業界や政府、そして私たちのような人々が即座に何ができると思いますか？

S: 重要なのは、この技術や他のどんな技術も全てが良いものだと偽らないことです。私はAIが非常にネットで良いと考えていますが、どんなツールでも誤用されるでしょう。ハンマーで素晴らしいことをすることもできますが、人々を殺すこともできます。これが私たちやあなた方、また社会が悪を緩和し、善を最大限に引き出す努力を怠ってはならない理由です。しかし、どんなに強力なツールでも、それを使用する人々に権力を与えたり、社会の人々ができることを制約する決定を下すことになります。私たちはその中で声を持ち、あなた方もその中で声を持つことができます。民主的なプロセスにおいて、政府や選ばれた代表者が最も大きな影響力を持っていますが、私たちは完璧にはなりません。フィードバックループが最も適切なバランスに近づける最良の方法だと思います。安全性と自由、自律性のバランスがどのように交渉されるかを考えることは価値があります。これまでの技術について研究することが、最善を尽くす方法です。私たち、つまり社会は、できる限り最善を尽くします。

R: あの、みんな、実はもう終わりにしないといけないんだ、ごめんね。時間に敏感になりたいんだけど、サムに対する興味は時間を大きく超えていて、みんなサムを愛しているからね。サム、君の誕生日だって知ってるよ。君にその場を楽しんでもらいたいなって思うけど、みんな君を愛しているからね。だからみんなでハッピーバースデーを歌ってもいいかなって思って。

S: いやいやいや、お願いだからやめてくれ。

R: 君をとても不快にさせたいんだよ。

S: もう１つ質問が欲しい、みんなこれには興味がないかもしれないけど。
ありがとう。

R: もう１つ質問ができるよ、早く答えてね。

聴衆: サム、ハッピーバースデー！

R: 20秒の気まずい時間があるんだけど、本当に急いでるんだ。誰か本当にいい質問を持っている人がいるかな。30秒しかないから、簡潔にね。

Q11: あの、こんにちは。何か人間よりも賢いものを作る見込みがあなたを怖がらせているか尋ねたいんです。

S: もちろん怖いよ。もし怖がらないとしたら、それは本当に変で、良くない兆候だと思う。人間は時間の経過とともに劇的に賢くなり、能力が高まっています。君たちは、曾祖父母よりも遥かに賢く、ほとんど生物学的な変化はありません。少し食事が良くなったり、健康管理がよくなったりしたかもしれないけど、それが君たちがより能力を高めた主な理由ではありません。社会のインフラが非常に賢く、人間よりも遥かに能力が高いからです。そして、そのおかげで、過去の人々が君たちを作り上げ、インターネットやiPhoneなど、膨大な知識が手の届くところにあるようになりました。そして、君たちは自分たちの前任者が息を呑むようなことができるようになりました。今の社会は、今の君たちよりも遥かに賢い。社会は君たちのようなAGIなので、君たちが言うように。そのプロセスは個々の人間の脳ではなく、私たちすべての間の空間、私たちが段階的に築き上げ、ブリックごとに貢献し、一歩ずつ高みに登っていく足場を通じて行われました。そして、それを使って、後に来る人々がはるかに高い高みに到達できるようにしました。私たちよりも賢いものは、同じ足場に貢献するでしょう。君たちの子供たちは、君たちが持っていない道具を持つでしょう。そして、その足場はより高い高みに築き上げられていくでしょう。それは常に少し怖いことですが、それは悪いよりもはるかに良いと思います。人々はより良いことをし、より多くの問題を解決し、将来の人々はこれらの新しいツールを使い、これらの新しいツールが貢献する新しい足場を利用できるでしょう。科学的な発見をたくさん行うAIが存在する世界を考えてみると、その科学的な進歩はどうなるでしょうか。それは足場に追加されるだけで、そして君たちの子供たちはそれを新しいことに使うことができるでしょう。または、10年後に君たちは新しいことに使うことができるでしょう。しかし、人々がそのことを感じる方法は、まるでこのような賢い存在が存在するかのようではなく、私たちは曾祖父母よりも賢く、少なくとも能力が高いです。しかし、個々の人間がより多くのことを行えるということです。

R: それでは終わりにしますので、サムに拍手を送りましょう。