以下の動画の翻訳です。Sam AltmanはS、対談者をFとしました。最後に質問もあります。重要そうな箇所は太字にしました。

司会者: お二人ともお越しいただきありがとうございます。ご紹介の必要はないかもしれませんが、サリー・コーンは2023年1月にMITの第18代学長に就任しました。細胞生物学者であり、デューク大学の学長時代には、優れた管理者、創造的な問題解決者、教員の卓越性と学生の幸福の主導者としての評判を得ました。MITでの1年目には、AIに注力し、AIが社会に広く恩恵をもたらすことを確実にするためのMITの取り組みについて証言しています。サム・アルトマン氏は起業家、投資家、プログラマーです。2015年にOpenAIを共同設立し、CEOを務めています。OpenAIは、人工知能研究と導入を行う企業であり、人工汎用知能が人類全体に恩恵をもたらすことを使命としています。サム、サリー、お二人ともありがとうございます。それではお二人にバトンタッチします。

F: ありがとうございます。まず、コラムニストのケビン・ローズ氏などによると、「あなたのP(Doom)は何ですか?」というのが一般的な質問だそうです。P(Doom)は破滅の確率を表し、1から100までのスケールで計算されます。高いスコアほど、AIが人類を絶滅させるという破滅的なシナリオを強く信じていることになります。サム、まずはこの質問から始めましょう。あなたのP(Doom)は何ですか?

S: これはあまり適切な質問ではないと思います。頭のいい人や重要人物になりたがる人にとっては格好の質問です。数字について長々と語るのは私も好きですが、2なのか10なのか20なのか90なのかは重要ではありません。重要なのは、ゼロではないということです。また、この質問が適切でない理由は、静的なシステムを想定しているからです。私たちがすべきなのは、素晴らしい未来を作り出す方法を見つけること、破滅的な未来を一切許容しないことです。社会には常に悲観論者の居場所がありますし、彼らの存在には価値があります。彼らのおかげで私たちはより真剣に物事を考えるようになります。でも、より良い質問は、安全にナビゲートするために何が必要かということです。

F: そうですね。AIを開発する際には、その可能性を認識しつつも、あまり深入りしすぎないようにすることが大切だと。

S: 認識するだけでなく、真剣に受け止め、極めて慎重に対処する必要があります。

F: そうですね。あなたはしばらくこの業界にいますが、この10年でAIに対する見方はどのように変わりましたか? 5年前や10年前、GPTがこれほど強力になるとは思っていましたか?

S: 正直言って、まだそれほど良くないと思っています。これからもっと良くなっていく余地は大いにあります。10年前は、AIをもっとナイーブに捉えていて、人間から離れたところで活動する生き物のようなもの、空から魔法のようなスーパーインテリジェンスが現れて物事を解決し、お金を降らせてくれるようなものだと考えていました。でも今は、AIを他のテクノロジー革命と同じように捉えています。ただ、これまでで最大かつ最高の、そして最も重要で最大の恩恵をもたらす可能性を秘めています。新しいツールが人類のテクノロジーツリーに加わり、人々がそれを使って素晴らしいものを生み出しているのです。AIはますます高度になり、自律性も高まっていくでしょう。でも、社会に浸透し、重要かつ変革的な方法で社会を変えていくのだと思います。もし明日、AGIが実現したとしても、10年前の私なら、想像もつかない、全てが一変するような特異点だと言ったでしょう。でも今は、そうは思いません。

F: つまり、ある意味で楽観的だったけれど、今の状況を正確に予測することはできなかったということですね。

S: 楽観的だったのか悲観的だったのかはわかりません。ある意味で両方だったと思います。もし超スマートな学生たちと同じくらい賢いAIを作ったとしたら、それは素晴らしい成果です。でも、世の中にはすでに賢い人がたくさんいます。物事のスピードは上がるかもしれませんし、生活の質も向上するかもしれません。経済のサイクルも少し速くなるでしょう。でも、科学的発見のスピードが今の10倍になったとしても、それが私たちの生活にどれほど大きな変化をもたらすのか、わかりません。

F: なるほど、興味深いですね。話を現在のモデルに戻しましょう。ChatGPTのようなAIシステムを考えると、バイアスを取り除くために何が必要だと思いますか? 今日のAIシステムにあるバイアスの例を挙げて、今後どのように対処していくべきか教えていただけますか?

S: 驚くほど良い進歩を遂げていると思います。システムを特定の価値観に沿って動作させる方法がわかってきています。完璧ではありませんが、GPT-4は期待通りに、かなりうまく動作しています。ただ、そもそもバイアスや価値観を誰が決めるのかという問題はあります。社会が大まかな枠組みを定めるのか、ユーザーを信頼してツールの使い方を任せるのか。誰もが好ましい使い方をするわけではありませんが、ツールの場合はそういうものです。ユーザーにある程度の自由を与えることは重要だと思います。たとえ、あなたや私が好まない使い方をする人がいたとしてもです。でも、システムが絶対にしてはいけないこともあります。それを集団で話し合っていく必要があるでしょう。

F: そうですね。例えば医療の世界では、特定の人口統計グループに対するバイアスがあります。でも、それは人間の医師の行動をもとに学習しているからなんですよね。

S: その通りです。でも、私たちはRLHFというステップを踏んでいて、そこでかなりの影響力を行使できるのです。人間は明らかにバイアスを持っていて、それに気づいていないことが多いです。GPT-4や5が人間と同じ心理的な欠陥を持っているとは思えません。おそらく独自の欠陥を持っているでしょうが。だから、こうしたシステムは人間よりもバイアスが少なくなる可能性があると思います。

F: バイアスを取り除くことを目指す価値はありますね。バイアス以外にも、多くの人がLLMの未来を考える上で懸念しているのがプライバシーの問題です。パーソナルプライバシーとAIモデルの学習に必要な共有データのバランスをどのように取るべきでしょうか?

S: 将来的には、各個人が自分専用のAIを持つことができるようになるかもしれません。それは、これまでに送受信したすべてのメールやメッセージ、見たすべての文書やテレビ番組、言ったことや聞いたこと、見たことなど、人生のあらゆる情報にアクセスできるものです。それは非常に便利なものになるでしょう。でも同時に、プライバシーの問題も生じます。裁判所に召喚されても証言しなくていいような、新しい種類の特権情報の定義が必要になるかもしれません。プライバシーと利便性のトレードオフをどこに設定するのか、個人によって異なるでしょう。でも、これは社会全体として議論していく必要があります。インターネットでは、プライバシーやオンライン広告などについて議論してきました。でもAIが絡むと、リスクも大きくなり、トレードオフもより大きなものになります。これから真剣に向き合っていく必要があるでしょう。

F: そうですね。集約されたデータの話でいえば、医療記録などはリスクが高いですからね。個人がどの程度の情報を学習に使ってもいいのか、スライド式のスケールで設定できるようにするのも一案かもしれません。

S: その点については、少し議論がずれているように思います。GPT-5や6に求めるのは、可能な限り最高の推論エンジンになることです。今のところ、それを実現する唯一の方法は、膨大なデータで学習させることです。その過程で、限定的な推論や認知の仕方を学習しています。データを記憶したり、パラメータ空間にデータを保存したりできるのは事実ですが、将来的にはそれが無駄だったと振り返ることになるでしょう。GPT-4がデータベースのように振る舞えるのは事実ですが、それは遅くて高コストで、うまく機能しません。私たちが本当に求めているものではないのです。今は推論エンジンを作る唯一の方法の副作用として、そういう性質を持っているだけなのです。いずれ、推論エンジンを膨大なデータやデータの保存から切り離す方法がわかるようになり、それらを別々のものとして扱えるようになるはずです。そうなれば、プライバシーの問題も解決しやすくなるでしょう。

F: なるほど、よくわかりました。オープン性の話ですが、OpenAIが本当にオープンなのかについて、かなり議論があります。完全にオープンソースではないかもしれませんが、別の意味でオープンだと言っていますよね。これについてもう少し詳しく教えていただけますか?

S: 何百万人もの人々が無料で使える素晴らしいAIツールを提供しています。将来的には数十億人が使うようになることを願っています。広告を出しているわけではなく、公共の利益のためにやっているのです。できるだけ多くの人が使えるようにしたい。使いやすく、役立つものにしたい。それ自体がクールなことだと思います。

F: クールですよね。AIが私たちの日常生活に組み込まれていく様子を見ると面白いです。最初にChatGPTを見たときは「すげえ!」と思ったけど、もう次の「すげえ!」を求めている。

S: それは素晴らしいことだと思います。GPT-4に2週間みんな夢中になって、3週間目には「はいはい、GPT-5はまだ?」って感じですからね(笑)。でも、それは人間の期待と向上心の表れだと思います。だから私たちは常により良いものを作り続けなければならない。今日生まれた赤ちゃんは、知的でない製品やサービスを知らない世界で育つでしょう。認知能力が豊富で、あらゆるものに組み込まれている世界しか知らない。だから、現状に不満を持ち、毎年世の中がより良くなることを期待するのは素晴らしいことなんです。

F: そうですね。過去1年間で、AIとデータセンターの電力需要の増加が環境問題として指摘されています。一方で、AIが脱炭素化に貢献すると言う人もいます。気候変動への影響と、気候変動対策への貢献可能性というジレンマについてどう思いますか?

S: 具体的な質問と一般的な考察の両方に答えましょう。AIには膨大なエネルギーが必要なのは事実です。でも、世界全体で必要なエネルギーと比べれば大したことありません。もし世界の電力の1%をAIの学習に使ったとして、そのAIが非炭素エネルギーへの移行や炭素回収の方法を見つけ出すのに役立つなら、それは大きな勝利です。たとえそうでなくても、そのAIのおかげで人々の生活の質が上がるなら、1%のコンピューティングを使う価値はあるでしょう。昔、Googleが使ったコンピューティング量と、情報を得るために車を運転していた人々の二酸化炭素排出量を比較した記事がありました。Googleはひどい、やめさせるべきだと言う人がいましたが、知的に不誠実だと思います。実際にはエネルギーが節約されていたからです。インターネット全般、とりわけ在宅勤務を可能にしたことで、エネルギーが節約されたのは間違いありません。だから

S: AIには多くのエネルギーが必要になるでしょう。でも、より効率的なアルゴリズムやチップを開発し、核融合発電を実現することで、問題は解決できるはずです。だから、この問題に取り組むことは重要ですが、様々な素晴らしい方法で解決できるでしょう。
ただ、これは別の問題も示唆していると思います。P(Doom)の話から始まりましたが、今の社会には終末論が蔓延しています。若者に、世界は最悪だ、問題解決は無意味だ、暗い部屋にこもって自分の愚かさを嘆くしかないと教えています。これは全く非生産的な風潮です。MITは他の大学とは違うと思いますが、みなさんには是非、豊かさと進歩を人生の使命にしてほしい。毎年少しずつでも良くなっていく世界、子供たちにより良い人生を築かせること。それが唯一の前進の道であり、健全な社会を築く唯一の方法です。「AIには反対だ。CO2排出が増えるかもしれないから」とか、「バイアス問題が完全に解決されていないからAIを進めるべきではない」と言う人は、数年後にはその両方でかなりの進歩があったことに気づくでしょう。反進歩的な考え方、特に十分な特権を持つ人々が主張する「人々には素晴らしい人生を送る資格がない」という考え方とは、ぜひ戦ってほしいと思います。

F: そうですね。MITに外部から来て感じるのは、問題を特定し、解決策を見出そうとする姿勢こそがMITの本質だということです。

S: ここに来られて本当に嬉しいです。

F: こちらこそ、来ていただけて光栄です。AIのコストと言っても、金銭的コストだけでなく、気候変動など様々な側面がありますね。長期的に帳尻を合わせる、AIの貢献分を差し引くという発想が重要だと思います。

S: その通りです。

F: OpenAIは、ビジネスや消費者向けのアプリケーションだけでなく、科学や工学に特化したツールも開発していく予定ですか?

S: もちろんです。個人的に最も興味があるのは、AIを使って科学的発見のスピードを上げることです。これこそが人類の進歩の核心だと信じています。それが持続可能な経済成長を実現する唯一の方法なのです。とはいえ、問題解決に役立つ汎用的なAIツールを作ることが、結局は科学の発展にもつながるのかもしれません。AIは「Artificial General Intelligence」の「General」の部分がキーだと思います。

F: なるほど。起業家志望の学生にアドバイスをお願いします。

S: 繰り返しになりますが、今はスタートアップにとって絶好のチャンスだと思います。プラットフォームが大きく変化する時期に、スタートアップは成功しやすいのです。大企業は動きが遅く、イノベーションも少ない。スタートアップはスピード、反復、サイクルタイムで優位に立てます。歴史が示すように、今がチャンスなのです。
ただし、注意点もあります。新しいテクノロジーを使えば、短期的な成長は加速できます。でも、それは持続的なビジネスを構築しているわからではありません。新奇性だけで一時的に伸びるスタートアップがよくありますが、本質を見失ってはいけません。魔法のような新技術があっても、ビジネスの物理法則から逃れられるわけではありません。顧客とのリレーションシップ、差別化要因、複利的な優位性の構築。これらは今も昔も変わらず重要なのです。

F: そうですね。他に何か伺いたいことはありますか?
ここで、会場からの質問を受け付けることになりました。

Q1: 世界で最もスマートな子供たち、MITで最もスマートな子供たちから、「人間がまだ役立っているうちの5年間をどう過ごせばいいですか?」と聞かれるようになりました。衝撃的です。AIは素晴らしいツールだと思いますし、今はできないような素晴らしいことができる未来が楽しみです。でも、人間の知性の進化と、AIの信じられないスピードの進化を考えると、やがてその二つの曲線は交わるでしょう。人工知能では再現できない人間ならではの能力は何だと思いますか? そういった能力を再現するにはどのようなアーキテクチャが必要でしょうか? 人間の知性と機械の知性の未来をどのように見ていますか?

S: 二つの相反する答えがあります。一つは、今から永遠に、「この5年間は本当に重要だ。今なら貢献できるけど、その先はわからない」という気持ちが続くだろうということです。実際には常に、AIのツールを使って素晴らしいことができるはずです。指数関数的な進歩の中では、「この5年が勝負」という気持ちが絶えずあるでしょう。でも実際には、私たちはより高度なことを成し遂げられるようになるだけです。
もう一つは、個人的な感想ですが、この時代をノスタルジックに振り返る日が来るだろうということです。今、その真っ只中にいながらにして、そう感じるのは奇妙なことかもしれません。

F: なるほど、興味深いですね。他に質問はありますか? マイクを回してください。

Q2: スタートアップはエンドユーザー向けアプリケーションとインフラストラクチャのどちらに注力すべきだと思いますか?

S: 現時点では、エンドユーザー向けアプリケーションの方が有望だと思います。モデルの改善によって恩恵を受けるようなアプリを選ぶ必要があります。現世代の問題を解決するだけでなく、モデルの改善を見据えたものがいいでしょう。インフラ構築も悪くはありませんが、今すぐに人々に役立つことをする方が、1000億ドル規模のチャンスがあると思います。

F: 他にいかがでしょうか?

Q3: OpenAIの今後についてお聞きします。GPT-6,7,8...と出していくのでしょうが、ソーラのようなロボットも開発されています。OpenAIとして、LLMモデルがほぼ完璧になった後、どのような独自の立ち位置を目指していますか?

S: 正直、まだ完璧からは程遠いと思っています。少なくともあと3,4世代のモデルは、毎回信じられないほど改善できると信じています。そこに注力すべきであり、それができれば他のことは上手くいくはずです。私たちのニッチは、素晴らしい認知能力を可能な限り豊富に、安価に提供することです。他にも良いことはできますが、それに集中できれば世界に大きく貢献できると思います。まだまだ続けられるでしょう。

Q4: 二つ質問があります。一つは、その靴はどこで手に入れたのですか?

S:アディダスがレゴとコラボしていましたよね。レゴ大好きなんです。

Q4:素晴らしい。レゴ最高! で、真面目な質問ですが、AGI(Artificial General Intelligence)の実現はどのくらい先だと予想していますか? そこに至る上でのOpenAIの役割は何でしょうか?

S: 正直言って、世界全体が「今年はAGIの敷居を越えた」と合意する時期は来ないと思います。AGIという言葉の定義が曖昧になりすぎています。「もうすぐAGIが来る」と言う人もいれば、2040年になっても「信じられないほど有能だがまだAGIじゃない。これができていない」と言う人もいるでしょう。だから今となっては、いつ特定の能力Xやyやzが実現するかという質問の方が適切だと思います。
ただ、AGIという言葉は使わないようにしています。OSの奥深くまで染みついているので、完全にはできませんが(笑)。でも、いつ新しい科学的発見ができるようになるのか、いつ経済的価値を生み出せるようになるのか、といった質問の方が建設的だと思います。今の10年の終わり(2020年代終わり)までには、本当に大きな経済的価値を生み出すシステムができるようになると期待しています。

F: 素晴らしい。では最後の質問にしましょう。誰かいますか?

Q5: ありがとうございます。一般的な質問ですが、問題解決で行き詰まったとき、どうやって打開策を見出しますか? 思考プロセスを教えてください。

S: 私は文脈を変えようとします。別の人と話をしてみたり、極端な場合は問題から離れて旅行に行ったりもします。一度、本当に難しい問題で詰まったとき、時差ボケで真夜中に目が覚めて、新しい環境の中で考えたら解決策が見つかったことがあります。とにかく、何らかの方法で文脈を変えることが大切だと思います。