サム・アルトマン、ダボス会議参加に向けて抱負を語る
この動画は、大ボス会議に出席するサムに対してどんな事をはなしてくるのかを確認するインタヴューになっていると思います。ここ数ヶ月中に起こった主な話題を余す事なく確認されています。
サム・アルトマンはOpenAIのAnna Makanju（注01）と一緒に対談しています。
※注01：Anna Makanju は現在、OpenAI のグローバル アフェアーズ担当副社長を務めています。この役割において、彼女は会社のポリシーとエンゲージメント戦略を主導します。彼女の仕事には、テクノロジー規制を監督し、OpenAI の進歩が世界的な政策枠組みと確実に整合し、世界中の政府やその他の関係者と効果的に連携できるようにすることが含まれます。彼女の経歴には、公共政策や法律業務、特に Facebook での経験と、プリンストン大学での教鞭が含まれます。OpenAI での彼女の役割には、急速に進歩する AI テクノロジーと世界的な規制および政策の状況の間の複雑な相互作用をナビゲートすることが含まれます。
この動画の話題は、下記のリンクから確認する事ができます。
00:01OpenAI、選挙におけるAI利用に関する新たなガイドラインを発表
02:04OpenAI は潜在的な問題を注意深く監視し対処
06:10AIは人間の能力を拡張するツール
08:05テクノロジーは、仕事の混乱を引き起こすのではなく人々の仕事のやり方を変えて行く
11:53データ使用とパブリッシャーの関係に対する OpenAI のアプローチ
13:38法的暴露とコンテンツの帰属への対処
17:10政府に AI を理解して活用してもらう
18:47OpenAI のガバナンス構造と使命への取り組み
22:26AIの発展は気候変動に影響を与える可能性
24:21炭素燃焼から脱却する大規模なエネルギー転換への道
28:10国内産業への規制影響への懸念
30:09AI規制と世界的な影響
33:48OpenAI は新しい機能を備えた新モデルをリリースを目指す
35:51新デバイスの可能性とスマートフォンに改善の可能性を語る
OpenAIのAIの選挙での使用に関する新しいガイドライン
最近、OpenAIが選挙におけるAIの使用に関して新しいガイドラインを発表し、大きな話題となっています。このガイドラインでは、特に透明性を高めるための暗号的ウォーターマークの導入が注目されています。これは、AIによって生成された画像に対するもので、do toによって作成された画像にも適用されます。
同様の原則は、Facebook、TikTok、YouTubeなどの大手プラットフォームにも共有されていますが、これらのプラットフォームは実施に苦労していることが明らかになっています。OpenAIは、National Associationや州務長官との重要なパートナーシップを通じて、権威のある投票情報を提供することで、透明性を高める努力を強化しています。
一方、OpenAIの役員であるアンナ・マカンジュ氏は、Facebookでの経験を踏まえてコメントしています。彼女は、Facebookでケンブリッジアナリティカが不正にFacebookを選挙活動に利用した件について、OpenAIがその創設からこれらの問題について考えてきた会社であると述べています。アンナ氏は、「これらの問題は、私たちのチームがツールの構築開始時から考えてきたことなので、それほど心配していません」と強調しています。
この件は下記のNoteでも詳しく解説していますので合わせてご覧ください。
AIとアメリカ政治の未来についての見解
OpenAIのサムとアンナは、アメリカの選挙とAIの安全な管理に関して、重要な見解を示しました。サムは、ドナルド・トランプがアイオワ州の党員集会での勝利を受け、これからの選挙においてテクノロジーとAIの管理が重要な問題であると指摘しています。彼は、これは有権者が選挙で考慮すべき重要な問題だと考えているようです。
一方で、アンナは、AIに関する議論が非常に超党派的であることに驚いており、どちらの政党もAIを嫌う可能性について心配しています。しかし、彼女は、この問題に対して両党とも何らかの対策が必要だと考えており、超党派の努力が行われていると述べています。
アンナ・マカンジュがFacebookでの経験を基に、AIと選挙に関する懸念を示している可能性は高いです。彼女はFacebookにおいてケンブリッジアナリティカの不正使用事件（注02）を経験しており、その時に学んだ教訓が、彼女の現在の見解に影響を与えていると考えられます。
※注02：ケンブリッジアナリティカの事件は、ソーシャルメディアのデータを利用して選挙に影響を与えるという問題を浮き彫りにしました。アンナはこの経験から、AIの選挙利用におけるリスクと、それに対する適切な対策の必要性を理解していると考えられます。
事件いついて詳しくはWikipediaをご覧ください。
労働階級の怒りや不平等の助長にAIが手を貸す懸念
「ドナルド・トランプのようなアメリカや世界中の政治家は、労働階級の怒りや不平等の増大、技術から取り残されているという感覚に訴えかけていますが、AIがこれらの問題をさらに悪化させる可能性がありますか？」という質問に対して、サムは次のように答えています。
「確かに、AIがこれらの問題を悪化させる可能性については考える必要があります。しかし、私たちがテクノロジーを開発する際には、科学の進展に従っていくと決めていました。また、新しい製品を市場に出す際にも、それが社会とともに進化するものだと考えていました。私たちは、その進化の方向をある程度はコントロールできますが、完全にコントロールすることはできません。どうしてかというと、テクノロジーの可能性や、人々がどのように使いたいか、何ができるかということが決め手になるからです。私たちは、このテクノロジーをただのツールとして予想していましたが、未来に向けてさらに発展していく途上にあります。」
サムはAIの未来に対して楽観的な見方をしており、AI技術が社会に良い影響をもたらすと信じています。パンデミック中には多くの予期せぬ出来事が起こりましたが、それは特定の状況下での出来事であり、AIの進展においては異なるアプローチが取られています。
サムの発言は、このような前向きな姿勢とAI技術のポテンシャルへの信頼を反映していると言えるでしょう。
AGIが人々の仕事を奪い世界を変えてしまうのか？
サムはAIを「人間が行うことを拡大するツールであり、人々が仕事をより良く行うことを可能にし、AIが仕事の一部を行うことを可能にします」と解説し、「もちろん、仕事は変わりますし、完全になくなる仕事もありますが、人間のドライブは非常に強く、社会の仕組みは非常に強力なので、AGIが比較的近い将来に開発されると思いますが、私たちが考えるほど世界を変えることはないでしょう。それは仕事を変えることも私たちが考えるほどではないでしょう」と述べています。
OpenAIの米国国防総省や他の軍事機関との協力について
OpenAIが利用ポリシーを変更した事に対して質問がありました。この件は、下記のNoteでも詳しく解説していますので合わせてご覧ください。
この質問に対してサムは以下のように答えています。
「具体的にこの分野では、私たちは依然として武器の開発、財産の破壊、個人への危害の禁止を続けていますが、例えば、国防総省との協力で、オープンソースソフトウェアのサイバーセキュリティツールや、重要なインフラの保護に関する研究を行っています。
我々は、退役軍人自殺を助けることができるかどうかを探求しています。以前は軍事目的に対する一律の禁止がありましたが、多くの人がそれがこれらの使用事例を禁止すると感じていましたが、私たちはこれらが私たちが世界で見たいと思っていることと非常に一致していると考えています」と続けています。
また、「米国政府は、他国の軍隊との協力レベルを制限するよう要請しましたか？」との質問に対して、彼は「彼らから要請はありませんが、現在のところ私たちの議論は、アメリカの国家安全保障機関に焦点を当てています。私たちは常に、民主主義国家がこの技術をリードする必要があると信じています」と答えられています。」と述べています。
GPTストアの更新情報について
「初期のモバイルアプリストアのような創造性の爆発を見ていますか？」との問いに対し、サムはこのように答えました。
「同じレベルの創造性と同じレベルのクズがありますが、初期段階では人々が技術を試す際に起こります。中には信じられないものもあります」
彼の発言からGPTsには優れたものからクズまで、ピンキリがある事がわかります。
「GPTストアには、人々が作成したものを見て共有することができます。個人的に好きなのはAlTrailsです。隔週末には長いハイキングに行きたくなります。他の人のNetflixのように、何を見るかを決めるのに1時間かかることがあります」と彼は続けました。
「自分で作ったGPTをストアに追加しましたか？」という質問に対しては、「はい、私はいくつか作りましたが、ストアにはまだ追加していません。もしかしたら将来追加するかもしれません」と答えました。
「ストアを立ち上げる前に300万個が作られていたというのが、私が知っている数字です。私はこの世界中を回る非常に忙しい旅の真っ只中にいますので、通常の日常のメトリクス追跡を行っていません。立ち上げ以降の状況はわかりませんが、チャットGPTの遅さを見る限り、かなりうまくいっていると思います」と話しています。ここで笑いがもれました。
GPTストアについては下記のNoteに詳しく解説しましたので合わせてご覧ください。
ニューヨークタイムズがオープンAIに対して起こした訴訟について
「オープンAIの著作権問題についてお聞きしたいです。例えば先月、ニューヨークタイムズがオープンAIに対して起こした訴訟を考えると、出版社との関係がオープンAIのビジネスにどれほど重要ですか？」との質問に対して、サムは「重要ですが、人々が考える理由ではありません。私たちは例えばニューヨークタイムズのデータを使ってトレーニングすることは望んでいません。一般的に、世界はデータ、データ、データと言っていますが、いずれはそれに限界が来ます。私たちの研究は、より少ない量の高品質なデータからより多くを学ぶ方法に焦点を当てています」と述べています。
またサムは、「出版社との取り組みは、私たちのユーザーが『今日のダボスで何が起こったか』を尋ねたときに、『ブルームバーグからの記事です』とか『ニューヨークタイムズからの記事です』と答えることができるようにすることです。私たちは多くの素晴らしいパートナーシップを結んでおり、今後もまだまだ増える予定です。そして、いくつかの出版社はパートナーシップを望んでいませんが、私たちは自分たちを守るためにも、それらの出版社が『協力したくない』と明確に言ってくれれば、それでも構いません」と続けています。
ニューヨークタイムズのデータの取り扱いについて
「ニューヨークタイムズのデータでトレーニングを行わないということですが、法的な露出を考慮して、モデルのトレーニング方法を変更する必要がありましたか？」との質問にたいし、サムは
「これは難しい問題です。ウェブは広大で、ニューヨークタイムズからコピーして無断で他のウェブサイトに掲載される記事があります。それがニューヨークタイムズの記事だとは知らないでしょう。もしニューヨークタイムズが私たちに全ての記事のデータベースを提供し、これと一致するものを出さないようにと言えば、私たちはかなり良い仕事ができると思います」と述べています。
サムは下記のように補足しています。「しかし、この問題は一見すると簡単に思えるかもしれませんが、実際にはそうではありません。私たちはその数を減らし、かなり低くすることができると思います。これは私たちを評価する上で非常に合理的なことだと思います。著作権のあるコンテンツがあれば、私たちの知らないうちに他のものに含まれているかどうかを見せて、直接的な応答として使わないように言ってください。」
サムは、AIモデルのトレーニングで使用されるデータについて、著作権で保護されているコンテンツを意図せず使用することがあると認めています。彼は、このような問題に対処するために、著作権を持つコンテンツを特定し、それらをAIの直接的な応答として使用しないようにすると述べています。
彼は「否定的な面もありますが、ニュースや他の公開コンテンツを消費し、収益化するための素晴らしい新しい方法があると思います。ニューヨークタイムズのような状況が一つあるたびに、未来を築きたいと思っている人々にとってはるかに多くの生産的なことがあります」と続けました。
この件は下記のNoteで詳しく解説していますので合わせてご覧ください。
OpenAIのガバナンスとコーポレート構造、投資家と従業員の関与
「オープンAIの独特なコーポレート構造について、非営利法人の取締役会と利益上限のある営利部門によるガバナンスの問題をどのように対処していますか？」という質問に対し、サムはこのように答えました。
「まずは優れた完全な取締役会を設置することに集中します。その後、新しい取締役会がガバナンス構造を見直すことになるでしょう。オープンAIが伝統的なシリコンバレーの営利企業になるべきかどうかを議論しましたが、私たちは決して伝統的な企業にはなりません。しかし、構造については見直す価値があると思います。現在の答えが正しいかもしれませんが、他の選択肢を検討する意思があるべきです。」
また、「おそらく、マイクロソフトを含む投資家や、長期的な投資収益を期待する従業員がいると思います。オープンAIの困難な点の一つは、チームや周囲の人々、投資家、マイクロソフトなどがこのミッションにどれほどコミットしているかを表現することです。数日間の狂乱の中で、会社の97%か98%が辞職して別のことをするという手紙に署名しました。これは多くの従業員にとって、彼らの富の全てまたは大部分を占めているので、彼らのエクイティを破壊することになるでしょう。人々がそれを行う意思を持っていることはかなり珍しいことです。また、株価がゼロになる可能性があるにも関わらず、「どのように支援できるか」と尋ねてくれる投資家もいます」と続けました。
サム・アルトマン解任劇について
サムは「取締役会が私を解雇したとき、私は非常に混乱し、驚きましたが、これが構造です。次に何をするかを考え始めたのですが、翌朝、取締役会のメンバーから電話があり、戻ることを考え始めました」と話しました。
また「取締役会は全ての権力を持っていましたが、それについては言及しません。オープンAIの従業員たちがこれを望み、サムが戻ることが正しいと思ったのです。私が言いたいことは、取締役会には私を解雇する権限がありますが、その取締役会にも何らかの責任が必要です」と続けました。
サムの解任騒動については、10余のNoteに詳しく解説しています。下記はその一つですので合わせてご覧ください。
AI開発の計算コストチップの需要、そして気候変動に与える影響
「ダボスでの会議では気候変動が議題に上がっています。AIの開発とAGIへの道のりが、気候に逆行する方向に進むかもしれないのでは？」との質問には、「私たちは以前に考えていたよりもはるかに多くのエネルギーを世界で必要としています。私のモデルでは、将来の重要な通貨は計算能力、知能、そしてエネルギーです」とサムは答えています。
また、「アイデアを実現する力と計算を実行する能力ですが、この技術のエネルギー需要を私たちはまだ十分に認識していないと思います。良いニュースは、ブレークスルーなしにはそこに到達する方法がないということです。核融合や、より安価な太陽光発電プラス蓄電技術など、大規模なスケールでの何かが必要です」と話しました。
彼は続けて「AIは多くのエネルギーを必要とすることは間違いないですが、それは私たちにこれらの技術への投資を促すでしょう。これらの技術は炭素を燃やすものではありません。例えば、原子力をサポートすることについて、私は個人的に、それが最も可能性の高い、または2番目に可能性の高いアプローチだと思います」と語りました。
核融合発前への期待
サムはまた、核融合への期待を語りました。「世界は核融合に非常に前向きですが、私は世界が核分裂をもっと受け入れることを望んでいます。楽観的過ぎるかもしれませんが、私たちには炭素を燃やすことから離れる大規模なエネルギー移行への道筋があると思います。エネルギーのコストを劇的に下げることができれば、炭素のキャプチャに関する数学が大きく変わります」
またサムは「需要の面で逆行する方向に進む可能性があるという質問に対する答えは「はい」ですが、供給の側面で劇的な行動を取らない限り、供給を管理する方法はありません」と結論付けました。
サムが投資する核融合発電のスタートアップ、ヘリオンエナジーについては下記のNoteに詳しく解説していますので合わせてご覧ください。
GPT-4以降の開発スピードについて
「私たちが技術を段階的に展開する理由の大きな部分は、人々が徐々に慣れ、理解するための時間が必要だからです。間違いを犯すときにリスクが低い間に時間が必要です。政府も、政策上の間違いを犯す時間が必要です。そして、このような場合、技術と社会は共進化しなければなりません。技術は各反復で変化しますが、社会の働き方も変わる必要があります。これは対話的で反復的なプロセスでなければなりません」とサムは述べています。
また、「私たちはそれを受け入れる必要がありますが、恐れずに慎重であるべきです。この反復的プロセスにどれくらいの時間があるのでしょうか？」と尋ねられています。「これは驚くほど連続的なプロセスです。AIが非常に優れたAI研究を行えるときに不連続性を見ることができますが、それは印象的な例です。しかし全体として、ある特定のラインを越えるというよりは、私たちが共に登る連続的な指数関数的カーブについてです」このように続けました。
ChatGPTはツールであるという認識を強める
「OpenAIの一部の従業員は自分たちが『神を創造している』と考えているという話を聞いたことがありますが？」との問いに、サムは「私はそれを聞いたことがありません。ほとんどの従業員は、道具を作っているという意識が強いと思います」と話しています。
サムは続けて 「私たちは自分たちを道具の製作者と考えています。AIは製品よりも道具であり、エンティティよりもはるかに道具です。昨年最も素晴らしかったのは、世界中の人々がその道具を使ってどれだけ多くのことを成し遂げたかを見ることでした。これからも人間の創造性と、より良い道具を使ってより多くを成し遂げる能力が驚異的に発揮されると思います」と話しました。
ジョニー・アイブと進めるAIを搭載したデバイスの開発について
「ジョニー・アイブとAIを搭載したデバイスを開発しているという報告がありましたが、CESが先月開催され、AI搭載デバイスが話題になりました。それについて何か更新情報はありますか？また、AIはスマートフォン時代の終わりの始まりをもたらすでしょうか？」との質問に対して「スマートフォンは素晴らしいですし、スマートフォンがなくなることはないと思います。スマートフォンは非常に汎用的で、非常に上手く機能します。新しいものを作るとしても、それがスマートフォンを置き換えるものではないと思います。新しいものが私たちに新しい方法でより多くのことを助けることができるなら、それは興味深いことです」とサムは答えました。
新しいデバイスについては彼はこのように語りました。
「コンピューターに話しかけて、理解してもらい、何かをしてもらえることに、私たちは十分に驚嘆する時間を費やしていないと思います。これは新しい操作方法、コンピューターの新しい使い方です。もし、素晴らしい新しい種類のコンピューターを作ることができるなら、私たちはそれをすべきです。もしスマートフォンが本当に良く、これがすべてソフトウェアであるならば、それで結構ですが、素晴らしいことができると私は賭けます」
さらに、ジョニー・アイブについては、「ジョニー・アイブは非常に優れた才能を持ち、彼の成し遂げたことの中で特に重要なのは、コンピューターをより人間に近づける方法を見つけ出すことです。この技術を、SF映画のような神秘的で恐ろしいものではなく、愛着を持ち、自然に感じられるような新しいコンピューターの使い方として捉えることが重要です」と述べています。
この件についてはこちらのNoteで詳しく解説しています。
ダボス会議でのメッセージ
「ダボスでの会合でビジネスリーダーや世界の指導者たちにどんなメッセージを伝えたいですか？」との質問に対して、彼は次のように答えました。「この技術に対する多くの人の感覚は、興奮よりもむしろ恐れに傾いているようです。私たちは、この技術の最善の形を実現するために一生懸命努力していますが、多くの人々がリーダーたちを通じて関与しています。彼らは、この技術に関するバランスのとれた情報を伝える責任があると思います。」
この記事が気に入ったらサポートをしてみませんか？