■背景
以下は「生成AIが切り拓く未来」と題して東大で行われたパネルディスカッションです。OpenAI社からはシェイン・グウさんが参加しています。

■依頼事項
youtubeの書き起こし機能でspeach2textされた文章をあなたに渡しますので、なるべく元の意味を保ったまま文章の書き起こし補正をお願いします。生成AI、やOpenAI、シェイン・グウ、といった名称が特に誤変換されているので注意してください。

司会：それでは、パネルセッション第1部を始めさせていただきます。第1部のテーマは「生成AIが切り開く未来」です。それでは、登壇者の皆様をご紹介いたします。モデレーターはTMI総合法律事務所のパートナー弁護士、宮川みつ子様です。[拍手]

次にパネリストをご紹介いたします。経済産業大臣、西村康稔様。ソフトバンクグループの代表取締役会長兼社長執行役員、孫正義様。[拍手]

OpenAIのChatGPT開発チーム幹部、シェイン・グウ様。東京大学大学院工学系研究科の教授であり、内閣府ASA戦略会議の座長でもある松尾豊先生です。[拍手]

それでは、宮川様、よろしくお願いいたします。

宮川さん： それでは、座らせていただきます。第一部のモデレーターを務めさせていただきます、弁護士の宮川みつ子です。第一部は「生成AIが切り拓く未来」というテーマで、ChatGPTをはじめとする生成AIがビジネスや教育の現場に浸透していく中で、爆発的な産業の発展が期待されています。一方で、人間の高度な知的活動がAIに取って代わられるのではないかという懸念も示されています。今後の生成AIの発展について、日本の産業はどう関わっていくべきか、経済界、政界、アカデミアの皆様と議論するセッションになります。

このセッションは著名な方々が多く参加していますので、典型的な自己紹介は省略し、パネルディスカッションに先立ちまして、4名のパネリストの皆様にそれぞれ約5分間、生成AIとの関わりについてお話しいただく予定です。その後、残りの30分間で3つのテーマ、生成AIの利活用、生成AIの発展を支えるインフラの問題、そして生成AIのリスクへの対応についてディスカッションいただきます。

まずは、西村大臣に日頃のAIとの付き合いについてお話しいただければと思います。

西村大臣： はい、皆さんこんにちは、西村です。生成AIについては半年前あるいは去年の年末くらいから注目が集まり始めました。それまであまり誰も気づかなかったものですが、もちろん日本でも様々な開発が進められていて、スタートアップを含めて様々な動きがありました。私自身もその動きに大きな衝撃を受けました。これからの1〜2年で働き方、特にホワイトカラーの事務職の仕事が大きく変わるだろうと思います。ものすごくうまく使えば生産性を上げられる、まさに革命的な変化が起きると思っています。もちろん今日議論になる課題を乗り越えていかなければならないのですが、それは乗り越えていくべきで、ぜひこれを日本の将来の持続的な成長につなげていきたいと思っています。

ビル・ゲイツさんも、これはインターネットや携帯電話と同じぐらい革命的だと言っていましたし、ハーバード大学のサマーズ教授やアメリカの元財務長官も、これは電気と同じぐらい、人類が使ったものと同じぐらいのインパクトがあると言っています。私もまさにそう思っています。日々ニュースを見ていて、開発している方々、企業、スタートアップ、大企業との意見交換を重ねています。本日のこの機会もとても楽しみにしています。

孫さんとは若い頃から交流があり、久しぶりにお会いするのを楽しみにしています。アメリカが先行していると思われがちですが、日本も先頭集団にいます。マラソンに例えれば、42キロのレースの中で私たちはまだ5キロ、10キロを走ったところで、これから色々なことが待っています。しかし、私たちは先頭集団にいるという認識を持っています。決して第二集団、第3集団ではありません。既に多くの企業やスタートアップが活動を始めていますし、我々も様々な形で応援しています。

経産省として、私の立場から言わせていただくと、生成AIを開発する様々なタイプのもの、そして計算基盤やデータの整備など、先頭集団で、世界をリードする企業や技術を生み出すことを目指しています。

宮川さん： それでは次に、孫さん、先日ソフトバンクグループ株式会社の株主総会で、AI時代の到来と将来の展望について熱く語っていらっしゃいました。その一部をぜひご紹介いただきたいと思います。よろしくお願いします。

孫さん： まず最初に、皆さんに大きなピクチャーでものを見て欲しいと思います。考えてみてください、人間と、最も賢い魚とどっちが賢いでしょうか。これは哲学的な意味ではなく、科学的な意味で言っています。どんなにトレーニングされた、どんなに鍛えられた魚でも、平均的な人間の脳細胞の活動には絶対勝てないと思います。魚の中にはすごく賢いものがいると言う人もいるかもしれませんので、念のためにもう一つ聞きます。どんなに賢い蝶々、鍛えられた蝶々と平均的な人間とを比べて、どちらが賢いでしょうか。まさか蝶々が人間より賢いとは思わないでしょう。蝶々が道具を使えるとか、言葉を喋れるとか、コンピューターを使えるという人はいないと思います。ちなみに、人間の脳細胞、ニューロンの数と魚の脳細胞、ニューロンの数とは、約1万倍の差があります。蝶々と人類の差は、約40万倍程度、100万倍には至らないぐらいの差です。だいたい同じようなものですね。一番賢い蚊が平均的な人間より賢いという人はいないと思います。これは基本的に、脳細胞、ニューロンの数と、その生命体が持っている知識や知恵の差というのは、概ね比例すると思います。やはり脳細胞が複雑でたくさんあるからこそ、ものを学んだり考えたりすることができるということだと思います。

孫さん： つい最近まで、AIの賢さやその限界を試すために、AIが東京大学の入学試験に通るかどうかを試していた研究者たちがいました。しかし、その試みは見事に失敗しました。その理由としては、AIに読解力がないという説明がされました。私はそれを聞いて驚きました。その結果はAIの限界を示すものではなく、AIを開発していたチームの限界を示しているのではないかと思ったのです。

AIに限界があったわけではないことが証明されたのは、現に今のGPT-4によってです。GPT-4は、アメリカで少なくとも医学、法学、数学、物理学など、さまざまな大学の入学試験でトップ10%レベルの成績で合格しています。以前のバージョンであるGPT-3では、このレベルまで達していなかったのです。GPT-4は、すでに平均的な人間よりも賢くなっており、大学の入学試験にことごとく合格しています。私自身が全ての科目で合格できる知識や知恵を持っていないのと同様に、平均的な人間もそうではないと思います。

さて、GPT-4の現在の知識や能力を1とした場合、10年後にはその能力が何倍になると思いますか？私は、脳細胞の働きや、脳細胞を活用した知識や知恵が100万倍になると思います。すでにGPT-4は平均的な人間のレベルを超えているので、そのレベルが100万倍になるということは、10年以内に人間を大きく超えるレベルに達するということです。それは我々の生きている間に起こるでしょう。

さらにその10年後には、その能力は少なくとも1000倍になるでしょう。つまり、その差は1兆倍になるということです。この差がついたら、もはやAIが人間より賢いのか、どの分野で人間がAIより賢いのかという議論は意味をなさなくなります。

それは、AIと人間との間に圧倒的な差が生まれるからです。その差が生まれる時代が、我々が生きている間、あるいは我々の子供たちの世代に必ずやって来ると思います。その時点では、テクノロジーと人間との関係、シンギュラリティのクロスポイントに我々は生きていると言えるでしょう。人間は今まで地上で一番賢い生物でしたが、それが変わる時代が来ます。その時、人間の幸せとは何か、人間の仕事とは何か、調和とは何か、平和とは何かといったテーマを根底から考え直す必要が出てくるでしょう。我々はその議論を始める時期に来ていると思います。

宮川さん： ありがとうございました。今、生成AIの将来についてお話しいただきましたが、ここで松尾先生にもAIについて話していただきたいと思います。松尾先生には同じ研究者としての見解や、シェイン・グウさんの研究をご存知でしょうから、簡単にご紹介いただければと思います。

松尾先生： はい、そうですね。生成AIには非常に大きなポテンシャルがあると思います。現状の生成AIの技術について少し解説しますと、大きく分けて画像系とテキスト系の2つがあります。画像に関してはディフュージョンモデルという深層学習やディープラーニングの技術が多く使われています。一方、テキストや自然言語処理に関してはトランスフォーマーモデルが多く使われます。これは2017年にGoogleの研究者らが提案したもので、現在では大規模に使われています。特に、スケーリングロー（規模の法則）という発見があり、大きなパラメータのモデルを使えば性能が上がるということで、より大きなモデルを使い、より多くのデータを用いてパワフルな計算機で学習させる競争が始まっています。それが非常に大規模化しています。例えば、GPT-3は750億パラメータを持っています。GPT-4のパラメータ数は私にはわかりませんが、ともかくパラメータ数は増え続けています。ただし、孫さんがおっしゃったように、まだまだ人間の脳のパラメータ数には及んでいません。しかし、近い将来に追いつき、そしてすぐに追い越すという状況になると思っています。

生成AIの技術だけを考えても、相当大きな範囲で産業や社会にインパクトを与えると思っています。インターネットやスマートフォン、トランジスターや電気といったテクノロジーの普及と同じように、技術のシーズが社会に伝播し、社会を大きく変えるまでには一定の時間差があります。しかし、その技術が行き渡っていくうちに、変化の波がどんどん大きくなって非常に大きな変化になります。インターネットも技術としては小さいものだったかもしれませんが、我々の生活を大きく変えました。生成AIも今はまだ技術が黎明期であるとはいえ、すでに我々の社会に影響を与え始めています。これが隅々まで行き渡れば、どんな影響になるのか非常に大きいでしょう。

しかも、これが終わりではなく、技術はどんどん進展します。同時に、シェイン・グウさんがおっしゃったように、計算機のパワーもどんどん増大していくということで、本当に大きなことがこれから起こってくると思っています。そういった中で、我々はどうしていくべきか、どういう社会を作っていきたいのかということをしっかり考えていかなければならないと思います。そして、AIの活用の仕方についても、議論していくべき状況だと思います。

松尾先生： はい、私の話はそれで終わります。次にシェイン・グウさんをご紹介させていただきます。彼はトロント大学で学び、ヒントン先生の指導を受けたのち、ケンブリッジで博士号を取得しました。その後、Googleに入社し、ロボットのチームを立ち上げたりしていました。そして今年の初めからOpenAIに移り、ChatGPTの開発を担当しています。要するに、彼はディープラーニングの時代、生成AIの時代の最先端で歩んでいる人物であり、研究成果としても、強化学習や生成の基本的な部分で非常に大きな成果を上げている方です。紹介はこのぐらいにしておきます。

シェイン・グウさん： ありがとうございます。それでは私からもお話させていただきます。とても光栄に思っています。二つお話します。

一つ目は、ChatGPTの未来について。詳しいことは言えませんが、私は知能には二つあると思います。一つは、受動的な内在的な知能で、これは世界を観測して予測し続けます。もう一つは、能動的な外在的な知能で、これは自分の行動によって自分が思い描いた未来を引き出す能力です。今のGPTのようなモデルでは、学習のほとんどが受動的なデータから来ています。しかし、半年前にChatGPTが登場して、汎用性人工知能が人類史上初めて人間と一緒に働き始めました。一緒に生活し、一緒に働き、一緒に研究し、一緒に発明する。これがすでに始まっています。そのデータによってAIがどう進化するか、人間社会がどう進化するか、非常に楽しみです。

二つ目は、日本と生成AIについて。日本はOpenAI、そして正社員にとって非常に重要な役割を果たせると思っています。それは、岸田首相などが言及しているように、日本の積極性と慎重さの絶妙なバランス、そしてその信頼度が高いからです。日本は、OpenAIが設立してからサムさんが訪れた初めての国です。また、現在は唯一、OpenAIが海外でカントリーマネージャーを雇っている国です。それは元Twitter Japanの社長、ジェームス近藤さんをお招きしています。これは、社会的な実装における積極性と慎重さのバランスに対して、日本がすでに世界の信頼を得ているからです。だから、非常に期待しています。

シェイン・グウさん： 日本の競争力やその進化について触れられた点について、データや研究資源の設備はもちろん重要ですが、特に重要なのは人材のインフラです。OpenAIの一番有名な研究者はイリヤ・スチェスキヴァーという人です。彼は7年前、私がインターンだった時にマネージャーでしたが、彼はあまりマネジメントをしない人で、私は彼がマネージャーを務める3人のインターンの一人でした。彼が7年前に語っていたモデルは現在のGPT-4です。

なぜ彼が、なぜOpenAIが革新的な道を進むことができたのかというと、それは人材のインフラに関わる部分が大きいです。私はDeepMindを訪れたこともあり、Google Brainにも7年間いました。そして、多くの企業や大学の研究者とも接しました。ですが、OpenAIが他とは違うところは、やはり人材のインフラがしっかりしている点です。

最後に、私たちは全て能動的な知性体です。私たちの根源的な動力の一つは、自分の行動によってどうやって世界の未来に影響を与えるかです。孫さんが株主総会で話していたChatGPTに対する感動や、自分が人類の未来にどれほどの影響を与えられるのかについて、非常に感銘を受けました。

経済界、政界、研究機関、企業、技術者、今は誰もが大きなターニングポイントに立っています。今取る行動によって、人類の未来が大きく変わる時代です。この貴重な機会をいただいたので、有意義な議論ができるよう貢献していきます。ありがとうございます

宮川さん： ありがとうございます。それでは残り30分となりましたので、パネルディスカッションに入りたいと思います。テーマは3つ用意しました。最初のテーマは「生成AIの活用について」、すなわち、生成AIで世界はどのように変わるのかということ。2つ目は「生成AIの発展を支えるインフラ整備の必要性」について。そして3つ目のテーマは「生成AIのリスクへの対応」です。ただ、時間も限りがありますし、やり取りの中でテーマが混ざってしまうこともあるかと思いますが、そこはパネリストの方々のご判断にお任せして、自由にディスカッションしていただきたいと思います。それではまずテーマ1について、生成AIで世界はどのように変わるのか、その産業に与えるインパクトについて、孫さんから口火を切っていただきたいと思います。

孫さん： 先ほど話したことの延長になりますが、AGIの世界が10年以内に来るとしたならば、つまり全科目で1位になる、ということです。しかし、現在のGPTは2021年の9月までしか学んでいないので、それ以降の新しいことについてはコメントできないというのが現状です。しかしながら、リアルタイムで重要なニュースや株価、天気といったものについてトレーニングする時代が来るでしょう。そして、今のGPTのプラットフォームよりも、100万倍のチップ、つまり計算能力が増えたとしたら、まさにAGIの世界が訪れるでしょう。

AGIというのは全ての質問に対して、少なくとも人類代表の一番の人よりも的確に答えられる、ということです。つまり、利活用できないことの方が逆に少ないのではないかと思います。少なくとも理屈で成り立つもの、論理的に解明できるもの、推論できるものについては、まるで水晶玉に未来を聞くかのごとく、AGIに問い合わせることができるのです。明日の天気はどうなるか、今の悩みはどう解決したらいいかということをAGIに問いた時に、ほとんどのことに的確に答えてくれるということです。このようなAGIの世界が10年以内、もしくはそれを上下するような誤差の範囲内で訪れたとしたら、ほとんどのことに利活用できると思います。何に利活用できるかではなく、ほとんどの事象に対して利活用するのが有益な時代が来るというのが私の考えです。

宮川さん： ありがとうございます。産業界の方からも、ほとんどのことに生成AIが活用できるという言葉をいただきました。しかし松尾先生、研究者の立場で何かコメントはありますでしょうか？

松尾先生： はい、ありがとうございます。突然ですが質問をしてもよろしいでしょうか。孫社長、ネットワーク効果というのがあり、電話やソーシャルメディア等ではネットワーク効果が働き、強いものがより強くなるという性質があると思います。この生成AIにおいてもそういったネットワーク効果はあるのでしょうか？

孫さん： 間違いなくあると思いますね。トレーニングとインファレンスという、生成AIに必要な2つの機能について語ります。トレーニングセンターでは、チップが集中的に利用され、いわゆるセントラルブレインとなります。セントラルブレインには多くのパラメーターが必要で、その数が多ければ多いほど良いと思います。一方で、インファレンスセンターは各国や各企業、場合によっては各個別エッジの端末にまで分散されています。スモールインファレンスの機能がついていきます。

我々のグループの一部であるARMという会社は、今まで累計で約2500億個のチップを出荷しており、これが近い将来には1兆個になると思います。これら1兆個のチップはあらゆるIoTの世界に普及し、データポイントとなります。チップとチップがネットワーク効果を出していくと、人間がインプットする量は地球上の人口である約80億人のデータではなく、1兆個のチップからリアルタイムで世界中に散らばるデータになります。これらのデータがセントラルブレインに対して入出力するというネットワーク交換の世界がやってくると思います。

シェイン・グウさん： そうですね、非常に興味深い質問です。10年前にヒントン教授と共に取り組んでいたテーマは、分散学習というものでした。つまり、いくつかのマシンが各々データを保持しており、そのデータのやり取りを効率よく行いながら学習を進めるというものです。しかし、当時はうまくいきませんでした。5年後、AIの会議で再びヒントン教授と一緒になった際、彼は40年以上の研究生活の中で人間の脳を再現しなければ、真のAI（AGI）にたどり着けないと確信していたことを述べました。

しかし、その5年前とは全く異なる現状について考えると、今は各マシンが膨大な量の情報やパラメーターを保有し、それをやり取りすることが可能です。これは我々が想像する人間の脳と比較すらできない状態です。そのため、人間の脳をディープラーニングのように模倣することは難しいと考えました。

そして、彼が2〜3ヶ月前に行ったインタビューで述べたのは、人間の脳を再現することは必要ではなかったということです。つまり、人間の脳を再現しなくてもAGIにたどり着けたというわけです。これは、人間の社会を遥かに超えるネットワーク効果が再現された結果だと考えます。

西村大臣： 非常に刺激的なお話でした。まるで水晶玉のようなものがどこかに存在するというわけですね。これは世界中の今、孫さんが述べたようなあらゆる出来事、データ、百科事典どころか、今起こっていることも含めて全てを知っている球があるということです。

それは世界中のことだけでなく、自分自身についても、例えば子供の頃からのデータや過去のTwitterの投稿といったものまで、我々がすでに忘れてしまったものも含めて知っているということです。そして、その全てのデータから答えを導き出す存在があるということになります。だから、例えば結婚相手も、自分で選ぶよりはこの水晶玉に選んでもらった方が良いのかもしれませんね。だから水晶玉と水晶玉が男女のペアを結びつけるような時代も来るかもしれません。

ですが、その一方で、孫さんが指摘したように、人間とはどういう存在なのか、どう生きていくのかという問いも重要です。日本人は、鉄腕アトムやドラえもんといったキャラクターを敵対視せずに共存する世界を築けると信じています。だからこそ、ロボコップやトランスフォーマーのような破壊的なアメリカ的なアプローチではなく、AIと共にどのように生きていくか、人間の生き方をどう考えていくかが重要だと思います。

ただ、いくら「セントラルブレイン」がエネルギーを使っても良いと言われても、それは地球の限界も考えるべきです。私たちは現在、NVIDIAというアメリカの企業に非常に依存していますが、それを超えるような、よりエネルギー効率の良いGPUを作ることに日本も挑戦しています。いくつか挑戦している企業もあり、その応援をしたいと思っています。また、将来的には自動運転の制御や車と車の衝突の防止などもエッジコンピューティングによって解決していくでしょう。

さらに、物流の問題も解決しなければなりません。人手不足が問題になっていますが、実はトラックの積載率は平均で4割しかなく、6割もの空きがあるのです。倉庫も空いているところが多いです。これを解決するためには、業種を超えて、先ほどの水晶玉が全てを知るという状況が必要です。企業の秘密を守りつつ、競争相手ともうまく調整しながら、物流の最適化を実現することが可能になるでしょう。このような時代がすぐに来ると思います。それまでの間、人手不足や労働時間の規制などによる苦労は続くかもしれませんが、最終的にはすべてが水晶玉によって解決される時代が来ると思います。

西村大臣： それが起きると、まさに「人間は何をするのか」という問いが出てきます。自動運転が実現すれば、運転手の必要性もなくなるかもしれません。だからこそ、長い目で見れば、人間は時間を持つことになると思います。つまり、時間が余裕を持つことが可能になる。AIが働き、ロボットが働き、ドローンが働き、自動運転が働くという世界が来るからです。

そういった意味で、長期的に見れば、ベーシックインカムのような議論も進めていかなければならないと思います。ただ、その段階が何年後に訪れるのかを見極めつつ、いろいろな仕組みを考えていかなければならないと思います。

先ほどシェイン・グウさんがおっしゃった「能動的にAIを活用する」という点については、まさに「存在しないものも作り出す」行動が必要です。最近ニューヨークで起きた例で言えば、過去の裁判例を調べ、それを裁判で利用しようと思ったら、存在しない裁判例をAIが作り出していました。

当然、このような「ハルシネーション（幻覚）」と呼ばれる現象をどう防ぐのか、どう制御するのか、どうプライバシーや著作権といった問題を扱うのかという課題が、後で出てくるかもしれません。そういったことを議論しながら、私は日本がAIとの共存において親和性を持ち、積極的に取り組んでいくことを強く望み、応援しています。

どう共存していくのか、つまり、人間の存在や働き方をどう考えていくべきかという時代が来ていると思います。

宮川さん： ありがとうございました。それでは残り2つのテーマがございます。2つ目のテーマは、今、西村大臣も触れられたように、AIによって世界が大きく変わるということですが、その一方で、日本がAIの開発に十分なインフラを整えているのか、そして今後何が必要になってくるのか、政府と民間がどのような視点を持って進めていけば良いのかということについて少しお話しいただきたいと思います。まずは、西村大臣から政府の立場についてお聞かせください。

西村大臣： その点については、ここにいる専門家の方々から見ても、我々が語るべきは主に計算能力、データ、そしてパラメータという3つの要素だと思います。特に計算能力については、現状日本は大きく遅れているため、その整備に我々は急いでいます。実は産総研には「ABCI」という計算基盤が存在していますが、これはChatGPTの計算能力の約10分の1ほどと言われています。

それにもかかわらず、この計算基盤は3000社もの企業が利用しているため、独占使用は不可能です。そのため、大幅な強化が必要であり、また優秀な企業に優先的に利用してもらうなどの策も考慮しなければならないと思います。さらに、民間の計算基盤の強化にも我々が応援していきたいと考えています。この間、桜インターネットへの支援を決定しました。

次にデータについては、現在日本は言語モデルを主に取り扱っていますが、ロボティクスや製造業のデータといったマルチモダルデータを更に強化していきたいと考えています。

パラメータについては、大きなものほど精度が上がる一方で、スタートアップなどであれば、特定領域に特化するなど工夫をすることで、少ないパラメータでも十分な成果が出せると考えています。そういった多様なスタートアップを応援していきたいと思っています。

巨大なChatGPTに匹敵するようなパラメータを持つ企業ももちろん応援したいと思っていますが、日本としては必ず先頭集団にいながら、必要なインフラの整備を進めていくという姿勢が大切だと考えています。

宮川さん： ありがとうございます。先ほどインフラとして人材のインフラということをお話になったと思いますが、そこはもう一つお話できますでしょうか。

シェイン・グウさん： はい、その点については、やはり最先端の技術は国際レベルのコミュニティで進展しています。そして、学界よりも産業界の方が進んでいると思います。ここで重要なのは、そのトップレベルの研究者やエンジニアとどれだけ深い関係を築けるか、つまりコミュニティにどれだけ入り込めるかという点です。それらの人々はすでに共に仕事をしていて、そこでの発見やアイディアを通じて人間のネットワークエフェクトで強くなっていくのです。私自身も、OpenAIやGoogleでそのことを強く感じました。しかし現状、AIのトップコミュニティには日本人が少なく、マイノリティになっています。

ただ、その状況を改善するためにはさまざまな手段がありますし、政府の役割も非常に大きいと思います。例えば6年〜7年前のAIのトップ会議であるNIPS（現在のNeurIPS）で、トップ15の論文の中に中国系の研究所からのものは3つしかありませんでした。それが現在では中国が深層学習の分野で非常に強くなっています。だからこそ、視野を広げて政府がサポートし、海外のトップレベルの人材とつながることが重要だと思います。

宮川さん： なるほど、ありがとうございます。そうなりますと、優秀な人材を世界的に取り合ってしまうというような状況もあるのでしょうか？

シェイン・グウさん： その点については、日本はもっと自信を持つべきだと思います。日本の社会は非常に機能しており、生活しやすい環境が整っています。例えば、私たちの会社のスタッフの半分以上がここ半年で日本に訪れています。それほど日本は魅力的な国で、社会的にも日本政府の対応は迅速で、外国人から見ても感動を覚えるレベルです。だからこそ、日本は自信を持って人材を世界に送り出すべきだと思います。そして、たくさんの人々が経験を積んで日本に戻ってくることでしょう。

宮川さん： ありがとうございます。最後のテーマとして、非常にポジティブで前向きな生成AIの利用や未来についてお話をいただきましたが、やはりこの分野については様々なリスクも指摘されています。時間は限られておりますが、そのリスクとその解決策について、まずAI戦略会議の座長としてAIに関する論点整理をまとめられた松尾先生からお話しいただければと思います。

松尾先生： はい、ありがとうございます。AI戦略会議で先日まとめた暫定的な論点整理では、主に3つのポイントを挙げています。

1つ目は、リスクや懸念に対する対応です。たとえば、個人情報を生成AIに入力したり、機密情報を入れたり、または自分の作品を学習させて同様のものを作られるといった問題が発生しています。こうした問題にはしっかりと対応していく必要があります。

2つ目は、AIの利活用です。AIを使って生産性を上げたり、社会課題を解決したりすることができます。そのため、企業や行政などが積極的に利用していくことが必要だと考えています。

そして3番目は、AIの開発です。具体的には、AIの開発インフラである計算資源とデータへの投資が必須です。これらがなければ、どうにもなりません。したがって、これらを拡充していくことが重要です。

さらに、民間のスピード感を生かして開発を進めることも重要だと考えています。以上が、我々が整理した論点となります。

宮川さん： ありがとうございます。世界の動きを見ても、岸田総理もおっしゃっていましたが、過度に怖がることなく前向きに進んでいこうという意見が強いですね。西村大臣、あなたは非常にポジティブに生成AIを考えていますが、それとリスクとのバランスはどのように考えていますか？

西村大臣： 新しい技術が登場したとき、例えば車が登場したときも、反対運動が起こることはありますし、リスクも存在します。これらは管理し、乗り越えていかなければならない課題です。しかしながら、AIは新しいものを創出する可能性を持っています。藤井さんが日々AIと訓練している将棋においても、かつては名人戦のデータを入力していましたが、現在はAI自体が自己対戦して、自身で対戦記録を作り、新しい手を考え出しています。私も国会での答弁作成にAIを使用しています。批判もありましたが、過去の私の答弁データから新しい答弁を生成してくれるのです。

しかし、リスクも存在します。AIが存在しない議論や答弁を作り出す可能性がありますし、他人の作品を引用する際には著作権の問題が発生します。プライバシー情報の漏洩も懸念されます。これらのリスクを乗り越えていくためのルール作りが必要です。

それでも、AIは莫大な可能性を秘めた技術です。人類はこれを活用して、より良い、豊かな、安定した社会を作り出すべきだと思います。その上で、G7でもアジャイルガバナンスが合意されました。民主主義や人権を大切にしながら、イノベーションと共存し、迅速に制度を改革していくという方向です。G7の首脳間では広島プロセスと呼ばれており、我々は積極性と慎重さを持って進めていく必要があります。その観点から、世界をリードしながら前進していきたいと思っています。

宮川さん： ありがとうございます。先ほど孫さんのお話を伺っておりますと、もうAIは人間を超えていくとその中で人間は、「じゃあ果たして人間とは何なのか」っていうところを考えていかなければ、そのAIの進化の速度に置いていかれていってしまう、その先に何が起きるのかということを非常に不安にも感じたんですが、いかがでしょうか。

孫さん： あの、不安に思いすぎる必要はないと思うんですね。全く新しい時代が来るんだということは考えるべきだと思いますけれども、人間にとって今まで解決できなかったような難病を解決してくれるとか、あるいは自然界の災害、人間が防ぐことのできなかった、予知することのできなかった災害を早く、的確に予知して、災害の被害を最小限にとどめるとか。AIがAGIになり、ASIの世界になったら僕は人間にとって素晴らしい、より素晴らしい社会がやってくるというふうにポジティブに受け止めてます。

その前提の中でですね、先ほどのテーマ2番目のところ、日本はどうあるべきかというところがありました。一言、僕の意見を述べさせていただきますと、ついついですね、日本は道が狭いから三輪車にしようとか、あるいはもっと狭い田んぼの畦道があるから二輪車にしようとか、二輪車のオートバイも高いから自転車になんかモーターを、発動機をつけようと言ってコストダウンして、日本らしい、日本に有益なものを作ろうという工夫をしようとしたりするんですが、一時的にはいいんですよね。それは一時的には小さなマーケット獲得することができます。でも、大きな自動車社会というものがやってくる時に、脇道にそれたような研究開発とか、解決策というのは所詮、枝葉に過ぎないと、やっぱり一番中央の幹のところですね、一番ど真ん中の一番大切な光り輝く水晶玉、これをセントラルブレインのところにおいてはですね、圧倒的な真正面を取り組むような水晶玉をトレーニングセンターとして作りに行かないと、小さな電気代を節約するとか、あんまりちまちましたようなことを言ってると、あっという間に日本は取り残されてしまうと。ガラケーになっちゃいけないよ、ということですね。ぜひ、僕は日本にとっての取り組み方の注意点として、一言苦言を申し上げておきたいと、あえてですね、思います。

人間は最後、AIにとって食われるのかということですけども、最大の幸運なことはですね、AIはタンパク質を食べる必要がないということなんですね。AIが動力源としてタンパク質を取ってくるんだということであればですね、地球上のあらゆる動物を食べ尽くして、最後に残った自分を産んでくれた人類ですら、食べてしまわないとAIが生き残れないというふうになると、AIはそれをやっちゃうかもしれないわけですね。しかしそうじゃないんです、AIはタンパク質を食べるんじゃなくて、電気を食べるんです。電気はもう、じきですね、クリーンでかつ安全で無限大のエネルギーが手に入るようになると近い将来、それが可能になった場合にはですね、何も心配することないんだと。AIは賢く、はるかに人類より賢くなるから、われわれを取って食べたりするような動機が彼らにはない、「そんなバカじゃない」と。AIを人間が上から目線で見て心配する必要ないんだと、彼らは仏様、神様のように賢くて悟ってて、愚かなことはしないと、する必要がないと、動機がないんだ。一番のラッキーなことは、タンパク質を食べなくて良かったな、ということで胸をなでおろしていただいて、安心して寝て、安心して真っ正面から日本は脇道にそれずずに取り組んでいくべきだと。ガンガン取り組むべきだと。

あまり小さな心配をして今の問題点が、ハルシネーションなども、些細な目の前の小さな問題です。あっという間にそんなものは解決します。PCが生まれて8ビットだ、16ビットだと言ってた時にあった問題は、あっという間に解決したじゃないですか。インターネットだって、出始めにあった問題も、あっという間に解決したじゃないですか。一部の知識人が問題点を、揚げ足取ったように言って取り組みを斜めにするというのは、そういう人は成長しないんですよね。やっぱり真正面から、日本は今こそAIに最大限に取り組むべきだと、そういうふうに僕は思います。
以上です。

宮川さん： ありがとうございました。第一セッションはまさに「AIが切り開く未来」にぴったりなお言葉だったと思います。松尾先生も大きくうなずいていましたし、非常に心強いサポートも西村大臣からいただいておりますので、この第一セッションとしては、皆様にこの生成AIが切り開く未来、そして日本の明るい展望ということを伝えられたのではないかと思っております。本日は非常に限られた時間の中でこれだけのパネリストの方にお話をいただきまして、本当にありがとうございます。

西村大臣：
一言だけ、孫さんの言われていることで私はものすごく理解をしてるんですけれども、そのそれがいつ来るのかということを含めて時間的なことも考えていかなきゃいけないですし、繰り返しありますけれどもやっぱり効率的な最先端のGPUチップを日本は作るという、私はもうこれぜひやりたいと思ってます。

最後に申し上げたいのは、4人をお話しさせていただいて、まさにシェイン・グウさんが言われたこの人材のネットワークというか、今日のお話の中で私も相当また新しい視点を見つけましたし、皆さんぜひこの4つのAIが対談するより面白いでしょうね。

この個性的な私はともかく、この最先端の3人のお話を聞いてすごく刺激を受けましたので、ぜひこの人のやっぱり人間の良さっていうところを、ぜひ我々よく噛み締めながら、AIをどう使っていくかということで進めていければと思います。ありがとうございました。

宮川さん：
締めのお言葉もいただきまして、誠にありがとうございました。それでは第1部セッションこれで終了させていただきたいと思います。登壇者の方に大きな拍手をお願いいたします。ありがとうございました。 [拍手]