見出し画像

Google Cloudが生成AI（Gemini）で本気すぎて衝撃すぎた… ~ Google Cloud Next’24（ラスベガス）参加レポート(2) ~

吉田 拓真 / スリーシェイク

Google Cloud Next'24に参加して興奮さめやらぬスリーシェイクの吉田です。
前回はラスベガスのデジタル事情を交えつつ緩めのレポートをさせていただきました。

今回は本編としてGoogle Cloud Next'24のレポートをします。

Google Cloud Nextとは？

Google Cloudが主催する年次カンファレンスで、クラウド業界においてはAWS  re:Inventに次いで最大級のイベントです。

エンジニアだけでなく、マネジメント層や営業/マーケなど分野に関係なく集まって、最新のGoogle Cloudの技術や活用事例を学び、またネットワーキングをする場になっています。

今年は大体3万人は参加していたんではないでしょうか。
日本人の参加もかなり多く（ベンチャーから大手まで）、数百人単位で参加していたようです。

生成AI（Gemini）一色のイベントだった

Next'24 は生成AI、Gemini（日本ではジェミニと呼ばれますが、本国ではジェミナイと呼ばれます）の話題がてんこ盛りでした。

まずGemini 1.5 Proがパブリックプレビューとして出てきました。

・最大100万トークン（入力可能）
・ビデオ内のオーディオ、PDFがインプット可能に（PDFがインプット可能なのはChatGPTと違ってめちゃくちゃありがたい！）

Keynote最後には、Keynoteで発表した動画をGeminiに入れて、要約するデモが出てきたのが印象的でした（発表している音声と写っている資料を全部コミコミで要約してくれるのはスゴイ）

1時間近くのKeynoteの動画データを目の前でアップロードして
1minぐらいでかなりいい感じの要約が出てきて驚き

恐らく他のLLMも追従してくるでしょうが、正直ここまでくるとLLM自体はどれも一緒（どれもスゴイ）の時代が近いと感じます。

Gemini for Google Cloudは凄かった…

GeminiがGoogle Cloudに組み込まれ、Gemini for Google Cloudとしてリリースされました。

エンジニアリングの端から端までGeminiでサポートするつもりなのでしょう

  1. Gemini Code Assist
    Duet AIの進化版で、IDE（VS CodeやJetBrainsなどの主要IDEを網羅）上で、コード生成やレビューをアシストしてくれる機能です。GitHub CopilotやCursorとほぼ同程度の機能が提供されます。Duet AI時代と異なり、Repository-wide ContextというRAGも提供される予定。

    GitHub Copilotとの違いですが、
    ・ Chatでの問い合わせやレスポンスされるコード量（トークン）の違い
    ⇒ 恐らく、GitHub Copilotは128,000トークン（裏側でGPT4-Turboが使われてるならば）ですが、Gemini Code Assistは1,000,000トークンなので、より大規模なコードレビューや生成に関しては分があるのではないでしょうか。（とはいえ、このあたりは裏側で使われているChatGPTがアップデートされればGitHubもすぐに追いつきそうですが）

    ・GitHubだけに依存しない、GitLab、Bitbucketを横断でサポート可能
    ⇒ 部署によってはリポジトリが複数サービスを跨ることもあり、そういったケースで役に立ちそうです。

    ・ナレッジベースの違い
    ⇒ GitHub内のデータをナレッジベースとしたCopilotですが、Code AssistはStack Overflowをベースとし、更に今後、DataDog、Elastic、HashiCorpとも提携を通じてナレッジが増えていくようです。このあたりは複数のナレッジベースが増えれば増えるほど良いはずなので、期待です。

  2. Gemini Cloud Assist
    Google Cloudのコンソール上で、自然言語による問い合わせ経由で、FinOps、DevOpsや障害対応に対する解決策を提示してくれます。前提として、該当プロジェクト内のリソースがRAGされている様子だったので、かなり的確で具体的な指摘をしてくれる点がよさそうでした。

    デモでは、Cloud Loggingで発見したエラーログに対して、どういう問題が発生していて、どういう解決策をすればいいのか、具体的なコマンドまで提示してくれたのは中々よかったです。（エンジニアが提示された内容を判断してコピペするだけで迅速な問題解決が可能）

    実用ベースでいうと、障害時の問題の切り分けとして活用するのは良さそうでした（そのまま全部信用してポチポチするのは危ない）。設計から構築、運用、障害解析など一気通貫でプロジェクトデータをRAGして提示してくれるのは、DataDogなどのモニタリングツールの生成AI機能とは違った良さです。

  3. Gemini in Security
    主に既存製品であるChronicleやMandiant、Security Command CenterにGeminiが組み込まれました。元々、ChronicleもMandiantもSecurity Command Centerもかゆいところに手が届く優れたプロダクトですが、一定の専門知識を有する必要があり、運用にはハードルが高かった部分をGeminiがサポートしてくれるので、誰でも気軽に使ってみようみたいなユースケースが増えるのではないでしょうか。

  4. Gemini in Databases
    VertexAI Studioならぬ、Database Studio（SQLエディタ）が提供され、そこでSQL生成支援を受けることができます。このあたりは割と想定内でしたが、Database Centerという複数データベースに対して、可用性やデータ・セキュリティを分析してアドホックにビジュアライズできる機能はエンタープライズニーズがありそうでした。

  5. Gemini in Looker
    Looker（Looker Studioではなく、Looker）にGeminiが組み込まれ、自然言語でレポートを作成してくれたり、プレゼン用のGoogleスライド資料を作成してくれるようです。

  6. Gemini in BigQuery
    既にPreviewで、SQLの生成アシスタントはありましたが、更に今回はBigQuery data canvasというSQL生成してくれるだけでなく、そこからグラフ化、更にDAG化をしてくれるデータエンジニア向けの機能がでました。分析の全体像をプロセス単位で可視化しながら、アドホックにPDCA回していくにはめちゃくちゃ便利そうです。Previewが通ったので、これから触っていきます。

    またBigQuery data preparationという、BigQuery内にあるデータに対してクレンジングするためのSQLなどを自動でレコメンドしてくれる機能もでました。ここもデータ整備という観点では良さそうです。

もう既にお腹いっぱいでしょうか、まだ山場がありました。。。

Vertex AI周りは更に凄かった…

リリースされた機能を列挙すると、朝を迎えそうなので個人的なホット機能だけ。

MLOpsならぬ、GenAIOpsに近い機能が出てきました。

プロンプトエンジニアリングが属人化からOps化へ

Prompt Version Managementはプロンプトのバージョン管理ができて、AutoSxSは異なるモデルやバージョンを定量評価でき、AI-Assistはプロンプト改善提案までしてくれ、より生成AIを基盤システムに組み込んでいくうえでの管理面（エンジニア視点での）のサポートがめちゃくちゃ手厚くなりました。

この辺りを組み合わせていくと、基盤システムにGeminiを組み込んで、アプリケーションコードに埋め込んだプロンプト（自然言語）をユーザーの反応を見て動的に最適化できるんじゃないかなと夢が広がりました。

最後にダメ押しが、Vertex AI Agent Builderです。

ノーコードで、LangChainのような生成AIを使ったワークフローを組んでいくことができます。Google検索APIやFunction Callingなどを組み合わせていくことで、かなり複雑なLLMアプリがノーコード・ローコードで作れそうです。

まだまだ他にもAlloyDB AIなど気になる生成AI系の話はありますが、今日はここまでです。

Google Cloudは生成AI周辺のエコシステムを超本気で全速力で取り組んでいる

Google Cloud Next'24に参加して衝撃だったのは、GeminiというLLM本体だけでなく、それを活用するエコシステムに対してGoogle Cloudは全力で取り組んでいるんだなという点です。これは他クラウドと圧倒的な違いだと感じています。

もはや近い将来主流なLLMはどれも大きな違いは出てこないと考えられます。そうすると、何を基軸にLLMを選択していくかは、単純なLLMの精度やパフォーマンスだけでなく、それをフル活用する周辺のエコシステムの充実さ、を意識していくことが必要になるでしょう。

最後にいつもの

… の前に、実はスリーシェイクnoteっていうのもありまして、ぜひご覧いただけたらです。

スリーシェイクではエンジニア職・ビジネス職ともに絶賛募集中です。

ぜひ一緒に、インフラをシンプルにして世の中にイノベーションを起こしていきましょう！