全ての情報は Book of News, the Official Microsoft Blog に掲載されています

インフラ開発者向け・GPU関連のアップデート

• 参照：Microsoft Azure delivers purpose-built cloud infrastructure in the era of AI | Microsoft Azure Blog

AI専用のAzureのインフラの進化

AIモデルだけではなく、シリコンから物理ラック構成まで全てのレイヤーでAIに最適化されたインフラを提供していますよ、という話　
参考：Microsoft Azure delivers purpose-built cloud infrastructure in the era of AI | Microsoft Azure Blog

• Azure Maiaの発表：OpenAIモデル、Bing,ChatGPTなどのAIワークロード用に設計されたAIアクセラレータチップシリーズ。クラウドベースのトレーニングと推論に対応。（参考ブログ）

• Azure Cobalt CPUシリーズの発表：マイクロソフトが自社で開発したプロセッサ。一般的な計算ワークロードに最適化。（参考ブログ）

• NVIDIAの最新バージョン H200 Tensor GPUsのAzure対応：H200は、クラウドでのMLパフォーマンスベンチマーキング（MLperf）で一位にランクされたND H100 v5 VMの次世代にあたる。NC H100 v5 VMも現在パブリックプレビューで利用可能。

• Confidential VM：NVIDIA H100 Tensor Core GPUを搭載した新VMをAzureでプレビュー。これはまだAzureでしか使えない！

• AMDのND MI300X v5 AIインフラ：最新のAMDアクセラレータを搭載した新しいAzure Virtual Machineシリーズを発表。NVIDEAに加えてAMDとも強力なパートナーシップを結んでいる形

• Azure Boost GA：仮想化プロセスを専用のソフトウェアとハードウェアにオフロードするシステムで、クラウド内のネットワーキングとストレージソリューションを高速化可能。

ハイブリッドクラウドからアダプティブクラウドへ

"アダプティブクラウド"というコンセプトが登場。クラウド移行は全ての解になるわけではない。変化を求められる動的な環境において最も力になれるクラウドでありたい、というメッセージ（筆者の解釈）

• Microsoft Copilot for Azure：Azureユーザー向けの Copilot 爆誕。Azure上でのアプリケーション設計、運用、最適化、トラブルシューティングをAIが支援支援。反則か？

• Oracle Database@Azure GA：Oracle Cloud Infrastructure上のOracleデータベースサービスへの直接アクセスを提供するサービスを発表。

アプリ開発者向けの AIのアプリ組み込み/Github周りのアップデート

参照はここ：Microsoft Azure AI, data, and application innovations help turn your AI ambitions into reality | Microsoft Azure Blog

AIモデルのアプリケーションへの組み込み

• Azure AI Studio Public Preview：プレビルドされたAIサービスとモデル、プロンプトのオーケストレーション、評価、コンテンツの安全性、責任あるAIツールを統合したプラットフォーム。ぜひ触ってください（ブログ）

  • Prompt Flow がGA

  • Azure AI Content Safety もGA

• Assistants API 発表：Azure OpenAI Service に Bing Search と Advanced Data Analytics(旧 Code Interpreter)のプラグイン機能発表

• Azure 上でDall-E 3(Preview)、GPT-4 Turbo(Preview)、GPT-3.5 Turbo 16K(12月までには利用可能に), GPT-4 Turbo with Vision (Preview Soon)：OpenAI DevDay で発表されたものがぞくぞくと Azure に

• OpenAIだけじゃない様々なAIモデルをAzureから利用可能に：Meta Llama 2, Mistral、G42 Jais など最新AIモデルをAPIエンドポイントとして簡単にアプリへの統合可能に。GPUインフラの管理不要で、ホスティングやモデルのカスタイマイズも可能。

• Customer Copyright Commitment (CCC)の拡大： Copilotのみならず、Azure OpenAI Service を商用利用している顧客を著作権侵害から守り、補償する規定を設定。ぜひ documentation を確認してください。

• Azure Cognitive Search ➡ Azure AI Search へ命名変更。ベクトル検索とセマンティック検索がGA 

Kubernetes/コンテナ とAIの相性

• Kubernetes AI Toolchain Operator：Azure Kubernetes Serviceの中でPreviewで利用可能。大規模言語モデルなど特殊なAIワークロードの自己ホスティングと実行を簡素化し、コスト効率を向上。

  • Azure Kubernetes Fleet Manager：AKSワークロードのガバナンスとコンプライアンスを簡素化するため、一元化されたコントロール、標準化されたポリシー、自動化されたリソース管理を複数のKubernetesクラスターに提供。

• Azure Container Apps (Fargate みたいなやつ)：

  • 専用のGPUワークロードプロファイル：イベント駆動型インテリジェントアプリケーションの構築、モデルトレーニング、データ駆動型インサイトの導出を可能にする。

  • オープンソースのベクトルデータベース：Qdrant、Milvus、Weaviateが開発者向けアドオンとして利用可能に。

GitHub, GitHub, GitHub

• GitHub Copilot Chat：2023年12月に一般提供開始予定。GPT-4によるコード認識提案とコード生成機能を提供。

• GitHub Copilot Enterprise：2024年2月に一般提供開始予定。GitHubプラットフォーム上で組織のコードベースに合わせてカスタマイズされたGitHub Copilotの全機能を提供。

• GitHub Advanced Security with AI：プレビューで提供開始。LLMベースの脆弱性予防システムで、リアルタイムで不安全なコーディングパターンをブロック。プルリクエスト内でJavaScriptおよびTypeScriptに対するAI生成の修正を自動的に提案。最後に、新しいAI秘密スキャン機能で漏洩したシークレットを見つけやすくなる。

データエンジニア向けのアップデート

統合された分析ワークロード体験：エンタープライズレベルのデータ基盤上で、すべての分析ワークロードとユーザーに対する統合されたシンプルな体験を提供。
参照：Prepare your data for AI innovation with Microsoft Fabric—now generally available | Microsoft Fabric Blog

Microsoft Fabric のGA

• OneLake統合：データを一度 OneLakeにロードし、すべてのFabricワークロードとエンジンで単一のコピーを使用。AWS S3およびAzure Data Lake Storage（ADLS）Gen 2へのショートカットが一般提供。

• Azure AI Studioとのシームレスな統合：カスタムMLモデル、生成AIアプリ、カスタムコパイロットを構築して、AI駆動のイノベーションを推進。

• Fabric内のCopilot：開発者とITプロフェッショナルが自然言語でクエリ生成したりできる。

• ミラーリング：既存のデータベースをFabricのネイティブとして扱えるように。外部データベースを指定すると、そのミラーがリアルタイムにFabricのOneLakeに作成され、オープンソースのApache、Parquet、Delta-lake形式でデータが保存される。

• Microsoft Purviewとの統合：Microsoft Fabricのガバナンスとセキュリティ機能をMicrosoft Purviewとのより緊密な統合により拡張。Purview情報保護感度ラベルを適用してFabricデータを分類し、データ損失防止ポリシーを定義し、監査ログにユーザーとシステム操作を自動的に記録。

大規模データを扱ったインテリジェントなアプリ構築

• Azure Cosmos DB for MongoDBのベクトル検索：GA。高度に関連性のある検索と精度を可能にし、データ内の貴重な情報を見つけ、言語でデータのニュアンスと接続を理解。

• Azure Cosmos DB内のMicrosoft Copilot for Azure機能：自然言語に基づくNoSQLクエリを作成できるようになり、これまで隠されていたデータからの洞察を引き出し、より正確で強力なAIアプリケーションを可能にする。

• Azure Database for PostgreSQLのAzure AI拡張機能：Azure OpenAIの大規模言語モデル（LLM）を活用してベクトル埋め込みを生成し、豊かなPostgreSQL生成AIアプリケーションを構築。

• Azure SQL Hyperscaleの新価格設定：新しいクラウドネイティブAIアプリケーションのために、商用オープンソースデータベースと同等の価格設定を提供。

個人的な目玉：Microsoft Copilot Studio

下記ブログの動画見るのが一番おススメ
➡参照：Announcing Microsoft Copilot Studio | Microsoft 365 Blog

会社で触れる人はぜひ下記から触ってください！
➡Microsoft Copilot Studio | Extend Copilots or Create Your Own

今の僕の解釈は 社内情報にアクセスできるGPTs に近い。Microsoft 365用Copilotを独自シナリオでカスタマイズできる。給与申請とか予算確認専用のCopilotを自社テナント内でつくれる。
コパイロットやカスタムGPTを構築、テスト、公開したり、適切なアクセス、データ、ユーザーコントロール、アナリティクスを使用してカスタマイズとスタンドアロンのコパイロットを管理・保護することができる。Copilot Studioは本日から利用可能で、Microsoft 365用Copilotとの統合はプレビューで提供されています。まず触ろう。

• その他沢山アップデートはあるのだが、Outlook Copilot で会議の準備の概要を作成したり、メールスレッド分析でかさばるメールスレッドを簡単にナビゲートしたり、Copilotでの会議のスケジューリングを簡素化することができるようになったらしい。（神アプデすぎる）

Windows AI Studioとか、Dynamics365 のCRMとCopilotが密に連携するとか、Security Copilot とか他にもアップデートは沢山あるので、ぜひ以下ブログを読んでください！

Next Action!

更に情報を深ぼりたい方

• Read the Book of News, the Official Microsoft Blog, and the hero blogs and resources linked above to learn more about our key announcements.  

• Tune in to watch the Microsoft Ignite keynotes.

Azure / Microsoft365 を触りたい方

Igniteを気に Azure や Microsoft365 を触りたくなりましたか？スタートアップや SaaS プロバイダーであれば無料で触れるプログラムがありますので、ぜひチェック！

• Startup Program (シリーズＣ以前の方)

  • 応募 Microsoft for Startups | Microsoft

  • 説明資料 Microsoft for Startups Founders Hub_New Offer - Speaker Deck

• ISV Sucess Program (シリーズD以降の方)

  • ISV サクセス プログラムの概要 | Microsoft

余談

noteの深津さんが現地シアトルで臨場感が伝わる実況をしていて、おすすめです

注意書き