Accelerate your AI journey with Azure AI model catalog | BRK102

Summary

このビデオスクリプトでは、Azure AIモデルカタログの紹介と、それを活用したビジネスアプリケーションのデモンストレーションが行われています。ManojとFacundoが、Azure AI製品チームとして、モデルカタログの使い方や選択肢、スケーラビリティの重要性を説明しています。彼らは、プロトタイプの作成、モデルの選択、実際のワークロードへのスケールアップまでを解説し、エンタープライズグレードのセキュリティとプライバシー保護にも焦点を当てています。さらに、スモールランゲージモデル（SLM）の進化と、そのビジネスへの適用が議論されています。顧客事例として、Ernst and Young、CMA CGM、Bridgestone、LenovoなどがAIを活用してビジネス変革を遂げている例が紹介されています。

Takeaways

• 🌟 Azure AI Model Catalogは、最先端のAIモデルを提供し、多種多様なAIアプリケーションをAzure上で構築するのに必要なツールを提供している。
• 🛠️ モデルカタログはモデル選択に重点を置いており、AIがユースケースを解決できるかどうか、最適なモデルは何か、実際のワークロードにどのようにスケールするかという3つの基本的な質問を通じてモデル選択を行う。
• 📈 SLMS（サブ20億パラメーターモデル）は過去数ヶ月で登場し、先進性と多様性により、1年半前に提供されていたフラグシップモデルを上回る性能を発揮している。
• 🌐 Azure AIは地域や業界特定的のモデルにも焦点を当てており、ヨーロッパ言語に特化したMr. Largeやアラビア語のLLMなど、多様な言語とニーズに対応している。
• 🔍 モデルカタログはオープンソースモデルもカバーしており、Hugging Faceとのパートナーシップなどにより、幅広いモデルを提供している。
• 🎛️ Azure AIはエンタープライズグレードのセキュリティとデータプライバシーを提供しており、モデルに対するBLM攻撃ベクターからの保護も确保している。
• 🔧 Azure Studioのプレイグラウンドでは、モデルとインタラクティブに対話し、応答をテストすることができる。
• 📊 モデルベンチマーク機能を使用することで、モデルの性能を比較し、ユースケースに最適なモデルを選択することができる。
• 🚀 Azure AIはマネージドコンピュートとサーバーレスAPIの両方のオプションを提供しており、モデルを迅速に展開し、APIとして利用することができる。
• 🛡️ Azure AIのモデルはセキュリティに優れており、Hidden Layerモデルスキャナーを使用して脆弱性をスキャンし、カスタムモデルのスキャンも将来的に提供する予定である。
• 📉 Time Gen.1は時系列予測のための新しいAIモデルで、トレーニングなしで高精度の予測を行うことができ、ビジネスにおける予測タスクを簡素化している。

Q & A

Azure AI Model Catalogとは何ですか？

Azure AI Model Catalogは、Azure上で優れた生成AIアプリを構築するためのモデルの選択肢とツールを提供するプラットフォームです。

AIが特定のユースケースを解決できるかどうかを判断する方法は何ですか？

まずプロトタイプを作成し、ユースケースを定義し、最先端のモデルであるフロンティアまたはフラッグシップモデルを選択してfeasibilityを確立します。

モデルカタログはどのようにして実際のワークロードにスケールするのですか？

モデルカタログでは、プロトタイピングと最適化の間でフロンティアモデルと多様なモデルをカバーしており、実際のワークロードにスケールする際にはエンタープライズグレードのセキュリティとデータプライバシーが必要なります。

SLMSとは何ですか？

SLMSとは、過去数ヶ月に登場した20億パラメーター未満のモデルを指しており、Lamas、Mistrials、Five3モデルファミリーなどがあります。

Azure AIとモデルカタログはどのようにして多様なモデルを提供していますか？

Azure AIとモデルカタログは、フラグシップモデルから最適なLMSまで、様々な種類の模態にまたがるマルチモーダルモデルを提供しています。

Azure AI Studioのモデルカタログはどのように始めるべきですか？

モデルカタログでは、モデルの選択肢が広範にあり、異なる推論タスクに応じたモデルが提供されています。モデルのベンチマーク機能を使ってモデルの能力を比較し、適切なモデルを選ぶことができます。

Azure AIのプレイグラウンドとは何ですか？

Azure AIのプレイグラウンドは、モデルと実際にインタラクションをとる場所であり、質問を入力してモデルの応答をインタラクティブに確認できます。

マネージドコンピュートとサーバーレスAPIの主な違いは何ですか？

マネージドコンピュートでは、OSSモデルが利用でき、モデルをAzure VMにダウンロードして管理されたREST APIを提供します。一方、サーバーレスAPIではトークン単位での支払いができ、大規模なワークロードに対して予測可能なレイテンシを提供します。

モデルを展開しAPIを取得するプロセスはどのようなものですか？

モデルを展開しAPIを取得するには、モデルを選択し、Azure Marketplaceに接続してモデルプロバイダーとの契約を行い、デプロイメントのURLとキーを取得してPostmanなどのツールでAPIを呼び出します。

Azure AIのモデル推論APIにはどのような特徴がありますか？

Azure AIのモデル推論APIは、すべてのモデルで共通のAPIであり、Open AIとの互換性があり、モデルプロバイダーが独自の特徴と能力を実装できる拡張性を持ちます。

LenovoはどのようにしてAzure AIのSLMを利用していますか？

Lenovoは、ThinkPad上でデバイス上で動作するように53モデルを使用しており、これはオフラインでの応答も可能にしています。また、53 Visionというマルチモーダルな能力も発表されています。

Fine-tuningとはどのようなプロセスですか？

Fine-tuningは、モデルをカスタマイズし独自の情報やスキルをモデルにインデュースするプロセスです。Azureでは、データセットを指定するだけでこのプロセスをコードなしで行うことができます。

Fine-tuningされたモデルとVanillaモデルではどのような違いがありますか？

Fine-tuningされたモデルは、特定の企業やユースケースに合わせて知識やスキルをインデュースしており、Vanillaモデルよりも詳細な質問にも答えることができます。

Azure AIを利用する企業はどのようにしてビジネス変革を実現していますか？

企業はAzure AIを利用して、プロセスの最適化、生産性の向上、競争優位の維持を図るビジネス変革を実現しています。例えば、Ernst and YoungはEYQAという生成AIプラットフォームを構築し、CMA CGMはAIを適用して物流分野の顧客インタラクションを合理化しています。

Time Gen.1モデルはどのような用途に適していますか？

Time Gen.1モデルは時系列予測に特化しており、データセットを与えるだけで分単位の電気料金予測など、特定のタスクに対して再トレーニングなしで正確な予測を生成できます。

Azure AIで提供されるモデルはどのようにして企業の要件を満たすのですか？

Azure AIのモデルは、エンタープライズのデータプライバシー、セキュリティ、および責任あるAIの要件を満たすように設計されており、モデルスキャナーを使用して脆弱性をスキャンし、Azureポリシーを使用してプロダクションでのモデルの使用を制限できます。