5783 Power delivery challenges for AI accelerators, advancements, and development of high density

Open Compute Project

23 Oct 202417:00

Summary

TLDRAMDのShardul氏とTerrain Pang氏が、AIアクセラレータカードにおける電源供給の課題について説明します。彼らは、AIアプリケーションの需要が急増する中、電力密度要件が増大していることを強調し、Mi 250XからMi 300Xへの移行による電力密度の33％増加を例に挙げています。AMDの二段階電力供給アーキテクチャや、信頼性向上のための取り組み、業界との協力の重要性についても触れています。全体として、AMDは信頼性の高い高密度電源モジュールのエコシステムを構築するためのリーダーシップを発揮しています。

Takeaways

😀 AIアプリケーションの需要が急増しており、計算密度の要件が急激に増加している。
😀 AMDのMii 250XからMii 300Xへの世代間で、パワー密度が約33%増加した。
😀 Mii 325Xでは、同じフォームファクターで1kWのボードパワーを提供している。
😀 AMDは2段階の電源供給アーキテクチャを採用しており、1段階目は未調整の4:1中間バスコンバータ、2段階目は2相の高密度電源モジュールである。
😀 次世代AIプラットフォームでは、現在の電源モジュールでは要求される電流密度に対応できない可能性がある。
😀 2相電源モジュールのエコシステムが進化しており、AMDは複数の供給業者と協力している。
😀 現行の中間バスコンバータは、データセンターの熱境界条件を考慮すると、1kWの定格に達していないことが多い。
😀 電力モジュールの信頼性を確保するために、AMDは厳格なテスト計画を策定している。
😀 高密度電源モジュールの共通フットプリント定義が業界全体で必要である。
😀 将来的には、8:1、10:1、12:1の比率の中間バスコンバータが必要とされる。

Q & A

AMDのAIアクセラレータカードの電力供給における主な課題は何ですか？
-主な課題は、急激なAIアプリケーションの需要増加による計算密度要件の急激な増加です。これにより、AIプラットフォームの電力密度要件が高まっています。
Mi 250XとMi 300Xの間での電力密度の増加率はどれくらいですか？
-Mi 250XからMi 300Xへの電力密度は、世代間で約33%の増加があります。
AMDが採用している電力供給ネットワーク（PDN）アーキテクチャはどのようなものですか？
-AMDは、4:1の中間バスコンバータを第一段階として使用し、第二段階には2相の高密度電力モジュールを採用しています。
次世代のAIプラットフォームでの電力密度の要件はどのように変化していますか？
-次世代のAIプラットフォームでは、9x10の2相電力モジュールでも電力密度の要件を満たせない状況になっています。
AMDはどのように高密度電力モジュールのエコシステムを推進していますか？
-AMDは、さまざまなベンダーと連携し、高密度電力モジュールの信頼性試験計画や耐久性試験計画を策定しています。
中間バスコンバータ（IBC）の課題は何ですか？
-IBCは、データセンターの熱条件下で電力密度の要件を満たす必要があり、1キロワットを超える電力を実現するための改善が求められています。
AMDは今後どのような電力モジュール定義を発表する予定ですか？
-AMDは、来年の第1四半期に高電流密度を達成するための新しい電力モジュール定義を発表する予定です。
エコシステムの中でAMDが重要視している要素は何ですか？
-信頼性や品質基準、テスト手順の標準化を重視し、複雑な電力モジュールの信頼性を確保することが重要視されています。
AMDは2相モジュールに対する業界の方向性についてどう考えていますか？
-AMDは、特にHBM3やHBM4に関するPDNノイズ許容度が厳しくなっているため、より高いトランジションを実現する必要があると考えています。
共通のフットプリント定義の必要性についてはどうですか？
-共通のフットプリント定義は、異なる電力モジュールが効率的に設計されるために必要であり、業界全体の標準化を推進することが求められています。