Optimal path utilization for multi plane fabric design

Open Compute Project

22 Oct 202420:10

Summary

TLDRワンダはBownの一員として、AIアプリケーション向けのGPUクラスターにおける負荷分散と最適パス利用の課題について説明しました。従来の経路選択方式が動的なリンク品質を十分に考慮していない問題を指摘し、ローカルおよびリモートリンクの品質をモニタリングすることで、負荷分散とアプリケーション性能の向上を目指すことを提案しました。新しい技術の導入やプロアクティブな調整を通じて、より効率的で応答性の高いAIファブリックの構築を目指しています。

Takeaways

😀 本日のトピックはAIアプリケーション向けのGPUクラスターにおける負荷分散と最適経路利用についてです。
😀 伝統的な経路選択は静的であり、リンクの品質を考慮していないため、負荷分散が不十分です。
😀 AIファブリックの構築には、最大128KのGPUを持つクラスターが必要で、異なるスケールに応じた設計が求められます。
😀 GPU間の通信はロスレスファブリックを必要とし、これにはLayer 2 PFCスキームを使用します。
😀 Aris適応ルーティングを導入することで、スイッチがリモートリンクの品質を考慮した経路選択を行えるようになります。
😀 AISフローエットモードとパケットスプレイモードの2つのモードをサポートしており、より高いスループットを実現しています。
😀 リモートリンクの混雑や故障、マルチリンクシナリオへの対応が重要で、これらの問題に対処する方法が示されました。
😀 リモート品質を制御平面のメッセージでスイッチに伝達することで、データ平面での情報更新が可能になります。
😀 制御平面とデータ平面の両方での改善が必要で、特にBGPの安定性を保ちながら新しいプロトコルを導入します。
😀 提案された新しいAIS経路プロファイルによって、下流ノードの品質監視と上流ノードへの配信が行われます。

Q & A

今日の主なテーマは何ですか？
-今日のテーマは、AIアプリケーション向けのGPUクラスタにおける負荷分散と最適なパス利用です。
負荷分散の問題はどのように発生しますか？
-従来のパス選択は静的であり、リンクの質を考慮しないため、負荷分散の問題が生じます。
ARISはどのようにして導入されていますか？
-ARISは、AIアプリケーションにおけるスループット向上とリンク障害の迅速な対応を実現するために導入されています。
GPUクラスタのスケールはどのように変化しますか？
-GPUクラスタは、アプリケーションによって1Kから128Kまでスケールが変わります。
どのような技術が新しいスイッチング要素に組み込まれていますか？
-新しいスイッチング要素には、51.2Tのスループットを持つ最新のYボックスと、800Gの前面ポートが含まれています。
AISのフローモードとパケットスプレーモードの違いは何ですか？
-AISのフローモードはホストNICサイトでの能力を活かし、パケットスプレーモードは複数のパスを活用します。
リモートリンクの品質をどのように監視しますか？
-リモートリンクの品質は、制御プレーンメッセージを使用してローカルフォワーディングの意思決定に反映させることが必要です。
スパインスイッチの役割は何ですか？
-スパインスイッチは、リモートリンクの混雑を認識し、最適なパスを選択する役割を果たします。
マルチリンクシナリオにおいてどのような課題がありますか？
-マルチリンクシナリオでは、リンクのボトルネックが発生し、トラフィックの均一な配分が難しくなります。
新しい制御プレーンの変更点は何ですか？
-新しい制御プレーンでは、リモート品質情報をスイッチに提供するために、従来のBGPの変更を最小限に抑えるプロトコルが提案されています。