SONiC Network Test Appliance for AI ML Congestion Performance

Open Compute Project

24 Oct 202414:10

Summary

TLDRこのセッションでは、AI/MLの輻輳制御を目的としたネットワーク機器としてのSonicの活用について説明されています。特に、Sonicを使用したネットワークのパフォーマンステストや障害注入に焦点を当て、パケット順序変更や選択的パケットドロップ、ECNマーキングなど、精密な制御が可能であることが強調されました。また、ACLやUDF（ユーザー定義関数）を活用したトラフィック管理、Sonicゴーストデバイスを使用した複数リンク経路の検証など、Sonicの高度な機能も紹介されています。実験結果により、障害注入がネットワーク性能に与える影響が示され、今後の発展方向についても触れられました。

Takeaways

😀 SonicはAI/MLのネットワーク混雑制御において、非常に成功しており、データセンターやエンタープライズなど様々なユースケースに適用可能。
😀 現在の業界では、専用ハードウェアを使ってネットワークパフォーマンステストを実施しているが、これらは高価であり、完全なエンドツーエンドテストには限界がある。
😀 Sonicを使うことで、より柔軟で決定的なネットワークテストが可能になり、特定のパケットの欠落や順序入れ替え、ECNやPFCのテストができる。
😀 テストは決定的であるべきであり、Sonicでは特定のパケットに対してのみ障害を引き起こすことができる。
😀 インラインテストの導入により、テストがネットワーク速度で実行され、遅延が最小化される。
😀 テストモードには、現在のネットワークデバイス配置に障害を注入する「位置的インジェクション」モードと、トラフィックが通常通り流れる「透過的インジェクション」モードがある。
😀 UDF（ユーザー定義フィールド）とACL（アクセス制御リスト）を使用して、パケットをフィルタリングし、特定のトラフィックパターンに基づいて障害を注入する。
😀 Sonicは「ゴーストデバイス」として機能し、パケット転送の決定に関与せず、ネットワークパフォーマンスへの影響を最小限に抑えることができる。
😀 ループバックポートを使ったトラフィックのリダイレクトにより、パケットの順序入れ替えを意図的に発生させ、ネットワークのパフォーマンスを検証できる。
😀 ECN（Explicit Congestion Notification）をリアルタイムで導入することで、ネットワークの混雑制御を検証でき、PFCなどのバックプレッシャー機構が動作することを確認できる。
😀 最後に、Sonicのテストアプライアンスをさらに拡張するために、パケット編集ツールの統合や、自動化およびパフォーマンスモニタリング機能の追加が計画されており、コミュニティの協力を呼びかけている。

Q & A

Sonicとは何ですか？
-Sonicは、データセンターや企業ネットワーク向けに非常に成功しているオープンソースのネットワークOSで、特にAI/ML（人工知能/機械学習）に関連したネットワーク機能に適用されています。
Sonicの役割は何ですか？
-Sonicは、AI/MLワークロードのトラフィック管理において、ネットワーク性能のテストや障害注入を行うためのネットワークアプライアンスとして機能します。
ネットワークの障害注入とは何ですか？
-ネットワークの障害注入とは、ネットワークトラフィックに意図的に故障や遅延を加えることで、トラフィックがどう処理されるかをテストする手法です。これにより、ネットワーク機器やプロトコルの堅牢性を確認できます。
Sonicの「ゴーストデバイス」とは何ですか？
-Sonicのゴーストデバイスは、ネットワークのトラフィックを監視し、特定のパケットに対して障害を注入する透明なデバイスです。このデバイスは、既存のネットワーク構成に影響を与えずにテストを行うことができます。
UDF ACLとは何ですか？
-UDF（User-Defined Field）ACLは、ネットワークパケットをより詳細に分類して処理を行うためのツールです。これにより、ユーザーが指定したパケットパターンに基づいて、特定のアクションを実行することができます。
Sonicはどのようにしてパケットの順序を変更できますか？
-Sonicでは、UDF ACLを使用して特定のパケットをターゲットにし、そのパケットをループバックポートにリダイレクトして故意に遅延を加えることで、パケットの順序を変更することができます。
ECN（Explicit Congestion Notification）とは何ですか？
-ECNは、ネットワークでの輻輳を管理するための技術で、パケットに特定のマークを付けることで、ネットワーク機器に輻輳を通知し、帯域幅の調整を促進します。
Sonicのテストのために使用される「ループバックポート」の役割は何ですか？
-ループバックポートは、テストの際にトラフィックを意図的に遅延させるために使用されます。これにより、ネットワークのパフォーマンスや障害がどう影響するかをシミュレートできます。
SonicのFault Injection機能のメリットは何ですか？
-SonicのFault Injection機能は、ネットワークのトラフィックを詳細に制御でき、特定のパケットや通信路に対して意図的に障害を注入することができます。これにより、リアルタイムでのネットワークの挙動を厳密にテストできます。
実験結果から得られた重要な知見は何ですか？
-実験結果から、ほんの少量のパケットをリダイレクトしただけでも、帯域幅に大きな影響を与えることが分かりました。例えば、0.5%のトラフィックをリダイレクトするだけで、帯域幅が大幅に低下しました。