DWDM Fabric platform for energy efficient bandwidth scaling for AI clusters

Open Compute Project

24 Oct 202417:26

Summary

TLDRこのプレゼンテーションでは、AIファブリック向けのシリコンフォトニックWDMプラットフォームと、データセンターのエスケープ帯域幅の重要性について説明されています。特に、GPUからのデータがシステムを通過する際の帯域幅の劣化を指摘し、光ファイバーを用いることで大幅な効率向上が可能であることを示しています。将来のラック設計では、プログラム可能な多波長レーザーを用いた新しい光学技術が求められ、これにより急速に増加するデータ処理要求に応えるための解決策が提供されると強調されています。

Takeaways

😀 シリコンフォトニクスWDMは、未来のインターおよびイントララックのエスケープ帯域幅のスケーリングに最適なプラットフォームである。
😀 GPUパフォーマンスのスケーリングは高帯域幅インターコネクトによって達成されるが、システム全体のエスケープ帯域幅には大きなテーパーがある。
😀 データセンターにおける1ラックあたりのエスケープ帯域幅は、最大で1ペタビット/秒に達する可能性がある。
😀 大規模言語モデルの成長には、ラック性能を8〜10倍スケールアップする必要がある。
😀 従来の銅ケーブルを単一の光ファイバーに置き換えることで、より効率的な接続が可能になる。
😀 NVL288アーキテクチャは、460TB/秒のエスケープ帯域幅を必要とし、576の光ポートが必要。
😀 現在のOSFPフォームファクタは、1.6TB/秒を超える性能を提供できない。
😀 マルチ波長レーザー技術の導入が、800GB/秒を実現するためには必須である。
😀 1ファイバーあたりの波長数を増やすことで、必要な帯域幅密度を達成することができる。
😀 Excape社は、AIデータセンター向けのプログラム可能なマルチカラー光フォトニクスプラットフォームを発表している。

Q & A

シリコンフォトニクスWDMプラットフォームの選択肢としての利点は何ですか？
-シリコンフォトニクスWDMは、将来のインターラックおよびイントララックの帯域幅スケーリングに最適なプラットフォームとされており、高速データ転送を実現するための効率的なソリューションを提供します。
エスケープ帯域幅とは何を指しますか？
-エスケープ帯域幅は、システムレベルでどれだけの帯域幅を効果的に外部に出せるかを示す指標であり、GPUパッケージ内での帯域幅とは異なります。
AIモデルの成長がデータセンターに与える影響は何ですか？
-AIモデルの成長は、特に大規模言語モデルにおいて急速であり、ラックパフォーマンスを8倍から10倍にスケールアップする必要があります。
現在のデータセンターアーキテクチャの主な課題は何ですか？
-現在のアーキテクチャでは、数千本の銅ケーブルを使用しており、エスケープ帯域幅が大幅に減少するため、効率が悪く持続可能性に欠けています。
新しいアーキテクチャのビジョンはどのようなものですか？
-新しいアーキテクチャでは、銅ケーブルを単一のファイバーソリューションに置き換え、必要なケーブルの数を大幅に減少させながら帯域幅を強化することを目指しています。
ChromaXプラットフォームの主な機能は何ですか？
-ChromaXプラットフォームは、複数の波長を生成できるプログラム可能なフォトニクスプラットフォームであり、エスケープ帯域幅の課題に対応するための柔軟性とスケーラビリティを提供します。
1ファイバーあたりのデータ転送速度はどのくらいですか？
-ChromaXプラットフォームは、1ファイバーあたり最大800 Gbpsをサポートし、12.8テラビット毎秒のエスケープ帯域幅を実現することを目指しています。
顧客が求める波長の数はどのくらいですか？
-現在の顧客は、4波長から16波長の範囲でのソリューションを求めています。
マルチコアファイバーはエスケープ帯域幅の問題を解決できますか？
-マルチコアファイバーは帯域幅の密度を向上させる可能性がありますが、多くのレーザーを必要とするため、統合度の高い解決策が必要です。
この新技術の実用化における課題は何ですか？
-新しい技術は、スケールアップやコスト効率を考慮する必要があり、特に多波長の信号生成とその安定性が重要な課題となります。