AI/Ml Clusters Enabled By A 51.2 Tbps Cpo Switch

Open Compute Project

23 Oct 202413:59

Summary

TLDRこのトランスクリプトでは、BroadcomとByteDanceの代表者がCoherent Passive Optical（CPO）技術の進展とその産業への影響について議論しています。特に、ネットワークのスケーリングとパフォーマンス向上におけるCPOの重要性が強調され、電力消費の削減とレイテンシの改善が求められています。両社は、CPOの実装に向けた取り組みを進めており、業界全体のエコシステムを強化するためにオープンコンピュートプロジェクト（OCP）への貢献も示しています。

Takeaways

😀 CPO（コパッケージドオプティクス）は、ネットワーク性能と効率を改善するための重要な技術です。
😀 スケールアウトネットワークの成長により、電力消費とレイテンシの問題が深刻化しています。
😀 ByteDanceは、ネットワークのレイテンシを削減することで、通信コストを大幅に削減できると見込んでいます。
😀 BroadcomのGen 2プラットフォームは、性能と電力効率に重点を置いています。
😀 CPO技術は、従来の銅リンクに対してリンクフラップを効果的に管理できる利点があります。
😀 FEC（前方誤り訂正）を使用することで、ネットワーク全体のデータ整合性が向上します。
😀 ByteDanceは、カスタマイズしたスイッチを開発し、ソフトウェアとハードウェアの要件に最適化を図っています。
😀 オープンコンフィグコミュニティへの貢献として、CPOの監視基準とモデルを提供する計画があります。
😀 Broadcomは、CPO技術に関する健全なエコシステムを促進することにコミットしています。
😀 聴衆からの質問に対して、CPOの量産展開の準備状況とコスト削減の期待についての懸念が取り上げられました。

Q & A

CPOとは何ですか？
-CPOは、Co-Packaged Opticsの略で、ネットワークスイッチと光学コンポーネントを統合する技術です。これにより、レイテンシと電力消費の削減が期待されます。
CPOの導入における主な利点は何ですか？
-CPOの主な利点には、ネットワークの通信コストの削減、低レイテンシの実現、高い電力効率があります。特に大規模なAIモデルの推論サービスで顕著です。
ByteDanceはCPO技術をどのように活用していますか？
-ByteDanceは、CPOを利用して64の800ギガのOSFPポートを持つカスタマイズスイッチを開発し、AIネットワークの効率を向上させることを目指しています。
CPO導入の最大の課題は何ですか？
-最大の課題は、運用と監視の機能です。DSPの機能を補完するためのソフトウェアが必要であり、これにはかなりの労力が必要です。
Broadcomの新しい技術の性能はどうでしたか？
-Broadcomは、新世代の技術において、送信機と受信機の健全なマージンを示し、全体の性能が基準に準拠していることを報告しました。
CPOがネットワークに与える影響はどのようなものですか？
-CPOは、ネットワークの拡張性を向上させ、電力消費を削減することで、コンピュータ資源をより効率的に使用できるようにします。
OCPへの貢献とは何ですか？
-OCP（Open Compute Project）への貢献は、CPOに関連するプラグ可能なレーザーソースの仕様やファイバーケーブルアセンブリを公開し、オープンエコシステムの構築を目指すことです。
CPOの展開におけるコスト削減はどの程度ですか？
-CPO技術により、Broadcomは約40%のコスト削減を見込んでいます。
CPO技術の現在のステータスは？
-CPO技術はまだ検証段階にあり、大規模展開の可能性を見極めています。
今後のCPOの展望は？
-CPOは、さらなる性能向上を図りながら、より多くのパートナーシップを築き、エコシステムの健全性を確保する方向で進んでいく予定です。