AI Networking Market Update

Open Compute Project

23 Oct 202412:31

Summary

TLDRサム・バン氏は、デロログループのリサーチ担当副社長として、AIネットワーク市場の最新動向について説明しました。AIバックエンドネットワークの定義を再確認し、GPUクラスターのスケールアップとスケールアウトの接続オプションについて議論しました。AIネットワークは、従来のネットワークとは異なるスピードと電力要件を持ち、2028年までに市場規模が200億ドルを超えると予測されています。AI投資は依然として加速しており、効率性の向上が今後の主な焦点となると強調されました。

Takeaways

😀 AIバックエンドネットワークは、従来のフロントエンドネットワークとは異なり、加速サーバーを接続するためにInfiniBandとEthernetの組み合わせを使用しています。
😀 AIネットワーク市場は、2028年までに200億ドルを超えると予測されており、これはデータセンターのスイッチング市場の2倍になる可能性があります。
😀 AIクラスターは、数十万のGPUを必要とし、ネットワーク設計が重要であるため、ネットワーク自体がAIクラスターのパフォーマンスに影響を与えます。
😀 AIバックエンドネットワークでは、800ギガビットのポートが2025年までに普及し、2028年には1600ギガビットに達すると予測されています。
😀 従来のフロントエンドネットワークよりも、AIバックエンドネットワークのスピードアップグレードサイクルは2倍速いとされています。
😀 AIクラスターは高度に分散しており、オプティクスの必要性が高まっていますが、これが電力消費の増加を引き起こす課題となっています。
😀 AIネットワークにおける刷新サイクルは、通常18～24ヶ月で、フロントエンドネットワークの4～5年に比べて短いです。
😀 ハイパースケーラーは、AIクラスターを迅速に構築するために努力していますが、効率性にも焦点を移しています。
😀 メタとグーグルのCEOは、AIへの投資を継続する必要性を強調しており、今後数年での需要の増加を見越しています。
😀 AIネットワーク市場の成長は続いており、投資は加速しているとBbanは述べています。

Q & A

AIバックエンドネットワークとは何ですか？
-AIバックエンドネットワークは、アクセラレータサーバーを接続するネットワークで、主にInfiniBandとEthernetを使用します。これは、一般的なサーバーを接続する従来のフロントエンドネットワークとは異なります。
AIバックエンドネットワークの市場規模はどのくらいですか？
-AIバックエンドネットワークは2028年までに200億ドルを超えると予測されています。これは現在のフロントエンドネットワーク市場と同等の規模です。
AIクラスターの設計オプションにはどのようなものがありますか？
-AIクラスターの設計オプションには、数十から数百のGPUを接続するスケールアップ接続と、数千から数万のGPUを接続するスケールアウトネットワークがあります。
AIバックエンドネットワークのスピード要件はどうなっていますか？
-AIバックエンドネットワークは、2025年には主に800Gポートが普及し、2028年には1600Gや3200Gポートが一般的になると予測されています。
AIネットワークにおけるパフォーマンスのボトルネックは何ですか？
-AIネットワークのボトルネックは主にネットワークにあり、AIクラスターの高価な構成を考慮すると、ネットワークの稼働率をほぼ100%に保つ必要があります。
AIバックエンドネットワークの電力消費の課題は何ですか？
-AIバックエンドネットワークは、オプティクスの数が増え、速度が上がるにつれて電力消費が増加します。この問題に対処する必要があります。
企業はAIインフラに対してどのように投資していますか？
-AIインフラに対する投資は加速しており、MetaやGoogleのリーダーは、必要になる前に容量を構築することの重要性を強調しています。
今後のAIネットワークの戦略はどのように変わると予測されていますか？
-今後、企業は効率性を重視した戦略に移行し、持続可能性や長期的な収益性に焦点を当てると予想されています。
AIバックエンドネットワークとフロントエンドネットワークの違いは何ですか？
-AIバックエンドネットワークは、主にアクセラレータや高いスピード要求に対応し、フロントエンドネットワークは一般的な計算機と接続されるネットワークです。
ハイパースケーラーはどのようなアプローチを取ると予測されていますか？
-ハイパースケーラーは、AIクラスターのスケーリングにおいて異なるアプローチを採用し、効率を重視した構築が進むと考えられています。