Deploying the AI Factory

Summary

ウェイド・ヴィンセント氏が、データセンターにおける加速コンピューティングの重要性について講演しました。GPUとCPUの統合により、パフォーマンスが50倍から200倍向上し、エネルギー効率も改善されることを強調。モジュラー設計の「スーパード」やOCP O RV3ラックの進化、冷却と電力管理の新しいアプローチについて説明しました。将来的には空冷から液冷へのシフトが進むと予測され、業界関係者にこの技術を採用するよう呼びかけました。

Takeaways

• 😀 ウェイド・ヴィンセント氏は、データセンターの構築と展開を担当するチーフエンジニアです。
• 😀 GPUを活用したアクセラレーテッドコンピューティングは、電力制約のあるデータセンターにおいてより効率的です。
• 😀 アクセラレーテッドコンピューティングは、従来の処理に比べて50倍から200倍の性能向上を実現します。
• 😀 OCP Open Rack v3の改良により、接続性やケーブリングのスペースが向上しました。
• 😀 データセンターでは、水冷方式が重要であり、高温の水を使用することで冷却効率を高められます。
• 😀 65℃の戻り水を使用してエネルギーを再利用することが提案されています。
• 😀 データセンター設計には、供給電力とその冗長性を考慮した計算が必要です。
• 😀 AIファクトリーは、スケーラブルな要素として構築可能で、多様なGPUを統合できます。
• 😀 モジュラー型データセンターは、電力供給の効率を最大化するために設計されています。
• 😀 アクセラレーテッドコンピューティングは今後も成長を続けるため、業界の関係者は積極的に関与すべきです。

Q & A

ウェイド・ヴィンセント氏の役職は何ですか？

彼はチーフデータセンターエンジニアで、データセンターの構築と展開を担当しています。

GPUを用いた加速コンピューティングの利点は何ですか？

GPUは電力制約のあるデータセンターで、電力をより効率的に使用し、エネルギー効率も高めます。

OCP ORV3ラックについての改良点は何ですか？

浮遊コネクタの改良やケーブルスペースの増加、挿入力の向上があります。

加速コンピューティングによる性能向上はどのくらいですか？

次世代システムは最大200倍の性能向上を実現することができます。

データセンターの冷却方法として推奨されているのは何ですか？

水冷が推奨されており、チラーなしのドライクーラーを利用することが考えられています。

データセンターにおける水温の理想は何度ですか？

サーバーチップは85℃から90℃で動作するため、45℃の水温が必要です。

データセンターの電力密度はどのくらいですか？

平均ラック密度は62kWで、特定の高密度ゾーンを設計することが可能です。

AIファクトリーの設計において重要なポイントは何ですか？

AIファクトリーは12の8MWデータセンターとして設計され、効率的な電力供給が必要です。

データセンターの未来における冷却技術はどう進化するでしょうか？

将来的には水冷の使用が増え、空気冷却は徐々に減少する見込みです。

データセンターの設計で考慮すべき主な要素は何ですか？

電力供給と冷却システムの設計、そして物理モデルの作成が重要です。