Evolving Meta's Edge Architecture | Shivkumar Chandrashekhar & Lee Hetherington

@Scale

12 Sept 202419:44

Summary

TLDRMeta社の交通インフラ部門のShi Kumar Leeが、エッジ層のグローバルリーチとAIの成長、メタバースの到来がもたらすチャンスと課題について語ります。Facebookは2004年に設立され、3億人の月間ユーザーをサポートしています。コンテンツの進化に伴い、AIが最新のホットな要素となり、エッジハードウェアとソフトウェアの進化が求められます。Metaはエッジメトラ、エッジクラウド、およびm&a（Meta Network Appliance）を通じて、コンテンツ配信とユーザー接続を最適化していますが、AIの複雑なモデルを扱うためには新たなアプローチが必要です。

Takeaways

🌐 Facebookは2004年に設立され、デジタル空間を通じて現実世界でのコネクションを促進することを目的としています。
📈 ユーザーがプラットフォームで共有するコンテンツは、テキストから写真、ビデオコンテンツへと爆発的に成長し、メタバースでのリッチで浸入的な経験へと進化しています。
🤖 AIはこのミックスに最新かつ最もホットな要素であり、エッジ層に新たなセットの課題をもたらしています。
🌐 Metaは世界規模で最大かつ最も多様なインターネット提供インフラを運営しており、200以上の国々と接続しています。
🔄 エッジ層はコンテンツ配信のための主要なエントリーポイントであり、ユーザー接続をインフラに近い場所で終了させます。
🛠️ メタはエッジ層のハードウェアとソフトウェアの機能を進化させ、AI生成コンテンツの動的な変化に対処しています。
🌟 エッジネットワークは柔軟性とスケーラビリティを備えており、必要に応じてサイズを変更できます。
💡 AIのエッジでの使用例には、メタバース、メッセージングアプリのAIエージェント、ゲーム、AR/VRデバイスなどが含まれます。
🔒 エッジコンピューティングはセキュリティ上の課題をもたらし、メタはこれを解決するために多くのソリューションを採用しています。
🛠️ メタは100,000台以上のGPUを管理するスケールの課題に対処するために、需要予測システムとエッジオートスケーラーシステムを構築しています。
🔄 メタはエッジマシンの形状を進化させ、グラフィックレンダリングやAIインファレンスに特化した新しいマシンタイプを導入しています。

Q & A

メタのエッジ層とは何ですか？
-メタのエッジ層は、世界中のユーザーに対してコンテンツを提供する主要なエントリーポイントであり、200以上の国にまたがるインターネットサービスインフラを運営しています。
メタのエッジ層が提供するセキュリティサービスにはどのようなものがありますか？
-メタのエッジ層は、DDoS攻撃からの保護、レート制限、コンテンツ認証などのセキュリティサービスを提供しています。
メタのエッジ層のグローバル平均レイテンシーはどの程度ですか？
-メタのグローバルローディングバランスサービスにより、ユーザーからエッジまでのグローバル平均レイテンシーは40ミリ秒未満です。
エッジメトラとは何を指していますか？
-エッジメトラは、世界各地の主要都市に設置されたPOP（ポイントオブプレゼンス）の集まりで、メタのインフラストラクチャへのフロントドアとして機能し、ユーザーセッションを終了させます。
m&a（メタネットワークアプpliance）とは何ですか？
-m&aは、ISPと共同で提供される埋め込みキャッシングプログラムで、静的コンテンツの配信を加速し、バックボーンへの要求を減らして、人気コンテンツの急増にも対応します。
エッジネットワークの「弾性エッジ」とはどのような意味ですか？
-「弾性エッジ」とは、需要に基づいてスケールアップまたはスケールダウンできるように設計されたエッジネットワークの構築ブロックを指します。
メタはどのようにしてエッジでのAI推論を提供していますか？
-メタは、エッジでのAI推論を提供するために、ユーザーリクエストを適切なコンピュートクラスタにルーティングするようにオーケストレーションと配置システムを構築しています。
エッジでのコンピューティングやAI推論にどのような課題がありますか？
-エッジでのコンピューティングやAI推論には、リアルタイムでユーザーリクエストを適切なクラスタにルーティングする必要性、エッジホストのセキュリティリスク、ハードウェアの多様性、アプリケーションのリソース消費量の変動など、いくつかの課題があります。
メタはエッジマシンの「マシンシェイプ」をどのように進化させていますか？
-メタは、グラフィックレンダリングやAI推論など、進化するユースケースに応じて、GPUやNVMeフラッシュを搭載した新しいマシンシェイプを導入しています。
メタはエッジ開発者エコシステムをどのように強化していますか？
-メタは、エッジ開発者向けの内部ツールやシステムを構築し、エッジとデータセンター間でワークロードをシームレスに移動できるようにしています。