High Performance Programmable NIC Architectures for Multi tenant Networks

Summary

この講演では、UTオースティンの大学院生であるジャシン・リン氏が、マルチテナントネットワーク向けに高性能で柔軟なスマートNIC（Panic）の設計について解説します。スマートNICは、クラウドインフラのさまざまなサービスをホストのCPU負荷を減らしながらオフロードし、柔軟なワークフローを実現します。特に、複数のテナントに対してサービスチェーン、性能分離、優先順位などを管理する方法に焦点を当てています。また、FPGAを用いたプロトタイプデモを通じて、実際の運用性能も紹介しています。

Takeaways

• 😀 高性能で柔軟なSmartNIC（スマートネットワークインターフェースカード）の設計は、高速なネットワークスループットと柔軟性の両立を目指している。
• 😀 マルチテナントクラウド環境では、複数のテナントが同じサーバーを共有し、それぞれのトラフィックをSmartNICでオフロードすることで効率化が図られる。
• 😀 SmartNICは、クラウドアプリケーションの変化に対応するため、固定のASIC（専用集積回路）ではなく、柔軟で汎用的なハードウェアが求められる。
• 😀 SmartNICは、ハードウェアアクセラレータと組み込み型CPUコアの両方をサポートし、複雑なインフラサービスをオフロードできる。
• 😀 パケットの処理は、再構成可能なマッチアクションパイプライン（RMT）を通じて、テナントごとに指定されたオフロードチェーンとポリシーに基づいて行われる。
• 😀 Panicアーキテクチャには、複数のオフロードエンジン（AES、SHA、RISC-Vコアなど）と、高性能なインターコネクトが組み込まれており、効率的な通信を実現している。
• 😀 プログラム可能なスケジューラは、パケットの優先順位とアイソレーションポリシーに基づき、異なるテナントのトラフィックを公平に処理する。
• 😀 テナントごとに異なるオフロードチェーンを設定でき、各テナントのサービス要件に合わせた柔軟な処理が可能。
• 😀 スケジューラは、直接的なチェーニングと間接的なチェーニングをサポートし、オフロードエンジンのボトルネックが発生した場合に動的に再調整する。
• 😀 Panic SmartNICは、FPGAベースで実装されており、100Gのスループットをサポートし、オープンソースで利用可能。

Q & A

Panic SmartNICの主な目的は何ですか？

Panic SmartNICは、高性能かつプログラム可能なネットワークインターフェースカードであり、クラウド環境における複数のテナントに対して柔軟かつ効率的なインフラサービスのオフロードを実現することを目的としています。

Panic SmartNICの設計で最も重要な要件は何ですか？

最も重要な要件は、パフォーマンスと柔軟性を兼ね備えた設計であり、高スループットのトラフィック処理を行い、同時にクラウドアプリケーションの急速な進化に対応するため、プログラム可能な構成が求められます。

Panic NICはどのようにして高いパフォーマンスを提供しますか？

Panic NICは、固定機能のアクセラレータと埋め込み型のRISC-Vコアを組み合わせ、動的なサービスチェーンを構築して、異なる種類のオフロードエンジンに対応することによって高いパフォーマンスを提供します。

SmartNICにおけるパフォーマンス分離はなぜ重要ですか？

パフォーマンス分離は、複数のテナントが同じリソースを共有する際に、公平なサービスを提供するために不可欠です。これにより、異なる優先度のトラフィックが適切に処理され、ボトルネックや過負荷による性能低下が防止されます。

Panic SmartNICの柔軟なサービスチェイニングとは何ですか？

柔軟なサービスチェイニングとは、テナントが自分たちのワークロードに応じて異なるオフロードエンジンを連携させることができる機能です。例えば、暗号化エンジンや圧縮エンジンを特定の順番で処理することができます。

Panic NICはどのようにしてテナントごとのサービスを管理しますか？

Panic NICは、プログラム可能なスケジューラを使用して、各テナントのパケットに対して優先順位やオフロードチェーンを動的に管理します。これにより、リソースの競合を避け、パフォーマンスの分離が保証されます。

SmartNICのアーキテクチャにおけるRMTパイプラインとは何ですか？

RMT（Reconfigurable Match-Action Pipeline）パイプラインは、パケットのヘッダーを解析し、どのオフロードチェーンを使用するか、またどのような分離ポリシーを適用するかを決定する役割を果たします。

Panic NICのスケジューラはどのように機能しますか？

Panic NICのスケジューラは、テナントのパケットを適切なオフロードエンジンに送信する際、優先順位やサービスポリシーを遵守します。また、ボトルネックが発生した場合には、パケットを再スケジュールして適切に処理します。

Panic SmartNICのオフロードエンジンはどのような種類がありますか？

Panic SmartNICのオフロードエンジンには、固定機能のハードウェアアクセラレータと、より柔軟なRISC-V埋め込み型コアがあります。これらは、パケット処理を効率的に行い、システム全体のパフォーマンスを向上させます。

Panic SmartNICのハードウェアプロトタイプにはどのような特徴がありますか？

Panic SmartNICのハードウェアプロトタイプは、100GのFPGAプラットフォーム上で動作し、デュアルポートの中央スケジューラと複数のオフロードエンジンを搭載しています。また、ユーザースペースドライバを提供し、カーネルバイパスインターフェースを通じてパケットを直接受信できます。