AI HPC Future Fabrics Panel

Open Compute Project

24 Oct 202430:54

Summary

TLDRこのビデオは、光学インターコネクト、ジョセフソン接合、超伝導回路を活用したAIシステムの大規模化に関する革新的なアプローチを紹介します。講演者は、光を利用して通信ボトルネックを解消し、従来のデジタルスーパーコンピュータよりも圧倒的に高速で低消費電力の人間の脳規模の認知システムを構築する方法について説明しています。また、メモリ階層の問題に対して、新たな神経回路のアーキテクチャを提案し、超伝導回路の課題にも触れています。

Takeaways

😀 光学インターコネクト技術は、大規模AIシステムの通信ボトルネックを解消し、より高速かつ効率的なデータ転送を実現する。
😀 ジョセフソン接合は、光信号の入力を受け取り、アナログ計算とメモリ機能を提供する。これにより、高速で複雑な計算が可能になる。
😀 提案されたAIシステムは、従来のデジタルスーパーコンピュータよりも遥かに少ない電力で、人間の脳の規模を超えるニューラルネットワークを実現する。
😀 初期の製品開発は、少数のニューロンを使った加速器を対象にしており、最初の応用として異常検出やノイズ除去などが計画されている。
😀 光学インターコネクトは、システム内の異なる層間での通信を支え、長距離通信において光ファイバーを使用することで効率的なデータ転送を実現する。
😀 新しいAIアーキテクチャでは、メモリと計算が密接に統合されており、従来のコンピュータのようなメモリ階層は必要ない。
😀 複雑な神経回路の設計には、特に高周波信号処理や高頻度取引など、特定の用途向けにジョセフソン回路を活用する。
😀 現在、フォトニック技術を取り入れたEDAツールはまだ初期段階にあり、さらに成熟させる必要がある。
😀 目指すべきAIシステムは、最終的に数百ニューロンから始まり、段階的に規模を拡大していく予定で、商業化には数年を要する見込み。
😀 超伝導回路を用いたシステムでは、メモリ密度の問題は、光通信の速度で大きなメモリプールにアクセスすることで解決される。

Q & A

光学インターコネクトがAIシステムに与える利点は何ですか？
-光学インターコネクトは、通信ボトルネックを解消し、AIシステム全体のデータ転送速度を大幅に向上させます。光を使用することで、電子インターコネクトよりも高速で、低消費電力で通信でき、特に大規模なシステムでは大きな効果があります。これにより、AIシステムの効率が向上します。
ジョセフソン接合はどのようにしてシナプス計算を実行しますか？
-ジョセフソン接合は、シングルフォトン検出器からの入力を受け取り、アナログ的に重み付けを行うことでシナプス計算を実行します。また、これらはメモリ要素としても機能し、電流をストレージループに変換してシナプスの重みを保持します。これにより、高速な行列・ベクトル積演算が可能になります。
この新しいシステムのメモリアーキテクチャは、従来のコンピュータシステムとどう異なりますか？
-従来のシステムでは、プロセッサとメモリが分かれており、通信ボトルネックが存在しますが、この新しいシステムでは各ニューロンがシナプスメモリを直接保持します。これにより、メモリと計算が一体化し、通信の遅延を最小限に抑えつつ、動的に記憶が管理されるため、従来のメモリ階層を必要としません。
このシステムが従来のデジタルスーパーコンピュータよりも優れている点は何ですか？
-このシステムは、従来のデジタルスーパーコンピュータよりも少ない電力で動作し、はるかに高速です。さらに、ニューロンやシナプスの数は人間の脳を超える可能性があり、同じ電力でより多くの演算を行えるため、効率的かつ強力なAI処理が可能です。
システムのパワー消費はどのようにして抑えられますか？
-システムの主要なパワー消費源は光源の効率です。光通信を使用することで、従来の電子的なデータ転送よりも消費電力を大幅に削減できます。最適化された光学的要素により、消費電力は10kWから最大1MWの範囲で制御され、スケールによって調整されます。
初期の市場投入に向けた製品の計画はどのようになっていますか？
-最初の製品は、小規模なアクセラレータで、数百ニューロンを使用したシンプルな推論エンジンです。RF信号や通信信号を入力として受け取り、異常検出や信号のデノイズを行います。この段階での製品は、ソフトウェアでの学習が可能で、最初は小規模な問題解決に焦点を当てています。
光学的システムにおけるメモリ密度の問題はどのように解決されていますか？
-光学的なシステムでは、各ニューロンがシナプスメモリを保持しており、従来のシステムにおけるメモリの密度問題はあまり発生しません。ニューロン自体がメモリ要素を持つため、メモリは分散されており、大規模なメモリ階層を必要としません。このアーキテクチャは、高速で効率的なアクセスを可能にします。
光学インターコネクトの設計ツールはどのように進化していますか？
-光学インターコネクトの設計ツールはまだ初期段階にありますが、CadenceやSynopsysなどのEDAツールに統合され始めています。現在、光学的インターコネクトと従来のGPU設計を統合するための企業が増えており、この分野のツールと技術は急速に進化しています。
ジョセフソン接合を使用する際の主な課題は何ですか？
-ジョセフソン接合を使用する主な課題は、装置が大きくなることで物理的なスケーリングの問題が生じることです。しかし、光通信を活用することで、メモリへのアクセス速度が速く、従来のデジタル回路よりも優れたパフォーマンスを発揮します。
今後5年間の技術的な目標は何ですか？
-今後5年間の目標は、まず小規模なアクセラレータを市場に投入し、その後、オンチップ学習機能を持つより複雑なシステムへと進化させることです。最終的には、複数のウェファーを使用した大規模なAIシステムを実現し、汎用的なAI計算ができるシステムを構築する予定です。