Qualcomm、Cloud AI 100を発表──5G時代のエッジAI向け高効率アクセラレータ

2019年4月の初発表から約18ヶ月後、QualcommはCloud AI 100シリコンが量産段階に入り、2021年上半期に出荷開始することを確認しました。同社はカードフォームファクタと性能ベンチマークも公開し、エッジAIワークロードへの対応準備をアピールしています。

Qualcommは長らくSnapdragonラインでスマートフォン市場を支配してきましたが、サーバーグレードのCentriqラインは2018年に中止。Cloud AI 100は、ニアエッジサーバー市場への戦略的参入を意味し、卓越した電力効率で高スループットAI推論を提供します。

Qualcomm Cloud AI 100は、5GインフラやエンタープライズデータセンターなどのニアエッジAIワークロード向けに設計されています。

フォームファクタと性能

QualcommはCloud AI 100を以下の3つのカードフォーマットで最初に提供します：

• Dual M.2 Edge（DM.2e）──15Wで50 TOPS超
• Dual M.2（DM.2）──25Wで200 TOPS
• PCIe──75Wで最大400 TOPS

これらの数値は理論上の「生」TOPSであり、実アプリケーションのオーバーヘッドは考慮されていません。それでもQualcomm独自の性能曲線では、PCIe版が多くの主要ソリューションを上回りながら、消費電力はわずかな割合に抑えられています。

ResNet-50推論スループット対消費電力。Qualcommのカードが電力効率でリード（バッチサイズ8、Nvidia A100除く）。

Qualcommのシニアディレクター・プロダクトマネジメント、John Kehrli氏は「モバイルプラットフォームから10年以上のAI研究開発をこの新しいコアに持ち込みました。アーキテクチャはSnapdragonとは異なりますが、専門知識とワットあたり性能は明確です」と述べています。

チップアーキテクチャ

Cloud AI 100は、7nm FinFETプロセスで構築された推論アクセラレータです。最大16個のAIコアを搭載し、INT8、INT16、FP16、FP32精度をサポート。ダイには144MBのオンチップSRAM（128MB共有、コアあたり1MB）を内蔵し、最大32GBのLPDDR4x DRAM（4×64 LPDDR4x、2.1GHz）とインターフェースし、AIワークロードに不可欠な高メモリ帯域幅を提供します。

ターゲットアプリケーション

このアクセラレータは、コンピュータビジョン、音声認識、自律走行、言語翻訳、レコメンデーションエンジンなど、幅広いエッジユースケースに対応。QualcommはCloud AI 100を以下の4つの主要市場で位置づけています：

• クラウドのエッジにあるデータセンター
• 先進運転支援システム（ADAS）
• 5Gエッジボックス（オンプレミス、スマートシティおよびエンタープライズ用スタンドアローンデバイス）
• 5Gインフラ（AI駆動ビームフォーミングと基地局最適化）

自律走行分野では、Cloud AI 100の派生品がQualcommのSnapdragon Rideプラットフォームを駆動し、同一アーキテクチャとソフトウェアスタックを活用しています。

リファレンスデザインと開発キット

Qualcommは、Cloud AI 100で駆動される5Gエッジボックスのリファレンスデザインを備えた新しい開発キットを発表。このキットは、アクセラレータをSnapdragon 865ホストプロセッサとペアリングし、最大24ストリームのフルHD動画デコードをサポートする完全なビデオパイプラインを提供。また、事前認証済みのSnapdragon X55 5Gモデムも含まれます。

Kehrli氏は「このキットでお客様は即座にデモアプリケーションを起動できます。ResNet-50がプリコンパイル済みで、エッジAIソリューションのクイックスタートを提供します」と強調。

展開タイムライン

Qualcommは、認証サイクルが短いエッジシナリオ（スマートシティ、小売分析、製造）で初期商用展開が集中すると予想。Cloud AI 100のサンプリングは選定顧客で既に進行中で、開発キットは来月、限定対象でサンプリング開始予定です。

注：この記事は元々EE Timesで公開されました。