クアルコムはエッジAIオファリングを準備します

クラウドAI100 AIアクセラレーターの最初の発表から約18か月後、クアルコムは、このチップが利用できるソリューションフォームファクターの詳細と、それらのカードのパフォーマンスの数値をいくつかリリースしました。モバイルシリコンの巨人は、Cloud AI 100の最終的なシリコンが生産中であり、2021年の前半に出荷されることを明らかにしました。

Cloud AI 100は、ほぼ18か月前の2019年4月に発売されました。QualcommはSnapdragonラインでスマートフォンプロセッサ市場を支配していますが、Qualcommのサーバー向け製品は、これまで離陸していませんでした。ArmベースのCentriqラインは、わずか1年後の2018年に撤退しました。発売。したがって、モバイルシリコンメーカーは、Cloud AI100をエッジサーバー市場への道と見なしています。

QualcommのCloudAI 100は、エンタープライズデータセンターや5Gインフラストラクチャなどの最先端のアプリケーションを対象としています（画像：Qualcomm）

フォームファクタ

Cloud AI 100チップの多くの詳細はまだ明らかにされていませんが、最初は3種類のカードで利用できるようになることがわかりました。これらは、15ワットで50を超えるTOPSを提供するデュアルM.2エッジ（DM.2e）フォームファクター、25ワットで200 TOPS用に構成されたデュアルM.2（DM.2）カード、およびPCIeカードです。これは75ワットで約400TOPSになります。 （クアルコムは、これらは理論上の最大値である「生の」TOPSの数値であり、実際のアプリケーションで達成される可能性のある計算を表すものではないと述べました。

クアルコムは、低電力プロセッサ設計のスキルをモバイル分野からエッジAIアクセラレータ市場に移転したようです。 Cloud AI 100の設計は、Snapdragonプロセッサに見られるAIアクセラレータブロックに基づいていませんが、ワットあたりのパフォーマンスは印象的です。メディアブリーフィング中にクアルコムが示したスライドには、クラウドAI 100のPCIeカードバージョンが、わずかな電力しか使用せずに、業界で最も人気のあるソリューションの多くを上回っているグラフが含まれていました。 Qualcommによると、これらは他のサプライヤからの公に記載された数値と比較した測定パフォーマンス数値です。

クリックすると拡大画像が表示されます

クアルコムの数値によると、Resnet-人気のあるAI推論ハードウェアと消費電力の1秒あたり50のAI推論。 Qualcommのカードは、電力効率に関して特に優れたパフォーマンスを発揮するようです。バッチサイズは、NvidiaA100を除くグラフ上のすべてのポイントで8です。 （画像：クアルコム）

「クアルコムには、AI R＆Dの長い伝統があります」と、クアルコムの製品管理担当シニアディレクターであるジョン・カーリは述べています。 「私たちは実際、モバイル側からの第5世代ソリューションに取り組んでおり、11年以上にわたって非常に活発な研究開発を行っています。そのため、私たちはその知識と業界の専門知識を活用していますが、これは別のAIコアであり、モバイルと同じではありませんが、その分野から活用しています。」

Cloud AI 100は、INT8、INT16、FP16、およびFP32をサポートする最大16個のAIプロセッサコアを備えた推論アクセラレータです。 7nmFinFETプロセステクノロジーに基づいて構築されています。最大144MBのオンダイSRAMがあります。128MBはコア間で共有され、各コアには1MBが追加されます。このカードは、カードレベルで最大32 GBのDRAMをサポートし、最大2.1GHzで動作する4x64LPDDR4xのメモリ帯域幅を備えています。

エッジアプリケーション

Cloud AI 100は、コンピュータービジョン、音声、自動運転、言語翻訳、レコメンデーションシステムに使用できます。今日、クアルコムは4つの主要市場でAI推論のためにCloud AI100シリコンを位置付けています。これらは、クラウド外のデータセンター、ADAS、5Gエッジボックス、5Gインフラストラクチャです。

クラウドのエッジにあるデータセンターでのAI推論は、広告の配信やニュースフィードのパーソナライズに使用されるレコメンデーションエンジンから、アプリケーション固有のコンピューティングを必要とするAI計算まで、あらゆるものを強化します。

クアルコムが「5Gエッジボックス」と呼んでいるものは、オンプレミスの組み込みスタンドアロンデバイスに似ています。これらは、電柱のスマートシティインフラストラクチャの一部として、または企業に導入され、スマートシティ、公共の安全、および交通管理アプリケーションを推進するために使用される可能性があります。

Cloud AI 100の派生物は、Qualcomm Snapdragon Rideプラットフォームでの自動運転のためのAI処理を強化するために使用されます（この派生物は、共通のアーキテクチャとソフトウェアツールチェーンを共有しています）。

5GインフラストラクチャでのCloudAI 100のアプリケーションは、ビームフォーミングなどの複雑なアルゴリズムを高速化することです。これにより、AIを使用して5G基地局を効率的に管理できるようになります。

リファレンスデザイン

クアルコムは、新しいCloud AI100開発キットも発表しました。これには、Cloud AI 100を搭載した5Gエッジボックスのリファレンスデザインと、Snapdragon 865アプリケーションおよびホストプロセッサとしてのビデオプロセッサ（最大24ストリームのフルHDビデオデコードをサポートするフルビデオパイプラインを提供し、顧客に余裕を持たせる）が含まれます。アプリ開発）。リファレンスデザインでは、Snapdragon X555Gモデムに基づく事前認証済みの5Gモジュールも使用しています。

「これは私たちにとって本当に興奮しているグリーンフィールドの機会です」とKehrliは言いました。 「[開発キットの]目的は、この分野に関心のあるお客様が、箱から出してすぐにデモアプリをすばやく簡単に実行できるようにすることです。デモとして、コンパイル済みのResNet-50も付属しています。」

このような5Gエッジボックスは、ショッピングモールでのセキュリティビデオストリーミングや製造施設での安全アプリケーションのオンプレミス分析を行っている可能性があるとKehrli氏は述べています。

スケジュール

クラウドAI100を最初に採用した顧客は、スマートシティ、小売、製造業の最先端にいる可能性が高いと、Kehrli氏は述べています。

「私たちの最初の商用展開は、データセンター側よりもエッジ側で行われることを期待しています。データセンター側では、本番環境に移行するまでのサイクルがはるかに長くなります」と彼は言います。 「そこに大きな牽引力と機会がないというわけではありませんが、5Gエッジの展開がはるかに高速になり、事前に認定された5Gモジュールのようなものがそれをはるかに簡単にすることを期待しています。私たちが協力しているこれらの顧客の多くは、従来のモバイル顧客ではありません。そのため、事前に認定されたソリューションを提供することで、すぐに市場に投入できます。そのため、その分野の[アプリケーション]はより早く登場します。」

Qualcomm Cloud AI 100の最終的なシリコンは生産が開始され、現在複数の顧客にサンプリングされており、2021年の前半に出荷されます。エッジ開発キットは来月サンプリングされますが、一部の顧客のみが対象となります。

>>この記事はもともと姉妹サイトのEETimes。