Arm、Cortex-M55とEthos-U55を発表——低消費電力エンドポイントでTinyMLを強化する新IPコア

Armは本日、IoTや低消費電力デバイスを含むリソース制約のあるエンドポイントに高度な機械学習能力をもたらす、2つの最先端IPコアを発表しました。Cortex-M55マイクロコントローラーはArmのHeliumベクトル処理エンジンを統合した初の製品であり、Ethos-U55はArmのフラッグシップEthos NPUのコンパクト版です。両コアは共同展開向けに設計されていますが、それぞれ独立して動作可能です。

マイクロコントローラーへのAI展開——通称TinyML——は、5Gネットワークがエッジでの知能を促進する中、ますます重要になっています。専門家はTinyML市場が数十億台のコンシューマーおよび産業システムに拡大し、クラウド依存なしでリアルタイム洞察を提供すると予測しています。

「5年後を振り返ったとき、今こそがコンピューティングにおける真のパラダイムシフトだったと合意されるかもしれません」と、ArmのIoT・組み込み担当シニアディレクター、Thomas Ensergueix氏は語ります。「わずか数年でAIがクラウドでのデータ分析をどう変えたか、私たちの多くがAI搭載スマートフォンをポケットに持ち、今、あらゆる場所へのAI展開の次のステップがここにあります。」

スマートスピーカーなどのスマートホームデバイスが、ますます機械学習推論を自ら実行可能に（画像: Sebastian Scholz/Unsplash）

音声認識、コンピュータビジョン、その他のMLワークロードがクラウドからマイクロコントローラー自体へとシフトしています。Armの新コアは、オンデバイス推論を優先するマイクロコントローラーソリューションの成長するエコシステムをターゲットとしています。

「エンドポイントレベルのこのすべてのデータをクラウドに戻すことはできません」とEnsergueix氏。「家庭やスマートシティのビデオカメラは、文字通り毎日ギガバイトのデータを生成し、インフラはこのアップストリームデータフローに対応していません。数十億〜数兆のIoTエンドポイントにスケールするには、AI推論能力がIoTエンドポイントに直接必要であり、かつセキュアでなければならないと確信しています。」

Cortex-M55

Cortex-M55は、信頼されるCortex-Mファミリを基盤とし、過去最高のAI性能を提供。Armv8.1-Mアーキテクチャを活用し、開発者が特定ワークロード向けにコアを調整できるカスタム命令をサポートし、最大効率を引き出します。

Heliumベクトル処理技術により、前世代Cortex-M比で5倍高速なDSPと15倍高速なML性能を実現。

INT8演算（ドット積含む）向けカスタム命令がニューラルネットワーク推論を加速。

「成功するAIoTアプリケーションには、優れたコンピュート性能だけでなく、適切なデータ、係数、機械学習重みを適切なタイミングで取得できることが必要です。そのためプロセッサのメモリインターフェースは、あらゆるデータの入出力を処理できるよう最適化されています。この点では他のどのCortex-Mコアよりも優れています」とEnsergueix氏。

Cortex-M55とEthos-U55の組み合わせは、ジェスチャー認識、生体認証、音声認識などのアプリケーションに十分な処理能力を提供（画像: Arm）

Ethos-U55

Ethos-U55はArm初の「マイクロNPU」で、1 GHzで最大0.5 TOPSの加速を提供。32〜256 MACで構成可能、オンチップ重みデコーダーとリアルタイム重み展開用DMAを搭載し、メモリフットプリントを削減。

より大型の兄弟製品——Ethos-N77（4 TOPS）、N57（2 TOPS）、N37（1 TOPS）——と比較して、U55は複数コアスタックでスケール可能な高密度・低消費電力ソリューションを提供。

Cortex-M55とEthos-U55は一緒に使用するよう設計されているが、個別使用も可能（画像: Arm）

M55とU55の2つの新コアは連携するよう設計され、単独のCortex-Mデバイス比で最大480倍の高速化を実現。典型的な音声アシスタントワークロードでは、Cortex-M7比で50倍の加速と25倍の電力効率改善を報告しています。

「Cortex-Mがアプリケーションシステムコードを実行し、ニューラルネットワークワークロードが必要になると、コマンドストリームがSRAMに配置され、U55に割り込みが発行され、U55が引き継ぎます。U55は完了まで実行し、結果をSRAMに返し、Cortex-Mが制御を再開します。ストリーミングシナリオでは、U55が連続オーディオやビデオデータを処理できます」と、Arm機械学習グループVPのSteve Roddy氏が説明。

これらの新コアベースのシリコンは、2021年初頭に市場投入予定です。