TinyMLデバイス用に設計されたアームコア

Armは、エンドポイントデバイス、IoTデバイス、およびその他の低電力でコストに敏感なアプリケーションで機械学習を強化するように設計された2つの新しいIPコアを発表しました。 Cortex-M55マイクロコントローラーコアは、Armのヘリウムベクトル処理テクノロジーを最初に使用したものです。Ethos-U55機械学習アクセラレーターは、同社の既存のEthos NPU（ニューラル処理ユニット）ファミリーのマイクロバージョンです。 2つのコアは一緒に使用するように設計されていますが、別々に使用することもできます。

マイクロコントローラーやその他のコストに敏感で低電力のリソースに制約のあるデバイスでAIおよび機械学習アプリケーションを有効にすることは、tinyMLセクターとして知られています。 5Gの台頭により、エンドポイントデバイスのインテリジェンスが向上する傾向が見られ、tinyMLは、数十億の消費者向けおよび産業用システムを含む市場に飛躍的に成長すると予想されています。

「5年後を振り返ると、今回がコンピューティングの真のパラダイム変化を示したことに同意するかもしれません」と、IoTおよびEmbedded、ArmのシニアディレクターであるThomasEnsergueixは述べています。 「数年以内に、AIがクラウドでのデータ分析の実行方法に革命をもたらしたのを見てきました。私たちのほとんどは、AIで拡張されたスマートフォンをポケットに入れています。これが次のステップであり、あらゆる場所でAIの準備を整えます。」

スマートスピーカーなどのスマートホームデバイスは、機械学習の推論を自分で実行できるようになります（画像：Sebastian Scholz / Unsplash）

音声認識やコンピュータービジョンアプリケーションを含む機械学習は、マイクロコントローラーでますます行われるようになります。 Armがこれら2つの新しいコアでターゲットにしている、Armコアなどに基づいて、さまざまなマイクロコントローラーの選択肢が生まれています。

「エンドポイントレベルのこのすべてのデータをクラウドに戻すことはできないことを私たちは知っています」とEnsergueix氏は述べています。 「家庭やスマートシティのビデオカメラは、文字通り1日あたりギガバイトのデータを生成します。インフラストラクチャはこのアップストリームデータフロー用に構築されていません。数十億または数兆のIoTエンドポイントに向けて拡張する必要があるものには、IoTエンドポイントに直接AI推論機能が必要であると確信しています。そして、それは安全である必要があります。」

Cortex-M55

Armのマイクロコントローラー向けの有名なCortex-Mシリーズに最近追加された、Cortex M-55は、Armの最もAI対応のCortex-Mコアになるように設計されています。

M55は、Armの新しいヘリウムベクトル処理テクノロジーを初めて使用したもので、以前のCortex-M世代と比較して5倍速いDSPパフォーマンスと15倍速いMLパフォーマンスを約束します。 Armv8.1-Mアーキテクチャに基づいて、カスタム命令を作成して、特定のワークロード用にプロセッサを最適化し、場合によっては最後の一滴の電源を切ることができます。

M55とU55を組み合わせると、信号の前処理に使用できるM55の増加したDSP馬力を利用できます。ただし、M55はニューラルネットワークワークロード自体を実行できます。機械学習アプリケーションで一般的に使用されるドット積を含む、INT8番号専用の手順を備えています。

AIoTアプリケーションの成功は、「優れたコンピューティングパフォーマンスだけでなく、適切なデータ、適切な係数、適切な機械学習の重みを適切なタイミングで取得できるかどうかにかかっているため、プロセッサのメモリインターフェイスは次のことができるように最適化されています。すべてのデータを出し入れします。この点では、他のどのCortex-Mコアよりもはるかに優れています」とEnsergueix氏は述べています。

Cortex-M55とEthos-U55の組み合わせは、ジェスチャ認識、生体認証、音声認識などのアプリケーションに十分な処理能力を備えています（画像：腕）

エトス-U55

Ethos-U55は、Armの最初の「マイクロNPU」として請求されており、最大0.5 TOPSの加速を提供します（1GHzで動作する16または7nmなどのより小さな形状に基づく）。アームはまだ電力効率の数値を発表していません（TOPS / W）。構成可能であり（32〜256の積和演算ユニット（MAC）を使用できます）、ウェイトデコーダーとオンザフライのウェイト解凍用のダイレクトメモリアクセスを備えています。

Ethos-U55は、Ethos N77、N57、およびN37に加わり、比較すると、それぞれ4、2、および1つのTOPSを提供します。複数のEthosコアを使用することで、パフォーマンスをスケールアップできます。

Cortex-M55とEthos-U55は一緒に使用するように設計されていますが、別々に使用することもできます（画像：アーム）

2つの新しいコアM55とU55は、一緒に使用するように設計されており、前世代のCortex-Mデバイスのみの場合よりも480倍高速にMLタスクを処理できます。アーム氏によると、MLを使用したエンドツーエンドの音声アシスタントアプリケーションの一般的な数値は、Cortex-M7を単独で使用した場合と比較して50倍高速化され、電力効率が25倍向上しています。

「Cortex-Mはアプリケーションシステムコードを実行し、ニューラルネットワークのワークロードを処理する必要がある場合、そのコマンドストリームがSRAMに配置され、U55に割り込みが与えられます。ここで、これに取り組みます。コマンドストリーム」と、Armの機械学習グループの副社長であるSteveRoddyは説明しました。 「それは、単一のモデルの単一の推論である可能性があります。 U55は最後まで実行され、結果をSRAMに戻し、Cortex-Mに引き継がせます。または、オーディオやビデオなどのストリーミングデータの処理を実行しているときに、継続的に実行するタイプの状況である可能性があります。」

これらの新しいコアをベースにしたシリコンは、2021年初頭に市場に出るはずです。