マイクロコントローラーが進化しAIoTを強化

AIとIoTの融合によりAIoT——マイクロコントローラーがニューラルネットワーク圧縮と最適化のブレークスルーにより、洗練された機械学習をホストする拡大領域——が生まれました。現代のスマートフォンアプリケーションプロセッサは、画像分析やレコメンデーションエンジンなどのタスクでAI推論を日常的に実行し、高性能MLがスーパーコンピューターに限定されなくなったことを証明しています。

数十億台のIoTデバイスのエコシステムが、今後数年で機械学習能力を獲得する見込み（画像: NXP）

このようなインテリジェンスを低消費電力マイクロコントローラーに展開することで、変革的なユースケースが解き放たれます: 周囲の雑音を抑制するAI駆動補聴器、ユーザーを識別してパーソナライズドプロファイルを適用するスマート家電、マイクロジュール電力予算で数年間動作するセンサーノード。エッジ推論はレイテンシ削減、データセキュリティ強化、ユーザープライバシー保護を実現します。

しかし、マイクロコントローラーへのML組み込みは依然として課題です。限られたSRAMとフラッシュがニューラルモデルのサイズを制限し、計算スループットは控えめ。モデル量子化とプルーニングの急速な進歩、ベンダー固有のツールと相まって、このギャップは着実に縮小しています。

TinyMLが勢いを増す

業界の急速な拡大はTinyML Summitに反映されています。シリコンバレーのこのイベントは、前年の11社から27社のスポンサーを集め、登録枠が数ヶ月前に埋まるほど。主催者は、月例の設計志向ミートアップのグローバルメンバーも急増したと報告。

「TinyMLで駆動される数兆のインテリジェントデバイスを想像しています。それぞれがセンシング、分析、自律的に行動し、より健康で持続可能な環境を創造する」と、QualcommのEvgeni Gousev氏、TinyML委員会共同議長が基調講演で語りました。

同氏は、よりエネルギー効率の良いハードウェア、洗練されたアルゴリズム、成熟したソフトウェアスタックをこの勢いの要因として挙げ、企業およびベンチャーキャピタル投資の増加、スタートアップ活動とM&Aの増加も指摘。

TinyML委員会は現在、技術が検証済みと見なしており、初期のAI対応マイクロコントローラー製品が2〜3年で市場投入、真に変革的なアプリケーションが3〜5年で登場すると予測。

重要なマイルストーンは昨年春、GoogleがTensorFlow Lite for Microcontrollersを発表したこと。キロバイト単位のRAMしかないデバイス向けに調整された軽量推論エンジン。コアランタイムはARM Cortex-M3でわずか16 KB、完全な音声キーワード検出モデルが22 KBに収まる。ライブラリは推論のみサポート、学習は非サポート。

業界リーダーがTinyMLを注視

主要マイクロコントローラーベンダーはTinyMLの進展を注視しており、ニューラルモデルの縮小が製品機会を拡大するため。ほとんどがすでにMLサポートを提供。例えば、STMicroelectronicsはSTM32Cube.AIを提供し、STM32 ARM Cortex-Mファミリでニューラルネットワークをマッピング・実行可能。Renesasはe-AI開発環境を提供し、モデルをe² Studio経由でC/C++互換コードに変換。NXPは、ローエンドKinetisとLPC MCUでの機械学習展開を報告し、特にアプリケーションプロセッサとマイクロコントローラーを橋渡しするクロスオーバープロセッサ内で、ハードウェアとソフトウェア両面からAIを統合。

Arm中心アーキテクチャ

ArmはCortex-Mシリーズでマイクロコントローラー市場を支配。同社は最近、MLワークロード向けに設計されたCortex-M55コアと、超低消費電力・リソース制約環境をターゲットとするEthos-U55 AIアクセラレータを発表。これらはジェスチャー認識、生体認証、音声認識に十分なコンピュートを提供。

組み合わせて使用すると、ArmのCortex-M55とEthos-U55はジェスチャー認識、生体認証、音声認識などのアプリケーションに十分な処理能力を提供（画像: Arm）

では、中小企業はArmの確立されたエコシステムにどう対抗できるのか？

XMOS CEOのMark Lippett氏は「ArmベースのSoCをもう1つ作ってもArmに勝てない——彼らはそれが得意だ。唯一の道は、アーキテクチャ優位性——性能と柔軟性の両方——を導入することだ」と皮肉ります。音声インターフェース向けクロスオーバープロセッサXcore.aiはこの哲学を体現しますが、マイクロコントローラーと直接競合するものではありません。

超低消費電力チップにおける電圧・周波数スケーリング

TinyML Summitで、Eta ComputeがECM3532を発表——常時オン画像処理とセンサーフュージョンを100 µW電力予算で実現する超低消費電力デバイス。ARM Cortex-M3コアとNXP CoolFlux DSPコアを搭載し、いずれかまたは両方でMLワークロードを処理可能。チップの鍵となる革新は、両コアのクロック周波数と電圧の連続スケーリングで、位相同期ループを不要にし、消費電力を大幅に削減。

Eta ComputeのECM3532はArm Cortex-M3コアとNXP CoolFlux DSPコアを使用。機械学習ワークロードはいずれか、または両方で処理可能（画像: Eta Compute）

RISC-Vのような新興競合がいる中、なぜEta ComputeはMLアクセラレーションにArmコアを選んだのか？

Tewksbury氏はEETimesに対し、「Armのエコシステムは単純により成熟している。現時点ではRISC-VよりArmで製品を市場投入しやすいが、それは進化する可能性がある。RISC-Vは中国市場で優れているが、Armエコシステムが最も強い国内および欧州顧客をターゲットとしている」と説明。

Tewksbury氏は、AIoTが多数のニッチアプリケーションで構成される広範で断片化された市場であることを強調。個別には控えめなボリュームだが、総計では数十億デバイスを含む可能性。開発者は各ユースケース向けにソリューションを調整するコストを避ける必要があり、柔軟性と使いやすさが重要——Armのエコシステムがこれを提供。

昨年10月、Armは顧客がMLなどの特殊ワークロード向けカスタム命令を作成可能にすると発表。この機能が将来のコアに適用されれば、さらなる消費電力削減が可能に。

現在のM3コアではこの機能の恩恵を受けられないが、Tewksbury氏は楽観的:「絶対に、次世代製品でArmのカスタム命令セットを活用し、電力効率をさらに押し上げる予定です。」

新興ISAオプション: RISC-V

RISC-VのオープンソースISAはライセンス料を排除し、設計者が独自拡張を追加可能。企業は特定ワークロード向けにコアを調整し、必要に応じてIPを保護。フランスのスタートアップGreenWavesは、GAP8とGAP9チップでRISC-Vコアを使用——それぞれ8コアと9コアクラスタ。GAP9アーキテクチャは現在10のRISC-Vコアを搭載。

GreenWavesのGAP9超低消費電力AIチップのアーキテクチャ、現在は10 RISC-Vコアを使用（画像: GreenWaves）

GreenWaves VPのMartin Croome氏は、RISC-Vの命令レベルでの設定可能性が決定的優位性だとEETimesに語りました。カスタム拡張により、MLと信号処理タスクで大幅な消費電力削減が可能。新会社にとって、他アーキテクチャでこのようなカスタムコアを作成するのは、ライセンスやIPコストが膨らむため禁止的に高コスト。

カスタム拡張だけで、未変更RISC-Vコア比でエネルギー効率が3.6倍向上。Croome氏はRISC-VのモダンでクリーンなISAも称賛し、実装複雑性を減らし、結果として消費電力を削減。各コアの実行を精密に制御できることがエネルギー効率最大化に不可欠——RISC-Vがこれを促進。

Croome氏は、Armが同レベルのカスタマイズを提供できれば自然な選択肢になると認めつつ、Armの成熟したソフトウェアツールチェーンが現在RISC-Vを上回るものの、後者のエコシステムも急速に成熟していると指摘。

要約すると、Armの優位性が侵食されていると見る向きもあるが、同社はカスタム拡張の実現とML指向コアのゼロからの開発で対抗。Armと非Armの両ソリューションが超低消費電力AIで利用可能になり、TinyMLコミュニティがモデルサイズを縮小しフレームワークを洗練させ続ける中、市場は開花の準備が整っています。