マイクロコントローラへのAI組み込み：TinyMLの可能性を解き放つ

人工知能がモノのインターネットと出会うとき、その結果はAIoT（AI + IoT）となり、ニューラルネットワーク圧縮と効率的な推論のブレークスルーを活用したマイクロコントローラの広大なフロンティアが開かれます。現代のスマートフォンアプリケーションプロセッサはすでに画像認識やレコメンデーションエンジンなどの高度なAIタスクを実行していますが、同様の機能を小型電池駆動デバイスにもたらすことで、新たな可能性の世界が開かれます。

AIで背景雑音を除去する補聴器、ユーザーの顔を認識してパーソナライズ設定を適用するスマートホーム家電、コインセル電池で数年間動作するセンサノードなど、すべてローカルで処理される世界を想像してください。エッジ処理は、低レイテンシ、強固なセキュリティ、高いプライバシーという、克服困難な利点をもたらします。

ArmのCortex-M55とEthos-U55アクセラレータの組み合わせは、ジェスチャー、生体認証、音声認識ワークロードに十分なスループットを提供（画像：Arm）

しかし、マイクロコントローラへの有意義な機械学習導入は非自明です。限られたメモリと演算リソースにより大規模モデルの実行は困難ですが、データサイエンスチームがネットワークフットプリントを縮小し、ベンダーがハードウェア対応ツールチェーンと専用IPブロックを提供することで、組み込みAIの制約に対応しつつあります。

TinyMLの急成長

TinyMLの急速な成長は、拡大するTinyML Summitに表れています。シリコンバレーでの初回イベントは11スポンサーでしたが、第2回サミットは27スポンサーを集め、数週間で完売。設計者向けグローバルミートアップも出席者が劇的に増加しています。

「TinyMLによって駆動される数兆個のインテリジェントデバイスの時代に入りつつあります。それらはセンシング、分析、自律的行動により、より健康で持続可能な環境を創造します」と、QualcommシニアディレクターのEvgeni Gousev氏（TinyML委員会共同議長）は最近のカンファレンスで述べました。Gousev氏は、省電力ハードウェア、合理化されたアルゴリズム、成熟したソフトウェアエコシステムの相乗効果が、企業投資、ベンチャーキャピタル、スタートアップ活動、M&Aの原動力になっていると強調しました。

Eta ComputeのECM3532は、Arm Cortex-M3コアとNXP CoolFlux DSPコアを組み合わせ、機械学習ワークロードをいずれかまたは両方のプロセッサで実行可能（画像：Eta Compute）

TinyML委員会によれば、この技術はすでに検証済みで、MCUベースAIの製品化は2〜3年以内に市場に達し、旗艦「キラー」アプリケーションは3〜5年以内に到来すると予測されています。

重要なマイルストーンは昨年春、GoogleがTensorFlow Lite for Microcontrollersをリリースしたことです。Arm Cortex-M3でわずか16 KBの軽量ランタイムは、音声キーワード検出などのモデル推論をサポートし、総フットプリント22 KBで動作。トレーニングは非サポートです。

大手ベンダーの対応

主要MCUベンダーは独自のAIサポートを迅速化しています。STMicroelectronicsは、STM32 Cortex-Mファミリでニューラルネットワークをマッピング/実行するSTM32Cube.AI拡張パックを提供。ルネサス エレクトロニクスは、モデルをe2 studio用ネイティブC/C++コードに変換するe-AI開発環境を提供。NXP Semiconductorsは、下位KinetisとLPC MCUでの機械学習ワークロードをデモし、アプリケーションプロセッサとクロスオーバーソリューションへAIエコシステムを拡大中です。

Arm主導の優位性

ArmのCortex-Mシリーズはマイクロコントローラ市場の基盤であり続けています。新発表のCortex-M55はAIワークロード向けに設計され、Ethos-U55アクセラレータとシームレスに連携。両方とも超低消費電力環境向けに設計されています。競合各社は、ArmベースSoCの構築ではなく、アーキテクチャの差別化に注力しています。

「巨人と戦うにはアーキテクチャのエッジが必要です。標準Cortex-Mを超える性能と柔軟性が求められます」とXMOS CEOのMark Lippett氏。XMOSのXcore.aiクロスオーバープロセッサは音声インターフェイスをターゲットとし、差別化されたコアがニッチアプリケーションを切り開く例を示していますが、直接マイクロコントローラと競合するものではありません。

>> この記事の2ページ目は姉妹サイトEE Times Europeで最初に公開されました。