マイクロコントローラが次世代エッジAIを牽引

最近まで、機械学習、さらにはディープラーニングは、強力なサーバーの専売特許と見なされており、トレーニングと推論はゲートウェイ、エッジサーバー、またはデータセンターで処理されていました。この見方が成り立っていたのは、クラウドとエッジ間での計算分散へのシフトがまだ初期段階だったためです。今日、業界と学術界のブレークスルーがそのパラダイムを変えました。

その結果、1秒あたり数兆回の演算（TOPS）を提供する高性能プロセッサは、MLワークロードの前提条件ではなくなりました。専用MLアクセラレータを搭載した最新マイクロコントローラが、インテリジェントな推論をエッジデバイスに直接もたらします。

これらのコントローラは、最小限のコストと電力でMLタスクを効率的に実行し、必要なときのみクラウドに接続します。本質的に、組み込みMLアクセラレータを備えたマイクロコントローラは、マイクロフォン、カメラ、環境モニターなどのセンサーにオンデバイスインテリジェンスを与える、IoTバリューチェーンの基盤となる次の飛躍を意味します。

エッジはどれほど深いか？

エッジは一般的に、IoTネットワークにおけるクラウドから最も遠いポイントとして定義され、多くの場合、高度なゲートウェイやエッジサーバーで表されます。現実には、エッジはエンドユーザーに近い位置にあるセンサー自体で終端します。したがって、可能な限り多くの分析をそれらのセンサー内に直接埋め込むのは論理的であり、マイクロコントローラがその役割に完璧に適しています。

MobileNet V1モデルの幅乗数によるパラメータ数、演算量、精度への影響。幅乗数を1.0から0.75に変更してもTOP-1精度への影響は最小だが、パラメータ数と演算量は大幅に削減 (画像: NXP)

シングルボードコンピュータは確かにエッジ処理を実行でき、クラスタリングすれば小規模スーパーコンピュータに迫る性能を発揮します。しかし、大規模導入で要求される数千台単位には、依然として大型で高価です。また、多くの場合、制約環境では利用できない外部DC電源を必要としますが、MCUはわずかミリワットを消費し、コインセル電池や数個のソーラーセルで動作可能です。

結果として、マイクロコントローラベースのエッジML分野、いわゆるTinyMLが爆発的な人気を博しています。TinyMLは、より大きなプラットフォームやクラウドに頼る代わりに、小型、低電力、リソース制約のあるデバイス、特にマイクロコントローラ上で推論、そして最終的にはトレーニングを可能にすることを目指しています。これには、限られた処理、ストレージ、帯域幅予算内に収まりながら性能を維持するコンパクトなニューラルネットワークモデルが必要です。

リソース最適化されたモデルにより、デバイスはタスクに適したセンサーデータを取得しながら、精度を微調整し、リソース要求を削減できます。したがって、一部のデータは依然として送信される場合があります（直接クラウドまたはエッジゲートウェイ経由）が、デバイス上で事前分析が実行済みのため、データ量は大幅に減少します。

一般的なTinyMLユースケースは、カメラベースの物体検出システムで、高解像度画像を取得可能だがストレージが限られており、解像度低下を強いられます。オンデバイス分析により、カメラは関心オブジェクトのみを取得し、選択フレームの高解像度を維持できます。かつて強力なハードウェアでしか実現できなかったこのレベルの機能が、TinyMLのおかげでマイクロコントローラで実現可能になりました。

小さくても強力

TinyMLは新興分野ですが、すでに控えめなマイクロコントローラで、精度損失は最小限に、印象的な推論、そしてますますトレーニング性能を提供しています。最近の成功例には、音声認識と顔認識、音声コマンド自然言語処理、複数の洗練されたビジョンアルゴリズムの同時実行が含まれます。

実用的には、500MHz Arm Cortex-M7コアと28KB～128KBのメモリを備え、2ドル未満のマイクロコントローラが、センサーを真にインテリジェントにするために必要な性能を提供できます。

このコストでも、こうしたマイクロコントローラは堅牢なセキュリティ機能（AES-128）、複数の外部メモリタイプ、Ethernet、USB、SPI、Bluetooth、Wi-Fi、SPDIF、I²Cオーディオなど多様なセンサーインターフェースを搭載しています。わずかな価格上昇で、1GHz Cortex-M7、400MHz Cortex-M4、2MB RAM、グラフィックアクセラレーションが得られ、3.3V電源からわずか数ミリアンペアしか消費しません。

機械学習ユースケース (画像: NXP)

TOPSについてのいくつかの言葉

メーカーはしばしば、ニューラルネットワークアクセラレータを単一の指標、すなわち1秒あたり兆回演算（TOPS）でベンチマークします。魅力的ですが、この数値は誤解を招く可能性があります。これは制御されたラボ環境での生の計算能力を反映し、メモリ帯域幅、CPUオーバーヘッド、データ前処理/後処理といった実用的制約を無視しています。実際の導入では、達成可能なスループットは宣伝TOPS値の50～60%になることがあります。

さらに、通常1～3 TOPSしか提供しないマイクロコントローラでは、この指標はさらに参考になりません。これらの小さなデバイスの真の力は、タイトに統合されたArm Cortexプロセッサ、整数と浮動小数点演算のサポート、TensorFlow Liteのような推論エンジンを最小フットプリントで実行できる能力にあります。

結論

推論をセンサー上または直近で実行する動き（静止画やビデオカメラ問わず）は、IoTエコシステムがエッジ中心の処理へ移行するにつれて加速しています。マイクロコントローラレベルのニューラルネットワークアクセラレータの急速な進歩により、電力消費やサイズを大幅に増やすことなく、AI機能がアプリケーションプロセッサと統合されつつあります。強力なCPUやGPUで訓練されたモデルはTensorFlow Liteでスリム化され、マイクロコントローラに展開可能で、増大するML需要に無理なくスケーリングできます。近い将来、これらのデバイス上でトレーニングさえ可能になり、マイクロコントローラがより大型で高価なシステムへの強力な競争相手として位置づけられるでしょう。

>> この記事は元々姉妹サイトEE Timesで公開されました。