AIモデルをマイクロコントローラーに詰め込む

AIとIoTを交差させると何が得られますか？人工知能（AIoT）は簡単な答えですが、機械学習がスーパーコンピューターの世界に限定されなくなったことを意味するニューラルネットワーク技術の進歩によって可能になる、マイクロコントローラーの巨大な新しいアプリケーション領域も得られます。最近のスマートフォンアプリケーションプロセッサは、画像処理、レコメンデーションエンジン、その他の複雑な機能のためにAI推論を実行できます（実際に実行します）。

この種の機能を謙虚なマイクロコントローラーにもたらすことは、大きなチャンスを意味します。 AIを使用して会話からのバックグラウンドノイズをフィルタリングできる補聴器、ユーザーの顔を認識してパーソナライズされた設定に切り替えることができるスマートホームアプライアンス、最小のバッテリーで何年も実行できるAI対応のセンサーノードを想像してみてください。エンドポイントでデータを処理すると、無視できない遅延、セキュリティ、プライバシーの利点が得られます。

タンデムで使用されるArm's Cortex-M55とEthos-U55は、ジェスチャ認識、生体認証、音声認識などのアプリケーションに十分な処理能力を備えています（画像：腕）

ただし、マイクロコントローラーレベルのデバイスで意味のある機械学習を実現することは簡単な作業ではありません。たとえば、AI計算の重要な基準であるメモリは、多くの場合、厳しく制限されています。しかし、データサイエンスは急速に進歩してモデルのサイズを縮小しており、デバイスとIPのベンダーは、ツールを開発し、最新の機械学習の要求に合わせた機能を組み込むことで対応しています。

TinyMLが離陸します

このセクターの急速な成長の兆候として、2月にシリコンバレーで開催された新しい業界イベントであるTinyMLサミットがますます強力になっています。昨年開催された最初のサミットには、11のスポンサー企業が参加しました。主催者によると、今年のイベントは27回で、スロットはかなり早く売り切れました。主催者によると、TinyMLのデザイナー向けのグローバルな毎月の交流会への参加者は劇的に増えました。

TinyML委員会の共同議長であるQualcommのシニアディレクターであるEvgeniGousevは、次のように述べています。 、最近の会議での彼の開会の辞で。

Gousevは、この成長を、より成熟したソフトウェアツールと組み合わせた、よりエネルギー効率の高いハードウェアとアルゴリズムの開発に起因すると考えています。スタートアップやM＆A活動と同様に、企業やベンチャーキャピタルへの投資も増えていると彼は述べた。

Eta ComputeのECM3532は、ArmCortex-M3コアとNXPCoolFluxDSPコアを使用します。機械学習のワークロードは、どちらか、または両方で処理できます（画像：Eta Compute）

今日、TinyML委員会は、技術が検証されており、マイクロコントローラーで機械学習を使用する初期製品が2〜3年で市場に出ると信じています。 「キラーアプリ」は3〜5年先と考えられています。

技術検証の大部分は、Googleがマイクロコントローラー用のTensorFlowフレームワークのバージョンを初めてデモンストレーションした昨年の春に行われました。 TensorFlow Lite for Microcontrollersは、メモリがわずかキロバイトのデバイスで実行するように設計されています（コアランタイムはArmCortex-M3で16KBに収まります。音声キーワード検出モデルを実行するのに十分なオペレーターがあれば、合計22KBを使用します。 ）。推論はサポートしますが、トレーニングはサポートしません。

ビッグプレーヤー

もちろん、大手マイクロコントローラーメーカーは、TinyMLコミュニティの開発に関心を持って注目しています。研究によってニューラルネットワークモデルを小さくすることができるようになると、機会は大きくなります。ほとんどの場合、機械学習アプリケーションを何らかの形でサポートしています。たとえば、STMicroelectronicsには拡張パックSTM32Cube.AIがあり、これにより、ArmCortex-MベースのマイクロコントローラのSTM32ファミリでニューラルネットワークのマッピングと実行が可能になります。

ルネサスエレクトロニクスのe-AI開発環境では、AI推論をマイクロコントローラーに実装できます。モデルを、会社のe2スタジオで使用でき、C / C ++プロジェクトと互換性のある形式に効果的に変換します。

NXPセミコンダクターズは、機械学習アプリケーションにローエンドのKinetisおよびLPCMCUを使用している顧客がいると述べました。同社は、主に大規模なアプリケーションプロセッサとクロスオーバープロセッサ（アプリケーションプロセッサとマイクロコントローラの間）を対象としていますが、ハードウェアとソフトウェアのソリューションでAIを採用しています。

強力な武装

マイクロコントローラー分野で確立された企業のほとんどには、共通点が1つあります。それはArmです。組み込みプロセッサコアの巨人は、Cortex-Mシリーズでマイクロコントローラ市場を支配しています。同社は最近、特にArmのEthos-U55 AIアクセラレータと組み合わせて使用​​する場合に、機械学習アプリケーション用に特別に設計された新しいCortex-M55コアを発表しました。どちらも、リソースに制約のある環境向けに設計されています。しかし、スタートアップや中小企業はどのようにしてこの市場の大手企業と競争しようとすることができるでしょうか？

「ArmベースのSoCを構築するのではなく、[支配的なプレーヤー]がそれを非常にうまくやっているからです」と、XMOSのCEOであるMarkLippettは笑いました。 「これらの人たちと競争する唯一の方法は、アーキテクチャの優位性を持つことです…[つまり]パフォーマンスの面でXcoreの本質的な機能だけでなく、柔軟性もあります。」

新しくリリースされた音声インターフェース用のクロスオーバープロセッサであるXMOSのXcore.aiは、マイクロコントローラーと直接競合することはありませんが、その感情は依然として当てはまります。大企業と競争するためにArmベースのSoCを製造している企業は、その秘密のソースにかなり特別なものを持っています。

>>この2ページを読み続ける姉妹サイトであるEETimesEuropeに最初に掲載された記事。