マイクロコントローラーアーキテクチャはAIのために進化します

AIとIoTを交差させると何が得られますか？ AIoTは簡単な答えですが、機械学習がもはやスーパーコンピューターの世界に限定されないことを意味するニューラルネットワーク技術の進歩によって可能になる、マイクロコントローラーの巨大な新しいアプリケーション領域も得られます。最近のスマートフォンアプリケーションプロセッサは、画像処理、レコメンデーションエンジン、その他の複雑な機能のためにAI推論を実行できます（実際に実行します）。

数十億のIoTデバイスのエコシステムは、今後数年で機械学習機能を利用できるようになります（画像：NXP）

この種の機能を謙虚なマイクロコントローラーにもたらすことは、大きなチャンスを意味します。 AIを使用して会話からのバックグラウンドノイズをフィルタリングできる補聴器、ユーザーの顔を認識してパーソナライズされた設定に切り替えることができるスマートホームアプライアンス、最小のバッテリーで何年も実行できるAI対応のセンサーノードを想像してみてください。エンドポイントでデータを処理すると、無視できない遅延、セキュリティ、プライバシーの利点が得られます。

ただし、マイクロコントローラーレベルのデバイスで意味のある機械学習を実現することは簡単な作業ではありません。たとえば、AI計算の重要な基準であるメモリは、多くの場合、厳しく制限されています。しかし、データサイエンスは急速に進歩してモデルのサイズを縮小しており、デバイスとIPのベンダーは、ツールを開発し、最新の機械学習の要求に合わせた機能を組み込むことで対応しています。

TinyMLが離陸

このセクターの急速な成長の兆候として、TinyMLサミット（今月初めにシリコンバレーで開催された新しい業界イベント）はますます勢いを増しています。主催者によると、昨年開催された最初のサミットには11のスポンサー企業があり、今年のイベントには27のスポンサー企業があり、スロットはかなり早く売り切れたとのことです。>>

クアルコムのEvgeniGousev氏は、「TinyMLテクノロジーによって実現された何兆ものインテリジェントデバイスが、感知、分析、自律的に連携して、すべての人にとってより健康的で持続可能な環境を作り出す新しい世界を目の当たりにしています」と述べています。ショーでの開会の挨拶。

Gousevは、この成長を、より成熟したソフトウェアツールと組み合わせた、よりエネルギー効率の高いハードウェアとアルゴリズムの開発に落とし込みました。スタートアップやM＆A活動と同様に、企業やVCへの投資も増えていると彼は述べた。

今日、TinyML委員会は、技術が検証されており、マイクロコントローラーで機械学習を使用する初期製品が2〜3年で市場に出ると信じています。 「キラーアプリ」は3〜5年先にあると考えられています。

技術検証の大部分は、Googleがマイクロコントローラー用のTensorFlowフレームワークのバージョンを初めてデモンストレーションした昨年の春に行われました。 TensorFlow Lite for Microcontrollersは、わずかキロバイトのメモリを搭載したデバイスで実行するように設計されています（コアランタイムはArm CortexM3で16KBに収まり、音声キーワード検出モデルを実行するのに十分なオペレーターがあれば、合計22 KBを占有します）。推論のみをサポートします（トレーニングはサポートしません）。

ビッグプレーヤー

もちろん、大手マイクロコントローラーメーカーは、TinyMLコミュニティの開発に関心を持って注目しています。研究によってニューラルネットワークモデルを小さくすることができるようになると、その機会のサイズは大きくなります。

ほとんどの場合、機械学習アプリケーションを何らかの形でサポートしています。たとえば、STMicroelectronicsには拡張パックSTM32Cube.AIがあり、これにより、ArmCortex-MベースのマイクロコントローラのSTM32ファミリでニューラルネットワークのマッピングと実行が可能になります。

ルネサスにはe-AI開発環境があり、マイクロコントローラーにAI推論を実装できます。モデルをe ² で使用できる形式に効果的に変換します。 スタジオ、C / C ++プロジェクトと互換性があります。

NXPは、機械学習アプリケーションにローエンドのKinetisおよびLPCMCUを使用している顧客がいると述べました。同社は、主に大規模なアプリケーションプロセッサとクロスオーバープロセッサ（アプリケーションプロセッサとマイクロコントローラの間）を対象としていますが、ハードウェアとソフトウェアのソリューションでAIを採用しています。

強力な武装

マイクロコントローラー分野で確立された企業のほとんどには、共通点が1つあります。それはArmです。組み込みプロセッサコアの巨人は、Cortex-Mシリーズでマイクロコントローラ市場を支配しています。同社は最近、特にEthos-U55 AIアクセラレータと組み合わせて使用​​する場合に、機械学習アプリケーション用に特別に設計された新しいCortex-M55コアを発表しました。どちらもリソースに制約のある環境向けに設計されています。

タンデムで使用されるArm’s Cortex-M55とEthos-U55は、ジェスチャ認識、生体認証、音声認識などのアプリケーションに十分な処理能力を備えています（画像：Arm）

しかし、スタートアップや中小企業はどのようにしてこの市場の大手企業と競争しようとすることができるでしょうか？

「ArmベースのSoCを構築することではありません！ XMOSのCEOであるMarkLippettは笑いました。 「これらの人たちと競争する唯一の方法は、アーキテクチャの優位性を持つことです…[つまり]パフォーマンスの面でXcoreの本質的な機能だけでなく、柔軟性もあります。」

新たにリリースされた音声インターフェース用のクロスオーバープロセッサであるXMOSのXcore.aiは、マイクロコントローラーと直接競合することはありませんが、その感情は依然として当てはまります。大企業と競争するためにARMベースのSoCを作成している企業は、秘密のソースにかなり特別なものを持っています。

スケーリング電圧と周波数

スタートアップのEtaComputeは、TinyMLショーで、待望の超低電力デバイスをリリースしました。 100µWの電力バジェットで、常時オンの画像処理およびセンサーフュージョンアプリケーションの機械学習に使用できます。このチップは、ArmCortex-M3コアとNXPDSPコアを使用しています。どちらかまたは両方のコアをMLワークロードに使用できます。同社のシークレットソースにはいくつかの要素がありますが、重要なのは、両方のコアについて、クロック周波数と電圧の両方を継続的にスケーリングする方法です。これにより、特にPLL（フェーズロックループ）なしで実現されるため、多くの電力を節約できます。

Eta ComputeのECM3532は、ArmCortex-M3コアとNXPCoolFluxDSPコアを使用します。機械学習のワークロードは、どちらか、または両方で処理できます（画像：Eta Compute）

RISC-Vファウンデーションが提供する新進気鋭の命令セットアーキテクチャなど、Armの有力な競合他社が存在する中で、Eta Computeが超低電力の機械学習アクセラレーションにArmコアを使用することを選択したのはなぜですか？

「簡単な答えは、Armのエコシステムが非常によく開発されているということです」とTewksburyは EETimes に語りました。 。 「現在RISC-Vを使用するよりも、[Armを使用して]本番環境に移行する方がはるかに簡単です。その状況は将来変わる可能性があります…RISC-Vには独自の利点があります。確かにそれは中国市場にとっては良いことですが、私たちは現在、主に国内およびヨーロッパの市場に注目しており、[私たちのデバイス]のエコシステムを備えています。」

Tewksbury氏は、AIoTが直面している主な課題は、アプリケーションの幅と多様性であると述べました。市場はかなり細分化されており、比較的ニッチなアプリケーションの多くは少量しか使用していません。ただし、全体として、このセクターは数十億のデバイスにまで及ぶ可能性があります。

「開発者にとっての課題は、それらのユースケースのそれぞれに合わせてカスタマイズされたソリューションを開発するために時間とお金を投資する余裕がないことです」とTewksbury氏は述べています。 「そこで、柔軟性と使いやすさが絶対的に最優先されます。そして、それが私たちがArmを選んだもう1つの理由です。エコシステムがあり、ツールがあり、顧客が製品を迅速に開発し、多くのカスタマイズなしで迅速に市場に投入できるためです。」

ISAを何十年もロックとキーの下に置いた後、ついに昨年10月、Armは、顧客が機械学習などの専門的なワークロードを処理するための独自のカスタム命令を作成できるようになると発表しました。この機能は、右手で、消費電力をさらに削減する機会を提供する可能性もあります。

Eta Computeは、既存のArmコアに遡及的に適用されないため、まだこれを利用できません。したがって、Etaが使用しているM3コアには適用されません。しかし、Tewksburyは、電力消費をさらに削減するために、将来の世代の製品でArmカスタム命令を使用するEta Computeを見ることができますか？

「もちろんです」と彼は言いました。

代替ISA

今年はRISC-Vが注目されています。オープンソースISAを使用すると、ライセンス料なしでプロセッサを設計できますが、RISC-V ISAに基づく設計は、他のタイプのIPと同様に保護できます。設計者は、追加する拡張機能を選択して選択でき、独自にカスタマイズした拡張機能を追加できます。

フランスの新興企業GreenWavesは、RISC-Vコアを使用して超低電力の機械学習スペースをターゲットにしている企業の1つです。そのデバイスであるGAP8とGAP9は、それぞれ8コアと9コアのコンピューティングクラスターを使用しています。

GreenWavesのGAP9超低電力AIチップのアーキテクチャは、現在10個のRISC-Vコアを使用しています（画像：GreenWaves）

GreenWavesの事業開発担当副社長であるMartinCroomeは、 EETimes に説明しました。 会社がRISC-Vコアを使用する理由。

「最初の理由は、RISC-Vにより、私たちが頻繁に使用する命令セットレベルでコアをカスタマイズできるようになることです」と、Croome氏は述べ、カスタム拡張機能は機械学習と信号処理の両方のワークロードの能力を削減するために使用されると説明しました。 。 「会社が設立されたとき、他のプロセッサアーキテクチャでそれを実行したい場合、それは不可能であるか、または大金がかかることになります。そして、それがあなたにかかることになる幸運は、本質的にあなたの投資家のお金が別の会社に行くことであり、それを正当化することは非常に困難です。」

GreenWavesのカスタム拡張機能だけでも、変更されていないRISC-Vコアと比較して、コアのエネルギー消費量が3.6倍向上します。しかし、Croomeは、RISC-Vには、単に新しいという理由だけで基本的な技術的利点があるとも述べています。

「これは非常にクリーンでモダンな命令セットです。手荷物はありません。したがって、実装の観点からは、RISC-Vコアは実際にはより単純な構造であり、単純であるということは電力が少ないことを意味します。」と彼は言いました。

クルームはまた、重要な要素として統制を挙げました。 GAP8デバイスのコンピューティングクラスターには8つのコアがあり、GreenWavesは、最大の電力効率を実現するために、コアの実行を非常に細かく詳細に制御する必要があります。 RISC-Vはそれを可能にします。

「結局、Armですべてを行うことができれば、Armですべてを行うことができたでしょう。それは、はるかに論理的な選択だったでしょう…Armを購入したことで誰も解雇されなかったからです」と彼は冗談を言った。 。 「ソフトウェアツールは、RISC-Vよりもはるかに成熟度が高いレベルにありますが、今ではRISC-Vに重点が置かれているため、これらのツールの成熟度は非常に速くなっています。」

要約すると、一部にはRISC-Vとの競争の激化により、マイクロプロセッサ市場でのArmの支持が弱まっていると考える人もいますが、同社はカスタマイズされた拡張機能を許可し、最初から機械学習用に設計された新しいコアを開発することで対応しています。

>

実際、超低電力の機械学習アプリケーション向けに、Armデバイスと非Armデバイスの両方が市場に出回っています。 TinyMLコミュニティは、ニューラルネットワークモデルのサイズを縮小し、専用のフレームワークとツールの開発に取り組んでいるため、このセクターは、さまざまな異なるデバイスタイプをサポートする健全なアプリケーション領域に花を咲かせます。