TinyML：エンジニアが結集し、超低消費電力システム向けAIを標準化

カリフォルニア州サニーベイル ― 約200人のエンジニアと研究者が集まり、超低消費電力システムにディープラーニングをもたらす新興分野TinyMLを推進するコミュニティの発足会合が開かれました。

「革新的なアイデアに不足はない」と、Armの機械学習フェローIan Bratt氏が冒頭で述べました。

4年前、進展は停滞していました。新しい浮動小数点フォーマットと圧縮技術の到来が熱狂を再燃させましたが、最先端研究と商業的に実行可能なソリューションの間には依然として大きなギャップが存在します、とBratt氏は説明しました。

ソフトウェアエコシステムはワイルドウェストの様相を呈し、断片化し、Amazon、Google、Facebookなどの企業大手が独自フレームワークを推進する状況です。ハードウェアエンジニアの課題は、広く使える製品を提供することだと同氏は付け加えました。

STMicroelectronicsのエンジニアも同調しました。「少なくとも4つのAIコンパイラが存在し、次世代チップは従来の組み込み設計者のツールキットの外に出てしまうことに気づきました。ソフトウェアインターフェースの安定化と、標準化委員会を通じた相互運用性への投資が不可欠です」と述べました。

TinyMLグループ共同議長でTensorFlow LiteテクニカルリードのPete Warden氏は、ソフトウェア標準化は時期尚早かもしれないと警告。「研究者たちは操作、アーキテクチャ、重み、圧縮、フォーマット、量子化を常に改訂しています。セマンティクスは変動中であり、我々はそれに追従しなければなりません」と語りました。

Warden氏はさらに、今後数年で、新しい操作や活性化関数をサポートするために汎用計算を実行できないアクセラレータは陳腐化すると警告。「2年後には新しい操作が登場する可能性が高い」と述べました。

MicrosoftのAI研究者も同意しました。「我々はまだ目標から遠く、1〜2年で到達できるわけではない。これがMicrosoftがAzureクラウドサービスを加速するためにFPGAに投資した理由です」と語りました。「適切な抽象化レイヤーの構築がハードウェアイノベーションに不可欠です。オープンソースハードウェアアクセラレータが進展を加速させる可能性があります」と付け加えました。

Bratt氏は、コンプライアンス標準が第一歩になるかもしれないと提案し、研究者が一貫したエッジ・クラウド体験を得られるようにすると示唆しました。

プリンストン大学のNaveen Verma教授（AIプロセッサ・イン・メモリを研究）は、あらゆるレベルで堅牢な機能仕様の必要性を強調。「十分なレベルで明確な仕様を定義できれば、他のレイヤーへの道が開け、このコミュニティはそれを定義するユニークな立場にあります」と述べました。

DSPを活用したエッジでのリアルタイムオーディオAI LoRaとNB-IoTが初期LPWAN競争をリード、2023年までに導入の86%を獲得見込み

モノのインターネットテクノロジー