エッジAIが加速：AWSとMicrosoftが統合推論・管理ソリューションを提示

AIをエッジデバイスに直接導入すると、即時応答が得られ、大量データストリームをクラウドに送るコストが削減されます。専用MLアクセラレーター、強力なマイクロコントローラー、洗練されたモデルといった最近のハードウェア進歩により、厳しい電力予算内でより豊かな推論が可能になりました。それでも、完全ローカルパイプラインでも、クラウドベースのデバイス管理、継続的モデル訓練、セキュアアップデートメカニズムの恩恵を受けます。

AWS IoT

Embedded World Digital 2021で、AWSとMicrosoftはそれぞれのエコシステムがいかにエッジAIを支援するかを強調しました。AWSプリンシパルスペシャリストソリューションアーキテクトのラジーブ・ムラリダール氏は、TensorFlow Liteやその他のMLモデルをデバイス上で実行することは1つの機能に過ぎず、真の利点はデバイスライフサイクル全体を安全かつ大規模に管理することにあると説明しました。ファームウェアとモデルアップグレードをロールアウトし、フリートを最新かつ安全に保つことの重要性を強調しました。

AWSは、AWS IoTプラットフォームを通じてこの機能を提供します。これは3つのコアコンポーネントで構成されます：デバイスサイドソフトウェア（FreeRTOSまたはAWS Greengrass）、制御・接続サービス（AWS IoT Core）、分析・イベント駆動サービス。

FreeRTOSはマイクロコントローラー向けに設計されたオープンソースOSで、2年間の長期サポート（LTS）プログラムにより、セキュリティパッチ、機能アップグレード、バグ修正が保証されます。そのOTAアップデートフレームワークにより、オペレーターは数千台のデバイスにファームウェア変更を安全かつ大規模にプッシュできます。FreeRTOSカーネルは、AWS Greengrassを実行するゲートウェイと直接通信でき、ローカル推論とクラウドサービスの間にシームレスな橋渡しを作ります。

AWS IoT Coreはクラウドへ流入するデータのエントリーポイントとして機能します。着信データにルールを適用するメッセージブローカーを提供—保存、データベースへのルーティング、SageMakerなどの分析ツールへの送信（機械学習用）。プラットフォームはフリート管理ツール、デバイス管理機能、大規模IoTエンドポイントネットワーク全体で異常を検知し応答をトリガーするイベント駆動自動化も提供します。

ムラリダール氏は、大規模運用時にはセキュアなエンドツーエンドデバイスライフサイクル管理が不可欠だと強調しました。セキュリティ資格情報のローテーションと、フリート完全性を損なうことないOSアップデートの適用が、信頼できるエコシステム維持の鍵です。

彼は、データがクラウドに送られモデル改善に使われ、その後より新しく正確なモデルがデバイスにプルバックされる継続的なループを描いています。「これにより、あなたの車両やショップフロアで稼働するデバイスがより高能力になり、より速く正確に反応できるようになります」と同氏は語ります。

Azure Percept

MicrosoftのAzure Perceptは、深い専門知識のない開発者にもエッジAIをアクセス可能にするハードウェア・ソフトウェアプラットフォームです。このシステムは、デバイス管理、モデル開発、分析にAzureのクラウドサービスを活用しながら、最先端AIアクセラレーターを組み込んだ事前構築ハードウェアモジュールを提供します。

現在のハードウェア開発キットには、IntelのMovidius Myriad Xアクセラレーターをコンピュータビジョンワークロードに使用するAzure Percept Visionモジュールと、詳細は近日公開予定のAzure Percept Audioモジュールが含まれます。ビジョンモジュールは、エッジで直接AIモデルの訓練、導入、管理を簡素化するように設計されています。

Microsoftはまた、プラットフォームをAzure IoT Hubに結び付け、デバイスとクラウド間の安全な双方向通信を確保しています。将来の計画には、サードパーティ製Percept認定デバイスの範囲拡大が含まれ、開発者が開発キットから本番対応ハードウェアへソリューションを移植できるようにします。

>> この記事はもともと姉妹サイトのEE Times Europeで公開されました。