クラウドプロバイダーは、AI推論がエッジに移行するにつれて役割を引用します

埋め込まれたエッジデバイスでAI推論を実行することは、低遅延が必要な状況や、エッジで収集された大量のデータがクラウドに送信するにはコストがかかりすぎる状況で魅力的です。専用の機械学習アクセラレータ、最先端のマイクロコントローラ、AIモデルとソフトウェアの進歩により、これまで以上に多くのAI推論をエッジパワーバジェットで実行できるようになりました。ただし、すべての推論がエッジで行われる場合でも、クラウドは、クラウドプロバイダーなど、フィールド外のデバイスを管理するための便利なツールです。

AWS IoT

Embedded World Digital 2021で、クラウドプロバイダーのAWSとMicrosoftは、エッジAIデバイス向けのエコシステムソリューションを発表しました。

「デバイス自体でTensorFlowLightまたは機械学習モデルを実行することは、1つの機能です」とAWSのプリンシパルスペシャリストソリューションアーキテクトであるRajeevMuralidharは述べています。 「しかし、デバイスライフサイクルのパイプライン全体を安全な方法で構築し、それらを大規模に管理する機能、デバイスで実行されているバージョンを管理し、より安全でより多くの機能を提供できるように、デバイスで正式なアップグレードを展開する機能、また、そこで実行されているMLモデルを更新する機能もあります。これはもう1つの重要な機能です。」

AWSは、AWSIoTプラットフォームを介してこのためのインフラストラクチャを提供します。 Muralidharによると、このプラットフォームは、デバイス側ソフトウェア（FreeRTOSまたはAWS Greengrass）、制御および接続コンポーネント（AWS IoT Core）、分析サービスの3つの主要部分で構成されています。

AWSは、IoTプラットフォームを通じてエッジAIデバイスのサポートを提供しています（画像：AWS）

FreeRTOSは、マイクロコントローラーレベルのデバイスに広く使用されているオープンソースのオペレーティングシステムです。長期サポート（RTS）が付属しており、セキュリティの更新、機能のアップグレード、バグ修正を2年間保証します。また、無線による更新を安全に実行し、フィールドに展開されている大規模なデバイスにファームウェアをロールアウトする機能も備えています。 FreeRTOSカーネルは、AWSGreengrassを実行している可能性のあるデバイスゲートウェイと直接通信できます。

AWS IoT Coreは、クラウドへのデータのエントリポイントです。データを保存するか、データベースや機械学習分析用のSageMakerなどの分析用のダッシュボードに移動するかに関係なく、データにルールを適用できるメッセージブローカーが含まれています。

AWS IoTプラットフォームには、大規模なフリート管理、デバイス管理、IoT分析のコンポーネントに加えて、IoTデバイスからのイベントの検出と応答を自動化できるイベント管理機能もあります。

「デバイスを大規模に検討する場合、エンドツーエンドのデバイスライフサイクル管理は非常に重要です。また、それらのデバイスの基盤となるオペレーティングシステムを更新する機能も重要です」とMuralidhar氏は述べています。 「安全に実行できるようにしたいのですが、セキュリティ資格情報をローテーションして、一連のデバイスのセキュリティを危険にさらさないようにしたいのです。」

理想的な状況は、受信データをクラウドに送信して、継続的な評価とトレーニングを行えるようにすることです。

「[その後]より正確な新しいモデルを更新したら、それらをデバイスにプルダウンして、産業現場のデバイスのフリート全体、またはコネクテッドカーのフリートにロールアウトできます」と彼は言いました。 「こうすることで、車両で実行されているデバイスの機能が向上し、より速く、より正確に反応できるようになります。」

Azure Percept

このショーでは、Microsoftは新しいAzurePerceptのコンセプトについてもプレゼンテーションを行いました。 Azure Perceptは、デバイス管理、AIモデル開発、分析など、Azureのクラウドサービスの一部を活用するエッジAI用のハードウェアおよびソフトウェアプラットフォームです。 Azureクラウドツールは、デバイスを管理し、オープンソースのAIモデルにアクセスしたり、新しいモデルを作成したりするために使用されます。

MicrosoftのAzurePerceptプラットフォームは、ハードウェアとソフトウェアの両方です。ハードウェアには、トラステッドプラットフォームモジュール（中央）、Azure Percept Audioモジュール（左）、Azure Percept Visionモジュール（右）が含まれます（画像：Microsoft）

同社はまた、2つのモジュールを備えたハードウェア開発キットを発売しました。エッジでのコンピュータービジョン用のAzurePercept Visionモジュールは、IntelのMovidius Myriad XAIアクセラレーターに基づいています。 Azure Percept Audioモジュールもありますが、そのモジュールの詳細は入手できませんでした。

この新しい製品により、マイクロソフトは、非専門家の参入障壁を下げるエンドツーエンドのソリューションを提供したいと考えています。アイデアは、エッジAIの開発、トレーニング、展開を簡素化することです。

Azure Perceptは、IoTデバイスとAzureクラウド間の安全な通信を容易にするように設計されたAzure IoTHubにも接続します。

将来的には、Microsoftはサードパーティから入手できるAzurePerceptデバイスの数を増やすことを計画しています。現在のハードウェア開発キットを使用している開発者は、市場で入手可能なPercept認定デバイスにソリューションを展開できるようになります。

>>この記事はもともと姉妹サイトであるEETimesEurope。