エッジでの機械学習を誰もが利用可能に：ギャップを埋める

新たなハードウェアプラットフォームの登場により、正式なデータサイエンス訓練を受けていない設計者にもエッジインテリジェンスが手の届くものになりました。

コネクテッドデバイスとIoTは、家庭、車両、職場のあらゆる場所で私たちの日常生活に溶け込んでいます。これらのデバイスの多くは重い処理をクラウドサービスに依存していますが、「エッジインテリジェンス」という新しいパラダイムが、インテリジェントシステムの構築方法を再構築しつつあります。

本記事では、クラウドベースのインテリジェンスとエッジインテリジェンスを比較し、実世界のユースケースを紹介し、NXPのハードウェアとeIQソフトウェアエコシステムが、あらゆるスキルレベルの設計者にエッジでの機械学習（ML）導入を可能にする方法を示します。

図1. クラウドコンピューティングからエッジコンピューティングへの移行が、数十億台のML対応デバイスを解き放ちます。NXP提供画像。

主要機械学習用語

クラウドコンピューティング

クラウドコンピューティングは、オンデマンドでリモートコンピューティングリソースを提供します。サービスプロバイダがハードウェアを維持し、可用性を保証し、顧客は使用した分だけ支払います。ほとんどの企業にとって、クラウドサービスは大規模分析とトレーニングの定番ソリューションです。

エッジコンピューティング

エッジコンピューティングは、エンドユーザーとクラウドの間に処理を配置し、データソースに近づけます。エッジノードはフィルタリング、バッファリング、プライバシー保護タスクを処理し、レイテンシと帯域幅使用量を削減しながらコストを削減します。最新のエッジデバイスにはAIアクセラレータが組み込まれ、どのデータをより深い分析のためにアップストリームに送る価値があるかを判断します。

機械学習（ML）

その核心では、MLはパターンを認識するようにアルゴリズムを訓練します。特にMobileNetのような畳み込みアーキテクチャを持つニューラルネットワークは、限られたリソースのデバイスで効率的に動作することでMLを民主化しました。その結果、高精度な画像分類、音声認識などが、すべてエッジで実現可能になりました。

データサイエンス領域を超えたML

歴史的に、MLシステムの構築にはデータサイエンスの深い専門知識が必要でした。今日、状況は劇的に変わりました。予測では2025年までにエッジデバイスの98%がMLを組み込み、世界で約180億〜250億台のスマートデバイスに相当するとされています。この爆発的増加は、コンピュータビジョン、音声分析、ビデオ処理、シーケンス分析などの可能性を開きます。

具体例として、カメラ映像で許可されたユーザーを認識するスマートドアロックや、リアルタイムでドライバーの注意散漫を検出するフリート管理ダッシュボードがあります。鍵は、これらの機能がもはや専門家に限定されず、ML知識が控えめな設計者でも組み立てられることです。

エッジMLを実用化するハードウェアプラットフォーム

最適化されたニューラルネットワークアルゴリズムと強力なマイクロコントローラの組み合わせにより、エッジでの高度なMLワークロードが可能になります。i.MX RT1170は、1 GHz Arm Cortex-M7と400 MHz Cortex-M4のデュアルコアアーキテクチャを備え、リアルタイム推論と同時モデル実行を可能にします。内蔵暗号エンジン、グラフィックス、マルチメディアサポートにより、ドライバー注意散漫検出、スマート照明、インテリジェントロック、フリート管理システムに最適です。

図2. i.MX RT1170クロスオーバーMCUのブロック図。NXP提供画像。

i.MX 8M Plusは、コンピュータビジョンや産業オートメーションなどの高性能アプリケーションをターゲットとしています。最大2.3 TOPSの専用NPU、4つのArm Cortex-A53コア、オプションで4KまたはデュアルHDカメラサポートを備え、顔認識、物体検出、高度なマルチメディアタスクを処理できます。追加の低消費電力Cortex-M7コアが、CAN FDやTSN対応ギガビットEthernetを含むリアルタイムネットワーク機能を処理します。

図3. i.MX 8M Plusのブロック図。NXP提供画像。

eIQツールセット：モデルから導入まで

NXPのeIQ MLエコシステムは、これらの強力なデバイスをユーザーフレンドリーなプラットフォームに変えます。スイートには推論エンジン、ニューラルネットワークコンパイラ、最適化ライブラリが含まれ、MCUXpresso IDEとYocto BSPと統合されます。今後のリリースでは、グラフィカルなeIQ ToolkitとeIQ Portalが追加され、「Bring Your Own Model」（BYOM）と「Bring Your Own Data」（BYOD）の両ワークフローをサポートします。

図4. BYOD/BYOMワークフローと選択可能な推論エンジンを備えたeIQ ToolkitとeIQ Portal。NXP提供画像。

BYOMでは、開発者がクラウドでモデルを訓練し、eIQ環境にインポートして、最適な推論エンジンを選択できます。BYODでは、同じツールでデータセットをキュレートし、モデルを訓練し、パッケージ化まで、すべて単一のグラフィカルインターフェース内で行えます。

エッジML：アクセスしやすく、安全で、スケーラブル

エッジコンピューティングは機密データをローカルに保持し、帯域幅コストを削減し、レイテンシを低減します。これらの利点はMLと組み合わせることで増幅されます。リアルタイムのドライバー注意散漫アラートから自動アクセス制御まで、エッジでのMLはデバイスが世界と対話する方法を再構築しています。

NXPのコスト効率の高いハードウェアと開発者フレンドリーなソフトウェアスタックの組み合わせにより、あらゆる経験レベルの設計者が堅牢で将来性のあるMLソリューションを作成できます。単一のプロトタイプを構築する場合でも、数十億台のデバイス艦隊を展開する場合でも、ツールとプラットフォームは今や手の届くところにあります。

インダストリーアーティクルは、業界パートナーがAll About Circuitsの読者に有用なニュース、メッセージ、技術を共有するためのコンテンツ形式です。編集コンテンツでは適さない形で提供されます。すべてのインダストリーアーティクルは厳格な編集ガイドラインの対象であり、読者に有用なニュース、技術的専門知識、ストーリーを提供することを意図しています。インダストリーアーティクルで表明される見解と意見はパートナーのものであり、必ずしもAll About Circuitsまたはそのライターのものではありません。