エッジでの機械学習のアクセシビリティの向上

「エッジインテリジェンス」は、新しいハードウェアが利用可能になるにつれて、正式なデータサイエンスのトレーニングを受けていない設計者でもアクセスしやすくなっています。

近年、コネクテッドデバイスとモノのインターネット（IoT）は、家庭や車、職場など、私たちの日常生活に遍在するようになっています。これらの小さなデバイスの多くはクラウドサービスに接続されています。スマートフォンやラップトップを持っているほとんどの人が、アクティブであろうと自動バックアップサービスなどであろうと、今日クラウドベースのサービスを使用しています。

ただし、「エッジインテリジェンス」と呼ばれる新しいパラダイムは、テクノロジーの急速に変化する状況で急速に注目を集めています。この記事では、クラウドベースのインテリジェンス、エッジインテリジェンス、およびプロのユーザーが機械学習にアクセスできるようにするための可能なユースケースを紹介します。

図1。 クラウドコンピューティングからエッジコンピューティングに切り替えることで、ML対応ソフトウェアを実行する何十億ものデバイスを構築できる可能性が広がります。画像提供：NXP。

主要な機械学習用語

クラウドコンピューティング

クラウドコンピューティングとは、簡単に言えば、クライアントが必要とするときにいつでもリモート計算リソースを利用できることです。

パブリッククラウドサービスの場合、クラウドサービスプロバイダーは、ハードウェアを管理し、サービスの可用性が特定の標準および顧客の期待に達していることを確認する責任があります。クラウドサービスの顧客は、使用した分だけ料金を支払います。そのようなサービスの採用は、通常、大規模な運用でのみ実行可能です。

エッジコンピューティング

一方、エッジコンピューティングは、クラウドとクライアントのネットワークの間のどこかで発生します。

エッジノードが正確に配置される場所の定義はアプリケーションごとに異なる場合がありますが、通常、エッジノードはローカルネットワークに近いものです。これらの計算ノードは、データのフィルタリングやバッファリングなどのサービスを提供し、プライバシーの向上、信頼性の向上、クラウドサービスのコストと遅延の削減に役立ちます。

最近、AIと機械学習がエッジコンピューティングノードを補完し、関連性が高く、より詳細な分析のためにクラウドにアップロードする必要があるデータを決定するのに役立つことが一般的になっています。

機械学習（ML）

機械学習（ML）は幅広い科学分野ですが、最近では、機械学習アルゴリズムを議論する際にニューラルネットワーク（しばしばNNと略される）が最も注目を集めています。

オブジェクトの追跡と監視、自動音声認識、マルチフェイス検出などのマルチクラスまたは複雑なMLアプリケーションには、通常、NNが必要です。多くの科学者は、過去10年間にNNアルゴリズムを改善および最適化して、限られた計算リソースでデバイス上で実行できるようにするために懸命に取り組んできました。これにより、エッジコンピューティングパラダイムの人気と実用性が加速しました。

そのようなアルゴリズムの1つに、Googleが開発した画像分類アルゴリズムであるMobileNetがあります。このプロジェクトは、非常に正確なニューラルネットワークが、計算能力が大幅に制限されたデバイスで実際に実行できることを示しています。

専門家以上の機械学習

最近まで、機械学習は主に、MLとディープラーニングアプリケーションを深く理解しているデータサイエンスの専門家を対象としていました。通常、開発ツールとソフトウェアスイートは未成熟であり、使用するのが困難でした。

機械学習とエッジコンピューティングは急速に拡大しており、これらの分野への関心は年々着実に高まっています。現在の調査によると、エッジデバイスの98％が2025年までに機械学習を使用します。この割合は、研究者が機械学習機能を備えていると予想する約180〜250億のデバイスに相当します。

一般に、エッジでの機械学習は、コンピュータービジョン、音声分析、ビデオ処理からシーケンス分析に至るまで、幅広いアプリケーションへの扉を開きます。

考えられるアプリケーションの具体的な例としては、カメラと組み合わせたインテリジェントドアロックがあります。これらのデバイスは、部屋へのアクセスを希望する人を自動的に検出し、必要に応じてその人の入室を許可します。

最新のハードウェアソリューションにより、エッジでのML処理が可能になります

前述のニューラルネットワークアルゴリズムの最適化とパフォーマンスの向上により、多くのMLアプリケーションは、i.MXRT1170などのクロスオーバーMCUを搭載した組み込みデバイスで実行できるようになりました。 2つのプロセッシングコア（1GHz Arm CortexM7と400MHz Arm Cortex-M4コア）を使用すると、開発者は、リアルタイムの制約を念頭に置いて、互換性のあるNN実装を実行することを選択できます。

デュアルコア設計により、i.MXRT1170では複数のMLモデルを並行して実行することもできます。追加の組み込み暗号エンジン、高度なセキュリティ機能、グラフィックスおよびマルチメディア機能により、i.MXRT1170は幅広いアプリケーションに適しています。例としては、ドライバーの注意散漫の検出、スマートライトスイッチ、インテリジェントロック、フリート管理などがあります。

図2。 i.MXRT1170クロスオーバーMCUファミリのブロック図。 NXPの画像提供。クリックして拡大します。

i.MX 8M Plusは、ML、コンピュータービジョン、高度なマルチメディアアプリケーション、および信頼性の高い産業用自動化に重点を置いたアプリケーションプロセッサーのファミリーです。これらのデバイスは、スマートデバイスとインダストリー4.0アプリケーションのニーズを念頭に置いて設計されており、最大2.3TOPSおよび最大4つのArmCortex A53プロセッサコアで動作する専用のNPU（ニューラルプロセッシングユニット）を備えています。

図3。 i.MX 8MPlusのブロック図。 NXPの画像提供。クリックして拡大します。

内蔵の画像信号プロセッサにより、開発者は2つのHDカメラセンサーまたは1つの4Kカメラのいずれかを利用できます。これらの機能により、i.MX 8M Plusファミリーのデバイスは、顔認識、オブジェクト検出、その他のMLタスクなどのアプリケーションで実行可能になります。さらに、i.MX 8M Plusファミリのデバイスには、高度な2Dおよび3Dグラフィックスアクセラレーション機能、H.265を含むビデオエンコードおよびデコードサポートなどのマルチメディア機能、および8つのPDMマイク入力が付属しています。

追加の低電力800MHz Arm CortexM7コアがパッケージを補完します。この専用コアは、CANFDサポートやTSN機能を備えたギガビットイーサネット通信などの堅牢なネットワーク機能を必要とするリアルタイムの産業用アプリケーションに対応します。

eIQツール環境

新しいデバイスでは、開発者が最新のMLシステムを構築できるようにする、使いやすく、効率的で、有能な開発エコシステムが必要になります。 NXPの包括的なeIQMLソフトウェア開発環境は、開発者がMLベースのアプリケーションを作成するのを支援するように設計されています。

eIQツール環境には、推論エンジン、ニューラルネットワークコンパイラ、および最適化されたライブラリが含まれており、NXPマイクロコントローラ、i.MX RTクロスオーバーMCU、およびi.MXファミリのSoCでMLアルゴリズムを操作できます。必要なMLテクノロジーは、MCUXpressoIDEおよびYoctoBSP用のNXPのSDKを介して開発者がアクセスできます。

今後のeIQツールキットはアクセス可能なGUIを追加します。 eIQポータルとワークフロー。すべての経験レベルの開発者がMLアプリケーションを作成できるようにします。

図4。 BYODおよびBYOMワークフローとeIQ推論エンジンの選択を備えたeIQツールキットおよびeIQポータル。 eIQ Toolkitは、NXPデバイスにMLアプリケーションをデプロイする際に、すべての経験レベルの開発者を支援します。 NXPの画像提供。

開発者は、BYOM（独自のモデルを持参）と呼ばれるプロセスに従うことを選択できます。このプロセスでは、開発者はクラウドベースのツールを使用してトレーニング済みモデルを構築し、eIQToolkitソフトウェア環境にインポートします。次に、あとはeIQで適切な推論エンジンを選択するだけです。または、開発者はeIQポータルのGUIベースのツールまたはコマンドラインインターフェイスを使用してデータセットをインポートおよびキュレートし、BYOD（独自のデータを持ち込む）ワークフローを使用してeIQツールキット内でモデルをトレーニングできます。

すべての人のためのエッジでの機械学習

現代のほとんどの消費者は、クラウドコンピューティングに精通しています。ただし、近年、エッジコンピューティングと呼ばれる新しいパラダイムへの関心が高まっています。

このパラダイムでは、すべてのデータがクラウドにアップロードされるわけではありません。代わりに、エンドユーザーとクラウドの間のどこかにあるエッジノードが追加の処理能力を提供します。このパラダイムには、セキュリティとプライバシーの向上、クラウドへのデータ転送の削減、レイテンシの短縮など、多くのメリットがあります。

最近では、開発者はこれらのエッジノードを機械学習機能で強化することがよくあります。そうすることで、収集されたデータを分類し、不要な結果や無関係な情報を除外するのに役立ちます。 MLをエッジに追加すると、ドライバーの注意散漫の検出、スマートライトスイッチ、インテリジェントロック、フリート管理、監視と分類など、多くのアプリケーションが可能になります。

MLアプリケーションは、従来、MLとディープラーニングアプリケーションを深く理解しているデータサイエンスの専門家によって独占的に設計されてきました。 NXPは、i.MXRT1170やi.MX8M Plusなどの安価で強力なデバイスの範囲と、MLをあらゆる設計者に開放するのに役立つeIQMLソフトウェア開発環境を提供します。このハードウェアとソフトウェアは、プロジェクトの規模に関係なく、開発者があらゆるレベルの経験で将来性のあるMLアプリケーションを構築できるようにすることを目的としています。

業界記事は、業界パートナーが編集コンテンツに適さない方法でAll About Circuitsの読者と有用なニュース、メッセージ、テクノロジーを共有できるようにするコンテンツの形式です。すべての業界記事は、読者に有用なニュース、技術的専門知識、またはストーリーを提供することを目的とした厳格な編集ガイドラインの対象となります。業界記事で表明されている見解や意見はパートナーのものであり、必ずしもAll AboutCircuitsやそのライターのものではありません。