エッジインテリジェンスの追加：NXPへのインタビュー

今日の重要なトピックであり、組み込みの世界2021での多くの講演で明確に取り上げられているのは、エッジインテリジェンスを可能にするエッジコンピューティングの広範な採用です。一部の予測では、すべてのエッジデバイスの90％が2025年までに何らかの形の機械学習または人工知能を使用すると予測しています。

このエッジインテリジェンスを有効にすることに関する問題は何ですか、そしてそれをどのように実現しますか？これは、NXPセミコンダクターズのエッジプロセッシングビジネスのシニアバイスプレジデント兼ゼネラルマネージャーであるロンマルティーノとの最近のポッドキャストでの会話のトピックです。ここで完全なポッドキャストを聞くことができますが、この記事のディスカッションからの抜粋をいくつか紹介します。

エッジコンピューティングの定義

その核となるのは、エッジコンピューティングは、ユーザーの近くで効率的に処理する機能です。データに迅速な洞察をもたらすことができます。 NXPがエッジコンピューティングに対処する方法のコンテキストでエッジコンピューティングを定義できますか？

マルティーノ ：エッジコンピューティングとは、単純に分散型ローカル計算と感覚機能です。センサーデータを効果的に解釈、分析、操作して、一連の意味のある機能を実行します。クラウドの代替または代替となることを目的としておらず、無料になります。従来、音声支援などでは、多くのデータがクラウドに送信され、そこでより高いコンピューティング能力がエクスペリエンスを向上させるために使用されます。エッジコンピューティングは、よりスマートに、そしてよりインテリジェントになるように進化しています。スマートエッジコンピューティングは、ローカルコンピューティングとセントラルコンピューティングまたはクラウドコンピューティングの使用のバランスを取ります。これがさらに進化するにつれて、エンドデバイスに解釈、分析、およびローカルでの意思決定を行うためのより多くの機能を持たせたいというインテリジェンスが増えています。

生産性と安全性を向上させるためにエッジコンピューティングがどのように使用されているかの例をいくつか挙げていただけますか？

マルティーノ ：生産性の場合、優れた例は労働力の強化です。エッジ処理や、視覚と機械学習が可能なウェアラブルデバイスを活用して、労働者が問題を診断し、自宅でも工場でも、より迅速に修理できるようにします。 。

インテリジェントエッジデバイスは、アラーム、転倒者、ガラスの破損など、さまざまな危険信号を認識して安全性を高め、追加のセンサー情報と計算を使用して問題を特定します。 NXPが開発しているレーダー検知デバイスを使用しているかどうか、ビジョン機能を使用しているかどうか、またはデバイスへの音声入力の解釈のみを使用しているかどうか。

より環境に配慮したエネルギー意識に取り組む場合、対処すべき1つの概念は、デバイスを接続し、デバイスが電力を消費するだけであるという吸血鬼の力の概念です。

また、デバイスが人間のような動作でより応答する「アウェアエッジ」の概念に移行しています。彼らは自分たちの環境を理解し始め、入力を集約し、他のデバイスと対話して情報を収集し、状況のコンテキストを理解し、それに応じて決定を下します。この簡単な実用例は、車の数と状態を監視および検知して運転を効率化し、時間を無駄にしないことで、混雑やさまざまな渋滞ポイントを解釈し、状況をローカルで最適化できるローカル機能を備えた交通パターンです。

エッジインテリジェンスを可能にするテクノロジーピース

テクノロジーの観点から、そのインテリジェントエッジとアウェアエッジを構成する要素は何ですか？

マルティーノ ：基礎から始めましょう。コンピューティングプラットフォームが必要であり、それらを拡張する必要があります。それらはエネルギー効率が良い必要があります。以前とは異なり、今では実際には複数の独立したヘテロジニアスコンピューティングサブシステムについてです。基本的には、GPU、CPU、ニューラルネット処理ユニット、ビデオ処理ユニット、DSPがあります。

これらのさまざまなハードウェアアクセラレータとコンピューティングデバイスをどのように最適化し、特定のエンドアプリケーション向けに最適化するのですか？ここで、NXPは、他のすべての要素を備えたスケーラブルな範囲のコンピューティングを実現することに優れています。次に、音声アプリケーション、ヒューマンマシンインタラクションを対象とした最適化されたハードウェアアクセラレータまたは機能の統合があります。これには、視覚と音声の両方が含まれます。これは、調整可能な動作モードを備えた超低リークを真に含む方法で行われます。いくつかのワークロードを見るときに必要な、これらの大きなオンチップメモリ​​を使用しても、エネルギー使用量を実際に最適化します。

これは、機械学習機能の最適化、多くの異なる攻撃対象領域に対する最高レベルのカバレッジとのセキュリティ統合、効率的な接続、効率的なエネルギー使用、およびオープンスタンダードに続きます。また、高精度の距離測定など、NXPが提供するテクノロジーを利用して、特定の人物または追跡デバイスの物理的な位置を非常に正確に特定するためにUWBテクノロジーを使用することもできます。

最後に、これらすべてをシームレスなユーザーエクスペリエンスにラップします。これは、使いやすくなく、使用するのが自然でない場合は使用されないためです。したがって、シームレスで快適なエクスペリエンスを実現することは絶対に重要です。

ユーザーはどのようにしてそのようなソリューションを構築できますか？

マルティーノ ：プロセッサまたはマイクロコントローラの基本的な製品から、ローカル音声、視覚、検出、推論機能、またはそれらの組み合わせ用に事前に最適化された参照プラットフォームまで、すべてを提供します。 RTファミリーのデバイスなど、お客様が購入できるリファレンスプラットフォームをまとめました。購入可能な顔認識サービスがあります。これは、顧客が専門にしたい場所やブランド化したい場所のニーズに合わせて変更する際の出発点として使用できるシステムで完全に有効化および設計されています。

消費者と産業のユースケースにおけるテクノロジーの違い

業界のほとんどは、私たちの家や職場のインテリジェントなデバイスやシステムが勢いを増していることに同意するでしょう。ご存知のように、昔ながらのIoTと産業市場のテクノロジーの違いは何ですか？

マルティーノ ：接続規格、環境要件、寿命のニーズ（15年以上になる可能性があります）、および安全要件は、[消費者] IoTの世界と比較すると、産業分野でははるかに広範で厳しいものです。 NXPが投資している分野の1つは、時間に敏感なネットワーキング（TSN）であり、Macとスイッチの両方をデバイスのセット全体に統合して、複数のマシンのデイジーチェーンセットアップをサポートし、エンドポイント機能を動作およびサポートし、このより決定論的なものを活用しますTSNバックボーン。これは、従来の標準の多くが収束しているはるかに高いデータレートとスループットもサポートします。

これを[消費者] IoT市場と比較してください。スマートホームやウェアラブルなどのアプリケーションでは、エネルギー効率の向上、音声HMIの使用率の向上、ワイヤレス接続、ライフサイクルの短縮など、幅広いニーズがあります。ウェアラブルの面では、優れたユーザーエクスペリエンスが必要ですが、バッテリーの寿命を最大限に延ばす必要があります。これらのエッジデバイスを最適化して機能を実行しますが、シャットダウンしてバッテリー寿命を維持することは非常に重要です。バッテリーを消費する時間であるため、非常に豊富なユーザーエクスペリエンスを最も効率的な方法で実行する必要があります。

相互運用性の課題

スマートホームの分野では、ある会社から製品を入手して、他のデバイスでも機能させるのは難しいことがよくあります。 NXPは、スマートホームワイヤレスの相互運用性の課題をどのように変えようとしていますか？

マルティーノ ：例としてスマートホームデバイスを見ると、標準と相互運用性の機能は非常に断片化されています。 CHIP、または「Connected HomeoverIP」という名前の標準プロジェクトがあります。 NXPだけでなく、他の多くの業界リーダーが協力して、独自の標準ではなく、業界全体に共通のオープン標準に統合しようと努めており、人々がこのオープン標準に基づいて構築できるようにしています。

このプロジェクトの焦点は、NXPなどがZigBeeとThreadおよびZigBee Allianceを中心に行ってきた長年の作業に基づいて構築し、Amazon、Apple、そしてGoogleは、CHIPと呼ばれるこのオープンスタンダードを構築し、デバイス間のこの共通のリンクを確立するために展開しました。プラグを差し込むと、接続が非常に簡単になります。

NXPの計画では、CHIP規格の最初のバージョンを使用して、実際の製品を今年後半に市場に投入する予定です。

エッジインテリジェンスを追加する複雑さとコストに対処する

機械学習とAIを最先端に活用する。それはすべてかなり複雑で費用がかかるように聞こえますか？

マルティーノ ：多くの人にとって、AIとMLについて話すとき、それは非常に複雑な抽象的な概念です。すべてのエッジデバイスの90％が、2025年までに何らかの形の機械学習または人工知能を使用するという予測があります。私たちはその通りだと確信しており、これを中心に最適化された製品を展開しています。これは、使用するハードウェア、この機能を実行するためのプロセッサとマイクロコントローラを最適化するために私たちが行っていることの組み合わせです。エンドユーザーにとっては、エンドユースケースにとって意味のある実用的なMLを導入することがどれほど複雑かということです。

データを収集して独自のモデルを作成したい企業はたくさんあります。 NXPが焦点を当てているのは、シンプルなユーザーインターフェイスまたは開発環境で柔軟性を実現するクラウドにとらわれない機能をどのように実現するかです。

これは、Au-Zoneへの投資で最近発表されたものであり、2021年に、持ち込むコンテンツのタイプを選択できる拡張開発環境を展開します。独自のデータ、所有しているモデル、または所有しているモデルお気に入りのソースまたはクラウドプロバイダーを介して取得し、それを取得して最適化し、エンドデバイスに展開することを選択しました。それはその最適化だからです。

機械学習は最終ソリューションのコストをどのように増加させますか？

マルティーノ ：非常に複雑で重い機械学習モデルまたは機能を使用している場合は、はるかに高い計算能力が必要になります。計算能力が高いほど、費用も高くなります。エッジプロセッサでそれを行うか、クラウドにデプロイするかを選択できます。これらのユースケースまたはこれらのモデルを特定のユースケースに合わせて調整しようとすると、非常に効率的になり、従来のテクノロジースケーリングとムーアの法則を活用して、MLに固有のハードウェアアクセラレーションを実際に追加できます。多くのシリコン領域。

それは小さなコストの追加になりますが、あなたが望むその与えられた仕事を実行するための非常に最適な能力です。一例として、人を検出してローカルで誰であるかを特定するかどうかにかかわらず、非常に効率的なシリコン実装で最適化されたマイクロコントローラーで非常に効率的にそれを行うことができます。次に、一部のプロセッサを使用してスケーラブルにすることができます。この場合、外部の高性能ニューラルネットプロセッサに拡張したり、クラウドを補完的に使用したりできます。繰り返しになりますが、すべてにコストがかかり、タスクの複雑さに依存しますが、展開できる非常に複雑な機能に対して非常に効率的である可能性があります。

倫理的なAI

MLモデルとAIのバイアスについての懸念が高まっています。倫理的なAIの確保を支援する業界の役割は何ですか？

マルティーノ ：「私を聞いているのか、私を見ているのかを知りたい」という単純な概念であるかどうかにかかわらず、操作の明確な透明性が必要ですが、行動を起こすための結論をどのように決定するかが非常に重要になります。システムが安全であり、攻撃対象領域に関してバックドアアクセスやその他の機密性や脆弱性がないことを確認するためのセキュリティ基準。これにより、誰かがAIシステムにアクセスし、AIシステムに影響を与えて、特定のことを実行したり、特定の決定を下したりできるようになります。システムを攻撃している人に有利な場合があります。

原則として間違っている、事前設定されたバイアスがないAIシステムをどのように実装しますか？ NXPでは、AI倫理イニシアチブを展開しました。これは、この倫理的発展への取り組みを強調するものです。その中で、私たちは良いことについて話します。人間中心のAIを維持することについて話します。これは、AIシステムへの従属や強制を回避すること、そしてこの透明性、科学的卓越性の高水準、そして信頼を回避することです。 AIシステムで。

エッジテクノロジーの実装に関して、どのような課題が残っていると思いますか？

マルティーノ ：これは継続的な活動であり、継続的な最適化のための多くの領域があります。エネルギー効率、エネルギーハーベスティングの概念の推進と活用、およびデバイスのしきい値に近い動作は、業界の多くの人々による継続的な投資です。セキュリティとデータを保護し、これを継続的に推進する必要性は、継続的な活動です。

シリコン固有の署名、さまざまな種類の暗号化への投資、および準同型暗号化などの保護された方法でコンピューティングを実行する方法、暗号化された環境で計算を実行し、それを復号化しない方法。次に、遅延要件におけるスループットの接続性と消費電力を中心に拡張します。その最適化では、引き続き接続を最適化し、より効率的な方法でこれらのエッジデバイスに導入します。

最後に、アウェアエンドインテリジェンスのこの全体的な概念は、私たちのプロセッサに組み込まれるニューラルネットワークプロセッサまたはサブシステムを開発および実装する第3世代にあります。これにより、効率とスケーリングが向上しますが、この分野では、アクセラレータ、スパイキングニューラルネット、量子AIを中心としたさまざまなテクノロジーを使用して、より高いレベルの効率を実現するという点で継続的な研究が行われています。近い将来、明らかに、従来のアクセラレータを中心に継続的な進化が見られ、NXPが市場に投入しているこれらのスケーラブルなプロセッサへの統合が見込まれます。

ここで、27分間のポッドキャスト「Empoweringthe edgeeverywhere」を聞くことができます。