AIとMLを使用して、エッジアプリケーションで実用的なインサイトを抽出する

データがエッジから始まる場合、AIの観点から、その場で可能な限り多くのことを実行できないのはなぜですか？

エッジデバイスとアプリケーションの爆発的な成長には、データをどこでどのように分析し、洞察を引き出すかについての新しい考え方が必要です。新しいエッジコンピューティングオプションは、多くのユースケースでより要求の厳しい洞察までの速度の要件と相まって、エッジアプリケーションでの人工知能（AI）と機械学習（ML）の使用を促進しています。

AIとMLが適用される場所（エッジ、データセンター、クラウド施設）は複雑です。現在の戦略とベストプラクティスについての洞察を得るために、AI / ML＆EdgeのチーフアーキテクトであるSaidTabetと最近話し合いました。 andCalvin Smith、CTO、Emerging Technology Solutions;両方ともDellTechnologiesのグローバルCTOのオフィスにいます。

今日生成される大量のEdgeデータを理解するためのAIとMLのニーズの高まり、EdgeアプリケーションでのAI / MLの計算要件、およびそのような計算をEdgeで実行するか、データセンターまたはクラウド施設で実行するかについて説明しました。

新たなトレンド

RTInsights： 今日の新たなトレンドは何ですか？AIとMLはEdgediscussionにどのように適合しますか？

タブレット： 今日、人々が新たなトレンドについて話すとき、彼らはしばしばエッジ、IoT、AI / ML、拡張現実、仮想現実、ブロックチェーン、5Gなどの多くのことを言及します。 Weposition Edgeは、これらのテクノロジーをどこに使用するかという観点から、トレンドだけでなく真の採用という観点からも次のことです。データとユーザーエクスペリエンスの観点から、洞察が必要であり、人間としての焦りのおかげで、現実世界の遅延の問題と相まって、その洞察をできるだけ早く取得する必要があると思います。また、データがエッジから始まる場合、AIの観点から、その場で可能な限り多くのことを実行できないのはなぜですか？

明らかに、AI、特にMLは、必要なデータ量の点で貪欲です。すぐに学ぶ必要があります。エッジで本当にできることは何ですか？それがこの議論の始まりだと思います。ここでは、ブロックチェーンまたは分散型台帳が他の考慮事項です。通常、特にデータの観点からは、多大な信頼が必要になります。また、私たちが生み出している洞察、私たちがどのように反応するか、そしてこれらの発見から得られる実用的な項目を信頼する必要があります。これにより、全体的なセキュリティ、プライバシー、およびガバナンスの観点から、いくつかの追加のニーズがもたらされます。あなたがビジネスパーソン、個人、または車両のフリートであるかどうかにかかわらず、その経験の中でこれらすべてを考慮に入れる必要があります。

スミス： 一般的な見積もりをすると、今日接続されているIoTデバイスは200億から300億の間だとしましょう。さかのぼると、接続されたモバイルデバイスの数が世界の人々の数を上回ったのは2014年頃だったと思いますよね？その後、2017年には、IoTデバイスも世界の人口を上回りました。

タブレット： はい。そうです。

スミス： それは大きなジャンプであり、ジャンプし続けるでしょう。これらのエッジデバイスを外出して保守するために270億人を雇用する予定ですか？次に、インフラストラクチャのスタックを上っていくと、明らかに1：1のマッピングではありませんが、十分なデータベース管理者、データサイエンティスト、アーキテクト、エンジニアを雇うことは物理的に不可能です。代わりに、エッジでの自動化と最適化を推進することがすべてです。膨大な量のデータ、そしてasDr。 Tabetは、特にAIにおけるアプリケーションと機能の貪欲さについて言及しました。複数の理由で大量の情報を処理できる必要がありますが、その1つはコストです。データセンターまたはクラウドへの送信を開始する前に、Edgeで実際に価値のあるデータを分析する必要があります。

エッジを備えたAI/MLの役割

RTInsights： Edgeについて話すときになぜAI/MLが必要なのですか？

タブレット： いくつかの理由があります。まず、理由があります。自動化の観点から見ると、AIとMLは、より多くの自動化を行い、それについてもう少し規律を保つ方法であり、Edgeでそれを行います。あなたは今日それを見ます。データプレーンまたはコントロールプレーン、開発キットなどを含む、このクラウドの連続体をEdgeに構築するというこのビューによって、開発者は、私がEdge向けに作成している場合、それはクラウドと同じです。

AIの観点からは、自動化は重要です。エッジでは、少なくとも通常は、真にディープな処理（つまり、ディープラーニング– DL）を実行しません。私が本当に重要だと思うもう1つの側面は、Edgeで非常に迅速に得られる洞察が、データセンターやクラウドにもたらす洞察とは異なることが多く、それを他のデータセンターと結び付けるという事実です。情報の種類。その時点で、得ている洞察、またはエッジでそれを行っている場合に行う意思決定の観点から、インテリジェンスの勢いを大幅に失っています。それでも、EdgeにはAIが必要です。彼らは手をつないで行きます。

スミス： もう一つの理由はビジネスの理由だと思います。これらの「モノ、センサー、アクチュエーター、デバイス」はすべて、コネクテッドホーム、コネクテッドクルーズ船、コネクテッドカーと同じくらいの大きさになる可能性があります。または、工場、アトラクター、またはポンプの中または上にある可能性があります。簡単に言えば、今ではすべての業界が商品化されていますね。世界中で物を作って購入するオプションがあります。企業が差別化しようとしている方法は、販売する製品や資産に関連するサービスを介することです。価値を理解すればするほど、多くの企業が製品からサービスに切り替えています。これは、製品からサービスへの変革と呼ばれます。

彼らは資産をサービスとして販売しようとしています。場合によっては、ビジネスモデルの切り替えであり、CapExからOpExに移行することもあります。場合によっては、CapExとしてのみ販売されることもありますが、追加のサービスセットを販売したり、製品がスマートで接続されている場合は差別化要因として使用したりできる場合があります。適切なデータを適切なタイミングで取得し、適切な場所で企業が競争できるようにします。単にアイテムを製造するだけでは、必ずしも価値が得られるとは限りません。

タブレット： もう1つ付け加えたいのは、Edgeでは、自動運転車であろうとなかろうと、単一の企業や組織からの数万から数十万のデバイスを見ている場合、それぞれがcarsasインスタンスを見ているということです。これらの車は、環境によって動作が異なる場合があります。それをまとめるとき、それから学ぶことは非常に重要です。それは産業用自動化でも同じです。あなたは風力タービン、飛行機のエンジン、またはヘルスケアを見ることができます。これらのさまざまな環境の多くでは、これらのAIモジュール、またはその情報をデータセンターまたはクラウドに戻すときに、AIアルゴリズムのパフォーマンスがはるかに正確で、効率的で、パフォーマンスが向上します。言い換えれば、1つの資産からのデータには確かに価値がありますが、接続された資産群とさまざまな環境でのそれらの相互作用から真の洞察を収集し始めます。

エッジAI/MLを実行する場所の決定

RTInsights： エッジアプリケーションのAI/MLコンピューティング作業はどこで行われますか？

タブレット： これは、これらの多くの場合、AIアルゴリズムがトレーニングのために大量のデータを実行した前のポイントに戻ります。これらの強力なコンピューティング機能を利用できる一元化された環境で、データセンターまたはクラウドでそれを行います（そして意見の相違があります）。エッジでは、これらのアルゴリズムを展開します。これらのアルゴリズムは、エッジでの影響を与える目的で使用する方がはるかに効率的です。明らかに話があります。ある時点で、Edgeでもある程度のレベルのトレーニングを行うことができるようになります。ほとんどのEdge環境には大きな制約があるため、これは最初は制限されます。

エッジコンピューティングに関する考慮事項

RTInsights： エッジでのコンピューティングソリューションの要件は何ですか？

タブレット： ええと、これは非常にトリッキーです。なぜなら、Edgeisにはさまざまな定義があるからです。あなたは自動車メーカーと話します、そして彼らは私の車がエッジであると言います。あなたがタービンメーカーと話すとき、風力タービンは彼らのエッジです。工場の製造装置もEdgeです。彼らは異なる環境を持っているでしょう。それらのいくつかは非常に厳しいでしょう。デルでは、強い振動や非常に高いまたは非常に低い温度を伴う過酷な条件を含む可能性のある環境でのコンピューティングについて豊富な経験を積んでいます。私が言えることの1つは、[エッジでのコンピューティングソリューションの]最大の要件です。消費電力です。低電力である必要があります。これは、特にHPCで私たちが知っていることには反しますよね？たくさんのGPUを使用していて、熱があり、電力が必要です。これらの[Edge]環境では、これは不可能です。その[コンピューティングコンポーネント]を別のフォームファクターに移行する必要があります。あるいは、新世代のAI固有のような、さまざまな種類のアクセラレーターの観点から考えることもできます。今後数年間で登場するアクセラレータの種類。

スミス： クールで興味深いのは、過酷な環境でも過酷な環境で継続的に作業でき、たとえばマイナス5度、場合によっては摂氏10度、さらには摂氏55度以上で作業できることです。 Dr.Tabetが述べたように、危険な環境や過酷な環境では、振動や衝撃などのジャズに関連する問題を防ぐ必要がありますが、フォームファクターをどんどん小さくすることができます。 、パートナーとチップ開発者の助けを借りてこれを行います。

興味深いのは、フォームファクターをより小さく、より頑丈にすると同時に、操作と使用を可能な限り簡単にするというこの概念です。アプリケーションの観点からは、それ自体がエッジで実行されるクラウドではありませんが、それも発生する可能性があります。それは、クラウドネイティブの原則がエッジにもたらされることについてです。コンテナであろうとVM[仮想マシン]であろうと、さまざまなタイプのインフラストラクチャやさまざまなタイプの環境に移植できるシンプルさと使いやすさ、そして単一のガラスビューを備えています。これにより、マルチクラウド環境が有効になる可能性もあります。 Edgeは、新しいコントロールポイント、OTまたはオペレーショナルテクノロジー側とIT側の間のギャップを埋める何が起こっているかについての新しいガラスの可視性になります。それは魅力的です。これは探索の新しいフロンティアであり、将来に向けて多くの製品ロードマップを推進していると思います。

エッジAI/MLのユースケース

RTInsights： AI /MLEdgeアプリケーションの例をいくつか挙げてください。

タブレット： 私がここ数年取り組んできたのは、（自動運転車のような）モビリティアプリケーションに関連する課題に関するものです。複数の組織やお客様と直接協力して、この市場にさまざまな機能をもたらす方法を検討しています。それを少し抽象化して、この種のEdgedeploymentを容易にする可能性のある例も示します。エッジのユースケースは、RSUと呼ばれるもの、ロードサイドユニット、車両自体、またはそれらが実行していることを感知する場合にあります。これらの例のいくつかは、HDマップ、高解像度マップと呼ばれるものの拡張バージョンであり、マップは意味的に豊富で、コンテキスト駆動型であり、ほぼリアルタイムで更新されます。

これは、AIを使用して、転送されるデータの量とコストを削減する1つの例です。あなたはそれらの特定のサービスに必要なものだけを扱います。例えば、ビデオは減らすことができます。データ量を減らすことができます。検出したい非常に特定のオブジェクトに焦点を合わせることができます。これらは、そのレベルで役立つ可能性のある種類の例です。

他の1つは、特定のデバイス、エンジン、フルカーなどを監視し、車両またはデバイスレベルで可能な限り多くの分析を行おうとしている、特に安全性のために、これらのEdgeデバイスの状態に関連しています。理由（つまり、多くのIoTユースケースでの条件ベースの監視）。

小売ドメインには他の例もあります。ここでは、より多くのEdgedeploymentが表示されますが、方法は異なります。ある意味で、Edgeからクラウド、データセンター、Edgeクラウドでは、Edgeでできる限り多くのことを行うことができます。 [エッジはどこにありますか]データを収集し、必要なすべての分析を実行します。たとえば小売店の場合、エンドユーザーにより良いエクスペリエンスを提供します。コストを最小限に抑えながら、サービスを最適化できるように、そのエクスペリエンスをパーソナライズしようとしています。

現在、特に私たちがいる状況では、ヘルスケアに関連する多くのケースがあります。エッジで可能な限り迅速に収集して対応できるデータの量はどれくらいですか？通常、私たちはCalvinが言っていたように、数十万または数百万のデバイスの規模。これは、AIとMLがはるかに大きな役割を果たすことができる領域です。私たちは常にデータの変更について話しますが、AI機能を使用すると、これらのアプリケーションのいくつかは自分自身に適応します。学習は継続され、トレーニングはそのレベルで継続されます。

これらすべての分野（ヘルスケア、小売、自動運転車、一般的なモビリティ、およびその他の多くの分野）では、予測的または条件付きのメンテナンスを通じてコストを削減しています。 Edgeを使用すると、デバイスのリモートコントロールも可能になるため、専門家がデータを収集している場所に安全に移動できない場合でも、実際にその機能をリモートで提供でき、ARやVRなども含めることができます。ただし、ほとんどの作業はEdgeで事前に行うため、必要に応じて、直接その存在を最小限に抑えることができます。これらはほんの一例です。

スミス： 重要なものより2つ追加します。 1つは、安全とセキュリティの周りに大規模なビジネスがあることです。サイードが述べたように、あなたは非常に大きなアルゴリズムを実行していて、次のようなもののためにデータを処理しているかもしれません…まあ、例を挙げましょう。ガソリンスタンドの外など、公共の場所で銃声が鳴るシナリオがあるとします。実行するアクションのコースを把握するには、多くの自動化された即時の決定を行う必要があります.1つは、音声の観点からは銃声の認識を考えますが、コンピュータビジョンの観点からはオブジェクトの認識と相関させて、実際に武器であることを示すことです。 、そして車のバックファイアだけではありません。

次に、これを行った加害者がいる場合は、エッジで実行できる実際にはかなり単純なアルゴリズムを使用することもできますが、ナンバープレート認識などのデータセンターで発生する可能性があります。次に、逃げる容疑者のナンバープレートを特定できます。すべて自動化され、Edgeで実行されます。その分野には、カメラ、監視、セキュリティ、市民の一般的な安全に関する多くのユースケースがあります。

もう1つの大きな使用例は、言うまでもありませんが、東芝でかなり前に開始したインダストリアルインターネットコンソーシアムのテストベッドであるDeep LearningforSmartFacilitiesです。創業以来、SASとWiproも追加しており、さまざまな企業がさまざまな価値を提供しています。

当初の概念は、最先端として設計された巨大な施設を建設することでした。誤解しない限り、2011年に製造されたと思いますが、すでにセンサーはいくつありますか？ 20,000個のセンサーなどですか？

タブレット： それ以上に、私は言うでしょう。 2011年に建てられたときはおそらく35,000年前でした。

スミス： 35,000、そうです。それは真新しい、最先端の施設でしたが、設計者は限界を押し広げ、学び、さらに多くのことをしたいと考えていました。ニューラルネットワークは、パラメータサーバーに接続された一連のサーバーを介して実装され、建物がその重要なシステムに関連して本質的に自己学習できるようにしました。私たちはエレベーターやエスカレーターのようなもの、そしてもちろん、HVACシステムのような高コストのものについて話している。アイデアは、少なくとも最初は、異常検出を行い、人（AIなし）が見つけるのが難しいものの間の相関関係を探すことでした。

たとえば、厨房で起こっていることについて非常に興味深い発見がいくつかありました。データは、それらの出来事が実際にコストを上昇させたと判断し、それらの行動のために、換気の特定のセクションが閉鎖されていました。人間が物事を調査するのではなく、データであるときに何を見つけ始めることができるかは信じられないほどです。私たちは、それが自己学習する真の深いニューラルネットについて話しています。つまり、人間が通常は自分で決定することのない相互相関を探して、何を見つけるかを自分自身に教えます。あなたが本当にそれについて考えるとき、これはすべて「エッジ」にありました。これはすべて建物内で実行されています。その後、もちろん、コア処理の一部はデータセンターに戻りました。

タブレット： プロジェクトの最近のユースケースでは、建物内のHVACやその他のものを処理するこれらすべてのアセットと同様に、いくつかのデバイスを追加しました。各デバイスには、独自の機械学習アルゴリズムまたはAIアルゴリズムが装備されている場合があります。そしてそれは彼らが自立することを可能にしました、しかし同時に、お互いから学びます。 Calvinの話に戻ると、これは、この種の自律型AIがますます多く見られるように行われています。この用語を使用できれば、実際、私たちはそれを方向付けないという考えですが、時間の経過とともに、パラメータと必要な生産性の最適化の観点から、自己平準化と自己学習を行います。