AIとMLで実用的なエッジインサイトを引き出す

データがエッジで始まるなら、AIの観点からできるだけ多くのことをそこでやらない理由は何でしょう？

エッジデバイスとアプリケーションの爆発的な増加は、データをどこでどのように分析し、インサイトを導き出すかについての新しい思考を必要としています。新しいエッジコンピューティングオプションと、多くのユースケースでより要求の厳しいスピード・トゥ・インサイト要件が、エッジアプリケーションにおける人工知能（AI）と機械学習（ML）の利用を促進しています。

AIとMLをどこに適用するか（エッジ、データセンター、クラウド施設）は複雑な問題です。現在の戦略とベストプラクティスについて洞察を得るため、Dell TechnologiesのグローバルCTOオフィスに所属するAI/MLおよびエッジのチーフアーキテクトSaid Tabet氏と、新興テクノロジーソリューションのCTOであるCalvin Smith氏に話を聞きました。

今日生成される大量のエッジデータに意味を与えるためのAIとMLへの需要の高まり、エッジアプリケーションにおけるAI/MLのコンピュート要件、そうした計算をエッジ、データセンター、クラウド施設のどこで行うべきかについて議論しました。

新興トレンド

RTInsights: 今日の新興トレンドは何ですか？AIとMLはエッジの議論にどう適合しますか？

Tabet: 今日、人々が新興トレンドについて語るとき、エッジ、IoT、AI/ML、拡張現実、仮想現実、ブロックチェーン、5Gなど多くのことを挙げます。私たちはエッジを、これらのテクノロジーでどこへ向かうかという点で「ネクストシング」として位置づけています。トレンドではなく、真の採用の観点からです。データとユーザー体験の観点からは、インサイトへのニーズがあり、人間の不耐性と現実世界のレイテンシ問題が相まって、できるだけ早くそのインサイトを得る必要があります。また、データがエッジで始まるなら、AIの観点からできるだけ多くのことをそこでやらない理由は何でしょう？

明らかにAI、特にMLは、必要なデータ量の点で貪欲です。速く学習する必要があります。エッジで本当にできることは何でしょう？ここでこの議論が始まります。ブロックチェーンや分散型台帳もここでの検討領域です。通常、データの観点から特に多くの信頼の必要性が見られます。また、私たちが生成するインサイト、どう反応するか、これらの発見から導かれる実行可能な項目についても信頼が必要です。これにより、全体的なセキュリティ、プライバシー、ガバナンスの観点からの追加的なニーズが生じます。ビジネスパーソン、個人、車両フリートのいずれであれ、その体験の中でこれらすべてを考慮する必要があります。

Smith: 一般的な推定として、今日接続されているIoTデバイスが200億〜300億台あるとします。Said、2014年ごろに接続モバイルデバイスの数が世界人口を超えたんですよね？そして2017年にはIoTデバイスも世界人口を超えました。

Tabet: その通りです。

Smith: 大きな飛躍で、これからも跳躍し続けます。これらのエッジデバイスを維持するために270億人を雇うつもりですか？インフラストラクチャのスタックを上っていくと、明らかに1:1のマッピングではありませんが、データベース管理者、データサイエンティスト、アーキテクト、エンジニアを十分に雇うことは物理的に不可能です。代わりに、すべてはエッジでの自動化と最適化を推進することにかかっています。データの膨大な量と、Tabet博士が言及したように、AIにおけるアプリケーションと機能の貪欲さ。コストの観点からも、データセンターやクラウドに送り出す前に、エッジで実際に価値のあるデータを分析したいのです。

エッジにおけるAI/MLの役割

RTInsights: エッジについて語るとき、なぜAI/MLが必要なのですか？

Tabet: いくつかの理由があります。まず「なぜ」です。自動化の観点から、AIとMLはより多くを自動化し、それについて少し規律正しくなる方法であり、それをエッジで行います。今日はそれが見られます。クラウドからエッジへのこの連続体の構築、データプレーンやコントロールプレーン、開発キットなどを含め、開発者が「エッジ向けに書いているなら、それはクラウド向けと同じだ」と感じられるようにするという視点によって強制される必要があります。

AIの観点からは、自動化が大きなポイントです。エッジでは真に深い処理（ディープラーニング - DL）は通常行いません。もう一つ本当に重要だと思う側面は、エッジで非常に速く得られるインサイトが、データセンターやクラウドに持ち込み、他の種類の情報と接続する際に得られるインサイトとはしばしば異なるということです。その時点で、インサイトやエッジでの意思決定において、インテリジェンスのモメンタムを大きく失うことになります。それでも、エッジにはAIが必要です。これらは手を携えて進みます。

Smith: もう一つの理由はビジネス的なものです。これらすべての「モノ、センサー、アクチュエーター、デバイス」は、コネクテッドホーム、コネクテッドクルーズ船、コネクテッドカーほど大きくもあれば、工場、トラクター、ポンプの中や上にあるものほど小さくもあります。要するに、すべての業界がコモディティ化しつつありますよね？世界中でモノを作って買う選択肢があります。企業が差別化を図ろうとしているのは、販売する製品や資産に関連付けたサービスを通じてです。より多くの価値を引き出せるほど、多くの企業が製品からサービスへとシフトしています。これをプロダクト・トゥ・サービス トランスフォーメーションと呼びます。

資産をサービスとして販売しようとしています。ビジネスモデルの転換でCapExからOpExへシフトすることもあります。あるいは依然としてCapExでのみ販売するが、製品がスマートでコネクテッドであることで追加サービスを販売したり、差別化要因として利用したりできます。再び、Saidが言及したように、最適化と自動化、適切なデータを適切なタイミング、適切な場所で取り込むことが、企業の競争力を可能にします。単にモノを製造するだけでは、もはや常に価値を生み出すわけではありません。

Tabet: もう一つ付け加えたいのは、エッジで単一企業や組織の数万、数十万のデバイスを見るとき、自律走行車であれ、それらの車をインスタンスとして見るとき、それぞれの車が異なる環境下で異なる振る舞いをする可能性があるということです。そこから学び、それをまとめることが非常に重要です。産業オートメーションでも同じです。風力タービン、航空機エンジン、医療などを見ることができます。これらのさまざまな環境の多くで、その情報をデータセンターやクラウドに持ち帰ると、AIモジュールやAIアルゴリズムのはるかに精密で、効率的、高性能なものが得られます。つまり、単一資産からのデータには確実に価値がありますが、異なる環境での接続された資産フリートとその相互作用から、真のインサイトを得始めるのです。

エッジAI/MLをどこで行うかの決定

RTInsights: エッジアプリケーションのAI/MLコンピュート作業はどこで行われますか？

Tabet: これは前のポイントに戻ります。これらのケースの多くで、AIアルゴリズムはトレーニングに大量のデータを必要とします。それは（意見の相違はありますが）データセンターやクラウド、ハイパワーなコンピュート能力を持つ集中型環境で行います。エッジではこれらのアルゴリズムを展開し、エッジで影響を与える目的でより効率的に使用できます。将来的にはエッジでもある程度のトレーニングが可能になるという話もあります。これは最初、ほとんどのエッジ環境の重い制約により制限されます。

エッジコンピューティングの考慮事項

RTInsights: エッジでのコンピュートソリューションの要件は何ですか？

Tabet: これは非常にトリッキーです。エッジの定義がさまざまだからです。自動車メーカーに話せば「私の車がエッジだ」と言います。タービンメーカーに話せば「風力タービンがエッジだ」と言います。工場の製造デバイスもエッジです。それらは異なる環境を持ちます。中には非常に過酷なものもあります。Dellでは、強い振動、極めて高温または極めて低温といった過酷な条件を含む環境でのコンピュートについて豊富な経験があります。エッジでのコンピュートソリューションの第一の要件は消費電力だと言えます。低消費電力でなければなりません。これはHPCで知っているあらゆることと相反しますよね？大量のGPUを使い、熱が発生し、電力が必要です。それはこれらの[エッジ]環境では不可能です。それら[コンピュートコンポーネント]を別のフォームファクタに持っていくか、あるいはおそらく、今後数年で登場するAI特化型アクセラレーターの新世代のような、異種のアクセラレーターの観点から考える必要があるかもしれません。

Smith: クールで面白いのは、過酷な環境でラギッドな形で継続的に作業でき、マイナス5度、時にはマイナス10度から55度以上まで対応できることです。Tabet博士が言及したように、危険または過酷な環境では、振動、衝撃などに関連する問題を防ぐ必要があります。それでも、フォームファクタをどんどん小さくし続けることができます。明らかに、パートナーとチップ開発者の助けを借りてこれを行っています。

面白いのは、フォームファクタをより小さく、よりラギッドにしながら、同時に操作と使用を可能な限りシンプルにするという概念です。アプリケーションの観点からは、クラウドをエッジで実行すること自体が目的ではありません、それも起こり得ますが。重要なのは、クラウドネイティブの原則をエッジにもたらすことです。コンテナやVM（仮想マシン）を、さまざまなタイプのインフラ、さまざまなタイプの環境に移植し、シングルペイン・オブ・グラスのビューを持つことのシンプルさと容易さ。これは潜在的にマルチクラウド環境も可能にします。エッジが新しいコントロールポイント、OT（運用技術）側とIT側のギャップを埋める新しいペイン・オブ・グラスの可視性になるのです。魅力的です。新しいフロンティアの探求であり、将来の製品ロードマップを大きく推進していると言えます。

エッジAI/MLユースケース

RTInsights: AI/MLエッジアプリケーションの例をいくつか挙げていただけますか？

Tabet: 数年前から取り組んでいるのは、モビリティアプリケーション（自律走行車など）に関連する課題です。いくつかの組織やお客様と直接協力し、この市場にさまざまな能力をもたらす方法を探っています。少し抽象化して、この種のエッジ展開を促進する例も挙げましょう。RSU（路側ユニット）、車両自体、またはそれらが行っているセンシングでのエッジユースケースがあります。これらの例のいくつかは、HDマップ（高精度マップ）と呼ばれるものの拡張版で、マップが意味論的に豊かで、文脈駆動型であり、ニアリアルタイムで更新されます。

これがAIを用いて転送されるデータの量とコストを削減する例の1つです。それらの特定のサービスに必要なものだけを扱います。例えば、動画を削減できます。データ量を減らせます。検出したい非常に特定のオブジェクトに焦点を当てられます。それらはそのレベルで役立つ例です。

他には、それらのエッジデバイスの健全性に関連するものがあります。特定のデバイス、エンジン、車全体などを監視し、特に安全上の理由（多くのIoTユースケースでの状態ベース監視）で、車両やデバイスレベルで可能な限り多くの分析を行おうとします。

小売分野でも他の例がありますが、異なる形でエッジ展開が見られます。エッジからクラウド、データセンターへの接続、いわゆるエッジクラウドにおいて、エッジでできる限りのことを行います。[エッジは]データを収集し、必要なすべての分析を行う場所です。エンドユーザーにより良い体験を提供します。小売の場合、その体験をパーソナライズし、コストを最小化しつつサービスを最適化しようとします。

特に現在の状況では、医療に関連する多くのケースがあります。エッジでどれだけのデータを収集し、できるだけ速く反応できるか？通常、Calvinが言っていたように、数十万、数百万台のデバイスの分散環境のスケールで話しています。これはAIとMLがはるかに大きな役割を果たせる領域です。データが常に変化することを話していますが、AI能力により、これらのアプリケーションの一部は自己適応します。学習が継続し、そのレベルでトレーニングも継続します。

これらすべての領域（医療、小売、自律走行車、モビリティ全般、その他多くの領域）で、予測的または条件ベースのメンテナンスを通じてコストを削減しています。エッジはデバイスの遠隔制御能力も提供するため、専門家がデータ収集現場に安全に行けない場合でも、実際にその機能を遠隔で提供でき、ARやVRのようなことも含められます。しかし、エッジで事前にほとんどの作業を行うため、必要であれば現場での人員を最小限に抑えられます。これらはほんの一部の例です。

Smith: 重要な2つを追加します。1つは、安全とセキュリティの分野で大きなビジネスがあることです。Saidが言及したように、非常に大きなアルゴリズムを実行し、例えば...例を挙げましょう。ガソリンスタンドの外で公共の場で銃声があったシナリオを想像してください。取るべき行動を決めるために、多くの自動化された即時の決定を下す必要があります。1つは、音響の観点から銃声認識を考えますが、コンピュータビジョンの観点から物体認識と相関させ、それが銃であり、単なる車のバックファイアではないことを実際に示します。

その後、犯人がいた場合、現在では実際にかなりシンプルなアルゴリズムで、エッジで実行可能ですが、おそらくデータセンターで生まれたもので、ナンバープレート認識のようなことに使えます。そして、逃走する容疑者のナンバープレートを特定できます。すべて自動化され、エッジで実行されます。カメラ、監視、セキュリティ、市民の一般的な安全に関わるユースケースがこの分野にはたくさんあります。

もう一つの大きなユースケース領域は、Industrial Internet Consortiumのテストベッドであるスマート施設のためのディープラーニングです。これはかなり前に東芝と始めたものです。発足以来、SASとWiproも加わり、各社が異なる価値をもたらしています。

元々の概念は、最先端設計の巨大な施設を建設することでした。2011年に建設されたと記憶していますが、すでに何個のセンサーがあったか、Said？2万個くらい？

Tabet: それ以上だと思います。2011年に建設されたときはおそらく3万5千個だったでしょう。

Smith: 3万5千個、そうですね。全く新しい最先端施設でしたが、設計者たちは限界を押し広げ、より多くを学び、より多くをやりたがりました。一連のサーバーを通じてパラメータサーバーに接続されたニューラルネットワークが実装され、建物が本質的にその重要システムと連携して自己学習するようになりました。エレベーター、エスカレーター、もちろんHVACシステムのような高コストなものについて話しています。最初は少なくとも異常検知を行い、AIなしでは人間が発見するのが困難な事象間の相関を探ることが目的でした。

例えば、キッチンで起きていることに関する非常に興味深い発見がありました。データが、それらの出来事が実際にコストを増大させ、それらの行動のために換気の特定セクションが閉鎖されていることを明らかにしました。データではなく人間が調査していたのでは、通常決定できないような相互相関を見つけ始めると、信じられないほどのことが分かります。真のディープニューラルネットで、自己学習 - 何を発見すべきか自分で学び、人間が通常自力では決定しない相互相関を探っています。よく考えると、これすべてが「エッジ」で行われていました。これはすべて建物内で実行されています。もちろん、一部のコア処理はデータセンターに戻っていました。

Tabet: より最近のプロジェクトのユースケースでは、HVACや建物内のその他のものを扱うこれらすべての資産と同様の多数のデバイスを追加しました。それぞれが独自の機械学習アルゴリズムやAIアルゴリズムを搭載しており、それにより自己完結しつつ、互いから学ぶことができました。Calvinの話に戻りますが、これは方向性を与えないが、時間とともに自己水準化し、必要な生産性の最適化の観点からパラメータを自己学習する、いわゆる自律的AIと呼ぶようなものを、より多く見ることになるような形で行われています。