AI at the Edge Still Mostly Consumer、not Enterprise、Market

データ駆動型のエクスペリエンスは、豊かで没入型であり、すぐに。しかし、それらは遅延に耐えられないデータの浪費でもあります。

ドローンによるピザの配達、交差点での交通事故を記録できるビデオカメラ、潜在的なシステム障害を特定できる貨物トラックを考えてみてください。

これらの種類の即効性のあるアクティビティには、大量のデータが必要です—迅速に。そのため、データがクラウドとの間を行き来するときにレイテンシを維持することはできません。その往復には時間がかかりすぎます。代わりに、これらのデータ集約型プロセスの多くは、ローカライズされたままで、ハードウェアデバイス上またはその近くのエッジで処理される必要があります。

ノースウェスタン大学のMohanbirSawhney教授は、「自動運転車は、AI [人工知能]アルゴリズムが差し迫った衝突を予測したときに、10分の1秒でも緊急ブレーキを作動させるのを待つことができません」と述べています。 「このような状況では、AIはエッジに配置する必要があります。エッジでは、ネットワーク接続に依存せず、ネットワーク上で大量のデータをやり取りすることなく、意思決定を迅速に行うことができます。」

「AIエッジプロセッサを使用すると、クラウドで処理を行うのではなく、[デバイス]自体で処理を実行したり、奥の部屋のサーバーにフィードしたりできます」と、調査会社Omdiaの調査ディレクターであるAdityaKaul氏は述べています。 。

AI at the Edge：エンタープライズとコンシューマーの採用

機械学習推論などのタスクを実行するAIチップの機能は、近年劇的に拡大しています。 1秒あたり10兆の浮動小数点計算に相当する、10テラフロップスを超えるパフォーマンスを提供するグラフィックプロセッシングユニット（GPU）について考えてみます。最新のスマートフォンには、1秒あたり数十億の浮動小数点演算を処理できるGPUが搭載されています。数年前でも、この種のオンデバイス処理は利用できませんでした。しかし今日、最先端のデバイス（スマートフォン、カメラ、ドローン）はAIワークロードを処理できます。

ディープラーニングチップセット、または他のチップの中でもGPUを含む人工知能対応シリコンの出現によってのみ、これが可能になりました。そして、AIチップセット市場はロケットのように急成長しました。

デロイトのレポート「BringingAItoデバイス。" [前述のデロイトレポートの「エッジAI業界は成長の準備ができている」の図を参照してください。]

Tracticaのレポート「DeepLearningChipsets」によると、AIチップセットの市場は2025年までに726億ドルに達すると予想されています。

専門家によると、消費者市場は道を開いた。今日、2020年には、消費者向けデバイス市場は、販売数とその金額の点で、エッジAIチップ市場の90％を占める可能性があります。

「スマートフォン市場はこれの最先端にあります」と、アナリスト企業であるTracticaのシニアディレクターであるAditya Kaulは、最近レポート「DeepLearningChipsets」をリリースしました。スマートフォンは依然としてAIチップセット市場の約40％〜50％を占めています。

しかし、カウル氏によると、エッジでのAI対応の処理は、産業用IoTや小売、ヘルスケアや製造などの分野で企業にもたらされています。 「これは「エンタープライズグレードのAIエッジ」と呼ぶことができます」とKaul氏は述べています。

カウル氏によると、企業がAIをエッジで採用するきっかけは、「ユースケースの明確化」です。たとえば、製品の検査とプロセス制御を自動化するマシンビジョンは、産業現場などの分野で以前は手動で行われていたプロセスの品質と効率を向上させることができます。

「人々は、自動車産業の欠陥を特定するために[産業環境で]ディープラーニングを使用し始めています。たとえば、組み立て中にドア、ハンドル、またはガラスの欠陥を見つけることができます。食品および飲料業界では、古くなったトマトを特定したり、ビスケット工場で適切な形状ではないビスケットを特定したりできます」とカウル氏は述べています。

ただし、品質管理に加えて、業界はマシンビジョンを使用して新しいエクスペリエンスを促進しています。 「小売業は、このようなことが起こっている大規模なセクターです」とカウル氏は述べています。これは、買い物客の分析のためのスーパーマーケットでのエンタープライズグレードのエッジとカメラの使用です。彼らはどこでアイドリングして特定の製品を見ていますか？

AI at theEdgeはクラウドコンピューティングと連携します

最先端のAIは、ソフトウェアが王様だった数年後、ハードウェアへの関心を再活性化しました。

しかし、最先端のAIはすべて、低レイテンシを実現することであり、分散型ハードウェアはクラウドの支援なしで処理を可能にします。

「AIの成長に伴い、ソフトウェアが最も企業や投資家の関心を集めた数年後、ハードウェアは再びファッショナブルになりました」とマッキンゼーのレポート「人工知能：行動する時は今です」と述べています。

ハードウェアはまた、分散型コンピューティングアーキテクチャを流行に戻しました。集中型アーキテクチャには、遅延とデータセキュリティの懸念が伴います。

「クラウドのレイテンシーに依存するのではなく、その場で意思決定を行う必要があります」とKaul氏は述べています。 「また、サードパーティのクラウドにデータは必要ありません。セキュリティの観点から、データはオンプレミスにとどまる必要があります。」

最終的に、専門家は、エッジのAIが既存のクラウドコンピューティングアーキテクチャを補完するアーキテクチャになることを示唆しています。

「クラウドのAIは、エッジのAIと相乗的に機能します」とSawhney氏は述べています。 「テスラのようなAIを搭載した車両を考えてみてください。エッジのAIは、ブレーキ、ステアリング、車線変更など、リアルタイムで無数の意思決定を支援します。夜間、車が駐車されてWi-Fiネットワークに接続されると、データがクラウドにアップロードされ、アルゴリズムがさらにトレーニングされます。」

エッジでのAIの継続的な成長への期待

AIエッジチップ市場の成長の多くは、ハードウェア自体の機能の向上に起因しています。ただし、業界がAIにアプローチする方法の運用上の変更も含まれます。

実際、工業製造などの従来の業界は、以前は人工知能をプロセスに組み込むことを躊躇していましたが、現在では、AIをエッジで有益であると見なしています。これは、ROIの鍵です。その結果、彼らはビッグデータ分析をプロセスに導入し、これらのプロセスの精度を向上させるためのアルゴリズムをトレーニングし、品質管理で結果を確認しています。

「これらのモデルを正確にする唯一の方法は、適切なデータを使用してモデルをトレーニングすることです」とKaul氏は述べています。 「2年前は、これらのセクターでトレーニングデータについて尋ねると、彼らがあなたを奇妙な方法で見ている可能性のある人を見つけることはあまりありませんでした。しかし今では、AIがどのように機能するかを理解する人が増えています」と彼は言いました。

Tracticaは、この成長が続くと予測しており、「2021年から2022年に転換点」があり、「AIアクセラレータ、ASICチップへの急速な動き」を示しています。

ただし、成長が測定されることを期待してください。

「これらのベンダーや市場の多くは、イノベーションの観点から、停滞しています」とカウル氏は述べています。 「過去20、30年間、イノベーションはあまりありませんでした。そのため、一般的に移動が遅くなります。しかし、一部の分野では、産業ビジョン、医療ビジョン、小売業などで物事が持ち直しています。まだ早いです。しかし、物事は回復し始めています」と彼は言いました。