AIを限界まで推進しているのは何ですか

2020年には、7億5,000万を超えるエッジAIチップ（リモートデータセンターではなくデバイス上で機械学習タスクを実行または加速するチップまたはチップの一部）が販売され、26億米ドルの収益に相当すると予測しています。さらに、エッジAIチップ市場は、チップ市場全体よりもはるかに急速に成長します。 2024年までに、エッジAIチップの売上高は15億を超えると予想されており、おそらく大幅に増加するでしょう。これは、少なくとも20％の年間販売台数の伸びを表しており、半導体業界全体の9％CAGRの長期予測の2倍以上です。

これらのエッジAIチップは、ハイエンドのスマートフォン、タブレット、スマートスピーカー、ウェアラブルなど、ますます多くの消費者向けデバイスに採用される可能性があります。また、ロボット、カメラ、センサー、その他のIoT（モノのインターネット）デバイスなど、複数の企業市場でも使用されます。

コンシューマーエッジAIチップ市場はエンタープライズ市場よりもはるかに大きいですが、2020年から2024年の間に18％のCAGRが見込まれ、ゆっくりと成長する可能性があります。エンタープライズエッジAIチップ市場ははるかに速く成長しており、CAGRが予測されています。同じ時間枠で50％です。

それにもかかわらず、現在、2020年には、消費者向けデバイス市場は、販売数とその金額の両方の点で、エッジAIチップ市場の90％以上を占める可能性があります。これらのエッジAIチップの大部分は、現在使用されているすべての消費者向けエッジAIチップの70％以上を占めるハイエンドスマートフォンに搭載されます。したがって、2020年と今後数年間、AIチップの成長は主にスマートフォンによって推進されます。 15億6000万台のスマートフォン市場の3分の1以上が、2020年にエッジAIチップを搭載する可能性があると考えています。

非常にプロセッサを集中的に使用する要件があるため、AIの計算はほとんどすべて、デバイスではなく、データセンター、エンタープライズコアアプライアンス、またはテレコムエッジプロセッサでリモートで実行されています。エッジAIチップはそれをすべて変えています。それらは物理的に小さく、比較的安価で、消費電力がはるかに少なく、発熱もはるかに少ないため、ハンドヘルドデバイスやロボットなどの非消費者向けデバイスに統合することができます。これらのデバイスがプロセッサを集中的に使用するAI計算をローカルで実行できるようにすることで、エッジAIチップは、大量のデータをリモートロケーションに送信する必要性を削減または排除します。これにより、使いやすさ、速度、データのセキュリティとプライバシーにメリットがもたらされます。

プライバシーとセキュリティの観点から、デバイスでの処理を維持する方が優れています。電話から離れることのない個人情報は、傍受されたり悪用されたりすることはありません。また、エッジAIチップが電話に搭載されている場合、ネットワークに接続されていなくても、これらすべてのことを実行できます。

もちろん、すべてのAI計算をローカルで実行する必要はありません。一部のアプリケーションでは、リモートAIアレイによって処理されるデータを送信することが適切であるか、または好ましい場合があります。たとえば、デバイスのエッジAIチップが処理するにはデータが多すぎる場合などです。実際、ほとんどの場合、AIはハイブリッド方式で実行されます。一部はデバイス上にあり、一部はクラウド内にあります。特定の状況で推奨される組み合わせは、実行する必要のあるAI処理の種類によって異なります。

図1：インテリジェンスを埋め込むことができる場所（画像：Deloitte Insights）

スマートフォンにおけるエッジAIの経済性

エッジAIチップを使用するデバイスはスマートフォンだけではありません。他のデバイスカテゴリ（タブレット、ウェアラブル、スマートスピーカー）にもそれらが含まれています。短期的には、これらの非スマートフォンデバイスは、市場が成長していないため（タブレットの場合）、または小さすぎて重要な違いを生むことができないため、スマートフォンよりもエッジAIチップの売上への影響がはるかに少ない可能性があります（たとえば、スマートスピーカーとウェアラブルを合わせた2020年の販売台数はわずか1億2500万台と見込まれています。ただし、多くのウェアラブルやスマートスピーカーはエッジAIチップに依存しているため、普及率はすでに高くなっています。

図2：エッジAIチップ市場（画像：Deloitte Insights）

現在、最も高価なスマートフォン（価格分布の上位3分の1にあるスマートフォン）のみがエッジAIチップを使用する可能性があります。 AIチップをスマートフォンに搭載することは、消費者にとって法外な価格である必要はありません。

スマートフォンのエッジAIチップのかなり健全な見積もりに到達することは可能です。現在まで、Samsung、Apple、Huaweiの電話プロセッサの画像は、すべての機能が表示された裸のシリコンダイを示しており、チップのどの部分がどの機能に使用されているかを識別できます。 SamsungのExynos9820のチップのダイショットは、チップの総面積の約5％がAIプロセッサ専用であることを示しています。 SoCアプリケーションプロセッサ全体に対するSamsungのコストは70.50ドルと見積もられています。これは、電話の（ディスプレイに次ぐ）2番目に高価なコンポーネントであり、デバイスの部品表全体の約17％に相当します。 AI部分のコストがダイエリアベースで他のコンポーネントと同じであると仮定すると、ExynosのエッジAIニューラルプロセッシングユニット（NPU）は、チップの総コストの約5％に相当します。これは、それぞれ約3.50ドルに相当します。

図3：SamsungのExynos 9820のチップのダイショットは、チップの総面積の約5％がAIプロセッサ専用であることを示しています。 （画像：ChipRebel、注釈：AnandTech）

同様に、AppleのA12 Bionicチップは、ダイ領域の約7％を機械学習に使用しています。プロセッサ全体で推定72ドルであるため、これはエッジAI部分のコストが5.10ドルであることを示しています。 Huawei Kirin 970チップは、メーカーのコストが52.50ドルと見積もられており、ダイの2.1％をNPUに割り当てており、1.10ドルのコストを示唆しています。 （ただし、チップの総コストの何パーセントがAIに向かうかを測定する方法は、ダイエリアだけではありません。Huaweiによると、Kirin 970のNPUには1億5000万個のトランジスタがあり、チップの合計55億個のトランジスタの2.7％に相当します。わずかに高いNPUコスト1.42ドルを提案します。

図4：AppleのA12 Bionicチップは、ダイ領域の約7％を機械学習に使用しています。 （画像：TechInsights / AnandTech）

このコスト範囲は広いですが、NPUのコストはチップあたり平均3.50ドルであると想定するのが妥当かもしれません。 5億台のスマートフォン（タブレット、スピーカー、ウェアラブルは言うまでもなく）を掛けると、チップあたりの価格が低いにもかかわらず、大きな市場になります。さらに重要なことに、メーカーの平均コストは3.50ドル、おそらく最低でも1ドルで、スマートフォンの処理チップに専用のエッジAINPUを追加するのは簡単なことのように見え始めます。通常のマークアップを想定すると、製造コストに1ドルを追加すると、エンドカスタマーにとってはわずか2ドル多くなります。つまり、NPUとそれに付随するメリット（より優れたカメラ、オフライン音声支援など）は、1％未満の値上げで250ドルのスマートフォンにも組み込むことができます。

AIチップの調達：社内またはサードパーティ？

スマートフォンやその他のデバイスタイプを製造する企業は、エッジAIチップを取得するためにさまざまなアプローチを取り、その決定は電話モデルや（場合によっては）地理的条件などの要因に基づいて行われます。アプリケーションプロセッサ/モデムチップを製造して電話メーカーに販売することを専門とするサードパーティ企業から購入するものもありますが、独自の電話は製造していません。 QualcommとMediaTekは2つの顕著な例です。これら2つの企業を合わせると、2018年にスマートフォンSoCチップ市場の約60％を獲得しました。

QualcommとMediaTekはどちらも、さまざまなSoCをさまざまな価格で提供しています。すべてにエッジAIチップが含まれているわけではありませんが、ハイエンド製品（QualcommのSnapdragon 845および855、MediaTekのHelio P60など）には通常含まれています。規模の反対側では、Appleは外部APチップをまったく使用していません。Appleは、エッジAIを備えたA11、A12、A13Bionicチップなどの独自のSoCプロセッサを設計および使用しています。

SamsungやHuaweiなどの他のデバイスメーカーは、ハイブリッド戦略を使用して、マーチャントマーケットのシリコンサプライヤから一部のSoCを購入し、残りの部分には独自のチップ（SamsungのExynos9820やHuaweiのKirin970 / 980など）を使用しています。

企業および産業でエッジAIを争う50を超えるAIアクセラレータ企業

スマートフォンやその他のデバイスで使用されているエッジAIプロセッサが非常に優れている場合は、エンタープライズアプリケーションにも使用してみませんか？実際、これは、一部の自律型ドローンなど、一部のユースケースですでに発生しています。スマートフォンのSoCアプリケーションプロセッサを搭載したドローンは、ネットワーク接続がまったくなくても、リアルタイムで完全にデバイス上でナビゲーションと障害物回避を実行できます。

ただし、スマートフォンまたはタブレット用に最適化されたチップは、多くのエンタープライズまたは産業用アプリケーションにとって正しい選択ではありません。前述のように、スマートフォンSoCのエッジAI部分は、総面積の約5％、総コストの約3.50ドルであり、SoC全体よりも約95％少ない電力を使用します。誰かがのみのチップを作成した場合はどうなりますか エッジAI部分（メモリなどの他のいくつかの必要な機能とともに）は、コストが低く、消費電力が少なく、小さかったですか？

まあ、彼らは持っています。全部で50社もの企業がさまざまな種類のAIアクセラレーターに取り組んでいると言われています。 2019年に利用可能なスタンドアロンのエッジAIチップは、開発者を対象としており、開発者は一度に1つずつ約80ドルで購入します。数千または数百万のボリュームでは、これらのチップはデバイスメーカーの購入コストがはるかに低くなる可能性があります。1ドル（またはそれ以下）の場合もあれば、数十ドルの場合もあります。今のところ、スマートフォンのエッジAIチップをプロキシとして使用して、平均コストを約3.50ドルと想定しています。

比較的安価であることに加えて、スタンドアロンエッジAIプロセッサには小さいという利点があります。また、それらは比較的低電力であり、1〜10ワットを消費します。比較のために、16個のGPUと2個のCPUを備えたデータセンタークラスター（非常に強力なクラスターですが）のコストは400,000ドル、重量は350ポンド、消費電力は10,000ワットです。

このようなチップが機能することで、エッジAIは、特にIoTアプリケーションに関して、企業に多くの新しい可能性を開くことができます。エッジAIチップを使用すると、企業は、接続されたデバイスからデータを収集するだけでなく、分析してこの分析をアクションに変換する能力を大幅に向上させると同時に、大量のデータをクラウドに送信することによるコスト、複雑さ、セキュリティの課題を回避できます。 AIチップが対処するのに役立つ問題は次のとおりです。

データのセキュリティとプライバシー。 データの収集、保存、およびクラウドへの移動は、企業がデータ保護に警戒している場合でも、必然的に組織をサイバーセキュリティとプライバシーの脅威にさらします。この非常に重要なリスクは、時間が経つにつれて対処することがさらに重要になります。個人を特定できる情報に関する規制が管轄区域全体で出現しており、消費者は企業が収集するデータをより認識し始めており、その80％は、企業が消費者のプライバシーを保護するためにできる限りのことをしているとは感じていないと述べています。スマートスピーカーなどの一部のデバイスは、患者のプライバシーがさらに厳しく規制されている病院などの環境で使用され始めています。

エッジAIチップは、大量のデータをローカルで処理できるようにすることで、個人データや企業データが傍受されたり誤用されたりするリスクを減らすことができます。たとえば、機械学習処理を備えたセキュリティカメラは、ビデオを分析してビデオのどのセグメントが関連しているかを判断し、それらのみをクラウドに送信することで、プライバシーリスクを軽減できます。機械学習チップは、より広範囲の音声コマンドを認識できるため、クラウドで分析する必要のある音声が少なくなります。より正確な音声認識は、スマートスピーカーが「ウェイクワード」をより正確に検出し、無関係な会話を聞くのを防ぐのに役立つという追加のボーナスを提供できます。

接続性が低い。 データをクラウドで処理するには、デバイスを接続する必要があります。ただし、場合によっては、デバイスを接続することが実用的ではありません。例としてドローンを取り上げます。ドローンとの接続を維持することは、ドローンが動作する場所によっては難しい場合があり、接続自体とクラウドへのデータのアップロードの両方がバッテリーの寿命を縮める可能性があります。オーストラリアのニューサウスウェールズ州では、水泳者の安全を守るために機械学習パトロールビーチが組み込まれたドローンがあります。インターネットに接続していなくても、暴風雨に襲われたスイマーを特定したり、攻撃の前にサメやワニについてスイマーに警告したりできます。

（あまりにも）ビッグデータ。 IoTデバイスは大量のデータを生成できます。たとえば、エアバスA-350ジェットには、6,000を超えるセンサーがあり、飛行する毎日2.5テラバイトのデータを生成します。世界的に、セキュリティカメラは1日あたり約2,500ペタバイトのデータを作成します。このすべてのデータをストレージと分析のためにクラウドに送信することは、コストがかかり複雑です。センサーであれカメラであれ、機械学習プロセッサをエンドポイントに配置すると、この問題を解決できます。たとえば、カメラには、デジタル画像の分析または前処理に特化した低電力SoCプロセッサであるビジョンプロセッシングユニット（VPU）を搭載できます。エッジAIチップが組み込まれているため、デバイスはデータをリアルタイムで分析し、クラウドでのさらなる分析に関連するものだけを送信し、残りを「忘れて」、ストレージと帯域幅のコストを削減できます。

電力の制約。 低電力の機械学習チップを使用すると、小さなバッテリーを搭載したデバイスでも、過度の電力消費なしにAI計算を実行できます。たとえば、アームチップは、吸入肺活量や肺への薬の流れなどのデータを分析するために呼吸器吸入器に埋め込まれています。 AI分析は吸入器で実行され、結果はスマートフォンアプリに送信され、医療専門家が喘息患者の個別ケアを開発するのに役立ちます。現在利用可能な低電力エッジAINPUに加えて、企業は「小さな機械学習」の開発に取り組んでいます。これは、マイクロコントローラーユニットと同じくらい小さいデバイスでのディープラーニングです。たとえば、Googleは、マイクロコントローラーがデータを分析できるようにするバージョンのTensorFlow Liteを開発しており、オフチップで送信する必要があるものを数バイトに凝縮しています。

低レイテンシの要件。 有線ネットワークでも無線ネットワークでも、リモートデータセンターでAI計算を実行すると、最良の場合は少なくとも1〜2ミリ秒、最悪の場合は数十ミリ秒または数百ミリ秒のラウンドトリップ遅延が発生します。エッジAIチップを使用してデバイス上でAIを実行すると、それがナノ秒に短縮されます。これは、デバイスが事実上瞬時にデータを収集、処理、処理する必要がある用途にとって重要です。たとえば、自動運転車は、コンピュータビジョンシステムから大量のデータを収集して処理し、オブジェクトを識別したり、車両の機能を制御するセンサーからデータを処理したりする必要があります。次に、安全に操作するために、このデータをすぐに決定に変換する必要があります。これを行うには、自動運転車は、車両自体で収集したデータの多くを処理する必要があります。ロボットにとって低遅延も重要であり、ロボットが工場出荷時の設定から出てきて人と一緒に作業するようになるにつれて、待ち時間はさらに長くなります。

結論：エッジAIはデータ量の多いアプリケーションに不可欠です

エッジAIチップの普及は、消費者と企業の両方に大きな変化をもたらす可能性があります。消費者にとって、エッジAIチップは、電話のロックを解除することから、音声アシスタントと会話すること、非常に困難な条件下で、インターネット接続を必要とせずに驚異的な写真を撮ることまで、さまざまな機能を可能にします。

しかし、長期的には、エッジAIチップのより大きな影響は、企業での使用からもたらされる可能性があります。これにより、企業はIoTアプリケーションをまったく新しいレベルに引き上げることができます。 AIチップを搭載したスマートマシンは、既存の市場を拡大し、既存企業を脅かし、製造、建設、ロジスティクス、農業、エネルギーなどの業界で利益を分配する方法を変えるのに役立つ可能性があります。膨大な量のデータを収集、解釈、および即座に処理する機能は、未来派が普及していると見なしているデータ量の多いアプリケーションの多くにとって重要です。ビデオモニタリング、バーチャルリアリティ、自律型ドローンや車両などです。その将来は、主に、AIチップがどのエッジを可能にするかにかかっています。つまり、デバイスにインテリジェンスをもたらすことです。

DuncanStewartとJeffLoucksは、デロイトのテクノロジー、メディア、テレコミュニケーションセンターに所属しています。この記事は、デロイトがTMT Predictions2020レポートのために最初に公開した記事に基づいています。