AIチップが急上昇し、AIソフトウェアが脚光を浴びている

テクノロジー業界は人工知能の「ルネッサンス」を宣伝し続けていますが、主要なプレーヤーが社内ソリューションを構築し、AIソフトウェアに焦点を当てるにつれて、AIチップのスタートアップの数は頭打ちになり始めています。

テクノロジー業界は人工知能の「ルネッサンス」を宣伝し続けていますが、AIチップのスタートアップの数は頭打ちになっています。 AIの新興企業は、かつて有望な市場であったデータセンターへの参入障壁が高いことに気づいています。おそらく法外なほどです。彼らの問題は、Google、Amazon、Facebookなどのハイパースケーラーが特定のニーズに合った独自のAIプロセッサとアクセラレータを開発していることに起因しています。

明確にするために、機械学習（ML）は進歩し続けています。ニューラルネットワークのバリエーションが増えています。 AIはすべての電子システムに固有のものになりつつあります。

Arterisの最高執行責任者であるLaurentMollは、将来的には「誰もがSoCに何らかのAIを搭載している」と予測しています。 Arterisのビジネスは、ネットワークオンチップ（NoC）IPおよびIP開発ツールを提供することにより、企業（大小、または新旧）がSoCを統合するのを支援することであるため、これはArterisにとって朗報です。

AIチップのスタートアップにとって？それほど多くはありません。競争は厳しくなり、特定のAI設計に適した市場セグメントをクラックするという課題が複雑になっています。

EE Timesは来月、新興の電子機器と半導体の新興企業の年次リストである「シリコン100」（2021年版）を発表します。レポートの著者であるPeterClarkeは、20年間、半導体の新興企業を綿密に追跡してきました。彼は、GPUとAIに焦点を当てた専門のチップスタートアップの数は「前年と比較して横ばい」であると語っています。彼は次のように述べています。「業界は「ピークAI」の段階に到達した可能性があると感じています。」

つまり、AIチップスタートアップのサラダの時代は終わったかもしれません。

TiriasResearchの主任アナリストであるKevinKrewellは、AIチップスタートアップの買収が増えることを期待しています。 「結局のところ、IntelがNervanaを買収した後、AIスタートアップ資金の爆発的な増加が起こりました。 VCとエンジェルは、有利な出口戦略の可能性を見ました。」彼はさらに、「今日、業界が長期的にサポートできる数よりも多くの[AI]スタートアップが存在します。アナログまたはオプティカルを含む、よりエキゾチックなソリューションがさらにいくつか登場すると確信しています。 [しかし]最終的には、AI / ML機能はより大きなSoCまたはチップレット設計に組み込まれるでしょう。」

Laurent Moll

このような背景の中で、 EE Times 最近、Arterisの新しく任命された最高執行責任者と一緒に座りました。かつてArterisのCTOであったMollは、クアルコムで7年以上過ごし、最近ではモバイルチップの巨人のエンジニアリング担当副社長を務めていました。

AIチップの展望の変化とスタートアップの方向性についてMollに尋ねました。

ゴールドラッシュ

当然のことながら、モールはAIに対する業界のダッシュを、これまでに見た中で「最大のゴールドラッシュの1つ」と表現しました。しかし、これらの末日の49ersは、もはや単なる新興企業や中小企業ではありません。探鉱者には、「長い間シリコンを製造してきた企業や、[以前に]シリコンを製造していない多くの新しい人々が含まれている」とモール氏は述べた。誰もが「同じアリーナで遊んで」おり、誰もが「ナッツを割ろうとしている」のです。

開発者の基盤の拡大とアプリケーションの多様化はArterisの利点を生かしていますが、AIチップのスタートアップにとっては非常に異なる状況を描いています。彼らはもはや、同様に明るい新しいアイデアを持つ仲間のAIスタートアップとだけ競争することはありません。しかし今、彼らは大きな男の子にも反対しています。ハイパースケーラーと自動車OEMは、システムに独自のチップを使用できるようにAI開発に取り組んでいます。

まだ拡張段階です

Arteris’Moll氏は、AIチップ市場は「まだ拡大段階にあり」、「誰もがまだ探求している」と述べています。それにもかかわらず、彼はデータセンターの最前線で「少しの秩序」の出現を見ています。これは主に、ハイパースケーラーが独自のAIプロセッサとアクセラレータを開発することで運命をコントロールしているためです。

ハイパースケーラーと他のAIチップ設計者の違いは、1つの要因に要約されます。 「彼らはデータセットを所有しています」とMoll氏は述べています。ハイパースケーラーは他のユーザーとデータセットを共有していませんが、独自のソフトウェアスタックを開発しています。 「そして、彼らは自分たちのデータアクセスのためにはるかに最適化されたシリコンを作成できると感じています。」

一方、外部ベンダー（小規模なAIチップの新興企業）は、「SoCを構築する新しい方法、SRAMとDRAMを使用する新しい方法、光を使用するスタッキング、を開発しています」とMoll氏は述べています。 「シークレットソースを作成する方法はたくさんあります。これにより、市販のAIチップが現在実行できるよりもはるかに優れたAIを実行できるようになります。小さい人たちはゲームを変えています。彼らは他の人とは違うやり方で物事を行うことについて非常に賢いです。」

対照的に、ハイパースケーラーが追求するAIチップはそれほど革新的ではありません。ハイパースケーラーは、より伝統的なアプローチを使用する余裕があるとモール氏は述べた。良い例はGoogleのTPUです。 「それを見ると、アーキテクチャは素晴らしいですが、多くの点で革新的ではありません。」それにもかかわらず、「それはグーグルがやりたいことに対して非常にうまく機能します。ですから、それは彼らの目的を果たします。」

小規模なAIスタートアップのチップが非常に斬新である場合、ハイパースケーラーのデータセンターに侵入するべきではありませんか？

「いや、いや、いや」とモールは言った。 「データセンター市場で小規模企業が拡大したり、ハイパースケーラーが製品を購入したりする可能性はほとんどありません。」ただし、彼は、「ハイパースケーラーは、テクノロジーが有用であり、やりたいことに適用できることを確認したら、これらのスタートアップのいくつかを確実に購入するだろう」と述べました。

Mollは、ハイパースケーラーの一連の思考を次のように説明しました。私はある種のより中心的なアーキテクチャを行う方法を知っています。誰かがうまく機能する素晴らしいアイデアを持っている場合は、この一連の人々とIPを入手して、私たち自身の製品を改善しましょう。」

TiriasResearchのKrewellも同意しました。 「ハイパースケーラーに機械学習チップの使用を確約させるには、素晴らしいことをする必要があります。」たとえば、Cerebrasは、ウェーハサイズのチップで封筒を押したとKrewell氏は述べています。 「Nvidiaは、ユビキタスソフトウェアとスケーラビリティを備えているため、AI開発作業のデフォルトのプラットフォームです。」

エッジはどうですか？

AIチップの設計者にとって、データセンターと比較すると、「エッジはまったく別の話です」とMoll氏は述べています。エッジのエンドマーケットは用途が広く、はるかに幅広いソリューションが求められています。 「多くの人々は、AIをどこに適用し、どのように実装するかをまだ考えています」とMoll氏は述べています。

クリックしてフルサイズの画像を表示

2025年には、半導体の利用可能な市場全体の19％がAI / MLに関連します。（出典：Bernstein、Cisco、Gartner、IC Insights、IHS Markit、Machina Research、McKinsey Analysis — Arterisが編集）

TiriasResearchのKrewellは同意しました。 「エッジはまだ比較的未踏のエリアです。センサーとエッジデバイスにMLを追加する機会はまだあります。非常に低電力のアナログおよびインメモリデバイスは、MCUおよびAppプロセッサのアクセラレータと同様に有望です。エッジプロセッサでのINT4とINT2の推論には、多くの可能性があります。精度が高く、電力とメモリの要件がはるかに低くなっています。」

多様なアプリケーションはエキサイティングに聞こえますが、EdgeAIの誇大宣伝サイクルに巻き込まれる危険性があります。

Edge AIが流行語になったのは、Edgeが新しい市場であるためでも、特定の製品カテゴリを示すものでもありません。むしろ、定義の欠如が「エッジ」をキャッチオールに変え、スタートアップが自社製品を関連付けることができるようになりました。

幅広いエッジのアプリケーションの中で、モールは2つの異なる傾向を見ています。 1つは「何か他のことをするチップ内のAI」だと彼は述べた。 「それが爆発の場所です。」

組み込みシステムのこの市場は、「フォームファクター、電力、熱などが本当に重要な場所です」と彼は付け加えました。

スペクトルの反対側のもう1つの傾向は、「AIを実行するだけの巨大なチップ」であるとMoll氏は述べています。ただし、エッジでのビッグチップのアプリケーションはまだ進化しています。

「チップ内のAI」の最良の例は、おそらくスマートフォン用のアプリケーションプロセッサであり、Mollはよく知っています。 AIアクセラレータは、音声認識と視覚処理において重要な役割を果たしてきました。今日、AIは携帯電話の売り上げの大きな部分を占めています。その結果、「モバイルの現職者（Qualcommなど）には利点があります」とMoll氏は認めています。

自動車のAI

モールは、車両のAIはまったく別の話だと考えています。

彼は、AIを多用するコンピュータービジョンチップから、すべての重度の処理を行う大きなAIチップまで、さまざまなソリューションが存在すると述べました。車両がADASから自律型に移行するにつれて、Mollは、より大型のAIプロセッサがハイエンドの車両市場で重要な役割を果たすことを期待しています。

多くの場合、独自の小さなAIチップを装備している自動車の既存企業は、ADASに利点がありますが、自律市場では、かなり大きなAIチップを備えたAIチップのスタートアップに十分な余地があります。

しかし、ここにひねりがあります。

ハイパースケーラーを模倣した自動車OEMも垂直方向に進んでいます。テスラはすでに「フル自動運転」コンピューターと呼ばれる独自のチップを設計しています。数週間前、フォルクスワーゲンのCEOであるHerbert Diessはドイツの新聞に、同社は自動運転車用の独自の高性能チップと必要なソフトウェアを設計および開発する予定であると語った。

モールは、自動車メーカーが「これを非常に注意深く見ている」ことを確認しました。 ArterisはIP企業ですが、「スタック全体を理解し、車両のアーキテクチャを変更しようとしている「シリコンの大きな山」を制御したいので、自動車OEMから電話があります」 。

Recogni、Blaize、MythicなどのAIチップの新興企業は、自動車をターゲットとするエッジAI市場セグメントとして挙げています。自動車メーカーが最終的にどのようにそのようなチップを車両に実装するかはまだわかっていません。

Krewell氏は、次のように強調しています。分散機能には、モジュール性とリスクの軽減という利点がありますが、集中処理の複合体よりも構築と保守に費用がかかります。」

「もう1つの問題はデータです。センサーは大量のデータを送信します。エッジにインテリジェンスがあるとデータ転送が減少しますが、センサーの遅延が増加し、シャーシ内の電力が分散されるというトレードオフがあります。センサーでの軽量エッジ処理のバランスにより、過度の遅延を追加したり、過度の分散電力を必要としたりすることなく、中央処理装置の負荷を軽減できます。」

AIの戦いはチップからソフトウェアに移行します

Krewell氏は、次のように述べています。「AIの焦点がチップからソフトウェアに移行しているのがわかります。 ML機能を導入するには、優れたソフトウェアが必要です。また、より多くの組み込み設計エンジニアやプログラマーがMLにアクセスできるようにするには、MLをローコードにする必要があります。また、特定のアプリケーションのカスタムモデルの作成を自動化する必要があります。」

モールも同様の結論に達しました。クアルコムからアルテリスに戻ることにした理由を尋ねられた彼は、2つのポイントを挙げました。

まず、Arterisは、「IPベンダー間の狭い場所」というニッチでプレーしていました。しかし、そのニッチは現在、AIチップ設計者がチップ上に多くのネットワークを構築することによって「非常に大規模で複雑なSoCを組み立てる」ための支援を求める「重要なスペースの1つ」になっています。そこで、ArterisのNetwork on Chip（NOC）を利用して、問題を全体的に解決することができます。

第二に、ArterisIPは昨年Magillemを買収しました。 Mollは、Magillemが提供する「ソフトウェア層」を、非常に大規模で複雑なSoCを作成するためのもう1つの鍵と見なしています。 Qualcommでトップレベルのチップを提供するチームを担当してきた私は、「Arterisがマーケティング担当者としてではなく、ユーザーとして提供するものの価値を認識するようになりました。」

>>この記事は、もともと姉妹サイトEEで公開されました。タイムズ。