エッジAIプラットフォームは、パフォーマンスと効率でGPU / CPUを上回ります

エッジAIアプリケーション向けの人工知能（AI）コンピューティングハードウェアとソフトウェアのブレークスルーと呼ばれるものを提供し、レガシーGPU / CPUの制限を克服する、Blaizeは、「コードフリー」エッジAI開発を可能にする新しい組み込みおよびアクセラレータプラットフォーム、PathfinderおよびXplorerを発表しました。

プラットフォームは、Blaizeグラフストリーミングプロセッサ（GSP）アーキテクチャ上に構築されています。同社によれば、7Wの電力エンベロープ内に16個のGSPコアと16TOPSのAI推論パフォーマンスを備えているため、GSPはエッジAIアプリケーションのGPU / CPUと比較して最大60倍優れたシステムレベルの効率を実現できます。また、メモリ帯域幅を50分の1に、レイテンシを10分の1に短縮できます。 Blaize GSPは、100％プログラム可能なプロセッサであり、マルチスレッドやストリーミングなどの高度な機能を備えています。

Blaizeは、PathfinderとXplorerの早期アクセスの顧客は、産業、自動車、スマート小売、メトロ、および工場のアプリケーション全体で、これまで実現不可能だったリアルタイムAIエッジスマートビジョンのユースケースの実稼働展開を検討していると述べました。同社の共同創設者兼CEOであるDinakarMunagalaは、次のように述べています。「今日のエッジソリューションは、負荷を計算するには小さすぎるか、コストがかかりすぎて製品化が困難です。 Blaize AIエッジコンピューティング製品は、これらの電力、複雑さ、およびコストの制限を克服して、エッジでのAIの採用を解き放ち、データセンターからエッジへのAIコンピューティングの移行を促進します。」 AI機能が多くの新製品の要件になるにつれて、エッジAI市場は急速に成長すると予想されます。 Omdia Researchは、2025年にAIチップセットの収益が510億ドルに達すると予測しています。

Blaizeの2つの新製品は、Pathfinder P1600、組み込みシステムオンモジュール（SOM）、およびXplorerアクセラレータプラットフォームです。 Blaize氏によると、P1600は、センサーエッジまたはネットワークエッジにデプロイされた組み込みエッジAIアプリケーションに、GSPのプログラム可能性と効率性のメリットをもたらします。 P1600にはホストプロセッサは必要ないため、「プラグインして実行」するだけです。

Xplorerプラットフォームは、ホストサーバーまたはアプライアンスのPCIeスロットへのプラグインを介して、企業のエッジでAIアプリケーションを高速化します。 X1600Eは、コンビニエンスストアや工業用地などの小規模で電力に制約のある環境向けのスモールフォームファクタアクセラレータプラットフォームです。産業用PCのAIアプリを高速化するために、または小さな1Uサーバーのカードのラックとして簡単に追加できます。または、X1600Pがあります。これは、ハーフハイト、ハーフ幅のフォームファクタの標準PCIeベースのアクセラレータです。 X1600Pは、エッジサーバーの電力を大量に消費するデスクトップGPUに取って代わり、非常に低い電力エンベロープ内で16〜64TOPSのAI推論パフォーマンスを提供できます。

Blaize AIソフトウェアスイートは、アクセシビリティが容易なオープンスタンダードに基づいて構築されています。つまり、製品開発者は独自の開発環境に縛られることはありません。 Picassoソフトウェア開発キット（SDK）と完全にコードフリーのビジュアルインターフェイスであるAI Studioで構成されるこのソフトウェアスイートは、従来の開発者と非コーダードメインの専門家の両方にツールを提供します。さらに、両方のツールセットは、エッジ対応アルゴリズムを備えたBlaizeシステムであるBlaize Netdeployを利用して、エッジ展開で最高の精度とパフォーマンスを実現します。

概念実証のお客様

Blaizeは、システムを使用してエッジでAIを有効にする、多数の概念実証（POC）の顧客がいると述べました。アプリケーションは次のとおりです。

• 産業用：50FPSで5つの独立したニューラルネットワークを実行し、100ミリ秒未満の総遅延で、人間とロボットのポーズの検出と位置、製品IDとカウント、および製品品質を監視します。
• スマートシティ：50FPSで動作する3つの独立したニューラルネットワークが、人間の検出、ポーズ、位置、自動検出、交差点の安全とセキュリティを監視します。
• センサーフュージョン：BlaizeGSPで完全なグラフネイティブアプリケーションとして実行される高解像度FHDビデオとLIDAR /レーダーセンサーフュージョン。
• ラストマイル配信：30FPSとLIDAR /レーダーでのHDカメラのセンサーフュージョン。レイテンシは100ミリ秒未満、電力は15W未満です。
• 小売：店舗の安全とセキュリティ、および製品の検出のために、人間の検出、位置、マスク、盗難を監視する50FPSで実行される4つの独立したニューラルネットワーク。

両方の製品ラインの顧客サンプルが現在入手可能であり、今年から完全な生産が予定されています。 Blaize Xplorer X1600Eは299ドルのボリュームで、Pathfinder P1600 SOMは399ドルのボリュームで、XplorerX1600Pは999ドルのボリュームで入手できます。