ドメイン特化アクセラレータをRISC-Vに統合：AI、AR/VR、ビジョンワークロード向け

RISC-Vエコシステムが最初に登場したとき、主な焦点は、以前は専有CPU命令セットアーキテクチャ（ISA）に依存していたディープリーエンベデッドシステムのコスト削減でした。SoCがFinFETプロセスに移行するにつれ、高いマスクコストが多くの設計者を、RISC-V ISA上に構築されたプログラマブルマイクロシーケンサで有限状態マシンを置き換える方向に押しやりました。このシフトが初期の熱狂を生み、2014年から2018年にかけて軽量RISC-Vコアのコモディティ化をもたらしました。

アーキテクチャが成熟するにつれ、RISC-Vはリアルタイム、高性能アプリケーション、特にAI、AR/VR、コンピュータビジョン向けの高度に特化した加速エンジンへのフロントエンドとして注目を集めました。RISC-Vのオープンな性質により、設計者はISAを拡張でき、プロセッサが従来のメモリマップドI/Oではなく、低レイテンシコプロセッサインターフェースを通じてアクセラレータと通信できるようになります。

RISC-Vベクトル拡張は、これらのアクセラレータがカーネル内ループの中間レイヤーを処理することをさらに強化しました。しかし、これを実現するには、外部アクセラレータから内部ベクトルレジスタへデータを転送するカスタムロード命令など、目的別の拡張が必要でした。

これらのアプリケーションは、効率と柔軟性のバランスを取ったプログラミングモデルを要求します。ドメイン特化アクセラレータ（本質的に大規模な乗算器アレイ）は非常に効率的ですが、実行可能な演算とデータ移動能力に制限があります。対照的に、x86のような汎用CPUは最大の柔軟性を提供しますが、ほとんどの設計では100Wを超える電力予算を賄えません。

標準ベクトル拡張に特化カスタム命令を拡張したRISC-Vは、アクセラレータの理想的なパートナーとなる (画像: Andes Technology)

最適なソリューションは、汎用CPUの柔軟性とタスク特化型アクセラレータを融合させることです。RISC-Vでは、成熟しつつある標準ベクトル拡張に、調整されたカスタム命令を拡張したものが完璧なパートナーとなります。このシナジーは過去18か月で明らかになり、ドメイン特化加速（DSA）ソリューションがRISC-Vプラットフォームに収束しています。

このビジョンを実現するには、アクセラレータが専用リソース（メモリを含む）を使用して独自の命令セットを実行する必要があります。RISC-Vコアはマイクロコードをフラット化し、必要なすべての制御情報を単一のコマンドにパックする必要があります。このコマンドセットは、プロセッサのスカラおよびベクトルレジスタ、アクセラレータ独自の制御レジスタとメモリを認識している必要があります。

アクセラレータが特殊なデータ並べ替えや操作の支援を必要とするとき、Andesのアーキテクチャはベクトル処理ユニット（VPU）を採用し、シフト、ギャザー、圧縮、展開などの複雑な置換を処理します。レイヤー間では、カーネルはしばしば複雑なデータパターンを含み、VPUが必要な柔軟性を提供します。アクセラレータとVPUの両方が大規模並列計算を実行するため、Andesはプリフェッチ、ノンブロッキングトランザクション、アウトオブオーダーリターンによりメモリサブシステム帯域幅を向上させるハードウェアを導入し、計算需要に対応しています。

Andes Technologyの最初のRISC-Vベクトルプロセッサ、NX27Vは最新のV拡張0.8仕様を実装しています。8、16、32ビット整数演算、16および32ビット浮動小数点演算、Bfloat16、Int4フォーマットをサポートし、機械学習ウェイトのストレージと転送帯域幅を削減します。ベクトル仕様の柔軟性により、設計者はベクトル長、レジスタあたりビット数、SIMD幅、サイクルあたり処理ビット数などの主要パラメータを設定できます。

NX27Vは512ビットのベクトル長を提供し、最大8つのベクトルレジスタを連鎖させることで4096ビットまで拡張可能です。複数の機能ユニットが並列パイプラインで動作し、多様なワークロードに必要なスループットを維持します。512ビット構成では、ワーストケース条件下で7nmプロセスにおいて1 GHzに達し、わずか0.3 mm²の面積を占有します。ソフトウェア開発のため、Andesはコンパイラ、デバッガ、ベクトルライブラリ、サイクルシミュレータ、クリティカルループを分析・最適化するClarityビジュアライゼーションツールを提供します。このソリューションはすでに早期アクセスプログラムで利用可能です。

過去15か月間、強力なRISC-Vベクトル拡張、高帯域幅メモリサブシステム、CPUに近接配置されたアクセラレータを組み合わせた高性能コンピューティングへの需要が急増しました。このトレンドは、RISC-Vとベクトル処理の業界全体へのより広範な採用を促進することになります。

>> この記事は元々姉妹サイトEE Timesで公開されました。