MipsologyのZebra、GPU AIコードをワンコマンドでFPGAアクセラレーターに変換

先進的なAIソフトウェア スタートアップのMipsologyは、Xilinxと提携し、FPGAのAIワークロードへの潜在能力を最大限に引き出しました。彼らの「ゼロエフォート」ソリューション「Zebra」は、既存のGPUコードを変換し、MipsologyのカスタムAIコンピュート エンジン上でFPGAで実行可能にします。コード変更や再トレーニングは不要です。

今日、Xilinxは最新ビルドのAlveo U50データセンター アクセラレーター カードにZebraを同梱して出荷し、GPUからFPGAへのシームレスな変換をデバイスに標準搭載しました。Zebraは、Alveo U200とAlveo U250を含む他のXilinxボードでも推論を高速化しています。

XilinxのAlveo U50データセンター アクセラレーター カードの最新ビルドにMipsologyのZebraソフトウェアが同梱され、GPU AIコードをFPGAで実行可能に（画像：Xilinx）

「Zebraが我々のAlveoカードで提供する加速は、CPUとGPUを凌駕します」とXilinxのマーケティング担当バイス プレジデント、Ramine Roane氏は述べています。「Zebraにより、Alveo U50はAIワークロードの柔軟性、パフォーマンス、高スループット、低レイテンシの要求を満たし、あらゆる展開にとって魅力的な選択肢となります。」

プラグアンドプレイFPGA

歴史的に、FPGAは特に非専門家にとってプログラミングが複雑と見なされてきました。Mipsologyのビジョンは、FPGAをCPUやGPUと同様にシンプルに使用できるプラグアンドプレイ プラットフォームにすることです。目標は、ユーザーが従来のアクセラレーターからFPGAへ、コード1行で切り替えられるようにすることです。

「Mipsologyは本質的にFPGAのCUDAです」とCEOのLudovic Larzul氏はEE Timesのインタビューで語っています。「AIユーザーがモデルに集中できるよう、FPGAを抽象化するソフトウェアを提供します。」

重要なのは、この移行が非専門家でも達成可能だということです。深いAI専門知識やFPGA知識は不要で、モデルの再トレーニングも必要ありません。

「使いやすさが最優先です。多くのAIプロジェクトは、社内にAIやFPGAの専門家を持たないチームによって管理されています」とLarzul氏は説明します。「彼らはニューラル ネットワークを別の場所で開発し、モデルが一度訓練されると、再設計なしで展開したいと考えています。」

Zebraのスタック。データセンター、エッジ、組み込みユースケースに対応（画像：Mipsology）

なぜVitisではないのか？

Xilinxはすでに、FPGAをデータ サイエンティストと開発者にもたらす包括的なツールチェーンであるVitisを提供しています。なぜサードパーティと提携するのか？Larzul氏は答えはシンプルだと言います：パフォーマンスとシンプルさ。

「我々はより良くやっています。そして正しくやっています」と同氏は述べています。

MipsologyのZebraは、Vitis、XDNN、Xilinxのニューラル ネットワーク アクセラレーター エンジンとは完全に独立しています。代わりに、顧客の既存の畳み込みニューラル ネットワーク（CNN）モデルをネイティブにサポートする専用コンピュート エンジン上で動作します。対照的に、XDNNはカスタム ネットワークにはあまり適しておらず、統合が煩雑になりがちです。

「FPGAがGPUと正面から対決できるよう位置づけており、パフォーマンス、コスト、使いやすさで匹敵します」とLarzul氏は付け加えています。

Zebraのスタック詳細。ハードウェアの複雑さを隠蔽し、FPGAをGPUやCPUからのシームレスな切り替えに（画像：Mipsology）

コストは多くの顧客にとって主要なドライバーです。「ネットワークを再設計せずにハードウェア コストを下げたい」とLarzul氏は言います。「再トレーニングとネットワーク変更を排除することで、非経常的エンジニアリング コストを削減します。」

FPGAは優れた信頼性も提供します。GPUより少ないシリコン面積を消費し、より低い温度で動作するため、長期的なメンテナンス コストが低減されます。これはデータセンター オペレーターにとって重要な考慮事項です。

「総所有コストにはボード価格以上のものが含まれます」とLarzul氏は強調します。「システムを運用し続けるコストも含まれます。」

Zebraはパフォーマンス ギャップを埋めるように設計されています。FPGAは通常、他のアクセラレーターより少ないTOPS（テラ演算/秒）を提供しますが、Zebraのコンピュート エンジンは効率を最大化します。「我々のFPGAは、6倍のTOPSを持つGPUよりも多くの画像を1秒あたり処理できます」とLarzul氏は主張します。

どのように達成されるか？具体的な詳細は独自情報ですが、Larzul氏はZebraが枝刈り（再トレーニングなしでは精度を低下させる）を避け、8ビット未満の極端な量子化を避けることでモデル忠実度を保持すると指摘しています。

CNN（画像およびビデオタスクで優勢）以外にも、ZebraはGoogleのNLPモデルであるBERTをサポートします。これは基盤となる数学的構造を共有しています。将来のリリースではLSTMとRNNアーキテクチャをターゲットにする可能性がありますが、これらは追加の課題を提示します。

Zebraの背後にあるチーム

2015年設立のMipsologyは、フランスに約30人のR&Dエンジニアを擁し、カリフォルニアにリーンなビジネス開発チームを置いています。同社は700万ドルを調達しており、2019年にフランス政府のイノベーション コンペティションで200万ドルの賞金を獲得しています。

Mipsologyのコア人材は、2012年にSynopsysによってZeBu検証製品で買収されたASICエミュレーター企業EVEから来ています。EVEの技術（数千の相互接続されたFPGAを活用してASICの動作を複製）は、世界中の主要ASICベンダーで使用されてきました。

12件の特許出願中で、MipsologyはXilinxと緊密に協力し、Western Digitalのスモールフォームファクタ（SFF U.2）やAdvantechのVega-4001などのサードパーティ アクセラレーター カードとの互換性を維持しています。

>> この記事は元々、姉妹サイトEE Timesで公開されました。