NVIDIAとVMwareが提携、GPU仮想化でAIコスト効率を加速

GPUの利用率を高めることで、AIアプリケーションの構築と導入コストを大幅に削減できます。

VMworld 2019会議において、NVIDIAとVMwareは共同で、VMware仮想マシンをGPU（グラフィックプロセッサ）上で展開可能にすると発表しました。

このイニシアチブの一環として、NVIDIAは同社の仮想GPU（vGPU）ソフトウェアを、既存のクライアントシステムサポートに加え、サーバ上の仮想マシンでも展開可能にしました。NVIDIA Virtual Compute Server（vComputeServer）ソフトウェアも、VMware vSphereプラットフォームのサポートを追加して拡張されます。またNVIDIAは、AIアプリケーション構築ツールへのアクセスハブをVMwareプラットフォームで利用可能にすることを約束しました。

関連記事： What are the 3 Key Components of Artificial Intelligence Readiness?

これらのNVIDIAテクノロジーを用いて、VMwareは、NVIDIA T4 GPUでvComputeServerソフトウェアを実行し、VMware Cloud on AWS上でAmazon EC2ベアメタルインスタンスを高速化するクラウドサービスを提供すると表明しました。

これらの進歩は、GPU利用率の改善に大きな意味を持つだけでなく、データサイエンティストが、オンプレミスまたはクラウド上のVMwareサーバで実行されるGPU上に複数のワークロードを集約できるようにするものだと、NVIDIA Grid担当バイスプレジデントのJohn Fanelli氏は述べています。

GPUを用いたAIアプリケーション構築への関心は非常に高まっていますが、それらの構築コストはしばしば法外でした。仮想マシンがない場合、各GPUはこれまで1つのワークロードを実行するために専有されてきました。GPU利用率を高めることで、AIアプリケーションの構築と導入コストを大幅に削減できるとFanelli氏は語ります。

これは重要です。なぜなら、これらのコストが、人間の存在のほぼすべての側面を変革する可能性を持つAIアプリケーションへの投資を、組織から遠ざけてきたからです。

「AIは私たちの時代で最も強力なテクノロジーです」とFanelli氏は言います。

しかし、仮想マシン上で実行されるこれらのAIワークロードのパフォーマンスは、それぞれの属性によって異なるとFanelli氏は指摘します。多くの開発者は、NVIDIA CUDAツールキットを活用してAIワークロードを並列実行することで、パフォーマンス問題を補完できると同氏は付け加えました。

AIアプリケーションを効率的に構築・導入することがより安価になるにつれ、今後数ヶ月で立ち上げられるAIプロジェクトの数は増加するはずです。そのプロセスを加速するため、VMwareはまた、VMware HCXツールを使用して、ローカルデータセンターのGPUインスタンスからクラウドへワークロードを移行し、プラットフォーム間の仮想マシン移動を自動化し、データ転送を高速化できると述べました。

クラウドでアクセスされるGPUは、メモリとI/Oオーバーヘッドを効率的に管理するため、AIモデルのトレーニングに最適なプラットフォームとなっています。しかしNVIDIAは、x86サーバに代わってGPUで推論エンジンを実行することも提唱してきました（成功はまちまちでしたが）。サーバ仮想マシンのサポートをソフトウェアに追加することで、x86プラットフォームで推論エンジンが展開されるのとほぼ同じように、同じGPUプラットフォーム上で複数の推論エンジンを実行することが、はるかに現実的になります。

もちろん、追加のインフラストラクチャリソースへのアクセスが、AIの成功を必ずしも保証するわけではありません。しかし、それらのリソースは、AI開発プロセスにおける「間違いのコスト」を削減する上で、非常に大きな役割を果たします。