Neoclouds解説：AIにGPU特化クラウドコンピューティングが必要な理由

AIワークロードは、事実上あらゆる業界で主流になりつつあります。しかし、AI需要が増大するにつれ、インフラへの負荷も増しています。残念ながら、ハイパフォーマンスコンピュートへのアクセスのための従来の選択肢は不十分であり、企業は代替手段を模索しています。一部はNeoclouds（ネオクラウド）へ目を向けています。これはGPU中心の提供を核とする新しいタイプのコンピュートサービスプロバイダーです。

これらの新プロバイダーは、コンピューティングの変化、すなわちAI向けGPUへの依存度増大というシフトにより注目を集めています。GPUはAI訓練と推論の並列処理ニーズに適していますが、悪名高いほど高価で供給不足です。ハイエンドGPUは数万ドルかかり、それが見つかるかどうかすら怪しいものです。調達サイクルは長く、リードタイムは予測不能で、エンタープライズITチームは需要を満たす十分なキャパシティを頻繁に確保できずに苦労しています。

AWS、Google Cloud、Azureといったハイパースケールクラウドプロバイダーは、GPUインスタンスとGPU-as-a-Serviceを提供することでこのギャップを埋めようとしてきました。多くの組織にとってこのモデルは機能しますが、ある地点までです。

クラウドベースのGPUインスタンスは柔軟性、拡張性、迅速なデプロイを提供します。しかし使用量が増えると、請求額も膨らみます。従量課金モデルは、大規模言語モデル（LLM）訓練、ファインチューニング、エンタープライズアプリケーション全体でのリアルタイム推論のような持続的ワークロードでは、スケール時に急速にコストプロヒビティブ（費用対効果が合わない）になります。

その結果、多くの組織は、岩（希少で高価なオンプレミスインフラ）と硬い場所（高いパブリッククラウドGPUコスト）の間で板挟みになっています。

Neocloudsの登場

この環境下で、新しいカテゴリのコンピュートプロバイダーが出現しています：ネオクラウドプロバイダー。ネオクラウドインフラプロバイダーは、ハイパフォーマンスコンピュートを、GPUを中心に、より手頃なレートで（少なくとも彼らの主張では）提供します。彼らは、型破りな起源、新しい経済モデル、異なるインフラ戦略を活用してこれを実現します。

例えば、一部のネオクラウドは暗号通貨マイニングにルーツを持ちます。過去10年の暗号通貨ブーム期、世界中の数千のマイナーが、マイニング運用に最適化されたGPUサーバーを備えたデータセンターを構築しました。暗号通貨市場が冷え込み、マイニングの採算が悪化すると、これらのオペレーターは大量のアイドルGPUキャパシティを抱えることになりました。このハードウェアを倉庫で減価償却させる代わりに、一部はAIワークロード向けに機器を再利用し、こうしてネオクラウドが誕生しました。

この分野の他のプレイヤーは、レガシークラウド運用のオーバーヘッドをバイパスし、価格性能比に最適化することで、ハイパースケーラーよりコスト効率の良い代替を提供する機会を見出した目的別スタートアップです。一部はオープンソースソフトウェアスタックを基盤とし、低コストデータセンターにコロケーションし、他は分散ネットワーク全体で余剰GPUキャパシティを集約し、企業がより低コストで利用できる一種の「GPUスポット市場」を形成しています。

Neocloudsモデルのメリット

法外なコストなしでAIコンピュートパワーを求める企業にとって、ネオクラウドプロバイダーはいくつかのメリットを提供すると主張しています：

• GPU時間あたりの低コスト：ネオクラウドは、同等のGPUインスタンスに対してハイパースケーラーの一部しか請求しないことが多い。彼らは、リーンな運用モデルとハードウェア再利用戦略が実質的な節約につながると主張。
• 専有アクセス：多くの場合、ネオクラウドプロバイダーはGPUへの専有ベアメタルアクセスを提供し、コンテンションを減らし、予測可能なパフォーマンスを確保。
• 迅速な可用性：柔軟な調達とプロビジョニングプロセスにより、ネオクラウドプロバイダーは従来のベンダーよりはるかに速くキャパシティを提供できると主張し、チームが遅延なしにAIモデルをイテレーション・デプロイできるよう支援。
• 分散化とレジリエンス：一部のネオクラウドは分散モデルで運営し、地理的に多様なデータセンターや独立オペレーターのネットワークからコンピュートを調達。
• サステナビリティ：特に暗号通貨業界からの既存ハードウェア再利用は、電子廃棄物を削減し、より持続可能なITプラクティスを促進。一部のネオクラウドは再生可能エネルギーで稼働する施設にコロケーションし、さらなるカーボンフットプリント削減を実現。

関連記事： GPU市場のシフト：暗号マイニング衰退の活用

GPU-as-a-Service、再考

その核心において、ネオクラウドはGPU-as-a-Serviceモデルの新たな解釈を表します。ネオクラウドプロバイダーと見なされる企業には、CoreWeave、Crusoe、Lambda Labs、Nebius、Vast.aiなどがあります。

彼らは、GPUをプロプライエタリサービスとバンドルすることより、大規模AIをより多くのビジネスにとって実行可能にする価格帯で、生のハイパフォーマンスコンピュートを提供することに関心があります。

手頃なGPUへのアクセスを民主化することで、ネオクラウドプロバイダーは、AIアプリケーションの構築やスケーリングを目指す企業の参入障壁を下げられると信じています。小さなスタートアップはシード資金を燃やさずにカスタムモデルを訓練できます。企業は、制御を譲渡せず、過度な支出もせずに、独自データでLLMをファインチューニングできます。研究機関は、予算制約に縛られることなくシミュレーションと実験を実行できます。

これらの利点にもかかわらず、ネオクラウドプロバイダーは、GPU-as-a-Serviceマーケットプレイスで当面の間、ハイパースケーラーと競合する可能性が高いです。この市場は2023年に32.3億ドルと評価され、2032年までに498.4億ドルへ成長し、36%の成長率を示すとFortune Business Insightsは予測しています（この推定にはハイパースケーラーとネオクラウドの両方が含まれます）。

最終考察

AIのコンピュート要件は増大し続けています。ネオクラウドプロバイダーは、これらのニーズを満たすことを目指す、新世代のAI特化型クラウドインフラプロバイダーです。彼らは、従来のハイパースケーラー（AWS、Azure、GCPなど）と、AI/MLワークロード向けの最適化されたGPU可用性、柔軟な価格設定、特化したパフォーマンスなど、その他の主要機能において差別化を図っています。