Neoclouds の説明:AI に GPU を中心としたクラウド コンピューティングが必要な理由

AI ワークロードは、ほぼすべての業界で主流になりつつあります。しかし、AI への需要が高まるにつれて、インフラストラクチャへの負担も増大します。残念ながら、ハイパフォーマンス コンピューティングにアクセスするための従来のオプションでは不十分であり、企業は代替手段を模索しています。一部の企業は、GPU 中心のサービスを中心とした新しいタイプのコンピューティング サービス プロバイダーである neocloud に注目しています。

これらの新しいプロバイダーは、コンピューティングの変化により関心を集めています。その特徴は、AI の GPU への依存度が高まっていることです。 GPU は AI のトレーニングと推論の並列処理のニーズを処理するのに適していますが、高価であり、供給が不足していることで有名です。ハイエンド GPU の価格は数万ドルにもなりますが、それは企業が GPU を見つけられた場合に限ります。調達サイクルは長く、リードタイムは予測不可能であり、企業の IT チームは需要を満たすのに十分な能力を獲得するのにしばしば苦労しています。

AWS、Google Cloud、Azure などのハイパースケール クラウド プロバイダーは、GPU インスタンスや GPU をサービスとして提供することでギャップを埋めようとしています。多くの組織では、このモデルは機能しますが、ある程度までしか機能しません。

クラウドベースの GPU インスタンスは、柔軟性、拡張性、迅速な導入を実現します。しかし、使用量が増えると、請求額も増加します。従量課金制モデルは、特に大規模言語モデル (LLM) トレーニング、微調整、エンタープライズ アプリケーション全体にわたるリアルタイム推論などの持続的なワークロードの場合、大規模になるとすぐに法外なコストがかかります。

その結果、多くの組織は、板挟み（不足して高価なオンプレミス インフラストラクチャ）と困難な場所（パブリック クラウドの GPU コストの高さ）の間で板挟みになっていると感じています。

ネオクラウドに参入

この環境では、ネオクラウド プロバイダーという新しいカテゴリのコンピューティング プロバイダーが登場しています。 Neocloud インフラストラクチャ プロバイダーは、GPU を中心とした高性能コンピューティングを、より手頃な料金で (少なくとも同社によれば) 提供します。彼らは、型破りな起源、新しい経済モデル、さまざまなインフラ戦略を活用することでこれを達成しています。

たとえば、一部のネオクラウドはそのルーツを暗号通貨マイニングに遡ります。過去 10 年間の暗号通貨ブームの間、世界中の何千人ものマイナーが、マイニング作業に最適化された GPU サーバーを備えたデータ センターを構築しました。暗号通貨市場が冷え込み、マイニングの収益性が低下するにつれて、これらの事業者は、大量の GPU の空き容量を抱えていることに気づきました。このハードウェアを倉庫で劣化させるのではなく、AI ワークロード用に機器を再利用したところ、ネオクラウドが誕生しました。

この分野に参加する他の企業は、価格パフォーマンスを最適化し、従来のクラウド運用のオーバーヘッドを回避することで、ハイパースケーラーに代わるより費用対効果の高い代替手段を提供する機会を捉えた、専用のスタートアップ企業です。オープンソース ソフトウェア スタック上に構築され、低コストのデータ センターに配置されているものもあります。分散型ネットワーク全体で余剰の GPU 容量を集約し、企業が低コストで利用できる一種の「GPU スポット市場」を形成する企業もいます。

Neoclouds モデルの利点

法外なコストをかけずに AI の計算能力を求める企業にとって、ネオクラウド プロバイダーは次のようないくつかのメリットを提供できると主張しています。

GPU 時間当たりのコストの削減 :Neocloud は、ハイパースケーラーが同等の GPU インスタンスに対して行う料金の数分の 1 の料金を請求することがよくあります。彼らは、無駄のない運用モデルとハードウェアの再利用戦略が実質的な節約につながると主張しています。

専用アクセス :多くの場合、ネオクラウド プロバイダは GPU への専用ベア メタル アクセスを提供し、競合を減らし、予測可能なパフォーマンスを保証します。

迅速な可用性 :ネオクラウド プロバイダーは、柔軟な調達およびプロビジョニング プロセスにより、多くの場合、従来のベンダーよりもはるかに速く容量を提供でき、チームが AI モデルを遅滞なく反復してデプロイできるようになると主張しています。

分散化と復元力 :一部のネオクラウドは分散モデルで動作し、地理的に分散したデータセンターや独立した事業者のネットワークからコンピューティングを調達します。

持続可能性 :既存のハードウェア、特に暗号通貨業界からのハードウェアを再利用することで、電子廃棄物が削減され、より持続可能な IT 実践が促進されます。一部のネオ クラウドは、再生可能エネルギーを利用した施設内に共存し、二酸化炭素排出量をさらに削減します。

こちらもご覧ください: GPU 市場の変化:仮想通貨マイニングの衰退を活用

サービスとしての GPU の再考

ネオクラウドはその中核として、GPU-as-a-Service モデルの新たな解釈を表しています。ネオクラウド プロバイダーとみなされる企業には、CoreWeave、Crusoe、Lambda Labs、Nebius、Vast.ai などが含まれます。

彼らは、GPU と独自のサービスをバンドルすることに重点を置いているわけではなく、大規模な AI をより多くの企業で実行できる価格帯で生の高性能コンピューティングを提供することに関心を持っています。

ネオクラウドプロバイダーは、手頃な価格の GPU へのアクセスを民主化することで、AI アプリケーションの構築または拡張を検討している企業の参入障壁を下げることができると考えています。小規模なスタートアップ企業は、シード資金を使い切ることなくカスタム モデルをトレーニングできます。企業は、制御を放棄したり過剰な支出をしたりすることなく、独自のデータに基づいて LLM を微調整できます。また、研究機関は予算の制約に制限されることなくシミュレーションや実験を実行できます。

これらの利点にもかかわらず、ネオクラウド プロバイダーは近い将来、GPU-as-a-Service 市場でハイパースケーラーと競合する可能性があります。 Fortune Business Insights によると、その市場は 2023 年に 32 億 3000 万ドルと評価され、2032 年までに 36% の成長率で 498 億 4000 万ドルに成長すると予測されています。 (この推定には、ハイパースケーラーとネオクラウドの両方が含まれます。)

最終的な考え

AI のコンピューティング要件は増加し続けています。 Neocloud プロバイダーは、これらのニーズを満たすことを目的とした、AI に重点を置いた新世代のクラウド インフラストラクチャ プロバイダーです。これらは、主要な機能の中でも特に、最適化された GPU の可用性、柔軟な価格設定、AI/ML ワークロードに特化したパフォーマンスに重点を置くことで、従来のハイパースケーラー (AWS、Azure、GCP など) との差別化を図っています。