KubernetesがAIスタートアップに拡張可能なコンテナ化ソリューションを提供

Canonical（Ubuntuの開発元）のAIプロダクトマネージャー、Carmine Rimi氏が、AIとKubernetesの交差点について洞察を共有します。

スタンフォード大学の研究によると、2000年以降AIスタートアップは14倍に増加し、英国拠点のAI開発者は昨年だけでベンチャーキャピタル資金調達が200%急増しました。これらの数字は、信頼性と拡張性のあるAIインフラへの需要の高まりを裏付けています。

AIアプリケーションの構築は本質的に複雑です。開発者は、特徴抽出、データ収集検証、統計分析、リソースオーケストレーションを、MLコードを1行も書く前にこなさなければなりません。モデルを最新かつ安全に保つための継続的なメンテナンスも必要です。

コンテナ化せよ

これに対応して、業界はKubernetesに注目しています。Kubernetesは、AIと機械学習パイプラインを含むコンテナ化ワークロードのデプロイと管理を自動化する、無料のオープンソースプラットフォームです。インフラの詳細を抽象化することで、チームは運用オーバーヘッドではなくモデル開発に集中できます。

Forresterは最近、「Kubernetesはコンテナオーケストレーションの覇権争いに勝利し、マイクロサービス計画の中核に据えるべきだ」と述べています。コンテナは軽量でポータブルな環境を提供し、オンプレミスやクラウドリソース間で容易にスケール可能です。これにより、モノリシックなAIサービスをモジュール化された保守しやすいマイクロサービスに分解できます。

Cloud Native Computing Foundationの調査では、ほとんどの開発者がAIライフサイクルの複数ステージ（トレーニングから推論まで）でKubernetesをすでに活用しています。Kubernetesは、計算集約型ディープラーニングモデルのスケーリングと、コモディティサーバー上での大規模データセット管理に優れています。

トレーニング以外にも、Kubernetesはエッジデバイスとセントラルデータセンター間での分散推論をサポートし、従来なら特注の非コンテナ化ソリューションを必要としたデプロイシナリオを簡素化します。

フォーカスのシフト

企業がコスト削減、意思決定強化、パーソナライズ体験提供のためにAIを採用する中、Kubernetesベースのコンテナが推奨プラットフォームとして浮上しています。2020年12月、KubernetesプロジェクトはKubeflowを導入しました。これはKubernetes上で機械学習ワークフローを効率化するフレームワークです。

当初はステートレスサービス向けに設計されましたが、豊富なAPI、信頼性、パフォーマンスにより、複雑なステートフルAIワークロードもサポートするようになりました。2017年にはGoogle Cloud PlatformのGKEのみが対応していましたが、現在ではMicrosoft AzureのAKS、AmazonのEKSなど、すべての主要クラウドがマネージドKubernetesサービスを提供しています。

企業とクラウドプロバイダーの双方によるKubernetesの急速な採用は、AIアプリケーションに対して反復性、耐障害性、拡張性を提供するその有効性を示しています。Kubernetesはコンテナ化AIワークロード管理のデファクトスタンダードとなり、AI採用の継続とともにそのメリットはさらに拡大するでしょう。

著者：Carmine Rimi、Canonical AIプロダクトマネージャー。