GPU クラウドの選択 — ハイパースケーラー vs 専用 GPU クラウド vs サーバーレス推論

GPU を自分で確保して使うと決めたら(損益分岐の計算 参照)、次の問いは「どこで借りるか」です。同じ H100 1 枚でも、どこで借りるかによって時間単価が 2〜5 倍変わります。結論を先に書くと、AWS の中にインフラが既にあって統合・規制が重要ならハイパースケーラー、純粋に GPU 原価が目的なら専用 GPU クラウド、GPU を自分で管理したくなければサーバーレス推論です。 GPU サーバー自体の構造は GPU サーバーと一般サーバーの違い で扱ったので、この記事はその GPU を調達する窓口の選択です。料金は 2026 年半ば基準です。

三つの分岐 — 管理の水準が異なります #

GPU 調達の窓口は管理の水準で三つに分かれます。

• ハイパースケーラー(AWS・GCP・Azure): GPU インスタンス(AWS P5 など)を他のクラウドリソースと同じアカウント・ネットワーク・IAM の中で使います。H100 GPU あたりオンデマンドでハイパースケーラーが 1 時間 $4〜8 の水準で、AWS P5 は 2025 年半ばの値下げ後 GPU あたり約 $3.9 です。
• 専用 GPU クラウド(Lambda・RunPod・CoreWeave など): GPU の貸し出しに特化した事業者です。H100 がオンデマンドで $2〜3.3(RunPod PCIe $1.99、Lambda $3.29 など)、スポットなら $1〜2 まで下がります。同じ GPU をハイパースケーラーより 2〜5 倍安く提供します。
• サーバーレス推論(Together・Fireworks など): GPU を借りるのではなく、トークン単位課金でモデルの推論だけを使います。オープンモデルを 100 万トークンあたり $0.05〜7(大抵 $0.27〜3)で呼び出し、GPU のプロビジョニング・管理が一切ありません。

読む方向は一つです。左に行くほど統合・管理が付いて料金が高くなり、右に行くほど純粋な GPU 原価に近づくが自分で面倒を見るものが増えます。

料金差はなぜ 2〜5 倍も出るのか #

ハイパースケーラーが専用 GPU クラウドより数倍高いのは、GPU の性能が違うからではありません(同じ H100 です)。値段に含まれるものが違います。ハイパースケーラーの料金には、同じアカウント内の VPC ネットワーキング、IAM、他のマネージドサービス(S3、RDS など)との低遅延の統合、エンタープライズの SLA・コンプライアンスが折り込まれています。専用 GPU クラウドはその統合を省いて GPU そのものに集中し、原価を下げます。

だから判断は「その統合が必要か」に絞られます。学習データが既に S3 にあってパイプラインが AWS の中にあれば、データを外に出す転送費用・遅延・セキュリティ審査が専用クラウドの料金削減を相殺することもあります。逆に GPU だけを独立して必要とする実験・学習・バッチなら、専用クラウドの原価の優位がそのまま残ります。

スポット — 半分以下、代わりに中断を受け入れる #

専用 GPU クラウドとハイパースケーラーの両方にスポット(中断型)料金があります。H100 スポットが $1〜2 まで下がり、オンデマンドの半分以下です。対価はいつでも回収され得ることです。

• 合うワークロード: チェックポイントを保存しながら回る学習、中断後の再開ができるバッチ推論、再現可能な実験です。回収されたらまた確保して続ければよいです。
• 合わないワークロード: 常時応答しなければならないプロダクションの推論エンドポイントです。ユーザーのリクエスト中に GPU が回収されるとサービスが切れます。

つまり 学習サーバーと推論サーバー の区別がここでも分かれます。学習・バッチはスポットで原価を下げ、常時推論はオンデマンドや予約で安定性を買います。

サーバーレス推論 — GPU 管理を丸ごとなくす #

サーバーレス推論は GPU 時間単位課金の代わりにトークン単位課金なので、自己ホスティング の GPU 管理の負担を丸ごとなくします。モデルを選んで API で呼び出せば終わりで、スケーリング・可用性・GPU のプロビジョニングを事業者が処理します。商用 API(OpenAI など)と違う点は、オープンモデルを自由に選べて大抵より安いことです。

境界は 損益分岐 と同じ論理です。稼働率が低い間欠的な推論ならサーバーレスが GPU を遊ばせる時間なく使うので有利で、GPU を 24 時間飽和させるスループットなら専用クラウドで GPU を自分で確保してバッチで回すほうがトークンあたり安くなります。バッチ推論はサーバーレスにも約 50% 割引があり、その間を埋めます。

選択の手順 #

1. 規制・統合の要件からふるいにかけます: データを特定のクラウドの外に出せない、または既存のパイプラインとの統合が重要なら、ハイパースケーラーです。
2. 管理の意思を決めます: GPU を自分で運用する人員・意思がなければ、サーバーレス推論です。トークン単位課金で GPU が消えます。
3. ワークロードで調達先を決めます: GPU を自分で確保しつつ原価が目的なら専用 GPU クラウド、常時のプロダクション推論ならオンデマンド・予約、学習・バッチならスポットです。
4. 稼働率でサーバーレスと再比較します: 間欠的な推論はサーバーレス、常時の飽和は自前調達がトークンあたり安くなります。損益分岐の計算 をそのまま適用します。
5. 総費用で確認します: 専用クラウドの低い GPU 料金にデータ転送・統合の費用を、ハイパースケーラーの高い料金に統合の削減を足して、総額で比較します。

まとめ #

• GPU 調達の窓口は管理の水準で三つに分かれます。ハイパースケーラー(統合・高い)、専用 GPU クラウド(原価・自前管理)、サーバーレス推論(トークン単位・管理なし)です。
• ハイパースケーラーが専用クラウドより H100 基準で 2〜5 倍高いのは、GPU ではなく統合・SLA が値段に含まれるからです。その統合が必要かが判断の基準です。
• スポットはオンデマンドの半分以下ですが中断を受け入れます。学習・バッチはスポット、常時推論はオンデマンド・予約です。
• サーバーレス推論は GPU 管理をなくす代わりにトークン単位課金です。間欠的な推論に有利で、常時の飽和は自前調達が安くなります。
• 専用クラウドの料金の優位は、データ転送・統合の費用を足した総額で確認します。純粋な料金比較は計算の半分です。