GPUクラウド7社比較【2026年】料金・推論・ファインチューニングで選ぶ

GPUクラウドは、何を動かすかで選びます。自分で環境を操作してファインチューニングするならRunpod、独自コードによるサーバーレス推論ならModal、マネージドのモデルAPIならTogether AI、中断後に再開できる処理をマーケットプレイスで動かすならVast.aiが候補です。本記事で比較する7社には、GPU仮想マシンを提供するLambda、計画的にクラスター容量を確保するためのCoreWeave、既存アプリケーションがそのインフラに依存している場合に適したGoogle Cloudも含まれます。最初に確認すべきなのは、広告に載ったGPUの最安料金ではなく、モデルに必要なメモリと課金対象になる稼働時間です。

料金と製品ドキュメントの確認日は2026年10月30日です。 以下の料金は、当日に各社の公式料金ページに掲載されていた米ドル建ての金額です。本記事はドキュメントに基づく比較であり、実機による性能ベンチマークではありません。空き状況、税金、実際のデプロイ構成によって、支払額は変わります。

GPUクラウドのおすすめは用途で変わる

モデルを自分でファインチューニングしたい開発者は、まずRunpodを候補にするとよいでしょう。GPUマシンを常時維持せずにモデルを提供したいなら、ModalとTogether AIが最初の候補です。 ただし、特定のリージョン、継続的な計算リソース、障害から復旧しやすいバッチ環境が必要なら、適した選択肢は変わります。

クラウドGPUの料金比較：金額より先に課金単位を確認

各社の最低料金には、対象となる製品とハードウェアを併記しています。それぞれ異なるサービスの入り口となる価格であり、同等の性能を同じ条件で買えるわけではありません。追加GPUだけの料金には接続先の仮想マシンが含まれず、サーバーレスのGPU秒単価には別途計測されるリソースが含まれません。専用推論の料金も、トークン課金のAPI料金とは別物です。

マーケットプレイスの出品はなくなることがあり、最安のデバイスではモデルを収容できない場合もあります。無料トライアル欄は確認できた公開条件を示すもので、個別交渉によるクレジット制度をすべて網羅したものではありません。Together AIの利用には前払いが必要です。GoogleのGPU利用制限は、Free Trialの規約に明記されています。

サーバーレス推論：独自コードを動かすか、モデルAPIを使うか

GPUを選ぶ前に、モデルの実行環境を自分で管理する必要があるかを決めましょう。 推論とは、学習済みモデルを使って回答を生成する処理です。マネージドAPIでは回答の生成をリクエストし、独自コードを動かせるサーバーレス環境では、回答を生成するコード自体を用意します。両方が「サーバーレス」と呼ばれていることより、この違いのほうが選定には重要です。

1. Modal：アクセス量が変動する独自のPython推論に

Modalは、Pythonからデプロイするコンテナ化アプリケーション向けのサーバーレス計算プラットフォームです。モデル提供用のコード自体が製品の一部になっている開発者に向いています。たとえば文書処理サービスでは、独自の前処理、モデルの呼び出し、後処理を同じデプロイにまとめたいことがあります。Modalは需要に応じてアプリケーションをスケールできますが、課金対象にはモデルの計算時間だけでなく、初期化や起動状態での待機時間も含まれます。VMを常時動かして管理する負担を避けつつ、実行環境は自分で制御したい場合に適しています。

適した用途： 需要が変動する独自の推論処理や、キューに積んだGPUジョブをデプロイするPythonチーム。
特徴： アプリケーション単位のデプロイと自動スケーリング。計算リソースは個別に使用量を計測します。
料金： T4のGPU計算は$0.000164/秒からで、CPUとメモリは別料金です。2026年10月30日にModalの料金ページで確認しました。
無料トライアル： Starterには毎月$30分の計算リソース用クレジットが含まれます。トークン課金のShared Endpointsは、この枠の対象外です。

実運用で壁になりやすいのは、しばらくリクエストがなかった後の応答遅延です。コールドスタートとは、新しいコンテナが応答できる状態になるまでの準備処理を指します。コンテナの起動、ライブラリのインポート、モデルの重みの読み込みは、それぞれ別の段階です。コンテナが速く起動しても、モデルがすぐに使えるとは限りません。

Modalでは、コンテナを起動状態に保つ設定や、予備の処理容量を維持する設定ができます。応答性の改善には役立ちますが、その間もリソースは確保されたままです。顧客向けアシスタントなら、アクセスが多い最中のリクエストに加え、無通信状態からの最初のリクエストもテストしてください。夜間に処理する抽出キューなら、初期化を待つ運用でも問題ないかもしれません。このトレードオフはModalのコールドスタートガイドで説明されています。

Starterプランには、ワークスペースの利用枠が3席、GPUの同時実行数が10という明確な上限もあります。実用的な試験導入には使える規模ですが、独立したワーカーを一斉に動かすと、月額料金が大きくなる前に同時実行数の上限へ達する可能性があります。永続ボリュームとネットワークの外向き転送には料金に含まれる利用枠があり、超過分は別料金です。見積もりにはデータの移動経路も含めましょう。

地理的な配置も設定時の判断事項です。Modalでは、コンテナを実行するリージョンと、リクエストをルーティングするリージョンを区別しています。リージョンを固定すると料金倍率も適用されます。モデルをデータベースの近くで動かす効果を得るには、リクエスト経路も遅延とデータ所在地の要件を満たす必要があります。両方の設定はリージョン選択のドキュメントに説明されています。

2. Together AI：必要なのがモデルのエンドポイントなら

Together AIは、推論と学習を提供するマネージドプラットフォームです。GPUインフラの管理に取りかかる前に、モデルを使った機能を公開したいチームに向いています。必要なモデルがカタログにあるなら、サーバーレスAPIから始めるのが自然です。専用推論を選ぶと、モデル提供に使うハードウェアも制御できます。ただし、カスタマイズできる範囲には違いがあります。対応モデルのAPIを使うことと、任意の学習環境を自分で動かすことは別です。必要なのがモデルのエンドポイントならTogether AIを選び、トラフィックや制御要件から必要性が明らかになった段階で専用容量を購入しましょう。

適した用途： 対応モデルの提供、マネージドのファインチューニング、専用推論を利用するチーム。
特徴： トークン課金のAPIから、専用環境でのモデル提供へ移行できる構成です。
料金： NVIDIA HGX H100の専用推論は$5.49/GPU時間からです。サーバーレスAPIの料金はモデルによって異なります。2026年10月30日にTogether AIの料金ページで確認しました。
無料トライアル： ありません。前払いクレジットの購入が必要です。

課金方式は分けて考えてください。サーバーレスの言語モデル推論は、モデルが処理するテキストの単位である入力トークンと出力トークンに課金されます。専用推論は、モデルサービスの稼働コピーであるレプリカが準備完了状態になると、そのレプリカごとに分単位で課金されます。ドキュメントでは、プロビジョニングとコールドスタートの時間は専用計算リソースの課金対象外とされていますが、準備完了のレプリカはリクエストが少なくても料金が発生し続けます。ゼロまでスケールすれば、その計算料金は止まります。課金範囲は専用推論の料金ドキュメントで確認できます。

会話が散発的に発生するサポートアプリケーションなら、サーバーレスを使うことで未使用のモデル処理容量を購入せずに済みます。トラフィックの傾向が定まり、利用量も多いアプリケーションなら、同じプロンプトと回答長で専用レプリカを比較する価値があります。GPU当たりの単価が安く見えるだけで切り替えてはいけません。回答を完了するまでのコストに換算するには、スループットの実測が必要です。

マネージドのファインチューニングも、別に見積もる必要があります。Togetherはアダプター方式のLoRAとフルファインチューニングを提供しており、学習データを何回処理するかと評価処理を反映したトークン課金になっています。エポックとは、学習データセット全体を一巡することです。データセットを繰り返し処理するほど処理トークン数は増えるため、アップロードしたファイルのサイズだけでは料金は決まりません。

GPUクラスターは、さらに別の製品です。オンデマンド容量と予約容量を提供し、永続ストレージは独立して課金されます。クラスターの予約は前払いで返金不可です。クラスターを削除しても、残したボリュームがすべて自動的に無料になるわけではありません。クラスターのドキュメントには、内向き・外向きのデータ転送は無料と記載されています。ただし、このルールがすべてのAPI製品に当てはまると考えるべきではありません。詳細はクラスターの課金ドキュメントにあります。

モデルを提供する際は、モデルとリージョンをセットで確認してください。一部のサーバーレスモデルは米国内に限定した推論に対応していますが、それ以外の地域要件では専用エンドポイントが候補になります。共有APIの応答時間は需要によって変動し、アプリケーション側では再試行処理も必要です。こうした制限はサーバーレスのドキュメントに明記されています。

ファインチューニング向けのオンデマンドPod・VM

学習スクリプト、依存関係、モデルをまだ変更している段階なら、自分で制御できる環境を借りましょう。 ファインチューニングは、自分のデータを使って既存モデルを用途に合わせる手法です。Podや仮想マシンなら、失敗の原因を調べてジョブを再実行できます。一方、計算リソースを停止し、成果物を保存する責任も利用者にあります。

3. Runpod：自分で進めるファインチューニングの最初の候補

Runpodは、専用GPU Podに加えてServerlessとクラスター製品を提供しています。独自のモデル処理フローを開発する小規模チームにとって、まず検討しやすい選択肢です。GPUとコンテナテンプレートを選び、ファインチューニングを進め、その後で推論用に別のServerlessデプロイを評価できます。ただし、制約も明確です。Community Cloudの信頼性はホストによって異なり、永続ストレージには計算リソースとは別のライフサイクルがあります。Podを停止した場合、再開時に同じGPUを利用できる保証もありません。Runpodを候補にする理由は、環境を制御できることとデプロイ方法の柔軟さです。あらゆる処理を最安で動かせるという意味ではありません。

適した用途： 実験、アダプター方式のファインチューニング、独自の推論処理の開発にGPUコンテナを必要とする開発者。
特徴： 開発とモデル提供に、それぞれPodとServerlessを使い分けられます。
料金： 公開ページでは、VRAM 24 GBのRTX A5000 Podが$0.27/時間から掲載されています。2026年10月30日にRunpodの料金ページで確認しました。
無料トライアル： 確認した料金ページに、無料GPUトライアルの記載はありませんでした。

最初に見るべきなのは、目を引くチップ名ではなくメモリです。Runpodには24 GBのカード、A40やRTX A6000などの48 GB構成、80 GBのA100やH100が掲載されています。小規模チームでも、いきなりクラスターを設計せずに複数のメモリ容量帯を試せます。ただし、これがそのままスループットの順位になるわけではありません。推論エンジン、モデルの精度、バッチ構成によって、費用に見合うカードは変わります。

Secure CloudとCommunity Cloudの選択も、別の判断です。RunpodはSecure Cloudをデータセンターのインフラ、Community Cloudを信頼性にばらつきのあるピアツーピアの供給と説明しています。やり直せる実験と、顧客のリクエストを処理するサービスでは、許容できる障害の性質が異なります。処理の復旧要件とサポート要件に合わせて選んでください。違いはRunpodのPod選択ガイドにまとめられています。

初回のデプロイで見落としやすいのが、ストレージの制約です。コンテナディスクは一時領域です。ボリュームディスクはPodを停止しても残りますが、削除すると失われます。ネットワークボリュームはPodとは独立して残りますが、利用できるのはSecure CloudのPodで、選べるハードウェアはそのボリュームの配置場所に制約されます。チェックポイントを一時ストレージだけに置いては、保存する意味がなくなります。配置の制約はネットワークボリュームのドキュメントで確認できます。

確認したPodの料金ルールでは、計算リソースは秒単位で課金され、内向き・外向きのデータ転送料金はかかりません。ただし、停止後もストレージには料金が発生する場合があります。Serverlessのライフサイクルは異なり、ワーカーは初期化、実行、アイドル待機を通じ、停止するまで課金対象になります。Flexワーカーはゼロまでスケールできますが、Activeワーカーは稼働し続けます。これは単に同じ時間単価に別の名前を付けたものではなく、課金されるリソースをどれだけ維持するかという選択です。Podの課金とServerlessの課金を確認してください。

料金とストレージを詳しく試算するには、当サイトのRunpod料金ガイドを利用してください。繰り返し実行するジョブや常時稼働のモデル提供を見積もるためのワークシートとして使えます。

1. 1

   デプロイの前に処理要件を決める

   使用するモデルのチェックポイント、推論またはファインチューニングのモード、精度、最大入力長、想定同時実行数を具体的に記録します。モデルファイルだけでなく、実行環境の分も余裕を持って収まるGPUメモリ容量帯を選んでください。

2. 2

   ストレージの場所を先に選ぶ

   ネットワークボリュームが必要なら、GPUを選ぶ前に、目的のデータセンターでボリュームを作成または選択します。その場所に適したGPUの空きがあることも確認してください。失うと取り戻せない学習データとチェックポイントは、別途コピーを保持します。

3. 3

   互換性のあるテンプレートをデプロイする

   PodsでGPUとコンテナテンプレートを選び、GPU数を設定してオンデマンドでデプロイします。ホストのCUDA互換性フィルターがテンプレートに合っているか確認してください。CUDAは、多くのNVIDIA GPUアプリケーションが依存するソフトウェアプラットフォームです。

4. 4

   小規模に試し、終了処理まで確認する

   本番で予定している処理と同じ読み込み、学習、チェックポイント書き込みの流れを試します。GPUメモリの最大使用量と所要時間を記録してください。計算リソースを停止または終了する前に、チェックポイントが永続ストレージにあることを確認し、その後で残るストレージ料金を調べます。

これらのデプロイ操作はManage Podsに記載されています。この予行演習は復旧テストも兼ねます。次回の起動で、前回使った特定のマシンに頼らず処理を続けられることを確認してください。

4. Lambda：使い慣れたGPU仮想マシンで学習するなら

Lambdaは、Linux仮想マシンと予約クラスターを提供するGPUクラウドです。一般的なマシン環境でまとまった時間の学習を行いたいチームに向いています。環境にはNVIDIAのツールが含まれ、インスタンスはGPU単体の構成から大規模な割り当てまで用意されています。購入時に注意すべきなのは、その割り当て単位です。同じGPUでも、借りる台数によってGPU当たりの単価が変わることがあります。制御しやすい学習環境が必要ならLambdaが候補になりますが、表示単価を請求額と考える前に、選択中のGPU数を確認してください。

適した用途： GPU VMへSSHで接続し、学習やファインチューニングを進めたいチーム。
特徴： GPU単体のインスタンスに加えて、予約クラスターという別の選択肢があります。
料金： Single-GPU Instancesは、VRAM 24 GBのQuadro RTX 6000で$0.69/GPU時間からです。2026年10月30日にLambdaの料金ページで確認しました。
無料トライアル： 確認した料金ページに、無料GPUトライアルの記載はありませんでした。

GPUカタログには、48 GBのA6000と、80 GBのH100 PCIeおよびSXMが含まれます。この名称の違いは重要です。「RTX 6000」「A6000」や似た名前の新しいカードは、同じものとして購入できません。後日再実行するときに意図せず別のデバイスを使わないよう、デプロイの記録にはGPUの正式名称とメモリ容量を明記しましょう。

Lambdaのオンデマンド計算リソースは時間単価で表示されますが、正常に起動してから終了するまで、分単位で課金されます。起動中のマシンは、何も処理していなくても料金がかかります。学習ジョブでは、Pythonプロセスが終わればレンタルも終わると思い込まず、サービス側の終了処理に合わせて停止手順を組み立ててください。計測方法はLambdaの課金ドキュメントに記載されています。

永続ファイルシステムを使う場合は、もうひとつ事前の計画が必要です。インスタンス作成時に接続する必要があり、インスタンスと同じリージョンになければなりません。マウントを外しても、ファイルシステムが存在する限り課金は続きます。課金ドキュメントでは、ファイルシステムへの内向き・外向き転送は無料とされています。大きなデータセットを配置する前に、目的の場所でGPUとファイルシステムを併用できるか確認しましょう。リージョンとストレージのルールはLambdaのインスタンスドキュメントにまとまっています。

予約クラスターは、購入規模そのものが異なります。公開されている1-Click Clusterの表では、最小構成は16 GPU、最短期間は2週間です。集中的な学習には適していても、単体GPUでのモデル適応で課題を解決できるかをまだ検証している開発者の出発点には向きません。まず成立する最小規模の実験を行い、必要なスループットが明らかになってから拡張してください。

マーケットプレイスと中断可能なGPUインスタンス

中断リスクを引き受けるのは、処理を復旧できると確認してからにしましょう。 マーケットプレイスは、複数のホストによる出品を集めたものです。中断可能なインスタンスは、一時停止されたり、リソースを回収されたりすることがあります。両者は重なることもありますが、マーケットプレイスでオンデマンドに借りるインスタンスが、必ず中断可能な契約になるわけではありません。

5. Vast.ai：配置場所に融通が利き、再開できるジョブに

Vast.aiは、ホストが価格を設定するGPUマーケットプレイスです。出品条件を確認でき、利用可能なマシンが入れ替わることを許容できる開発者に向いています。入力データとチェックポイントをインスタンスの終了後も残せるなら、埋め込み生成のバッチ処理や、繰り返し実行できるファインチューニング実験に適しています。注意点は、ホストごとの費用構成です。計算リソース、ストレージ、双方向のデータ転送に、それぞれ別の料金がかかることがあります。すべての出品に同じ挙動を求めるのではなく、出品条件に合わせてシステムを設計できる場合にVast.aiを選びましょう。

適した用途： コスト重視の実験、バッチジョブ、チェックポイントから再開できる学習。
特徴： オンデマンド、予約、中断可能なレンタルから、ホスト単位で選べます。
料金： ホストが設定するGPU料金を秒単位で課金し、ストレージと転送料金が加わります。目的の構成の最低出品価格はVast.aiの公開料金ページで確認してください。確認日は2026年10月30日です。
無料トライアル： 確認した料金ページに、無料GPUトライアルの記載はありませんでした。

最安の出品に価値があるのは、そのハードウェアが処理要件に合う場合だけです。Vast.aiの公開カタログには、24 GBのRTX 3090とRTX 4090、48 GBのL40S、80 GBのH100 SXMが掲載されています。まず必要なメモリとソフトウェアで絞り込み、その後で個々のホストのCPU、システムメモリ、ストレージ、転送条件、所在地を比較しましょう。

計算リソースは稼働中、秒単位で計測されます。ストレージはインスタンスが存在する間、停止中も含めて課金対象です。アップロードとダウンロードの料金はホストによって異なります。そのため、大きなモデルやデータセットを何度もダウンロードするなら、安いGPUでも短時間のジョブには割高になることがあります。グラフィックスカードだけでなく、データが通る経路全体を比較に含めてください。料金の内訳はVast.aiの料金ドキュメントに説明されています。

中断可能な環境で学習する場合、モデルファイルを保存するだけでは正しく再開できないことがあります。学習フレームワークが必要とする状態を保存し、再開手順が機能することを事前に確かめてください。バッチキューには変わらないジョブ識別子を付け、再試行によって顧客に見える結果が重複しないようにします。これらは中断可能な容量を選ぶための受け入れ条件であり、サービス側が復旧を代行してくれるという意味ではありません。

Vast.aiはサーバーレスのインフラも提供しています。ただし、それによって基盤のホストやデータ関連費用の問題がなくなるわけではありません。確認したドキュメントでは、サーバーレスもインスタンスの計算リソース、ストレージ、帯域幅の費用を通じて課金されると説明されています。本記事がマーケットプレイスでのレンタルを中心に取り上げるのは、こうしたトレードオフを管理できる小規模チームにとって、適性が最も明確だからです。

予約クラスターと既存クラウドのインフラを使う場合

容量を予約するのは継続的な需要を測ってからです。また、処理の移設で削減できる手間より新たな手間が増えるなら、既存インフラの近くで動かしましょう。 大規模なプラットフォームを選ぶ理由は、このように異なります。巨大クラウド並みの規模で調達しなくても、小規模チームにこれらの理由が当てはまることはあります。

6. CoreWeave：必要なクラスター構成が明確なチームに

CoreWeaveは、ベアメタルのGPUノード上でマネージドKubernetesを提供するAIインフラクラウドです。実験段階を終え、必要な計算リソースを計画できるようになったチームに向いています。Kubernetesは、複数のマシンにまたがるコンテナを管理します。その連携が必要で、運用の責任者もいる場合に役立ちます。小規模チームが直面する制約は、割り当て規模と運用です。ノード単位で購入し、マネージドクラスターを使う場合も、明確な処理要件、ストレージ計画、運用担当者が必要です。CoreWeaveは、容量計画が実際の要件になったときに候補へ加えましょう。モデルの必要リソースを探る段階で、当然の選択肢にするものではありません。

適した用途： クラスター需要が明らかで、Kubernetes上のワークロードを運用できるチーム。
特徴： ベアメタルノード上のマネージドKubernetesに、クラスター向けネットワークと分離機能を備えます。
料金： 北米の料金表では、GPU単体のGH200インスタンスが$6.50/時間です。予約容量は見積もりが必要です。2026年10月30日にCoreWeaveの料金ページで確認しました。
無料トライアル： 確認した料金ページに、無料GPUトライアルの記載はありませんでした。

CoreWeaveの料金表は、列の意味まで注意して読んでください。H100、H200、A100、L40、L40Sなど、掲載されている複数のGPUインスタンスは8 GPU構成です。ページにはGPU単体の推論料金も別に表示されていますが、脚注では推論プラットフォームの利用者向けに限定されています。ノード料金をGPU数で割ることは費用計算には役立ちます。ただし、通常のクラスタージョブで、そのノードの一部だけを借りられることの証明にはなりません。

料金ページは北米と欧州を分け、オンデマンド、スポット、予約の選択肢を掲載しています。予約する場合は、正確なノード構成、デプロイ先、契約期間、容量確保の条件を確認しましょう。見積もりでは課金の計測単位も確認してください。時間単価が公開されているだけでは、秒単位で計測されるとは限りません。

CoreWeaveはインターネット転送と内部データ転送を無料としていますが、ストレージとパブリックIPにはそれぞれ料金があります。データ移動が多い処理では検討する価値がありますが、契約した計算リソースを有効に使えることが前提です。予約期間の大半を何もせず過ごすクラスターでは、転送費用が安くても埋め合わせにはなりません。

CoreWeave Kubernetes Serviceのドキュメントでは、マネージドのコントロールプレーン、ベアメタルノード、プライベートネットワーク、GPUネットワークが説明されています。小規模なAIチームにとって決め手になるのは、誰が責任を持つかです。ジョブのパッケージ化、障害監視、シークレット管理、サービス復旧を誰が担当するのでしょうか。アプリケーションの検証を続けている担当者が兼任するなら、より単純なPodやAPIのほうが、動く機能を早く届けられるかもしれません。

7. Google Cloud：既存アプリケーションの近くで動かしたい場合に

Google Cloudは、GPUを搭載したCompute Engine仮想マシンを提供しています。アプリケーションとデータがすでにGoogle Cloud上にあるなら、有力な候補です。GPU専門クラウドの見積もりが魅力的でも、モデルの実行場所をシステムのほかの部分に近づけることで、デプロイの判断をシンプルにできる場合があります。壁になるのは、実際に利用できるかどうかです。マシンタイプ、リージョン、割り当て上限、物理的な空き容量がすべてそろう必要があります。Google Cloudは、配置場所や既存の運用体制を生かせる処理で選びましょう。GPUの最低料金だけでサーバー全体を利用できると考えてはいけません。

適した用途： Google Cloudですでに運用中のアプリケーションへGPU処理を追加する開発者。
特徴： リージョン別の提供状況と割り当て上限の管理方法が明示されたGPUマシンファミリーです。
料金： アイオワで追加するT4は、GPU単体で$0.35/時間からです。VMの料金は別途かかります。2026年10月30日にGoogleのアクセラレータ料金ページで確認しました。
無料トライアル： Free Trial中はGPUを追加できません。有料アカウントへのアップグレードが必要です。

Google CloudのGPU料金にはVMも含めて考える

追加GPUはマシン全体ではなく、追加のリソースです。上記のT4はGPUメモリが16 GBです。それ以上のメモリや別のアクセラレータが必要なアプリケーションでは、この最低料金を基準に予算を立てるのではなく、別の構成を選んでください。

GoogleはGPUを組み込んだマシンファミリーも掲載しています。L4を使うG2、A100の各構成を使うA2、H100またはH200を使うA3の各構成などです。GPUを組み込んだマシンの料金と、追加GPUの料金では含まれる範囲が異なります。ストレージやネットワーク料金とともに、選択したマシンタイプを見積もりに明記しましょう。

Compute Engineは最低課金時間が1分で、その後は秒単位で課金されます。稼働中のVMは、アイドル状態でも料金がかかります。予約したリソースは起動していなくても課金される場合があるため、空き容量を確保する判断とジョブを起動する判断は別です。こうした範囲はCompute Engineの課金ルールで説明されています。

Google CloudのGPUは、割り当て上限を確保するだけでは使えない

GPUの種類が掲載されていても、自分のアカウントから希望のゾーンで今日起動できる保証にはなりません。Googleはゾーン別のGPU対応状況を公開していますが、割り当て上限の管理は実際の空き容量とは別です。GPUのリージョン・ゾーン一覧で目的のマシンを確認し、そのうえで必要なGPUの割り当て上限を確認してください。

たとえば、既存データベースの近くで顧客向けサービスを動かすチームなら、GPU構成を申請する前に、許容できる近隣の配置先を決めておくべきです。希望のゾーンに空きがないからといってモデルサーバーだけを遠くへ移すと、応答時間とデータ転送経路の両方が変わり得ます。この代替案も、テストが必要なアプリケーション変更として扱ってください。

Free Trialには別の制限があり、GPUの追加も割り当て上限の引き上げ申請もできません。継続的に提供されるGoogleのFree Tierも、GPUを対象外としています。そのため、新規登録クレジットの案内だけでは、新しいアカウントですぐにGPUの実験を始められる根拠になりません。判断の基準はGoogleの公式規約です。

AI向けGPUクラウドの選び方：まずメモリ要件を固める

サービスを比較する前に、処理を収容できないハードウェアを候補から外しましょう。 VRAMとも呼ばれるGPUメモリには、モデルと、その実行に必要な状態を保持します。ぎりぎり読み込めるモデルでも、長いプロンプトや追加の同時リクエストが来ると動かなくなる場合があります。

まず、重みだけの容量を見積もります。16ビットではパラメーター当たり2バイト、4ビットでは重みの生データが半バイトになります。したがって8Bパラメーターのモデルなら、16ビットの重みは約16 GB、4ビットの重みの生データは約4 GBです。32Bパラメーターなら64 GBまたは16 GB、70Bパラメーターなら140 GBまたは35 GBになります。これは十進法のGBで計算した値であり、モデル提供に必要な容量を実測したものではありません。計算の基になるメモリの考え方はRunpodのサイジングガイドにあります。

この計算に含まれていない領域が重要です。推論ランタイムには作業用メモリが必要で、KVキャッシュには生成の進行に伴うアテンションの状態が保存されます。その状態は、コンテキスト長と同時リクエスト数によって変わります。「35 GBのモデル」だからといって、デプロイに必要な容量も35 GBとは限りません。キャッシュを別途見積もる理由はHugging Faceのキャッシュドキュメントで説明されています。

24 GB、48 GB、80 GBのカードは評価する容量帯として使い、動作の保証とは考えないでください。小さな量子化モデルなら、24 GBのデバイスに実用的な余裕を残せる場合があります。モデルを大きくしたり、コンテキストを長くしたり、同時リクエスト数を増やしたりすると、別の容量帯が必要になることがあります。最小のリクエストが成功したときの使用量ではなく、観測した最大使用量に明確な余裕を持たせて設計しましょう。

ファインチューニングでは条件が変わります。フル学習では、勾配、オプティマイザーの状態、保存した活性化値が加わります。アダプター方式は更新するパラメーターを一部に絞るため、必要容量を減らせる場合がありますが、すべてのメモリ負担をなくすわけではありません。推論が成功しても、同じカードにフルファインチューニングが収まる証明にはなりません。学習時のメモリ内訳とパラメーター効率の高いファインチューニングの概要を参照してください。

次に、GPUの具体的な構成とソフトウェア互換性を確認します。H100が掲載されていても、すべてのH100の出品が同じ形状、メモリ構成、CPU割り当て、相互接続を持つとは限りません。複数のGPUを使うには、処理を効果的に分割できるフレームワークも必要です。カードを増やすだけで、遅いジョブや大きすぎるジョブの問題が自動的に解決するわけではありません。

最後に、課金されるライフサイクルを確認します。最終候補ごとに、計算リソースの起動、実際の処理、起動状態での待機、終了、保持するストレージを分けて考えてください。アイドル時間や再試行も含め、想定スケジュールで月額を見積もります。表示上の時間単価が同じでも、常時確保するマシンと毎日の短いバッチ処理では、必要な予算は異なります。

要件別に絞り込むなら、この選択肢

選択を左右するのは、実行環境を制御する必要があるか、次に、その環境を起動状態に保つ価値があるかです。 対応するAPIで機能を実現できるなら、まずTogether AIを評価しましょう。独自の推論コードが不可欠で、アクセス量に波があるなら、ModalとRunpod Serverlessを比較します。対話的に操作する環境や、まとまった時間のファインチューニングが必要なら、Runpod PodsとLambdaのインスタンスから検討してください。

再開可能なバッチジョブで、配置場所にも融通が利くならVast.aiを加えます。クラスター上で動かす処理が明確で、運用責任者もいるならCoreWeaveが候補です。アプリケーションがすでにGoogle Cloudの特定の場所や運用体制に依存しているなら、別のサービスへの移行費用を払う前に、その場所のGPU容量を評価しましょう。

予約容量が合理的になるのは、契約期間を通じてハードウェアを有効に使えると分かっていて、空き容量を確保すること自体にも価値がある場合です。利用率を確かめるために予約してはいけません。まず処理を動かし、アクセスが少ない時間帯にも残る需要を把握して、その基準で正当化できる容量だけを予約してください。

遅延に敏感なサービスなら、リクエスト数が比較的少なくても、専用容量や起動状態を保った容量のほうが適することがあります。アクセスが途切れるたびに顧客を待たせる損失は、ワーカーを待機させる費用を上回るかもしれません。無通信状態からの最初の応答と、アクセス集中時の最も遅い応答を測定してください。平均遅延だけでは、両方の問題を見落とす可能性があります。

そもそもGPUの実行環境を自分で持つべきかを検討しているなら、推論チップとGPUの比較ガイドで、ハードウェアの制御に関するより広い選択肢を確認できます。

比較対象と評価基準

評価基準は、処理用途との適合性、確認可能な購入単位、必要メモリとの適合性、データ関連費用、起動時の挙動、利用可能な地域です。 比較した7社は、マネージドのモデルAPI、独自コードのサーバーレス実行、GPUの直接レンタル、マーケットプレイス、計画的なクラスター利用をカバーしています。各社の位置付けは用途に応じた推奨であり、あらゆる処理に共通する速度ランキングではありません。

料金と機能の記述は、2026年10月30日に各社の公式ページで確認しました。この比較のためにGPUを借りたり、スループットや稼働率をテストしたりはしていません。重みの容量は計算に基づく見積もりで、プラットフォームの推奨はドキュメントに記載された挙動の分析です。

候補は、開発者や小規模なAIチームの用途に絞っています。広範なクラウド一覧、調達仲介業者、そのほかの大手クラウドを加えれば名前は増えますが、最初に決めるべきことは変わりません。必要なのはモデルのエンドポイントなのか、マシンなのか、クラスターなのかということです。最終評価に残すのは、必要な構成を利用可能な場所で提供できるサービスだけにしましょう。

避けたい用途と契約の組み合わせ

別の用途では優れたサービスでも、自分の処理に合わない購入方式は避けてください。

• 再開も安全な再試行もできないジョブに、Vast.aiの中断可能な容量を使うこと。中断リスクを引き受ける前に、復旧できることを検証しましょう。
• Runpodのネットワークボリューム接続が前提なのに、Runpod Community Cloudを選ぶこと。このストレージを使えるのはSecure CloudのPodです。
• 初回応答にも厳しい遅延目標があり、初期化時間を測っていないのに、Modalをゼロまでスケールさせること。起動状態を保つ容量を予算に入れるか、デプロイ方法を変えてください。
• 有効に使えるGPU数や処理時間がまだ推測にすぎない段階で、Lambda 1-Click ClustersやCoreWeaveの予約を契約すること。まず小規模なレンタルで需要を把握しましょう。
• 必要なチェックポイントや実行時の挙動が対応APIの範囲外なのに、Together AIのサーバーレスを選ぶこと。専用製品か、自由にコードを動かせるGPU環境を評価してください。
• GPUをすぐに使う手段として、有料化していないGoogle CloudのFree Trialを当てにすること。GPUの利用制限は明記されています。

GPUクラウドのよくある質問

GPUクラウドにはどんなサービスがありますか？

本記事で比較したのはRunpod、Lambda、CoreWeave、Vast.ai、Modal、Together AI、Google Cloudの7社です。まず必要な製品カテゴリから選びましょう。マネージドのモデルAPI、独自コードのサーバーレス実行、オンデマンドのマシン、マーケットプレイスでのレンタル、予約クラスター容量が主な選択肢です。各社の解説では、これらのカテゴリがどこで重なるかも説明しています。

クラウドGPUは無料で使えますか？

ModalのStarterプランには月ごとの計算リソース用クレジットが含まれますが、GPUを無制限に使えるわけではありません。Shared Endpointのトークン料金も別です。GoogleのFree Trialでは、有料アカウントへアップグレードするまでGPUを追加できず、継続的なFree TierもGPUを対象外としています。Together AIも、前払いが必要だと明記しています。クレジットは処理を評価する手段と考え、本番の容量計画として当てにしないでください。

クラウドGPUは何を基準に比較すればよいですか？

同じチェックポイント、精度、入力長、同時実行数を使い、GPUの具体的な構成と割り当て規模をそろえて比較します。課金される起動時間とアイドル時間、ストレージ、転送、失敗した処理も含めてください。求めるべきなのは、遅延と復旧の要件を満たして処理を完了するための費用です。「GPU時間」の横にある最小の数字だけでは判断できません。

来週は、最終候補の2社に同じ小規模な処理と受け入れ基準を用意して試してみてください。メモリの最大使用量、最初の有用な結果が得られるまでの時間、ジョブ完了数で見たスループット、リソースの課金対象期間、停止後に残る費用を記録します。学習なら保存したチェックポイントからの復旧を練習し、モデル提供なら無通信状態の後とアクセス集中時のリクエストを試します。その結果が拡張を裏付けてから、デプロイの規模を広げましょう。

AIビジネスワークフロー監査チェックリストと、運用担当者向けニュースレターを受け取る。