GH200のレンタル料金比較(クラウドGPU)

GH200をクラウドで借りられる1社・1プランの料金を、1枚・1時間あたりの円で比べています。確認済みの最安はLambdaの361円($2.29)です。

1枚・1時間あたりの料金

濃い色の棒が確認済みの最安、斜線は価格要確認のプランです。

1か月使うといくら?

確認済みで最安のLambda(361円/時)で、1枚を使った場合の目安です。ストレージや通信料などは含みません。

GH200の主な仕様

Hopper世代のGPUとArm系のGrace CPUを一体にした製品。CPUとGPUのメモリを高速につなげるのが特徴。GPUメモリを144GB(HBM3e)に増やした版もある。

メーカー

NVIDIA

アーキテクチャ

Grace Hopper

発売年

2023年

区分

データセンター向け

メモリ

96GB HBM3

メモリ帯域

約4 TB/s(144GB版は約4.8 TB/s)

仕様はメーカーの公開情報にもとづく代表的な値です。クラウドによってはメモリ量の異なる版が提供されています。各プランのメモリは料金表を見てください。

VRAM 96GBでできることの目安

• 70B級を8bitで推論
• 7B〜13B級のフル微調整
• 長い文脈(コンテキスト)を扱う推論

必要なVRAMは、モデルのパラメータ数10億あたり16bitで約2GB、8bitで約1GB、4bit量子化で約0.5〜0.6GBが目安です。これに作業用のメモリ(KVキャッシュなど)として2〜3割を足して考えます。

同じくらいのVRAMのGPU