A40のレンタル料金比較(クラウドGPU)

A40をクラウドで借りられる1社・1プランの料金を、1枚・1時間あたりの円で比べています。確認済みの最安はRunPodの93円($0.59)です。

1枚・1時間あたりの料金

濃い色の棒が確認済みの最安、斜線は価格要確認のプランです。

1か月使うといくら?

確認済みで最安のRunPod(93円/時)で、1枚を使った場合の目安です。ストレージや通信料などは含みません。

A40の主な仕様

Ampere世代のデータセンター向けGPU。48GBのメモリを低価格で使いたいときの選択肢。

メーカー

NVIDIA

アーキテクチャ

Ampere

発売年

2020年

区分

データセンター向け

メモリ

48GB GDDR6

メモリ帯域

約696 GB/s

仕様はメーカーの公開情報にもとづく代表的な値です。クラウドによってはメモリ量の異なる版が提供されています。各プランのメモリは料金表を見てください。

VRAM 48GBでできることの目安

• 30B級を8bit、70B級を4bit量子化で推論(70B級は余裕が少ない)
• 動画生成モデルの推論
• 13B〜30B級のQLoRA微調整

必要なVRAMは、モデルのパラメータ数10億あたり16bitで約2GB、8bitで約1GB、4bit量子化で約0.5〜0.6GBが目安です。これに作業用のメモリ(KVキャッシュなど)として2〜3割を足して考えます。

同じくらいのVRAMのGPU