MI325Xのレンタル料金比較(クラウドGPU)
MI325Xをクラウドで借りられる1社・1プランの料金を、1枚・1時間あたりの円で比べています。確認済みの最安はDigitalOceanの600円($3.80)です。
1枚・1時間あたりの料金
濃い色の棒が確認済みの最安、斜線は価格要確認のプランです。
| 事業者 | 円/GPU・時 | ドル | 構成 | 1枚を1か月 (730時間) | 課金単位 | リンク |
|---|---|---|---|---|---|---|
| DigitalOcean | 600円 | $3.80 | 256GB、1枚、VM | 438,000円 | 秒(最低5分) | 公式サイト |
1か月使うといくら?
確認済みで最安のDigitalOcean(600円/時)で、1枚を使った場合の目安です。ストレージや通信料などは含みません。
1日8時間×20日(160時間)96,000円
24時間つけっぱなし(730時間)438,000円
MI325Xの主な仕様
AMDのデータセンター向けGPU。メモリ容量が大きい。ソフトウェアはCUDAではなくROCmで動かす点に注意。
- メーカー
- AMD
- アーキテクチャ
- CDNA 3
- 発売年
- 2024年
- 区分
- データセンター向け
- メモリ
- 256GB HBM3e
- メモリ帯域
- 約6 TB/s
仕様はメーカーの公開情報にもとづく代表的な値です。クラウドによってはメモリ量の異なる版が提供されています。各プランのメモリは料金表を見てください。
VRAM 256GBでできることの目安
- 100B超級のモデルを1枚で推論
- 大規模モデルの学習(複数枚・複数台構成が前提)
必要なVRAMは、モデルのパラメータ数10億あたり16bitで約2GB、8bitで約1GB、4bit量子化で約0.5〜0.6GBが目安です。これに作業用のメモリ(KVキャッシュなど)として2〜3割を足して考えます。