MI300Xのレンタル料金比較(クラウドGPU)
MI300Xをクラウドで借りられる1社・1プランの料金を、1枚・1時間あたりの円で比べています。確認済みの最安はDigitalOceanの409円($2.59)です。
1枚・1時間あたりの料金
濃い色の棒が確認済みの最安、斜線は価格要確認のプランです。
| 事業者 | 円/GPU・時 | ドル | 構成 | 1枚を1か月 (730時間) | 課金単位 | リンク |
|---|---|---|---|---|---|---|
| DigitalOcean | 409円 | $2.59 | 192GB、1枚、VM | 298,570円 | 秒(最低5分) | 公式サイト |
1か月使うといくら?
確認済みで最安のDigitalOcean(409円/時)で、1枚を使った場合の目安です。ストレージや通信料などは含みません。
1日8時間×20日(160時間)65,440円
24時間つけっぱなし(730時間)298,570円
MI300Xの主な仕様
AMDのデータセンター向けGPU。192GBのメモリで大きなモデルを1枚に載せやすい。ROCm対応のソフトが必要。
- メーカー
- AMD
- アーキテクチャ
- CDNA 3
- 発売年
- 2023年
- 区分
- データセンター向け
- メモリ
- 192GB HBM3
- メモリ帯域
- 約5.3 TB/s
仕様はメーカーの公開情報にもとづく代表的な値です。クラウドによってはメモリ量の異なる版が提供されています。各プランのメモリは料金表を見てください。
VRAM 192GBでできることの目安
- 100B超級のモデルを1枚で推論
- 大規模モデルの学習(複数枚・複数台構成が前提)
必要なVRAMは、モデルのパラメータ数10億あたり16bitで約2GB、8bitで約1GB、4bit量子化で約0.5〜0.6GBが目安です。これに作業用のメモリ(KVキャッシュなど)として2〜3割を足して考えます。