MI300X は、フラッグシップ級の Inferred GPUです。 192GB HBM3 の大容量高速VRAMにより、大規模モデルの微調整 (Fine-tuning)、大規模言語モデル (LLM)、高次元データスループットの処理に優れています。
推奨されるトレーニング/使用シナリオ
Generative AI Training
LLM Inference
High-Memory HPC
アーキテクチャ
CDNA 3
VRAM容量
192GB HBM3
VRAM帯域幅
5324 GB/s
FP16演算性能
1300 TFLOPS
最大消費電力 (TDP)
750W