MI300X 은(는) 플래그십급 Inferred GPU입니다. 192GB HBM3의 대용량 고속 VRAM을 바탕으로 대규모 모델 파인튜닝(Fine-tuning), 거대언어모델(LLM) 및 대용량 데이터 처리에서 탁월한 성능을 발휘합니다.
권장 학습/사용 시나리오
Generative AI Training
LLM Inference
High-Memory HPC
아키텍처
CDNA 3
VRAM 용량
192GB HBM3
VRAM 대역폭
5324 GB/s
FP16 연산 성능
1300 TFLOPS
최대 소비 전력 (TDP)
750W