L40S は、フラッグシップ級の Inferred GPUです。 48GB GDDR6 の大容量高速VRAMにより、大規模モデルの微調整 (Fine-tuning)、大規模言語モデル (LLM)、高次元データスループットの処理に優れています。
推奨されるトレーニング/使用シナリオ
Multimodal AI
Omniverse
Inference
アーキテクチャ
Ada Lovelace
VRAM容量
48GB GDDR6
VRAM帯域幅
864 GB/s
CUDAコア数
18176
FP16演算性能
366 TFLOPS
最大消費電力 (TDP)
350W