RTX 4090 は、フラッグシップ級の consumer GPUです。 24GB の大容量高速VRAMにより、大規模モデルの微調整 (Fine-tuning)、大規模言語モデル (LLM)、高次元データスループットの処理に優れています。
推奨されるトレーニング/使用シナリオ
ディープラーニング
モデル推論
ビデオエンコード/デコード
アーキテクチャ
Ada Lovelace
VRAM容量
24GB
VRAM帯域幅
1.01 TB/s
CUDAコア数
16384
FP16演算性能
165.15 TFLOPS
最大消費電力 (TDP)
450W