RTX 4090 是一款旗舰级的 consumer GPU。 凭借 24GB 的超大高速显存，它在处理大规模模型微调 (Fine-tuning)、超大规模语言模型 (LLM) 以及超高维度数据吞吐时表现卓越。
推荐训练/使用场景
深度学习
模型推理
视频编解码
核心架构
Ada Lovelace
显存容量
24GB
显存带宽
1.01 TB/s
CUDA 核心数
16384
FP16 半精度算力
165.15 TFLOPS
最大功耗 (TDP)
450W