A100显卡和V100的性能差距有多大？企业级GPU采购避坑指南
道通存储
希捷国行 原装正品 欢迎采购咨询
最近不少客户都在问A100和V100的对比。说实话，这两款显卡虽然都是英伟达的旗舰产品，但是是性能差距还真不小。A100作为新一代计算卡，不管是架构还是显存带宽，都比V100强太多了。
从算力来看，A100的FP32性能是19.5 TFLOPS，而V100只有15.7 TFLOPS。这个差距在AI训练场景下会更明显，因为A100支持新一代的Tensor Core技术。我们做过实测，用A100训练同一个模型，耗时能减少40%左右呢。
显存技术升级
A100用的是HBM2e显存，带宽高达1.6TB/s。相比之下，V100的HBM2显存只有900GB/s的带宽。大模型训练的时候，显存带宽直接决定着数据处理效率。要是显存不够，数据分批次处理，训练时间就要成倍增加。
而且在显存容量上，A100最高支持80GB，V100只有32GB。对于那些需要训练超大模型的企业来说，A100明显更合适。毕竟现在AI模型的参数量动不动就上千亿呢。
功耗和散热
A100的热设计功耗是400W，V100是300W。虽然A100功耗更高，但是是它的能效比其实更好。也就是说，同样的能耗，A100能完成更多计算任务。不过要注意，散热系统必须到位，否则容易影响稳定性。
从企业采购的角度看，选A100还是V100，关键得看实际需求。如果预算充足，而且需要处理大规模AI训练任务，那A100肯定是最佳选择。但是是如果只是做一些中小规模的AI推理，V100也完全够用，性价比还更高。
具体到价格，目前A100的市场价在15万左右，而二手V100只要4-5万就能拿下。不过二手显卡的风险比较大，建议采购时一定要认准正规渠道。
