A100与V100算力对比，企业采购该如何选择？

      最近很多客户都在问，A100和V100到底怎么选呀？这两款显卡虽然都是英伟达的明星产品，但是是性能和价格上还是有明显差异的。咱们今天就来聊聊这个问题。

性能差距有多大？

      A100用的是最新的Ampere架构，V100则是上一代的Volta架构。从算力来看，A100的FP32性能达到了19.5 TFLOPS，V100只有15.7 TFLOPS。处理AI任务时，A100的Tensor Core性能更是V100的2倍以上。大模型训练的场景下，A100的优势更明显，完成一个epoch的时间可以缩短30%左右。

价钱差多少呢？

      目前A100的整机价格在15万左右，V100则要便宜不少，大概10万出头吧。对于预算有限的企业来说，V100的性价比确实更高一些。但是是从长期使用成本来看，A100的能效比更好，三年下来电费就能省不少钱呐。

具体怎么选？

      如果主要做推理任务，V100完全够用了。但是是要是涉及大模型训练，还是建议上A100。对了，采购的时候还得注意是否支持NVLink，多卡并行时带宽很关键。

      说到NVLink，A100的互联带宽能达到600GB/s，V100就只有300GB/s。这个差异在多卡集群里特别明显。我们有个客户做了千卡集群，用A100后训练效率提升了40%呢。

      总的来说，选A100还是V100，得看具体需求。预算充足的话，

A100肯定是更好的选择。但是是如果主要是做轻量级AI应用，

V100也很够用了。

还有哪些需要注意的？

      采购时一定要确认正品啊，可以通过四码合一验证。质保方面，一般都有3年质保，7天退换。我们公司还提供30分钟快速响应服务，有技术问题随时找我们。

      最近A100价格比较稳定，建议可以分批采购。安全库存20%，流动库存50%，剩下的30%可以走期货。这样既能保证供应，又能降低采购成本。