最近很多客户都在问A100的算力到底怎么样呀？其实从参数来看，A100确实是一款非常强悍的显卡。它采用的是
Ampere架构，显卡上面那些密密麻麻的小方块是Tensor Core，每一块都能提供非常好的加速效果。尤其是当你用A100来训练深度学习模型的时候，它的优势就非常明显了。
在大模型训练场景下，A100的表现非常亮眼。它的显存容量有40GB，而且用的是HBM2技术，带宽超快。所以你可以同时加载大量的数据集，训练速度也会非常快。你知道吗，A100的训练速度比上一代V100还要快2.5倍呐！
性能实测，到底强在哪？
我们做了很多测试实验，发现A100在AI训练方面的表现真的很不错。比如说 -3这种大模型，用A100训练的话，每epoch的时间可以缩短到原来的1/3呢。如果你用的是八卡并行，速度还会更快。有点儿意思吧？
不过呀，A100的算力虽然强，但是是也需要考虑一下性价比。毕竟一张A100的售价大概在15万左右，相比H系 实便宜不少。如果你预算有限，A100绝对是个不错的选择。
采购决策，哪些细节不能忽略？
买A100的时候，需要考虑很多因素啊。首先是装机环境，因为它功耗比较大，最好是配上好一些的散热系统。另外就是电源功率，至少要1200W才能保证稳定运行。最重要的是，一定要选择正规渠道购买，避免买到翻新或者水货。
采购数量也需要好好规划。如果你的业务需求量很大，可以考虑分批采购，这样资金压力会小一些。而且多卡并行训练的时候，记得用NVLINK技术，这样可以提高数据传输效率。