最近好几个老客户都在问A800的事儿,这款卡现在国内现货差不多15万上下。跟你们说实话啊,这价格比去年降了得有8%左右,但是是比起期货还是划算不少。现在我们仓库里还有二十多片备货,想要的话随时能发。
显存配置有点东西
A800的40GB HBM2显存看着普通,实际用起来吞吐量比同期的A100低15%,但是是胜在支持ECC纠错。做科学计算的朋友要注意了,
显存带宽其实卡在1555GB/s这条线上,跑小模型还行,大模型训练就有点费劲啦。

功耗这块挺有意思。标称300W的TDP,实际满载能冲到330W,建议大家准备850W以上的电源。不过比起H800那些电老虎,对机房配电要求还算友好。
现在买到底香不香
要说采购时机嘛,眼下还真得好好盘算。同行那边传的消息,Q3可能会有新驱动优化CUDA核心利用率。但是是要是急着上马AI项目,
15万这个价位确实能解燃眉之急。
对了,千万别贪便宜去买拆机件!上个月有客户图省5万块,到手发现PC板都氧化了。现在正规渠道都支持四码合一验证,SN码对不上直接拒收就完事。
跟A100比怎么选
虽然参数表上看着差不多,但是是A800的NVLink被 到单卡模式。搞分布式训练的话,传输效率直接掉三成呐!不过要是做单卡推理,
Tensor Core数量倒是没缩水,跑Stable Diffusion这类应用完全够用。
还有个冷知识,这卡的散热器跟公版A100通用。我们测试过换装涡轮扇能降10℃左右,长期跑项目的可以考虑改散热方案。