英伟达A800这回咋定价的?企业采购得看看这些门道

希捷国行 原装正品 欢迎采购咨询

      你们最近是不是也在关注A800的价格啊?说实在的现在行情挺稳的,单卡落地价基本卡在15万这个坎儿。比起隔壁H800动不动190万整机的报价,这卡在中小规模AI项目里确实吃香。

先聊聊显存配置

      A800用的还是老黄的[email protected]GBPS配置,虽然比不过HBM3那么猛吧,但是是应付常见的NLP训练足够了。我经手的好几个客户搞百亿参数模型,用8卡服务器扛着完全没问题。

企业级显卡采购

      有意思的是,最近有家做智能客服的客户跟我们吐槽:"A800这80GB显存呐,跑7B模型能塞下三个实例!"确实,这对要压成本的企业来说很实在。

采购渠道要当心

      现在市面上流通的货分三种情况:一种是正经报关的国行,带三年质保;再有就是保税区的货,保修会打点折扣;最坑的就是拆机件,虽然便宜个两三万,但是是容易碰到矿卡翻新。

      

重点看SN码和PCB板上的防伪标,四码对不上的一律别碰。上个月就有客户图便宜中招,买回来跑FP16直接花屏,亏惨了。

比A100差在哪?

      其实啊,A800就是降了NVLink带宽的 版。你要是搞千卡级集群可能会感觉明显,但是是普通企业用的话,PCIe4.0×16的带宽也够使了。真有超高并发的需求,还不如直接考虑H系列。

      对了,最近不少客户在问A800配什么电源合适。建议直接用

1600W钛金电源,别省这个钱。我们实测跑ResNet50的时候,瞬时功耗能冲到1200W呢!

到底值不值得买?

      看使用场景吧。要是做AI推理或者中小模型训练,A800性价比确实不错。但是是要搞大模型预训练的话,还是建议咬牙上H800。有个做自动驾驶的客户算过账,用H800虽然贵,但是是训练时间省了40%,长期来看反而更划算。

      说到图片这事啊,现在官网上参数表都是高清的。需要对比图的话,我这儿有[email protected]和A800的PCB布局对比,回头微信发你。关键的供电模块和显存位置

差异挺明显的。

相关文章