服务器GPU卡是什么？选购时要注意哪些性能指标？

最近不少企业在搭建AI训练平台时跑来问我："老张啊，现在这服务器GPU卡到底该怎么选？"确实，2026年开年以来，国内AI服务器市场火爆得很。就拿上个月来说，某大型互联网公司一次性采购了2000多张H100升级版，把整个中关村现货市场都扫空了。

GPU卡在服务器里到底干啥用的？

简单来说就是把CPU干不动的话接过来干。现在搞AI训练、视频渲染这些重活，光靠CPU就像用菜刀砍大树。我们去年给某三甲医院部署的医疗影像系统，用普通CPU处理一张CT要3分钟，换上专业GPU卡后只要8秒。

目前市场上主流分三种：

• 游戏显卡：像RTX4090Ti这种，偶尔有人拿来凑合用
• 专业卡：Quadro RTX 8000这种，设计院用得比较多
• 计算卡：A100 80GB这些才是服务器正主

今年3月最新行情来看，H100升级版单卡报价在12-15万之间浮动，比去年底降了约8%。二手市场上一批矿卡翻新的A100 40GB，2万出头就能拿下，但真心不建议企业用。

选购GPU卡必须盯紧的5个参数

上周有个客户贪便宜买了批 ** 版的卡，结果训练模型速度比别人慢三倍。这里给大家划重点：

1. 显存容量：80GB是起步价，2026年新出的B200已经做到144GB
2. 显存带宽：低于3TB/s的直接pass
3. CUDA核心数：现在没个1.5万都不好意思打招呼
4. 散热设计：服务器机房那种噪音，普通风扇撑不过半年
5. 接口类型：PCIe 5.0 x16是底线，新出的SXM5接口性能更好

特别注意最近有些商家把移动端芯片改的卡当服务器卡卖，功耗墙卡得死死的，买之前一定要跑个FP64测试。

不同场景该怎么搭配？

昨天还有个做自动驾驶的客户问我，8卡服务器要不要全上最高配。其实真没必要，这里给几个常见方案：

要是做金融风控这种对延迟敏感的业务，记得要选支持RDMA的网卡搭配使用。我们给某券商做的方案，把传统方案的300ms延迟压到了50ms以内。

二手市场的水有多深？

现在海鲜市场上充斥着各种"九成新计算卡"，我帮客户验过十几批，总结几个避坑经验：

首先看金手指磨损程度，服务器插拔次数多的会有明显划痕。其次要用GPU-Z看通电时间，超过2万小时的直接放弃。最重要是跑个双精度测试，性能衰减超过15%的肯定是矿场退役的。

最近还出现一种翻新套路，把特斯拉计算卡的散热器换成游戏卡的，外行根本看不出来。有个客户买了8张所谓的"全新库存"，结果上机第三天就集体过热降频。

电源和散热千万别省

见过最离谱的案例是某公司为了省钱，8卡服务器只用了个1600W电源。结果半夜训练时电源直接放烟花，烧了半层楼的设备。

现在单张高端卡TDP都到700W了，建议：

• 每卡预留100W余量
• 一定要用铂金级电源
• 机柜PDU最好带电流监控

散热方面，现在主流是前后风道+导流罩方案。有些客户学互联网大厂上液冷，其实除非是超算中心，否则维护成本反而更高。

最后提醒下，买卡只是开始。驱动程序版本、CUDA工具链这些软配置更要命。去年有家客户用新卡装旧驱动，性能直接腰斩。建议组建专门的技术团队跟进这些细节，或者找靠谱的供应商做长期运维支持。