最近很多客户都在问，H100和H800到底哪里不一样啊？尤其价格这块儿，大家都很在意。从我们这边的报价来看，H100整机价格大概是220万人民币左右，H800差不多是15万。差距确实不小，那这些钱花得值不值呢？
算力差距明显
H100用的是最新的Hopper架构，NVLink带宽能达到900GB/s。H800呢，带宽只有它的一半多点。在大模型训练这种场景下，H100的每epoch时间比H800快了不少。用过的客户都说，训练GPT-3这种大模型，H100能省下不少时间。
另外啊，H100的Tensor Core性能也更强，AI推理的利用率更高。要是做AI训练的话，选H100肯定更划算一些。
三年综合成本对比
虽然H100前期投入大，但是是从三年TCO总成本来看，其实更省钱。电费按0.8元/度算，24小时365天不停转，H100的能效更好，电费就能省下一大笔。散热和机架成本也会低一些。
H800便宜是便宜，但是是长期用下来，不一定划算。这道理跟买车差不多，贵的车省油，便宜的车耗油。具体选哪个，还得看你的使用场景。
换代周期要考虑
现在显卡更新太快了，H100用了最新的架构，至少能坚持个2.3年不用换。H800可能用个一年半就不太跟得上了。要是做长期部署的话，H100的投资回报率更高。
所以呀，选显卡不能光看价格，要综合考虑算力、能效和换代周期。H100和H800各有优势，关键是要选对适合自己业务的。