进行深度学习训练,是购买阿里HPC服务,还是花钱配置4个TitanX的服务器?

当然是自己配划算了。阿里HPC太贵了。
不过不建议买Titan X,1080 Ti便宜很多,性能还好。
(图片来源:Nvidia官网)
为深度学习挑显卡,主要看带宽和显存(当然还有价格)。
带宽:1080 Ti 4

本文最后更新时间:  2023-05-14 07:05:29

当然是自己配划算了。阿里HPC太贵了。

不过不建议买Titan X,1080 Ti便宜很多,性能还好。

(图片来源:Nvidia官网)

为深度学习挑显卡,主要看带宽和显存(当然还有价格)。

带宽:1080 Ti 484 GB/s > Titan X 384 GB/s

显存:1080 Ti 11 GB < Titan X 12 GB

是的,1080 Ti显存小一点,但是价格便宜太多了。对于大多数深度学习应用而言,这1GB的差别并不会造成太多影响。如果真的对显存有需求,可以考虑Titan Xp (带宽 547.7 GB/s 显存 12 GB),性价比更高。

但是,无论你买什么卡,包括Titan X,甚至是性价比更低的卡,性价比都比阿里HPC高。

你自己算一下就发现,用阿里HPC的话,不到半年,所需开销就足够自己购买硬件了(这里已经计算了搭机器的人工成本,单纯算硬件的话,差距更明显)。

阿里HPC有一个好处是弹性。不过,鉴于目前显卡的行情,即使过了几个月你的这个深度学习项目被公司砍掉了,你把GPU什么的转卖掉,核算下来成本仍然远低于阿里HPC。

个人认为,阿里HPC比较适合极端情形:

大规模运用。公司不想自己搭数据中心。

极小规模运用。比如员工用MBP,模型放云上跑,偶尔跑一下,运算量也不大。省去了自己搭机器IT维护的麻烦。

温馨提示:内容均由网友自行发布提供,仅用于学习交流,如有版权问题,请联系我们。