• 11.5. GPU购买指南
    • 11.5.1. 选择GPU
    • 11.5.2. 整机配置
    • 11.5.3. 小结
    • 11.5.4. 练习

    11.5. GPU购买指南

    深度学习训练通常需要大量的计算资源。GPU目前是深度学习最常使用的计算加速硬件。相对于CPU来说,GPU更便宜且计算更加密集。一方面,相同计算能力的GPU的价格一般是CPU价格的十分之一;另一方面,一台服务器通常可以搭载8块或者16块GPU。因此,GPU数量可以看作是衡量一台服务器的深度学习计算能力的一个指标。

    11.5.1. 选择GPU

    目前独立显卡主要有AMD和NVIDIA两家厂商。其中NVIDIA在深度学习布局较早,对深度学习框架支持更好。因此,目前大家主要会选择NVIDIA的GPU。

    NVIDIA有面向个人用户(如GTX系列)和企业用户(如Tesla系列)的两类GPU。这两类GPU的计算能力相当。然而,面向企业用户的GPU通常使用被动散热并增加了显存校验,从而更适合数据中心,并通常要比面向个人用户的GPU贵上10倍。

    如果是拥有100台机器以上的大公司用户,通常可以考虑针对企业用户的NVIDIATesla系列。如果是拥有10~100台机器的实验室和中小公司用户,预算充足的情况下可以考虑NVIDIADGX系列,否则可以考虑购买如Supermicro之类的性价比比较高的服务器,然后再购买安装GTX系列的GPU。

    NVIDIA一般每一两年发布一次新版本的GPU,例如2016年发布的GTX1000系列以及2018年发布的RTX2000系列。每个系列中会有数个不同的型号,分别对应不同的性能。

    GPU的性能主要由以下3个参数构成。

    • 计算能力。通常我们关心的是32位浮点计算能力。16位浮点训练也开始流行,如果只做预测的话也可以用8位整数。
    • 显存大小。当模型越大或者训练时的批量越大时,所需要的显存就越多。
    • 显存带宽。只有当显存带宽足够时才能充分发挥计算能力。

    对大部分用户来说,只要考虑计算能力就可以了。显存尽量不小于4GB。但如果GPU要同时显示图形界面,那么推荐的显存大小至少为6GB。显存带宽通常相对固定,选择空间较小。

    图11.19描绘了GTX 900和GTX1000系列里各个型号的32位浮点计算能力和价格的对比(其中的价格为Wikipedia的建议价格)。

    浮点计算能力和价格的对比 图 11.19 浮点计算能力和价格的对比

    我们可以从图11.19中读出以下两点信息。

    • 在同一个系列里面,价格和性能大体上成正比。但后发布的型号性价比更高,如980Ti和1080 Ti。
    • GTX 1000系列比900系列在性价比上高出2倍左右。 如果大家继续比较NVIDIA的一些其他系列,也可以发现类似的规律。据此,我们推荐大家在能力范围内尽可能买较新的GPU。

    11.5.2. 整机配置

    通常,我们主要用GPU做深度学习训练。因此,不需要购买高端的CPU。至于整机配置,尽量参考网上推荐的中高档的配置就好。不过,考虑到GPU的功耗、散热和体积,在整机配置上也需要考虑以下3个额外因素。

    • 机箱体积。显卡尺寸较大,通常考虑较大且自带风扇的机箱。
    • 电源。购买GPU时需要查一下GPU的功耗,如50 W到300W不等。购买电源要确保功率足够,且不会造成机房供电过载。
    • 主板的PCIe卡槽。推荐使用PCIe 3.016x来保证充足的GPU到内存的带宽。如果搭载多块GPU,要仔细阅读主板说明,以确保多块GPU一起使用时仍然是16倍带宽。注意,有些主板搭载4块GPU时会降到8倍甚至4倍带宽。

    11.5.3. 小结

    • 在预算范围内,尽可能买较新的GPU。
    • 整机配置需要考虑到GPU的功耗、散热和体积。

    11.5.4. 练习

    • 浏览本节讨论区中大家有关机器配置方面的交流。