如何配置一台深度学习工作站?极市平台关注共 3737字,需浏览 8分钟 ·2020-08-22 17:07 ↑ 点击蓝字 关注极市平台极市导读 本文介绍了家用的深度学习工作站的两种典型配置,以及各类硬件的参数介绍和选择方案,可以作为选购时的参考。>>>极市七夕粉丝福利活动:炼丹师们,七夕这道算法题,你会解吗?这篇文章主要介绍的是家用的深度学习工作站,典型的配置有两种,分别是一个 GPU 的机器和四个 GPU的机器。如果需要更多的 GPU 可以考虑配置两台四个 GPU 的机器。如果希望一台机器同时具备 6~8 个 GPU 需要联系专门的供应商进行配置,并且有专业的机房存放,放在家里噪声很大并且容易跳闸。CPU由于最近 AMD 和 Intel 频繁更新 CPU,因此大家选择新款的 CPU 比较好。CPU 与 GPU 的关系CPU 瓶颈没有那么大,一般以一个GPU 对应 2~4 个 CPU 核比较好,比如单卡机器买四核 CPU,四卡机器买十核 CPU。当你在训练的时候,只要数据生成器(DataLoader)的产出速度比 GPU 的消耗速度快,那么 CPU 就不会成为瓶颈,也就不会拖慢训练速度。PCI-E 支持情况除了核数,你还需要注意 PCI-E 支持情况,一般显卡是 PCI-E 3.0 x16,比如 i9-9820X 的 PCI-E 通道数是 44 ,配置四卡的话,只能支持 1x16+3x8+1x4,也就是单卡全速,三卡半速,一个 NVMe 固态硬盘。这种情况下可以考虑选择带有 PLX 桥接芯片的主板。AMD 的 2990WX 有 64条 PCI-E,但是只支持 x16/x8/x16/x8 的四卡配置。英特尔CPU英特尔CPU双卡机器选 i9-9900K,四卡机器按照预算选X系列的CPU。主板主板需要注意:CPU 接口是否能对上,如LGA2066 和 SocketTR4PCI-E 插槽的高度是否够插显卡,比如 PCI-E 插口之间的距离至少要满足双槽宽显卡的高度PCI-E 同时可以支持几张卡以什么样的速度运行,如 1x16 + 3x8 是常见的配置主板必看参数GIGABYTE X299 AORUS MASTER (rev. 1.0) 使用了 4 组 2 槽间距显卡插槽设计,支持1x16、2x16、2x16 + 1x8、1x16 + 3x8 四种配置(需要十核以上的 CPU),这里请参阅说明书安装显卡,安装在不同位置的速度是不一样的:GIGABYTE X299 AORUS MASTER (rev. 1.0)GIGABYTE X299 AORUS MASTER manual带有桥接芯片的主板有的主板如 WS X299 SAGE 带有 PLX 桥接芯片,可以在 CPU 没有足够 PCI-E 的情况下达到四卡 x16 的速度:WS X299 SAGEWS X299 SAGE User Guide在多卡并行训练的时候,PCI-E 的传输速度决定了梯度同步的速度,如果你训练的的模型比较大,希望搭建多卡机器,建议选择支持四路 PCI-E x16 的主板。显卡显卡性能表训练需要 FP32 和 FP16 的性能,推断需要 INT8 的性能。训练大模型需要注意显存大小。考虑成本可以买 RTX 2080Ti,想要高性能并且高性价比可以买 TITAN RTX,土豪可以选 Tesla V100。RTX 2080 显存较小,不推荐。GTX1080Ti 已经出了太久了,网上都是二手卡,不推荐。涡轮与风扇采购显卡的时候,一定要注意买涡轮版的,不要买两个或者三个风扇的版本,除非你只打算买一张卡。因为涡轮风扇的热是往外机箱外部吹的,所以可以很好地带走热量,散热比较好。如果买三个风扇的版本,插多卡的时候,上面的卡会把热量吹向第二张卡,导致第二张卡温度过高,影响性能。风扇显卡很有可能是超过双槽宽的,第二张卡可能插不上第二个 PCI-E 插槽,这个也需要注意。涡轮散热风扇散热服务器推断卡除了用于训练,还有一类卡是用于推断的(只预测,不训练),如:这些卡全部都是不带风扇的,但它们也需要散热,需要借助服务器强大的风扇被动散热,所以只能在专门设计的服务器上运行,具体请参考英伟达官网的说明。性价比之选应该是 Tesla T4,但是发挥全部性能需要使用 TensorRT 深度优化,目前仍然存在许多坑,比如当你的网络使用了不支持的运算符时,需要自己实现。英伟达只允许这类卡在服务器上运行,像 GTX 1080Ti、RTX 2080Ti 都是不能在数据中心使用的。No Datacenter Deployment. The SOFTWARE isnot licensed for datacenter deployment, except that blockchain processing in adatacenter is permitted.硬盘硬盘类型常用硬盘接口有三种:SATA3.0,速度 600MB/sSAS,速度 1200MB/sPCIE 3.0 x4(NVMe),速度 3.94GB/s参数对比下面是根据代表产品查询的参数:注:4K 随机读写的队列深度为 32SATA3 机械硬盘没有太好的数据来源,所以数据是经验值SATA3 固态硬盘数据来源:三星(SAMSUNG)1TB SSD固态硬盘 SATA3.0接口 860 EVONVMe 固态硬盘数据来源:英特尔(Intel)1TB SSD固态硬盘 M.2接口(NVMe协议) 760P系在面对大量小文件的时候,使用 NVMe 硬盘可以一分钟扫完 1000万文件,如果使用普通硬盘,那么就需要一天时间。为了节省生命,简化代码,硬盘建议选择 NVMe 协议的固态硬盘。如果你的主板不够新,没有NVMe 插槽,你可以使用 M.2 转接卡将 M.2 接口转为PCI-E 接口。M.2 转接卡内存内存容量的选择通常大于显存,比如单卡配 16GB 内存,四卡配 64GB 内存。由于有数据生成器(DataLoader),数据不必全部加载到内存里,通常不会成为瓶颈。电源先计算功率总和,如单卡 CPU 100W,显卡 250W,加上其他的大概 400W,那么就买 650W 的电源。双卡最好买 1000W 以上的电源,四卡最好买 1600W 的电源,我这里实测过四卡机用 1500W 的电源来带,跑起来所有的卡以后会因为电源不足而自动关机。一般墙上的插座只支持 220V 10A,也就是 2200W 的交流电,由于电源要把交流电转直流电,所以会有一些损耗,最高只有1600W,因此如果想要支持八卡,最好不要在家尝试。八卡一般是双电源,并且需要使用专用的 PDU 插座,并且使用的是 16A 插口,如果在家使用,会插不上墙上的插座。网卡一般主板自带千兆网卡。如果需要组建多机多卡集群,请联系供应商咨询专业的解决方案。机箱如果配单卡,可以直接买个普通机箱,注意显卡长度能放下就行。如果配四卡机器,建议买一个 Air 540 机箱,因为我正在用这一款。Air 540显示器深度学习工作站装好系统以后就不需要显示器了,装系统的时候使用手边的显示器就行。键盘鼠标深度学习工作站装好系统以后就不需要键盘鼠标了,装系统的时候使用手边的键盘鼠标就行。 参考链接Turing 架构白皮书Volta 架构白皮书RTX 2080 Ti Deep Learning Benchmarks with TensorFlow - 2019https://developer.nvidia.com/deep-learning-performance-training-inferencehttps://www.nvidia.cn/object/where-to-buy-tesla-catalog-cn.htmlhttps://www.supermicro.org.cn/support/resources/gpu/https://www.geforce.com/drivers/license/geforce推荐阅读YOLOv4 的各种新实现、配置、测试、训练资源汇总基于深度学习的多目标跟踪(MOT)技术一览FCN、Unet、Unet++:医学图像分割那点事儿添加极市小助手微信(ID : cvmart2),备注:姓名-学校/公司-研究方向-城市(如:小极-北大-目标检测-深圳),即可申请加入极市目标检测/图像分割/工业检测/人脸/医学影像/3D/SLAM/自动驾驶/超分辨率/姿态估计/ReID/GAN/图像增强/OCR/视频理解等技术交流群:每月大咖直播分享、真实项目需求对接、求职内推、算法竞赛、干货资讯汇总、与 10000+来自港科大、北大、清华、中科院、CMU、腾讯、百度等名校名企视觉开发者互动交流~△长按添加极市小助手△长按关注极市平台,获取最新CV干货觉得有用麻烦给个在看啦~ 浏览 44点赞 评论 收藏 分享 手机扫一扫分享分享 举报 评论图片表情视频评价全部评论推荐 如何配置一台深度学习工作站?Datawhale0【深度学习】如何配置一台深度学习工作站?机器学习初学者0教程:个人深度学习工作站配置指南机器学习实验室0【深度学习】保姆级教程:个人深度学习工作站配置指南机器学习初学者0保姆级教程:个人深度学习工作站配置指南Jack Cui0保姆级教程:个人深度学习工作站配置指南Datawhale0保姆级教程:个人深度学习工作站配置指南机器学习算法与Python实战0保姆级教程:个人深度学习工作站配置指南极客挖掘机0【深度学习】深度学习如何影响运筹学?机器学习初学者02021年深度学习主机配置推荐AI算法与图像处理0点赞 评论 收藏 分享 手机扫一扫分享分享 举报