近期购买显卡建议
共 7000字,需浏览 14分钟
·
2022-11-15 02:29
最近淘了一张A4000显卡(大家都说是个人深度学习神卡),联想拆机,有绑定的主机服务码,和卖家确认了是今年6月份出厂的,问了京东客服可以凭借原主人购买订单去送保,价格3600,差不多吧。
因为A4000卡默认是单风扇涡轮散热,默载36度,满载88度将近90度了。
于是拿回来直接改了散热,打算自己用个几年:
改好散热后默载32度,满载不超80度(可能与我机箱比较紧凑有关系),还可以。
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 520.56.06 Driver Version: 520.56.06 CUDA Version: 11.8 |
|-------------------------------+----------------------+----------------------+
| GPU Name Persistence-M| Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|===============================+======================+======================|
| 0 NVIDIA RTX A4000 Off | 00000000:01:00.0 Off | Off |
| 41% 32C P8 16W / 140W | 10MiB / 16376MiB | 0% Default |
| | | N/A |
+-------------------------------+----------------------+----------------------+
+-----------------------------------------------------------------------------+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|=============================================================================|
| 0 N/A N/A 1247 G /usr/lib/xorg/Xorg 4MiB |
| 0 N/A N/A 2183 G /usr/lib/xorg/Xorg 4MiB |
+-----------------------------------------------------------------------------+
A4000是专业卡不是游戏卡,一般来说是用于制图CAD等,但其实这张卡对于深度学习来说也是神卡,核心数量和3070TI一致,但是因为频率限制(最高功率140w),所以性能介于台式机3070和3080之间,不过显存是16G,很适合搞模型。
同时也看下Pytorch性能training测试:
我测试了下,性能比我幻13的3080拓展坞略高一点(笔记本3080的TGP在40-150W动态浮动,这张A4000固定140W),除此之外配置和笔记本的3080几乎一样,核心也一样,显存大小也一样。可以把A4000看成笔记本版的3080。
搞深度学习的,不用说显存很重要,16G的显存跑最近比较火的Stable Diffusion
也没有任何问题,训练的时候batch size也可以设的大一点。建议最近配显卡的,如果想要大显存又不想花很多钱,又想体验比较新的安培架构,A4000最合适不过了。
显卡价格
因为矿难,以及双11,以及经济下行,以及40系显卡出来了,近期的显卡价格个人认为还是挺合适的。
就拿我买的A4000专业卡来说,去年9月份的时候卖7000-8000。现在,11月份左右,搜了下小黄鱼、淘宝和京东:
小黄鱼3300-6000不等,盒装未拆封最贵、拆机IDC机房锻炼过的最便宜 淘宝也有很多全新拆机显卡,4300-5600不等,有工包、有盒装 京东就比较贵了5000-6400的都有,全新未拆封,盒装,也有工包
30系显卡默认矿,这点没问题。
闲鱼上很多商家也直接说明自己的是矿,什么IDC机房跑了几个月,这里就是矿卡,不建议买,除非店家提供质保和换新服务可以试试。
个人卖的也有挖过的,但是相比专业的挖矿,可能个人玩家保护的更好一些,显存频率不敢超太多,偶尔挖一挖,这些也是能买的。
因为我自己配的是戴尔的商业机,所以也看了很多戴尔拆机显卡,真的是多,这些拆机显卡,要看显卡上有没有贴着戴尔的服务码,以及SN码,有服务码就可以根据服务码查到当前绑定主机的信息,出厂保修信息都有,一般有服务码可以查到的问题不大。
知乎上有篇不错的帖子,介绍如何查询大部分显卡的SN码:
https://zhuanlan.zhihu.com/p/427166841
性价比爆表的3080-16G笔记本
想起我之前为了幻13买的ROG-3080显卡坞,性能虽然因为功能最高150w,比桌面端的3070TI要弱,但是因为16G的显存,深度学习方面很多地方都受益。
10月底那会就看到一款性价比非常高的笔记本,拯救者R9000K,配置3080-16G、内存32G、1T固态,屏幕也不错2.5K。
然后做活动竟然只卖9999。如果不是那会配了主机了,要不然说不定真的搞一台...有好几次就差点下单想买了,买回来当个笔记本服务器玩玩(不用这个打游戏,有steam deck,可能有点浪费这个屏幕)。
一开始需要付定金200才能购买,中间有几天断货,后来11月刚开始又放货了可以直接购买,这几天又断货了,但时不时会放货,感兴趣的可以关注下。
说实话很值,虽然买这款主要都是臭打游戏的买,但是跑深度学习模型也超级合适,毕竟16g的显存放那儿了。
唯一的弱点就是CPU比较弱,高显低U。相较i5-12500要差一些,比i7-12代就**差了30、40%**了。不过这个CPU对打游戏影响比较大,深度学习来说,CPU只做数据的读取,瓶颈主要是带宽,GPU做运算最重要,CPU性能影响不大,可以放心的买。
只是不知道双11当天会不会更便宜呢。
买显卡建议
其实也有想过要不要买3090-24G
卡,但是电源配的是500W,不够3090用了。
机箱比较小,主板是8PIN输入的,换不了大电源,也不想双电源(需要电源同步,而且第二电源需要放到外头,不美观),算了不折腾了。
3090现在全新的价格就是6000-8000左右,闲鱼上也有很多拆机卡,公版的,适合比较小的机箱,个人觉得如果5000-6000左右搞一个新点的3090也没啥问题。24G显存足够做很多事儿了。另外安培架构也不老,最新的40系列我觉得可以等等再上。
当然有钱还是直接上4090,如果抢不到4090的显卡,直接买整机也OK:
只不过4090我暂时不打算换了,一是家里玩意儿太多,玩不过来;二是30系列的特性都没参透,40系列更复杂的架构,看不懂了看不懂了。
另外,很多推理库目前对安培架构的支持比较好(比如CUTLASS、AItemplate),够玩一阵子。
近期我推荐的先就是A4000(16g)或者3090(24g),或者3060(12g)也可以,重要就是大显存!
你要说A4500、A5000、A6000,这三个专业卡就贵的离谱了,A5000显存性能和3090差不多,但是比3090要贵1000、2000左右。主要专业卡受众比较小,相对来说更贵些,附带的ECC显存,如果不是做大量的数值计算(一个月那种),普通的深度学习训练也不需要这个。