近期购买显卡建议

AI人工智能初学者

共 7000字,需浏览 14分钟

 ·

2022-11-15 02:29

 

最近淘了一张A4000显卡(大家都说是个人深度学习神卡),联想拆机,有绑定的主机服务码,和卖家确认了是今年6月份出厂的,问了京东客服可以凭借原主人购买订单去送保,价格3600,差不多吧。

因为A4000卡默认是单风扇涡轮散热,默载36度,满载88度将近90度了。


于是拿回来直接改了散热,打算自己用个几年:



改好散热后默载32度,满载不超80度(可能与我机箱比较紧凑有关系),还可以。

+-----------------------------------------------------------------------------+
| NVIDIA-SMI 520.56.06    Driver Version: 520.56.06    CUDA Version: 11.8     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  NVIDIA RTX A4000    Off  | 00000000:01:00.0 Off |                  Off |
| 41%   32C    P8    16W / 140W |     10MiB / 16376MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
                                                                               
+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
|=============================================================================|
|    0   N/A  N/A      1247      G   /usr/lib/xorg/Xorg                  4MiB |
|    0   N/A  N/A      2183      G   /usr/lib/xorg/Xorg                  4MiB |
+-----------------------------------------------------------------------------+

A4000是专业卡不是游戏卡,一般来说是用于制图CAD等,但其实这张卡对于深度学习来说也是神卡,核心数量和3070TI一致,但是因为频率限制(最高功率140w),所以性能介于台式机3070和3080之间,不过显存是16G,很适合搞模型。



同时也看下Pytorch性能training测试:



我测试了下,性能比我幻13的3080拓展坞略高一点(笔记本3080的TGP在40-150W动态浮动,这张A4000固定140W),除此之外配置和笔记本的3080几乎一样,核心也一样,显存大小也一样。可以把A4000看成笔记本版的3080。



搞深度学习的,不用说显存很重要,16G的显存跑最近比较火的Stable Diffusion也没有任何问题,训练的时候batch size也可以设的大一点。建议最近配显卡的,如果想要大显存又不想花很多钱,又想体验比较新的安培架构,A4000最合适不过了。

显卡价格

因为矿难,以及双11,以及经济下行,以及40系显卡出来了,近期的显卡价格个人认为还是挺合适的。

就拿我买的A4000专业卡来说,去年9月份的时候卖7000-8000。现在,11月份左右,搜了下小黄鱼、淘宝和京东:

  • 小黄鱼3300-6000不等,盒装未拆封最贵、拆机IDC机房锻炼过的最便宜
  • 淘宝也有很多全新拆机显卡,4300-5600不等,有工包、有盒装
  • 京东就比较贵了5000-6400的都有,全新未拆封,盒装,也有工包


30系显卡默认矿,这点没问题。

闲鱼上很多商家也直接说明自己的是矿,什么IDC机房跑了几个月,这里就是矿卡,不建议买,除非店家提供质保和换新服务可以试试。

个人卖的也有挖过的,但是相比专业的挖矿,可能个人玩家保护的更好一些,显存频率不敢超太多,偶尔挖一挖,这些也是能买的。

因为我自己配的是戴尔的商业机,所以也看了很多戴尔拆机显卡,真的是多,这些拆机显卡,要看显卡上有没有贴着戴尔的服务码,以及SN码,有服务码就可以根据服务码查到当前绑定主机的信息,出厂保修信息都有,一般有服务码可以查到的问题不大。



知乎上有篇不错的帖子,介绍如何查询大部分显卡的SN码:

  • https://zhuanlan.zhihu.com/p/427166841

性价比爆表的3080-16G笔记本

想起我之前为了幻13买的ROG-3080显卡坞,性能虽然因为功能最高150w,比桌面端的3070TI要弱,但是因为16G的显存,深度学习方面很多地方都受益。

10月底那会就看到一款性价比非常高的笔记本,拯救者R9000K,配置3080-16G、内存32G、1T固态,屏幕也不错2.5K。

然后做活动竟然只卖9999。如果不是那会配了主机了,要不然说不定真的搞一台...有好几次就差点下单想买了,买回来当个笔记本服务器玩玩(不用这个打游戏,有steam deck,可能有点浪费这个屏幕)。

一开始需要付定金200才能购买,中间有几天断货,后来11月刚开始又放货了可以直接购买,这几天又断货了,但时不时会放货,感兴趣的可以关注下。



说实话很值,虽然买这款主要都是臭打游戏的买,但是跑深度学习模型也超级合适,毕竟16g的显存放那儿了。

唯一的弱点就是CPU比较弱,高显低U。相较i5-12500要差一些,比i7-12代就**差了30、40%**了。不过这个CPU对打游戏影响比较大,深度学习来说,CPU只做数据的读取,瓶颈主要是带宽,GPU做运算最重要,CPU性能影响不大,可以放心的买。

只是不知道双11当天会不会更便宜呢。

买显卡建议

其实也有想过要不要买3090-24G卡,但是电源配的是500W,不够3090用了。

机箱比较小,主板是8PIN输入的,换不了大电源,也不想双电源(需要电源同步,而且第二电源需要放到外头,不美观),算了不折腾了。

3090现在全新的价格就是6000-8000左右,闲鱼上也有很多拆机卡,公版的,适合比较小的机箱,个人觉得如果5000-6000左右搞一个新点的3090也没啥问题。24G显存足够做很多事儿了。另外安培架构也不老,最新的40系列我觉得可以等等再上。

当然有钱还是直接上4090,如果抢不到4090的显卡,直接买整机也OK:



只不过4090我暂时不打算换了,一是家里玩意儿太多,玩不过来;二是30系列的特性都没参透,40系列更复杂的架构,看不懂了看不懂了。

另外,很多推理库目前对安培架构的支持比较好(比如CUTLASS、AItemplate),够玩一阵子。

近期我推荐的先就是A4000(16g)或者3090(24g),或者3060(12g)也可以,重要就是大显存!

你要说A4500、A5000、A6000,这三个专业卡就贵的离谱了,A5000显存性能和3090差不多,但是比3090要贵1000、2000左右。主要专业卡受众比较小,相对来说更贵些,附带的ECC显存,如果不是做大量的数值计算(一个月那种),普通的深度学习训练也不需要这个。

往期回顾

浏览 530
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报