PTT評價

Re: [請益] 兩張3090深度學習用電腦

看板PC_Shopping標題Re: [請益] 兩張3090深度學習用電腦作者
Ryan10
(瑞恩是10號)
時間推噓 4 推:4 噓:0 →:25

目前手邊正有兩張3090在跑DL,雖然不是繪圖但還是手癢回個文順便賺點P幣 欸嘿
實驗室有5張A6000,但xeon的單核好爛管理系統還不能設container的shm
只好自己弄一台 馬的

※ 引述《brid (鳥哥)》之銘言:
: 標題: [請益] 兩張3090深度學習用電腦
: 時間: Tue May 30 15:14:10 2023
:
: 如題,最近實驗室要新增一台電腦
: 預計是兩張二手3090要跑深度學習(AI繪圖)
: 沒有選4090是因為怕燒(實驗室常常沒人)
: 想請問以下問題(除了顯卡都以全新為主)
: 1.3090 如果要跑x16/x16的話板U建議怎麼拿,還是說拿一般的板子跑x8/x8即可?
我這邊跑在pcie4 x16和pcie3 x4,訓練速度體感是沒差就是
但我的模型不大
: 2.記憶體拿64G應該很夠了吧?
: 3.機殼有沒有推薦的?預計要裝滿14cm的風扇和兩張3090
: 老師有點白色控,如果價差不大可以推薦看看一些白色的零件,RGB不需要沒關係
: 機殼預算5k左右,板u不知道行情,但也是希望以夠用為主

先說我的配備
12700k
msi pro z690a wifi d4
隨便16g*2
隨便ssd好幾條好幾個
msi 3090 ventus 3x 裝上面
evga 3090 xc3 雙下面 反過來的話會燙到爆
海盜1000w
Antec P100(沒看錯 8年多前的殼)

U和板是之前礦潮的時候撿的,星星那張來自蝦皮另一張來自隔壁板
入手價是蠻便宜啦,但隔壁板那張她媽清了狗幹久
星星那張也有過風扇很大聲送修 還好沒有拒保 如果買二手便宜卡要有心理準備
再來就是散熱,能開側板的話真的隨便的殼都沒關係
不能開的話應該大部分的殼都很刺激喔

另外要注意幾個點
第一是一定很熱,尤其上面那張卡
本身進氣條件就不好了,又會吸到下面那張卡的熱空氣,除非用鼓風扇
但3090基本上沒這東西的樣子

第二是兩張卡中間那個m2插槽請當作沒有
根本沒幹嘛就熱到跳掉 笑死

另外就是windows的docker desktop效能有夠爛 換到linux後直接起飛 又笑死

順便回幾個推文 感覺不少人對這種運算機不太熟?
: 推 hbk20491: 沒人3090就沒危險? 05/30 15:15: → hbk20491: 高功耗在跑人一定要在 05/30 15:15沒差吧 我看別間實驗室A100也沒人在顧 一堆小礦場也沒人在顧

: → oppoR20: 強烈建議3090Ti 05/30 15:16: → oppoR20: 我們lab熱壞一張3090了 05/30 15:163090ti有比較好嗎 預設功耗比較高 還是原po最怕的pcie5供電
雖然好像不會燒就是
90的雙面vram熱壞就...送修?
3090ti最大問題應該還是價格 前陣子普遍多4到5000 還沒有可以砍價的礦卡
現在3090也漲起來就不知道了 但的確是一個可以考慮的選項

: 推 hbk20491: 3090發爐大戶 你敢24小時讓他維持80幾度以上??4090超 05/30 15:19: → hbk20491: 低溫不超過60度 05/30 15:19為啥不敢 才80度 桌機用戶vs筆電用戶.jpg
另外就是3090降個公耗基本上不會影響太多

: → oppoR20: 高功耗沒人在沒差啦 哪有那麼誇張 05/30 15:21: → oppoR20: 多得是把機器放在其他地方的lab 05/30 15:21把機器放在研究室才是少數吧XD
熱得要死 如果是伺服器型還吵得要死 放隔壁都聽的到zz

: 推 ZhouGongJin: 怕熱就油冷啊,反正能報帳。 05/30 15:26真幽默
: 推 mrme945: 不用啊,華碩那張W680就可以了,還可以上ECC記憶體,不過 05/30 15:36: → mrme945: 兩槽有點近,卡的位置不是很好安排 05/30 15:36要塞的下XD 現在的卡都狗幹大張==

: → GZEN: 那熱量真的勸你再想想 05/30 15:40我隔壁同學每天強迫享受三溫暖 免費的真棒
如果冬天的話很爽就是 可惜夏天到了

: 推 boren: 共同供應契約買個繪圖工作站直接配好就行了,出保不囉嗦 05/30 16:27: → boren: 喔對了,顯卡就配兩張A6000,買什麼3090 05/30 16:34會這樣問肯定是預算不夠啊 a6000一張18萬組兩台還有剩 也沒跑比較快
vram是多很多啦 但用不到=浪費餒

: 推 Ahhhhaaaa: 1. 不需要買x16/x16的板跟U,因為3090跑不滿pcie 4.0x8 05/30 16:48: → Ahhhhaaaa: ,所以買個有x8/x8即可 甚至你不強求的話可以x16/x4 05/30 16:48: → Ahhhhaaaa: 要買x16/x16你乾脆直接上A6000、或者下一代的6000 ada 05/30 16:48其實我覺得 有沒有要NVlink是兩回事 但原po沒有說這部分
如果要nvlink感覺就有機會需要雙x16 單純靠那個小東西的頻寬應該沒那麼大?
但我沒用過我也不知道
當初麗x的人說那個很難用叫我們不要浪費錢 笑死

: 推 liang1123: 有辦法請到經費的話就找廠商上繪圖工作站R 二手3090誰 05/30 17:37: → liang1123: 知道有沒有被操出內傷 到時出問題你會被釘飛 05/30 17:37趕快畢業就沒事(X
: 推 annboy: 1. CPU只會影響前處理 拿i9 主機版拿x8/x8因為DL訓練瓶頸 05/30 18:03: → annboy: 在卡內 x8跟x16最多最多不會超過5% 05/30 18:03: → annboy: 記憶體要大於 VRAM綜合的兩倍 所以要超過96 請拿128G 三 05/30 18:04: → annboy: 條插滿 05/30 18:04: → annboy: 3. 聯力 O11D XL 05/30 18:05: → annboy: *四條插滿 05/30 18:06i9不一定有用吧 我看我一個訓練都只有單核吃滿 剩下都不高 總使用率大概30%
感覺i7應該就夠了餒 當然這種東西沒在嫌少的XD
至於ram我覺得要看跑甚麼 我這邊大概吃16g不到 笑死

: → s3503s: 3090太燙 一張都很抖 建議要就兩張4090 05/30 18:12: 推 s3503s: 真的要塞就找類似礦架的 不然兩張疊在一起 機殼多大都沒 05/30 18:15: → s3503s: 用 05/30 18:15450w vs 350w 要確定餒 但如果是礦架的話都不燙就是

: → y40103: 建議4090 為了怕燒用3090聽起來很瞎 05/30 18:45有點好笑,但4090太貴太大張,原po看起來有預算問題
選兩張二手3090我覺得合情合理

: → GZEN: 對了你基本上還要上雙電供 能選的機殼從一開始就很有限了 05/30 18:49不用== 才兩張3090 一顆1000w涼涼 會怕就1300w 電沒有不穩的話搞不好比顯卡還能撐
200w.jpg少看點

: → mtc5566: 用4090+1 至於怕燒那真的沒辦法.. 05/30 20:56為啥大家那麼喜歡4090


不知道欸 電蝦板鄉民研究所的實驗室都是土豪實驗室ㄇ
雖然4090看tflops效能是3090的兩倍多,但dl很吃vram頻寬
我記得conv之類的效能好像就1.6倍 vram也沒有比較多
20k vs 48~50k 多60%效能好像沒有很優
然後還超大 搞不好塞不下第二張

以上供原po參考 祝早日脫離苦海
但現在才在組應該是碩一或博班 感覺還久 幫qq

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.73.202.83 (臺灣)
PTT 網址

oppoR2005/30 23:553090Ti的記憶體放在正面 散熱好很多

oppoR2005/30 23:55順帶一提 我們lab熱壞的就是Ventus 3090

oppoR2005/30 23:56欸嘿 我們lab內就一台3090 一台1080Ti*2放前面喔

oppoR2005/30 23:56不是每個lab都很多額外空間可以放

oppoR2005/30 23:56雖然我們lab有另一間放10張A5000就是了

oppoR2005/30 23:57現在不是共約的問題吧 是二手你要哪裡報帳

oppoR2005/30 23:58除非你有辦法搞定報帳問題啦

game050205/31 00:003090有鼓風扇阿,技嘉的,然後好像被關切就下架了

oppoR2005/31 00:00古風扇放lab更吵....

oppoR2005/31 00:00光Ventus在訊的時候我做遠遠都覺得吵死了 轉速還60^

Ryan1005/31 00:02oppo你害我現在怕爆== 拜託先讓我train完…

Ryan1005/31 00:03股風扇真的超吵 之前把a6000拔出來拿去玩vr就吵爆

Ryan1005/31 00:03是說我覺得不用擔心報帳問題欸 找廠商或是用人事費出掉

Ryan1005/31 00:03方法很多 他會這樣問應該就是有辦法吧

game050205/31 00:04雙槽鼓風扇根本神器,算圖插好插滿

oppoR2005/31 00:06我現在拿12cm風扇對著背板吹 會怕了

brid05/31 00:08感謝!! 不止解決我的問題 還幫我把其他人的問題一併回答

brid05/31 00:08完了XDD

oppoR2005/31 00:08linux不知道有沒有看VRAM溫度的 想看到底多高溫

oppoR2005/31 00:08然後溫度就 無解 要美觀的話只能買那種風很大的機殼

oppoR2005/31 00:09要不然直接開側板 拿小電扇直接吹

oppoR2005/31 00:09我之前是直接拿小電扇吹 溫度降很多啦

shin219005/31 00:34itx +3090鼓風扇(現役https://i.imgur.com/ldrnzzO.jpg

Ryan1005/31 00:44shin大你那張好棒喔 好想弄個3 5張拿來督伺服器XD

shin219005/31 00:58鼓風扇版至少在各大通路買了3.4個月有,收二手應該不難

s3503s05/31 01:02鼓風扇就之前技嘉有出xd

s3503s05/31 01:02最後還有出清過

shin219005/31 01:10華碩也有,原價屋還直接賣過華碩鼓風扇版的裸卡/工業包

mesmerising05/31 01:48用礦架可以解決很多問題