[請益] Linux 雙顯卡工作站
小弟只懂寫軟體平常都在Windows底下開VM裝Linux工作
現在打造一台工作站想省掉虛擬化
用原生純純的Linux跑Docker, K8s,
也可以裝個Windows虛擬機使用Office系列
或是Multiple GPUs on the same machine vs Distributed GPUs
需求說完,硬體:
CPU: 7500F (5200元)
主機板: ProArt B650-CREATOR (8000)
顯示卡: 3060三風扇*2 (9000*2)
SSD: MX500 1TB*2 (2000*2)
記憶體: DDR5 32G*2 金士頓 (3200*2)
電源: 海韻 Focus GX-850 ATX3.0 850W (4200)
為啥選主機板配那麼多預算
因為ProArt B650-CREATOR 支援X8 X8
剛好分配給兩張顯卡一樣的帶寬而且3060吃不滿PCEI4.0 X8
為啥不買3090,因為小弟沒錢不然上兩張3090
記憶體先上兩條,日後有需求在繼續買
我看了配置主機板錢好像花多了
但這已經是我能找到最便宜的x8 x8主機板
CPU好像用的挺便宜5000有找
聽說Linux大神Torvalds把他的工作機換成AMD?
但又不知道消費者I系列對SERVER應用支援好不好
不然把CPU預算拉到13000以內I系列也是可以的
說不定我哪天中頭獎把兩張3060換成兩張3090
這高貴的CPU就有用武之地
這台機器的工作就是充當我寫程式跑跑ML的機器
或是掛一堆Container之類
小弟三十好幾對3A大作沒興趣現在拿童年回憶
世紀帝國、D3出來打沒十分鐘就不想玩了
還不如出門走走故地重游
有請各位大大分享經驗,感謝各位大大不令指教!
--
何不使用linux系統,虛擬機跑windows?
就連4090跑4.0 x8也只會損失3%效能
原來如此,筆記
為啥想用雙卡?
完全可以到隔壁先拉一張3090,存錢等
下一張
就算2張3090能達成什麼目標?連nvlink
都被廢了
這廢熱還是組一台烤箱吧!
應該說看到同行用5張1080Ti 組了一個K8s GPU Cluster就想知道Distribute GPU跟單機插?
現在一台主機兩張民用級顯卡 好像不存
在什麼用途了?
從資料科學角度確實沒多大用處,或許從系統工程層面有點價值??
我唯一能想到的用途就是一台主機上跑著
ESXI或PVE之後各個虛擬機單獨分配一張
獨顯?
I系列大小核 對Sever 應用都不太好就是
了
我就是怕大小核,畢竟專業軟體如Adobe有Intel優化,但Server應用DB、NGINX之類就不好?
只有你想不到,沒有用不到,多顯卡很好用
一張卡長時間跑model training,另一張卡
還能做別的事情,工作就是要這樣才有效率
可以不要再遊戲黨看天下了好ㄅㄟ
我自己裝139k+192G記憶體+3090x2當工作站
好用的很,唯一缺點就是穩定性比不上商用
工作站,不過看在價錢實惠的份上用來還行
對壓,Dell Server專用的SSD 960GB就要1萬,就不要說記憶體 CPU加起來一台低消也要15?
Linux多工應用目前都沒碰到問題
有大大這句話我就放心了
真的要看更仔細的用途, 偏ML還是偏系統..
沒錯!
單卡怕 model training 爆掉影響日常使用
(現行 3960X+256G RAM+3060+A4000...)
3090x2 可能是電費受不了
挖猛猛的,這24HR運作每個月就要幾千的電費
大小核確實裝 Windows 比較好 (思)
7字頭可能沒有內顯+雙顯方案的感覺...
副機是 5700g+b550-creator+雙卡 PVE...
但是這台副機不常開, 真的會傷電(眼神死)
內顯+雙顯 PVE 才會一個 VM 給一張卡
PVE 自己從內顯出
僅供參考
若偏向多容器應用建議把 RAM 搞多一點.
消費級平台的硬傷就是RAM只能192G,HEDT
平台又一直被放生,想組便宜工作站真的難
想弄24H開機的GPU運算主機真的在硬體層面
必須要費很多腦子,不然就要多花錢或是犧
牲穩定性,零件隨便實在湊很容易踩雷
是阿,感謝大大分享組工作站心得。
Linus好像是用Threadripper,那是
不同規格的東西。
更正一下 那不是什麼大神 那是 Linux
他爸
撇開I/A不談 AM5記憶體未必能上6400 拿La
ncer 6000就可以了 時序低效能說不定還更
好
感謝分享資訊!
...?
為啥我看不懂你到底要問啥…
你這配置沒啥問題啊,要跑Linux server就
確定主要設備和網卡驅動沒問題就好,所以
你到底要問啥?
求個安心吧!
要更穩一點就上ECC ram,消費平台極限大概
就在那裡而已。
Yes, Sir
Docker/k8s 可以在原生 linux 下
但是 ESXi/PVE 是 hypervisor 整台成虛擬
所以機器蓋起來要怎樣控制就得先想好.
應該說是半虛擬, 但是那兩個會變遠端控機
對阿,還是原生裝Docker/K8s,再裝個VM Workstation之類跑Windows比較不那麼複雜
※ 編輯: u9612123 (219.70.147.33 臺灣), 10/18/2023 20:58:00我不知道你目前的環境。但我的經驗是如果
你習慣在windows下開發,獨立一台windows
開發機一台linux建置機會比較好。
Windows下現在wsl2+docker要跑ml訓練還算
ok。
建置機的話就一定要弄虛擬化平台比較方便
。
主力不是在linux下生活,要在虛擬機裡每天
用windows…說真的我完全不想折磨自己
應該說就是看大神用五台1080Ti組分散式
集群,決定先買兩個3060塞在一起玩玩看
,windows單純是用不慣linux內建的open
office,可能我前面沒表達清楚,最後
感謝大大的回應
原po看起來預算很有限 非ecc ram不超頻的
話就算是win一個多月不關機也沒問題的
另外不要看到別人組啥跟風 確定自己需求
比較重要(繳了一堆學費的經驗
且除非你確定自己在組啥 否則能單不雙!
買來大部分時間都跑在單卡上或是雙卡跑不
到50%提升是常有的事
一張卡要分成五張卡很容易 見五等分的顯
卡 性能損失不大 五張卡要合併成一張 性
能損失就比較大了 性價比很低的
比較建議當頂卡已經滿足不了你時再組多卡
總是要I have a dream嗎! OpenAI有成
功組2500個節點。
kubernetes-to-2500-nodes
終於有GPU生產力的文章出現了
30
[菜單] 200k 實驗室深度學習主機趕畢業跑深度學習實驗,但目前工作站太爛,所以跟老師拿一筆錢升級工作站。 原本想鎖定兩張3090或兩張4090進行升級的,但廠商說他們沒有3090了,所以開了一張有兩 個4090的單,但有點超過預算,想請各位幫忙健檢一下,看看哪裡可以換@@,還沒口試就花 教授一堆錢,很抖QQ 已買/未買/已付訂金(元):未買22
[情報] 老黃的遊戲顯卡現已被發現啟用虛擬化方法GPU虛擬化就跟CPU虛擬化一樣 將硬體資源虛擬分配給多個虛擬終端 可用於3D建模或是科 學工作 最親近我們使用者的實例就是GeForce Now 其採用GRID8
Re: [問卦] 為什麼電蝦板CPU都選AMD的八卦(1) 周邊架構優勢 這是Intel Z590/490的周邊架構 對比一下隔壁的z4907
Re: [問卦] 現在Ram沒有64G以上根本不夠用吧????XVK : + VKD3D更是完美組合。 裝linux記憶體也吃很兇好不好= = 你作業系統有什麼影響? 大頭根本不在這 大頭在chromium上6
[菜單] 200K Lab深度學習機已買/未買/已付訂金(元):未買 預算/用途:200K CPU (中央處理器):Intel i9-12900KF $16800 MB (主機板):華擎 Z690 PG Riptide $6590 RAM (記憶體):KLEVV 32GB DDR4-3200 * 4 $119965
Re: [請益] AMD 雙 PICE SSD 主機板請益續用這張圖片 : 對比一下隔壁的z490 發現瓶頸了嘛?4
[請益] 主機板asus pro ws或c8h用在小型工作站用途是EDA編譯機 所以顯卡不重要能開機就好 記憶體直接頂到128GB 還有一個pic-e x16插槽是為了以後玩Xilinx加速卡用 目前的配備大概是這樣2
Re: [菜單] 120k 深度學習機直接用回文的好了....... 深度學習吃GPU 所以選3090正解 但你有提到要插多張顯卡 如果要插多張 Z390的PCIe Lane數沒那麼多 頂多支援兩張跑 x8 而且市售3090至少吃2.5個slot......搞不好一張下去就沒空間了 要穩插兩張以上的3090 你這個預算板子大概只能找X299 CPU上10980XE2
Re: [請益] 想組台低延遲的工作用中端機U.2轉M.2轉接線不穩定,不推薦,建議買 U.2 轉 PCIe轉卡 有些主機板有提供 CPU M.2 與 PCI-e x4共用插座 : 目前不打算上DDR5和PCIE 5.0以及win11,主要需要推薦MB RAM GPU PSU,雖然沒預算限制, : 但是原則還是夠用耐用為主,對MB比較困擾,如果之後要再插一塊intel 950p直通CPU, : 不知道有無這種MB可選擇。1
Re: [問卦] 作業系統用linux會有什麼不方便嗎現在家用電腦性能這麼強 多跑幾個作業系統應該很正常八 十幾年前兩家的cpu都支援硬體虛擬化惹 虛擬化的成本只有2%左右 四捨五入就是沒損失