[菜單] 120k AI模型訓練機

Depthsharky 03/25 22:31不想上水就14700/14700F

Depthsharky 03/25 22:32一張卡用PCIE延長線

Depthsharky 03/25 22:33DR5大容量貴 看你的用途對ddr5有沒有

Depthsharky 03/25 22:33硬性需求

Depthsharky 03/25 22:33T500含散熱片很貴

Depthsharky 03/25 22:34資料看你會不會用到滿載讀寫

Depthsharky 03/25 22:34不然也能考慮GEN3

Depthsharky 03/25 22:35接頭的問題不保證

Depthsharky 03/25 22:41PSU那組有兩個給顯卡的輸出嗎

Depthsharky 03/25 22:43RTX A6000?

AmigoSin 03/25 22:43借問消費平台用雙顯卡PCIe通道數夠嗎

Depthsharky 03/25 22:58以前有人在板上問過雙4090 後續我忘

Depthsharky 03/25 22:58了 真的太冷門

dos01 03/25 23:22D5的問題是插到四條不穩 再加上比較貴

dos01 03/25 23:22夠不夠用就看你要跑的東西會不會吃到記憶體

dos01 03/25 23:22的速度 但目前只有少數軟體會有影響

dos01 03/25 23:27CPU跟SSD的部分也一樣 夠不夠用都是看你

dos01 03/25 23:27跑的程式會吃多少資源 通常跑AI相關的會吃

dos01 03/25 23:27的是顯卡 CPU影響比較小 只要不要太老的都

dos01 03/25 23:27堪用 SSD也是只要資料塞的下就夠了 在這個

dos01 03/25 23:27前提下 上去全都是浪費

dos01 03/25 23:31然後你這種組法已經是個人電腦最頂的了

dos01 03/25 23:31再上去就企業級了 所以只要你跑的程式是有

dos01 03/25 23:31讓個人使用的東西 這台至少贏九成以上的人

dos01 03/25 23:31應該是不用擔心不夠用的問題

dos01 03/25 23:32現在一堆跑AI的拿個I5 4060TI都在跑了

dos01 03/25 23:32沒理由這台不夠用

Depthsharky 03/25 23:34跑圖和模型訓練不能類比吧= =

dos01 03/25 23:36還是能跑啦 就只是速度的問題而已

dos01 03/25 23:38只問夠不夠是一定堪用 但堪用能不能到達

dos01 03/25 23:38滿意的效益 這就是要看要求到哪裡

dos01 03/25 23:39我是覺得原PO有點太焦慮了 組到最頂沒理由

dos01 03/25 23:39跑不起來

annboy 03/25 23:571. 會有差一點 個位數%

annboy 03/25 23:572. 基本沒差 FC140就夠

annboy 03/25 23:583. 應該插不下 雙4090機殼要底深

annboy 03/25 23:58主機板要拿x8x8 中間隔四槽 預算會高不少

annboy 03/25 23:594. SSD系統1TB 訓練資料 2T足夠

annboy 03/25 23:59其他資料放HDD或額外買NAS備份

annboy 03/26 00:02然後不要太樂觀覺得雙4090可以幹嘛

annboy 03/26 00:02現在大一點的模型都要8卡伺服器起跳

annboy 03/26 00:02小模型的話1張跟2張差別

annboy 03/26 00:02就是分布式訓練可以縮短最多一半的時間

annboy 03/26 00:04可以講一下要訓練什麼模型

wuyiulin 03/26 00:42能雙卡還是雙卡，我這邊有看到一些解決

wuyiulin 03/26 00:42方案完全不支援單卡運算的，多買一張省

wuyiulin 03/26 00:42工時省重新建置時間。

sino6445 03/26 05:52模型訓練又雙4090，就上D5吧

sino6445 03/26 05:53不然記憶體速度會變瓶頸，高壓狀態下D5

sino6445 03/26 05:53有幫助

sino6445 03/26 05:54這場景D5算是派上用場了

sino6445 03/26 05:58即使雙顯卡也不需要147k

dsin 03/26 07:45上D5 D4的板子沒有雙PCIE4x8的 第二根都x4

annboy 03/26 11:35CPU的需求是依前處理的複雜程度而定

annboy 03/26 11:35現在有一些開源的前處理做得挺複雜

annboy 03/26 11:35CPU就會變瓶頸

sino6445 03/26 12:38帶k多那4%效能，要上水冷沒什麼意義

sino6445 03/26 12:39不然上149k，核心多一點，降壓比較實在

mtc5566 03/26 18:19你這用途 SSD都是2T起跳 不要省插槽 電源

mtc5566 03/26 18:19有海韻TX1600 這筆錢不要省