[菜單] 192GB記憶體選擇 LLM模型運算

E7lijah 04/13 20:49這用途需要X3D嗎？

maplefoxs 04/13 20:56好問題，可能是摸魚的時候要用

aabbc777 04/13 20:58組完還有點零頭有順便直上x3d了

jen1121 04/13 21:00Ai訓練用RAM?

ulycess 04/13 21:03跑LLM滿需要的

Rust 04/13 21:07有種消耗預算的感覺

lulululula 04/13 21:12llm要的是vram

lulululula 04/13 21:12不過他會用到多個容器分下來ram多開一

lulululula 04/13 21:12點也好

justicebb 04/13 21:28這題我會，就是推薦那個

Supasizeit 04/13 21:30應該買雙電源機殼 預留插第二張

fu1vu03 04/13 21:31QVL感覺也都沒有 穩定性沒人敢打包票

nakaru 04/13 21:46降頻求穩定啊

maplefoxs 04/13 21:48怕降頻了還是不穩定

Mankind69 04/13 22:02大容量記憶體好像微星的板子比較穩

Mankind69 04/13 22:02林董yt常常在分享

jkiu 04/13 22:11你認真嗎.....dram頻寬差vram太多，這樣的跑

jkiu 04/13 22:11超過vram的模型還是不堪用，只有mac那種焊死

jkiu 04/13 22:11在板子上特規版的頻寬才夠看

justoncetime 04/13 22:1364GB*4衝了, 再來說測試結果

Richun 04/13 22:19現在板子好一點，但4*64要上到JEDEC都難吧

aegis43210 04/13 22:2548*2比較穩

DavFlow 04/13 22:26搞個魔改4090 96G吧

DavFlow 04/13 22:26*48G

happy12345 04/13 22:27樓主要穩定性然後推4090魔改xd

E7lijah 04/13 22:31你朋友預算多高啊 夠高乾脆上TR平台

cielilver 04/13 22:32Ada6000+256g跑70b都不順了

maplefoxs 04/13 22:42上TR應該還要多個10w..

jen1121 04/13 22:443090*2跑70b路過,要跑192gb就是$$$

prowhitej 04/13 22:45沒預算就NVIDIA DGX B200

jen1121 04/13 22:53這張板子不錯，晶片組也給力，唯一要挑就

jen1121 04/13 22:53是Q-release slim

ptta 04/13 23:35可憐啊..不是容量一樣大就好

changmary 04/13 23:46繪圖工作站 ECC Ram 單條64Gx8 路過

AreLies 04/13 23:53微星的BIOS對高容量的記憶體相容性比較

AreLies 04/13 23:53好

a71245969 04/13 23:55我美光ddr5 48gb * 4 跑ktransformer搭

a71245969 04/13 23:559950跟3090可以穩定運行671b 2.51bit

a71245969 04/13 23:55 在4 tokens/s

cutejojocat 04/14 00:26要RAM跑的話可能TR 4通道頻寬好一點

cutejojocat 04/14 00:26 能接受慢慢跑是沒問題 看林董的分

cutejojocat 04/14 00:26享要注意顆粒 比較廠家只對特定顆粒

cutejojocat 04/14 00:26優化 或是只有特定顆粒能上

tetani 04/14 01:05pc這樣成本多少啊 mac 256g要19萬

tetani 04/14 01:06稍微估一下 pc也是接近20萬了

c123791598 04/14 01:13美光 6400 32*2套條*2（128G） 路過

c123791598 04/14 01:13能穩定

c123791598 04/14 01:13不知道5600 套條狀況如何就是

vsbrm 04/14 01:37去金士頓的網站搜尋你的MB型號，可以找相關

vsbrm 04/14 01:37RAM型號

guanting886 04/14 01:454 tokens/s 串API比較快吧

guanting886 04/14 01:48就連Mac 你衝到最頂規，勉強擠出來

guanting886 04/14 01:48的Token也不到20

guanting886 04/14 01:49控好預算抓個可以接受的範圍稍微玩

guanting886 04/14 01:49一下就好了 真要做不可能用這種家用

guanting886 04/14 01:49設備跑

Dxzoe 04/14 07:564090改到96G比較實在

kuninaka 04/14 10:18這就窮人玩法阿

kuninaka 04/14 10:18他要自己訓練LLM，串API是要訓練啥

DRnebula 04/14 10:344 token別勉強了吧

benson861119 04/14 11:265090拿去魔改比較實在

jen1121 04/14 14:085090目前無法改

a849070 04/14 14:36在B站有看到48＊4 6000C28套條不知道跟原

a849070 04/14 14:36生能差多少

lostkimo 04/14 14:47我以為要買單條192GB

ms0317929 04/14 15:014090不是魔改只有48G嗎？

kuninaka 04/14 15:36真的不如買多一點mac mini自己串聯

aaaaooo 04/14 16:35不如買張L4來玩

sellgd 04/14 20:49第一代32核中古TR不貴

sellgd 04/14 20:50ram上限蠻大

observer0117 04/14 21:32我的窮人玩法，中古Z840 384G，加上

observer0117 04/14 21:3216G顯卡，現在加買一張中古16G顯卡

observer0117 04/14 21:33deepseek跑quantization版本，勉強

observer0117 04/14 21:34可以動，16G中小型模型堪用，希望加

observer0117 04/14 21:34到32甚至48G VRAM能有所提升

observer0117 04/14 21:34不過如果要training，這些都不夠看

Eddielin 04/14 22:09記憶體超頻性要好 真的要選MSI板子 拿X8

Eddielin 04/14 22:0970E CARBON WIFI贏過不少

goisjkps 04/14 22:13四條要開機都要碰運氣了