Re: [閒聊] DeepSeek是不是真的很強?

kuninaka02/02 14:40地端是啥

greg757502/02 14:41抓到了，中共同路人

guogu02/02 14:41其實用lmstudio更簡單 不用打任何指令

kuninaka02/02 14:41接地氣的意思嗎

guogu02/02 14:43然後聽說7B審查會比較多一點 可是8B的中文又比較差一點

RandyOrlando02/02 14:46怎麼一堆人都是拿去玩養自己的AI老婆XD

oo23146978502/02 14:47工作上叫本地機房也是說地端啊 支語警察是不是沒工作

oo23146978502/02 14:47過 點點點

ericrobin02/02 14:50用gpu跑32b 4Q基本沒問題 用cpu滿恐怖的

ericrobin02/02 14:50 *Q4

guogu02/02 14:51你的電腦配備呢? 我用起來是lmstudio快非常多

guogu02/02 14:52因為它有vulkan加速 A卡也能用

guogu02/02 14:52如果不用gpu體感是跟用ollama差不多 實際不知道

guogu02/02 14:53因為ollama也沒顯示每秒幾個token

guogu02/02 15:052060 6GB的話應該勉強塞得下去才對

guogu02/02 15:05https://i.meee.com.tw/QGvxqdy.png

guogu02/02 15:06不過可能太緊繃 所以你用lmstudio VRAM不夠 所以沒GPU加速

guogu02/02 15:07用ollama它有幫你塞進去有用到GPU加速所以就快很多

howtotell02/02 15:07感謝大大 我找找看能不能硬塞..

joejoe202/02 15:12有promt可以繞過審查吧

arrenwu02/02 15:12會大吃CPU的話 速度還真的會慢到一個難受

guogu02/02 15:12temperature設0.5會不會有點低阿?

guogu02/02 15:13https://i.meee.com.tw/TgkuvBF.png deepseek建議

kuninaka02/02 15:14這一定要用GPU跑的

guogu02/02 15:14寫作設到1.5呢 雖然1.5感覺很怪 一般不是0~1嗎?

howtotell02/02 15:20我目前用0.5的對話其實就滿長的，1.5他可能需要更多資

howtotell02/02 15:20源我不知道能不能負擔

howtotell02/02 15:20其實我要的也只是簡單的問與答，但是0.5他現在就打幾百

howtotell02/02 15:20字了

guogu02/02 15:26理論上temperature是不影響回應長度的

Ning0102/02 15:26溫度影響的不是長度，而是發散性或創意性

guogu02/02 15:26他是讓模型更有機會去選擇機率比較低的結果

guogu02/02 15:27設高一點理論上會比較有"創意"