PTT評價

[閒聊] AMD便宜apu跑stable diffusion,MiniGPT4等

egnaro123 發表於 2023/8/20 下午10:06:06
看板PC_Shopping標題[閒聊] AMD便宜apu跑stable diffusion,MiniGPT4等作者
egnaro123
 (原po是大叔)時間推噓 8 推:9 噓:1 →:14

https://medium.com/@ttio2tech_28094/democratize-ai-turn-a-95-chip-into-a-16gb-vram-gpu-beats-most-of-the-discrete-gpus-51a8636a4719

I have tested both training and inferencing for:

A: Stable diffusion, text inversion training.
B: LLM. LlaMA fine tuning (lora).

....

似乎比CPU快些

https://www.youtube.com/watch?v=HPO7fu7Vyw4

有APU的人可以試試,想小玩的人也不用完大錢買NV的顯示卡

但是GPU還是較快

-----

一些閒聊

https://old.reddit.com/r/Amd/comments/15t0lsm/i_turned_a_95_amd_apu_into_a_16gb_vram_gpu_and_it/?sort=qa

AMD 4600G/5600G的APU被低估了,這代給太多了

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.166.68.219 (臺灣)
※ PTT 網址
推

BlackCoal 08/20 22:23便宜入手超大VRAM

推

WeasoN 08/20 22:24有料 不過我等8000APU

→

abc21086999 08/20 22:27medium自己有縮網址用一下好嗎= =

推

harry886901 08/20 22:30好的 等等rog ally準備中

推

Stupidog5566 08/20 22:37我的5600G準備戰20年 56不能亡

→

tomsawyer 08/20 22:43apu最多是32x4還是64x4?

→

gohst1234 08/20 22:44要一般人使用Linux實在還是有點門檻

→

tomsawyer 08/20 22:44話說M2 max 96GB應該能屌打吧

推

uegajde 08/20 22:48可惜我的4750U主板限制給gpu的ram=沒戲

推

halow 08/20 23:16現在AMD顯卡能不能跑XL阿 想買二手6700XT

→

twinkleAshed 08/20 23:29在ROCM下, 6700XT可以到1it/s.
→

twinkleAshed 08/20 23:30但在directml下, 則會到6-14s/it.

→

twinkleAshed 08/20 23:31參數應該都是--medvram -opt-sub-q

→

twinkleAshed 08/20 23:31uad-attention.

google研究, 這位仁兄應是用ROCM,APU不支持ROCM,怎改的,這位老兄一點都沒提, 這東西當然有用,因為很多model在16G的VRAM都能跑起來, 我猜測應該也不會放,擋了太多人的利益, APU用stable diffusion,可用directml,windows下有人作成影片了

推

iuytjhgf 08/20 23:46拿M2來玩早就已經一堆人在搞了

推

lazioliz 08/20 23:49插滿4根終於有用了嗎

噓

a000000000 08/21 03:18過陣子windows就會支援惹

※ 編輯: egnaro123 (118.166.68.219 臺灣), 08/21/2023 04:44:13
→

twinkleAshed 08/21 05:17我是回樓上, 我沒在用APU.

→

twinkleAshed 08/21 05:20directml的低效能是我嘗試使用Linu

→

twinkleAshed 08/21 05:20x下ROCM的主因.

→

twinkleAshed 08/21 05:21但我不太喜歡那環境, 所以後來dire

→

twinkleAshed 08/21 05:21ctml分支也可使用SDXL後,

→

twinkleAshed 08/21 05:21我就回Windows上用了.

推

nisioisin 08/21 19:08早知道不買Intel 氣氣氣
同系列文章
Re: [閒聊] AMD便宜apu跑stable diffusion,MiniGPT4等
其他人也閱讀了
PTT 熱門相關
PC_Shopping最新熱門推薦
🔥🔥🔥