PTT評價

Re: [情報] AMD 7800XT/7700XT 售價US$449起 9/6上市

看板PC_Shopping標題Re: [情報] AMD 7800XT/7700XT 售價US$449起 9/6上市作者
oopFoo
(3d)
時間推噓 1 推:12 噓:11 →:105

AMD的GPU行銷真的是笨死了。每個人都拜託他們出24GB或48GB的卡,這麼簡單就大賣的方法不作。還在搞FSR,難道不知道現在是大AI時代嗎?

7800xtx 24GB,549鎂,還不賣爆。
79x0xtx 48GB,1200鎂,還不搶光。

現在一堆AI inference的需求,欠缺在ram不夠。Training也許還是不行,但inference社群作一堆了,就等你出卡而已。結果你出16GB???

例如最近mlc-llm測試7900xtx 推理可達4090的80%。
https://blog.mlc.ai/2023/08/09/Making-AMD-GPUs-competitive-for-LLM-inference
原作者的中文版
https://zhuanlan.zhihu.com/p/649088095

因為在推理(inference)上gpu的效能已經夠了,是卡在記憶頻寬,所以4090/3090ti/7900xtx效能是大同小異。

https://github.com/ggerganov/llama.cpp
現在4bit 30B模型需要19.5GB記憶體,這個模型好又剛好主流24GB卡可跑,3090二手卡搶爆4bit 65B模型需要38.5 GB,沒有主流卡可跑,只能用CPU慢慢的推動,等於不能用。

7800xtx 24GB,79x0xtx 48GB。AI社群搶爆,程式幫你寫好。不用在那搞沒用的FSR,沒用的FSR,沒用的FSR<<很重要講三遍

https://i.imgur.com/LeYPRd4.jpg


--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 219.70.128.119 (臺灣)
PTT 網址

joshddd 08/26 22:36可是 蘇媽也在推專業卡欸

joshddd 08/26 22:36消費級給到 那麼高他們專業卡怎麼賣

joshddd 08/26 22:37我現在學 metal 了, 蘋果雖然臭,但在

joshddd 08/26 22:37gpu ram上竟然最有cp值

joshddd 08/26 22:40不過蘋果的問題是只能單倍精度浮點運算

joshddd 08/26 22:40,希望能支援雙倍

oopFoo 08/26 22:45AMD在AI根本是0%市占率。老黃不給的,你

oopFoo 08/26 22:46給的大方,你AI才有機會做起來啊。

oopFoo 08/26 22:47性能輸,大給RAM這麼簡單的事不作?到底

oopFoo 08/26 22:47AMD有在重視AI嗎?

joshddd 08/26 22:48也不算 0 吧? opencl 用的人很多啊。只

joshddd 08/26 22:48是之前套件都只支援 cuda? 想做的人自己

joshddd 08/26 22:48寫個 kernel 都很多啊。 就很麻煩而已

joshddd 08/26 22:49原 po 不要這麼生氣啦

真的是恨鐵不成鋼。有一個大市場在那,ai論壇裡多少人拜託AMD出個大ram的顯卡,就是不理

hankower 08/26 23:03消費級VRAM給那麼大 MI系列怎麼賣

s987692 08/26 23:08這種為了臭而臭的發文真討厭

bbkt 08/26 23:26這ID不意外

falcon11 08/26 23:30如果79XTX賣得夠好的話會吧

aegis43210 08/26 23:32O大不用疑惑吧,蘇嬤加強繪圖卡的推論

aegis43210 08/26 23:32性能,那MI250怎麼賣呢?

aegis43210 08/26 23:33不過蘇嬤記得是想用FPGA來攻推論這塊

AMD在AI根本沒有策略,根本也還沒整合。

mayolane 08/26 23:35不值得討論、浪費時間、行銷笨死了,接

mayolane 08/26 23:35下來是什麼

E7lijah 08/26 23:40兩篇連著發 兩位是不是有先說好

eric13141230 08/26 23:41Amd的Ai如果是0 我看你的Intel可能

eric13141230 08/26 23:41是負的了

giancarlo82 08/26 23:46笑死 幾天前被炮到臉黑還想翻身阿

gary886 08/26 23:53天啊,AMD真應該馬上請你來當總裁耶

xoyeh168 08/27 00:13這樓主有病吧,大多數人又不玩AI

xoyeh168 08/27 00:14大多都拿來打遊戲,所以當然FSR為重

pcfox 08/27 00:18有料的A黑大師wwww

wpd 08/27 00:31AI是消費級的趨勢嗎??? 5年時間?還是10年?

wpd 08/27 00:32還是又要等蘋果出來定義消費級AI ??

wpd 08/27 00:32前人屍體 蘋果通通收割走

你要不要看現在電蝦多少單是要跑AI的,今年才是AI元年而已

ehai0725 08/27 00:34VRAM加大而已還是沒用,會跑AI的也不會

ehai0725 08/27 00:34放棄N卡cuda

cuda是訓練方便,跑推理現在大家都在寫custom code。你都知道最近有多少案子要跑llama?對啦台灣是AI沙漠,不知世界已經跑到那裡去了。

nucleargod 08/27 00:451.大模型請買運算卡

nucleargod 08/27 00:462.我vega還可以用HBCC開上去爽啦

commandoEX 08/27 01:297900XTX的頻寬跟 RADEON VII差不多

commandoEX 08/27 01:30HBM2已經沒啥優勢了

WYchuang 08/27 01:38FSR定位跟你想的不太一樣 慢慢看吧

FSR真的是阻擋AMD早點邁入AI的技術,多一天在這就是少一天在AI上發展。

BFer 08/27 03:59o大師不意外

SHR4587 08/27 04:36看一下樓上星空我還覺得樓上星空比較正常

SHR4587 08/27 04:36

bian0977 08/27 06:34很幽默喔

※ 編輯: oopFoo (219.70.128.119 臺灣), 08/27/2023 07:43:42

CORYCHAN 08/27 09:30我想o大想表達的意思是製作FSR

CORYCHAN 08/27 09:30吃掉太多軟體開發資源吧?

CORYCHAN 08/27 09:30市場上又輸到脫褲(但開發FSR家機也能

CORYCHAN 08/27 09:30爽不能都賴給顯卡?)

CORYCHAN 08/27 09:30不如大RAM投入AI藍海

CORYCHAN 08/27 09:30但就像某樓大大說的

CORYCHAN 08/27 09:307900XTX賣得好或許就有機會,

zzahoward 08/27 09:37他講的是資源投入錯誤啦

zzahoward 08/27 10:00現實世界就是AI or data center需求屌

zzahoward 08/27 10:00打Gaming

Wilson310 08/27 10:22問題是ROCM的支援度也一言難盡

a000000000 08/27 11:38蘇媽的軟體策略差不多回推十來年前喇

a000000000 08/27 11:39就ibm幫入主amd高層開始

a000000000 08/27 11:39整葛amd軟體團隊跟老黃比跟本雞毛規模

a000000000 08/27 11:40實際上現行策略都是console優先

a000000000 08/27 11:40尼在講大AI時代也還不到一年

a000000000 08/27 11:417000系列gpu開發的時候根本沒人會想到

a000000000 08/27 11:41有辦法在amd gpu上跑AI的東西

a000000000 08/27 11:42從頭到尾蘇媽軟體幾乎都是想白嫖合作

a000000000 08/27 11:42夥伴 因為沒人沒錢

a000000000 08/27 11:42hpc就這樣搞 蘇媽願意系統便宜賣

a000000000 08/27 11:43老黃只想要ai的高毛利

a000000000 08/27 11:43今年真的很有趣 一堆人不想給老黃強姦

a000000000 08/27 11:44結果rocm被弄到可以用惹 才半年不到

a000000000 08/27 11:44必須說當年raja在rocm的眼光真的獨到

a000000000 08/27 11:45差不多所有跟cuda競爭的只有rocm搞成

a000000000 08/27 11:45讓尼cuda code直接轉

a000000000 08/27 11:46現在蘇媽底下在ai真的有較深涉獵的大

a000000000 08/27 11:46半都xilinx的人 gpu這塊幾乎沒

zzahoward 08/27 12:24阿就老黃毛利高到大家自救阿XDDD

Alwen 08/27 12:31GPU這塊不是重點惹吧...

Alwen 08/27 12:32老黃跟進的話,還是被按在地上

Alwen 08/27 12:32下一代都直接說不出超高階卡惹

oopFoo 08/27 12:37現在ai傻錢就像當年千禧年的時候,東西支

oopFoo 08/27 12:38援度不夠沒差,只要性能夠價錢便宜,都可

oopFoo 08/27 12:39以解決。ai推理真的不算難寫,跟真正的hpc

oopFoo 08/27 12:40比,真是容易的很。老黃不可能出大vram的

oopFoo 08/27 12:40pc顯卡,會打到專業跟dc的市場。這是AMD的

oopFoo 08/27 12:41切入點,多少ai人才希望AMD成功,老黃吃人

oopFoo 08/27 12:42也不是新聞了,Intel也是惡名,所以對AMD

Alwen 08/27 12:42AMD管理階層不鳥也沒用R

oopFoo 08/27 12:42有最大的期望。

a000000000 08/27 12:45這兩葛月尼可以看到不少人在用A卡跑這

a000000000 08/27 12:45跑那 半年前根本沒人會想到 進展已

a000000000 08/27 12:46經神速惹 本來還說rocm最新版要支援

a000000000 08/27 12:46win 後來改成要九月

a000000000 08/27 12:46尼pcb改版都沒那摸快好嗎

a000000000 08/27 12:484說尼要大ram買pro w7900不就48GB

a000000000 08/27 12:48MSRP 4000鎂94惹

現在就要讓利給社群,讓社群把AMD的ai生態系統做大。 48GB那價格就買老黃的就好了,但降到美金2000以下,那就會很多人跳進來玩。 我講的都是AMD可以馬上出的產品,價格可以更有彈性,也讓AIB有點湯吃。

zzahoward 08/27 13:16重點是 老黃還有一大段價格可以玩XDDDD

giancarlo82 08/27 13:25老黃有一大段價格可以玩死玩家才對

zzahoward 08/27 13:35不管玩家還是AI需求 老黃總是能榨乾消

zzahoward 08/27 13:35費者剩餘

現在是ai需求才讓老黃予取予求。就看AMD醒不醒的過來,還是等INTEL把牛肉端出來

※ 編輯: oopFoo (36.224.213.216 臺灣), 08/27/2023 14:01:15

wpd 08/27 14:29今年電蝦菜單有多少跑AI?? 我看不到10%

wpd 08/27 14:32再算上電蝦在大眾數據下的小眾比率

已經有10%還不殺進來,要等紅海?

Ekmund 08/27 16:53...大大 您專業很強我知道 但有沒有想過

Ekmund 08/27 16:53這種社群的人口基數 遠遠小於一般玩家?

Ekmund 08/27 16:53這種卡 另外出的吧 再閹割些顯示接口什麼

Ekmund 08/27 16:53而且也不是砍了FSR的人 AI團隊就生得出來

Ekmund 08/27 16:53現在搶人搶很兇的啊

所以FSR的人要轉ai啊,老黃家的都轉了,AMD還不轉。 AI的人少可是現在掌握大量預算,真的再不全力投入就真的被淘汰了。

kira925 08/27 17:44不就隨便喊喊 專業社群人少用量也還低

kira925 08/27 17:44拋棄FSR這種主機能用的技術玩AI 這才亂搞

kira925 08/27 17:44開公司不是這樣玩的

http://www.incompleteideas.net/IncIdeas/BitterLesson.html

不做ml,不相信gpu compute的效率提昇,證明都是錯的。FSR時代已過,再不跟上連Intel都要把AMD拋下了。

※ 編輯: oopFoo (36.224.213.216 臺灣), 08/27/2023 18:50:13

aegis43210 08/27 20:20O大意思是蘇嬤應該要重回RAJA時代的繪

aegis43210 08/27 20:20圖運算通用架構,擴大使用客群

wpd 08/27 20:43不到10%你看成已經有10% 看你自己想看的XDD

Ekmund 08/27 21:06不是轉 是養 從放CUDA到生成自己的生態圈

Ekmund 08/27 21:06NV也是花了十餘年 不可能說轉就立刻生出

Ekmund 08/27 21:06這麼多能用的人和軟硬架構啊

WYchuang 08/27 23:44AMD最近買了一個法國的AI軟體公司啊

oopFoo 08/28 05:54NV花了十多年是因為研發,走錯路,這是先

oopFoo 08/28 05:56行者的代價。像DLSS1就是冤枉路。現在你AM

oopFoo 08/28 05:57D只須兩年就可以走完NV十幾年幫你鋪好的路

oopFoo 08/28 05:58硬體架構沒什麼大問題,完全就是軟體願不

oopFoo 08/28 05:59願意跟上。這一年I家全心投入AI,不願意轉

oopFoo 08/28 06:01的就資遣。科技業是第一名吃肉第二喝湯,

oopFoo 08/28 06:07剩下窮忙的行業。AMD看來還不懂AI的重要性

twlin 08/28 16:12幾年前才在抱怨顯卡被礦場掃光,一般玩家買

twlin 08/28 16:13不到,現在換抱怨遊戲顯卡不能跑AI?

twlin 08/28 16:18George Hotz抱怨遊戲顯卡不支援rocm沒多久

twlin 08/28 16:19rocm就開放支援,然後他就買了一堆7900xtx

twlin 08/28 16:21這樣一般玩家開心了嗎?

twlin 08/28 16:30https://tinyurl.com/k7fmuhr5