[心得] GPU vs ASIC
蘇媽在最近一次採訪給了ASIC跟GPU大戰的註解
https://www.theregister.com/2025/02/05/amd_q4_fy2024/
她註解
Despite this, Su doesn't expect dedicated AI ASICs to replace GPUs any
time soon.
"My belief is, given how much change there is still going on in AI
algorithms, that ASICs will still be the smaller part of that TAM
(旁註解: AI算法變化快 所以這意味者ASIC會很難適應算法迭代 除此之外
個人體驗 在LLM起來前 其他許多領域 也是一個需要大算力市場 比方render 電影studio等影音大廠要花大筆錢打造render farm使用NV晶片 又或者臉書的廣告推送預測等服務
所以通運算力有一定基本需求)
順便附上三星自己做了一個HBM使用的數量估計
https://i.imgur.com/NzuspuW.jpeg
我2025自己投資就是照上面HBM使用數量大概去分配買 (加個註解好了@@)
你如果覺得NV有未來 你最好的加碼點就是這波關稅大戰 因為關稅跟基本面相關性小
我個人預測是DeepSeek 會加速其他國家和中小型玩家入場機會 比方
https://reurl.cc/V0vzWy
而HBM上面也支撐我重注萬潤策略 (@@ 強烈不建議跟單 因為這部分韭菜率很高)
然後我之前刪文 但裡面有一個重點 就是inference端的速度(token/second)
和能滿足多少用戶請求(queries) 支援 是AI落地場景衡量指標 再玩deepseek之後
你可以嘗試去把這些考慮帶入 這樣幫助你對算力需求之後的發展預測 (註1)
當然ASIC還是給華爾街許多想像空間
(參照 圖解科技巨頭如何在AI領域增加「重注」 一文)
總結 2025 個人投資方向就是找下方圖表的金錢流動位置 @@/
https://reurl.cc/ZZ5elW
--
註1
一般來說 大部分落地場景最最最低速度要求大約是25~30 token/second 再玩on-device端可以體驗壹下這速度感
註2
為對沖關稅影響 部分錢買入黃金 希望有買黃金的多多拋出想法能幫韭菜我校正 @@/
註解:多少分配avgo/nvda看個人 @@ 有一說華爾街2025會想炒avgo
可以搭配HBM發展趨勢 作為算力第二建倉分散用途打算
https://finance.sina.com.cn/jjxw/2024-12-17/doc-inczttzt5006945.shtml
--
亞馬遜很認真在投入AI AWS感覺功能不是DS可以比的
推 優質分析 感謝L大
專業推
為什麼你是照用量去買? 而不是照成長力高低去配比?
用在ASIC上就是我想把某段服務的成本打下來 不會少
這就很適合在AWS上 而且不限於你現在看到的LLM
不可能只會有LLM要發展 就光周圍的人機介面都還是
要處理
聽 (你需要speech recognition)
看/讀 (你需要 computer vision)
說 (你需要 tts = text-to-speech )
想 (就你目前看到的模型 但這個可能未來還會有更厲
害的人或團隊將目前的設計改良突破
救救蘇媽媽
不曉得UAE會不會也被川川禁?
AVGO算變化量應該大於NVDA
萬潤跟hbm什麼關係
世芯ky最近好猛 爭奪股王位置
死媽的花能聽,股價不會剩100初頭
GUC HBM buy and forget
嗚啊,我美光還套在102
NPU勒?
alchip緊抱亞麻大腿XD
asic的需求直接來自CSP大廠,怎麼輸?
99AMD
買台積電是不是就不用管asic還是gpu會勝出了?
沒看到那個表 GPU ASIC的需求量動不動就是翻兩倍三
倍? GG的成長率大概20%上下 不在乎績效被屌打 只想
穩賺略贏大盤報酬的話可以不管
現在市場上不管是資金還是討論 都是ASIC未來成長空
間更大 遐想空間更大欸
GPU比較智能,AICS要確定欸
不過股票而且要求穩聽定穩贏就GPU,但要爆發就AVG
O像之前與AMDㄧ樣
台積閉著眼睛買
誰知道asic何時會被CSP大廠蛋雕
asic這麼多家,掉單很正常的
推
不知在哪看到asic 開發週期也要2年
兩個不衝突的東西拿來比?
marketwatch警告歷史黃金價格跟關稅成反比.但記住專
家推論正確程度也常跟歷史成反比
這兩者應用領域不同,拿在一起比就是炒股觀點
推推
多頭時代,真的不需要買黃金
她為了GPU市場當然這樣說... 相同地你去問ASIC大佬
會跟你講相反的
蘇媽去年說PC下半年出貨會很好
照這樣看,抓住HBM也是不用管GPU和ASIC大戰了的意
思
ASIC會贏喔
99AMD
總覺得asic這方向怪怪的 但部位獲利又一直上升
沒有錢買avgo了啦
酷
ASIC要量夠大才比較划算吧 只有大廠才有本錢搞這個
中小企業就不用忙這個了
ASIC對標FPGA
我無腦買S&P500而已q_q
AI行情現在太亂了!看不懂R
GG就是全贏 贏麻了
聯發科壓ASIC,是嗎
推專業好文。(股點:掺在一起做撒尿牛丸唄?說到底
all in台就gg不就好啦?XD)
世芯無腦多 挑戰4000
同意 asic最好是等演算法成熟穩定再大量投資 不然
一改就差不多報廢
大爺帶我賺錢QQ
有想過最近AI股都漲不太起來 NV甚至向下 MSFT軟爛一
年了 G社帶量下殺 AI可能真的沒有各位想得容易賺錢
99NVDAAAAAAAAAAAAAAAAAA
雀食
問題不在賺錢,在於不能落後,確實有fomo的味道,
所以一旦短期反轉應該也蠻可怕的,但長期向上趨勢
不變
ASIC想像空間比較大
懷疑AI不能賺錢 結果是跌AI硬體廠 這個邏輯不對吧XD
ASIC 則是每橫空出世一個新的主流模型 就用來降成本
金像電有機會變金項鍊嗎?
百花齊放的話確實gpgpu 比較有利,而且也只有csp
大廠有能力設計asic
反正Nv avgo alchip 都買不會有錯
推專業
萬潤跟HBM有什麼關聯...??
99AMD
goog/amzn/meta都有在玩asic就是不想被老黃掐著脖子
反正就追隨教主講的老黃BG 有低點就砸錢抄底
不管怎樣都是TSMC賺爛 無腦多
懷疑AI不能賺錢會砍資本支出 那應該要放空TSM才對
推一個,我自己實際體感 20 token/second 以下就有
頓感,不過單純聊天不用思考其實20就夠了
萬潤任何反彈都是空點 看看均華 弘塑 辛云
!!!@n@ 大大不要這樣!!!!!
特規的東西 市場就是沒接受度
去看看Redshift AQUA這個產品最後的下場,
Graviton那幫人,呵呵
AWS的ASIC注定玩不起來.
ASIC目前在AI方面不會贏原因就是上面說的算法變化
快 除非特定領域或未來算法固定才有優勢 像加密貨
幣那樣單純算hash的ASlC才能揮發它的實力
AWS是他自己固定功能使用量大才有ASIC空間 省成本
NPU才是未來
我比較好奇NPU
不過2025 H200真的還能有最大佔比嗎?感覺很難
但 世芯還在飆耶
H200的散熱需求比較低,所以反而中小國家比較喜愛
市場是在賭四大CSP會為了擺脫老黃的魔爪而每年花大
錢一直做新的ASIC出來
這樣對老黃不利
但問題是老黃也有推氣冷的b200a,以能耗來說不太可
能再回頭用上代的hopper
貴歸貴 撿現成的還是比自己做便宜
全買單了啦
ASIC你把它想成硬體硬解就好了
但以現在模型更新的速度,你asic根本沒辦法使用
這就是為什麼nv強的原因,gpu可能慢一點但人家就可
以適應不同模型
所以asic….我實在不知道現在要怎麼硬剛nv
然後現在…說真的,ai模型都還在頻繁更新中,三奈
米的asic根本在亂燒
推薦
ASIC目前只有巨頭用得起,也只有巨頭已經確認架構發
展才敢用,中小根本不可能用ASIC,只能直接用cloud
,同時GPU不可能削減,因為你完全無法承擔未來架構
如果改變的風險,這也是巨頭拼命支出的原因,牆蓋愈
高愈難超越
反正現在博通在吹asic, 這顆也是兩年前就在試產的
你說要怎麼套到現在的環境?
爆
[請益] NVDA怎麼了?這陣子TSLA PLTR等AI概念股狂噴狂漲 NV身為AI晶片龍頭卻倒退嚕 今天看起來支撐要被摜破了 再加上最近似乎越來越多CSP大廠轉用ASIC晶片的消息 AVGO MRVL等也是創新高 今天AVGO還噴20% 反而今年漲最兇的NV這陣子軟屌到不行爆
Re: [新聞] 超微AI晶片將追趕輝達講這就表示尼不懂R TPU一部分的問題就在asic惹 估狗AI晶片最重要的應用是廣告推薦DLRM 不是現在流行的chatbot/LLM 尼asic做成那樣惹 就不用來跟gpu比惹 我說我現在的港覺喇78
[心得] DeepSeek將是刺破本輪泡沫的那根釘子從DeepSeek騰空出世,在到今天Nvidia (以下簡稱NV) 等一票AI概念股的下殺,這輪的科技 股估值修正才正剛開始,誰能引爆華爾街炒作了整整一年的AI神話泡泡?或許DeepSeek就會 是刺破本輪AI泡沫的那根釘子。 記得2021 Nvidia顯卡被炒作的神話嗎?那時候以太幣漲到一顆4500,NV的RTX3060顯卡從24 99美元被炒作到6000美元以上,後來的故事大家都知道了,隨著2022那輪幣圈的泡沫暴跌跟54
Re: [心得] 討論關於量子計算/代工閒聊量子電腦跟最近我個人看法, 先說我的結論: 1. 歐印QQQ, 定期定額TQQQ, 2. 如果NVDA 跌破120, 我就要開始買 3. 長期買入GOOG19
Re: [新聞] 輝達H100晶片紓壓了 訂單大戶開始轉售其實大家說老黃 CUDA 的護城河之深,不是沒理由的。 RTX 系列本身就內建 Tensor core,可以針對machine learning 做加速運算,例如 G 家的 Tensorflow 和 Meta 的Pytorch 都可以利用到 CUDA-X 函式庫加速在訓練和推理的運算 有人說 Tensorflow 利用 TPU 可以繞過 CUDA,不過目前最新16
Re: [請益] AI最花錢的時間已經過了嗎?短期目標就是AGI,長期目標就是ASI,其他任何形式的東西都只是花邊,所謂的AGI就是你 直接可以用GPU算力去轉換你的所有非物理員工,原則上你只需要僱用機房仔排除故障而已 ,這當然一開始超級花錢,但隨著時間成本會急劇下降,且超越你所能找到的員工能力 DeepSeek 只是一次成本優化的良好範例,並沒有創造出新的範式,一個優化引擎可以讓你 的車省下95%的油,不代表你可以不用油開車9
Re: [新聞] DeepSeek低成本破壞價格 恐讓AI產業血流三星早就看到低成本推理晶片的未來了 三星明年推 AI 晶片 Mach 1,採 LPDDR 而非 HBM 記憶體 節錄: 三星 Mach-1 設計專注於提供專用於推理的加速功能,特別適合於邊緣計算應用。Mach-1X
Re: [問卦]DeepSeek為啥不用NV/AMD外的GPU來跑AI運算現在DeepSeek紅成這樣喔 他們不用自己去找廠商做 廠商會自己拿他們的模型自己做 連CPU上頭都能跑了 沒有什麼做不到的 前端的pytorch就是在那 現在在做AI ASIC的廠商都有這個能力 直接把模型放到自家的機器上頭跑 時間快慢而已- DeepSeek的真正影響, 再於他的性價比突破華爾街的交易邏輯 在DeepSeek出現之前,華爾街對於AI的交易邏輯,就是誰GPU多 誰就更有機會做出真正的AGI,大家拼命囤卡就是了 DeepSeek的出現,用『開源』給所有人檢驗驗證,蒸餾+算法+底層語言可以實現科技平權
爆
[情報] 美國衛生部長鼓勵農民讓禽流感擴散大爆發48
[標的] 3037欣興17
Re: [新聞] 今年通膨又要破二了?主計長:調漲電價17
[情報] 2820 華票 113年股利 0.787
Re: [情報] 美國衛生部長鼓勵農民讓禽流感擴散大爆發19
[情報] 2323 中環 處分陽明,取得矽統12
[標的] 8937合騏 融券強制回補 妖股嘎空 多12
[情報] 114年03月25日信用交易統計9
[標的] 艾笛森 359198
[情報] 114年03月25日 三大法人買賣金額統計表6
[情報] 114/03/25 八大公股銀行買賣超排行36
Re: [新聞] 今年通膨又要破二了?主計長:調漲電2
Re: [請益] 為何版上很少有人鼓吹逢低買進中國股票?53
[情報] 0325 上市外資買賣超排行14
[情報] 5439高技 達注意標準 2月自結0.7元1X
Re: [新聞] 今年通膨又要破二了?主計長:調漲電1
[情報] 0325 上市櫃外資投信買超金額排行