[問卦] DeepSeek 在LPU上表現
小弟從Groq官網上看到deepseek用 LPU跑
速度好像快的驚人 未來的ai聖杯會不會變成lpu？
還是有其他科技大大可以解釋一下 這些差異
https://i.imgur.com/BsIambO.jpeg
Sent from MeowPtt on my SM-S9280
--
※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 223.137.194.16 (臺灣)
※ PTT 網址
推
LPU一直都很快 但是第一代產品走錯方
→
向
→
一張卡才幾百MB 要兩三千張才夠671B
我看官網上一些分享LPU整個屌打，還是說LPU 建置成本比GPU還高？ 或是耗能上的表現如何？
※ 編輯: boy830527 (223.137.194.16 臺灣), 01/28/2025 08:58:38→
還不算KV cache
推
廢話 那個官網難道會說自己的缺點
→
另外有一些抖音博主也在分享……
→
建置成本跟能耗和gpu相比有差很多
→
嗎？
推
就是特化給語言模型的當然要快啊
推
不是特化給模型 是他走純SRAM
→
但是一張卡才幾百MB 上市也一年多
→
真的有搞頭早就賣爆了
→
看起來像是記憶體空間不夠大需大量
→
建置但速度快是這樣嗎？
→
我記得之前讀到LPU是專給LLM 設計的 所以
→
說算是個特化產品嗎
→
因為現在演算法優化後對整體影響性
→
如何？
爆
[心得] DeepSeek對AI產業鏈影響懶人包最這幾天股板跟 X 上的AI金融圈吵的火爆 DeepSeek 對全球 AI 技術發展影響 吵的火爆示意圖 金融人士擔憂影響![[心得] DeepSeek對AI產業鏈影響懶人包](https://i.imgur.com/WiusWatb.jpg "[心得] DeepSeek對AI產業鏈影響懶人包")
爆
[情報] AMD 興奮宣布 Instinct MI300X GPUs 支援 DeepSeek-V3標題： AMD Instinct GPUs Power DeepSeek-V3: Revolutionizing AI Development with SGLang 來源： AMD's X (Twitter) 網址：![[情報] AMD 興奮宣布 Instinct MI300X GPUs 支援 DeepSeek-V3](https://i.imgur.com/xVyT4dsb.png "[情報] AMD 興奮宣布 Instinct MI300X GPUs 支援 DeepSeek-V3")
爆
[問卦] 大量補助台灣養的出DeepSeek嗎？這幾天Deepseek引起全球熱議，沒想到對岸養出便宜又高效能的AI系統。 AI島、科技之島、晶圓之島，世界難波萬的台灣，要是靠政府補助，養的出DeepSeek嗎？ --![[問卦] 大量補助台灣養的出DeepSeek嗎？](https://i.imgur.com/ilR9pDfb.jpg "[問卦] 大量補助台灣養的出DeepSeek嗎？")
15
Re: [情報] Perplexity CEO:實驗性整合DeepSeek R1模Perplexity CEO Aravind Srinivas 發推特恭喜 Deepseek: Congrats to @deepseek_ai for getting to #1 on the App Store. For a while, it wasn't clear who would beat ChatGPT for the first time. The best we could manage was #8, a year ago. Look forward to using all their models for search, assistant, and agents this year. 恭喜 @deepseek_ai 登上 App Store 第一名！曾經一段時間，我們並不確定誰會是第一個超越 ChatGPT 的。最好的成績是在一年前拿到第八名。期待今年能使用他們的所有模型，包括搜尋、助手和代理服務！ -![Re: [情報] Perplexity CEO:實驗性整合DeepSeek R1模](https://i.imgur.com/NKrnu5db.png "Re: [情報] Perplexity CEO:實驗性整合DeepSeek R1模")
9
Re: [新聞] Nvidia 最大夢魘來臨！AI 聊天機器人執專用型跟泛用型不同 GpU 可執行繪圖 渲染 訓練 LLVM 什麼都可以 LPU 只能提供訓練後的LLVM 產生結果 而且 GROQ 展示的參數遠比 openAI 70B8
[問卦] Deepseek到底會不會影響英偉達中國最近推出Deepseek 好像好用又便宜 小弟不才 最近all in 英偉達 被套在高點 損失了好多錢7
Re: [新聞] 中國「DeepSeek」威脅美國AI主導地位？遭1. DeepSeek上個月就有了，R1也是20日就發布了，如果真的是AI晶片突如其來的黑天鵝的話，應該可以直接迎來一波直衝地府的大行情，但近期輝達股價怎麼會走成這種尿性？ 2. 最近又被拿出來炒是因為站上了蘋果APP下載排行 3. AI晶片業務有分訓練跟推理，DeepSeek可能帶來影響的是訓練的部分，實際會不會影響晶片供需還要看OpenAI這些巨頭會不會想因為DeepSeek而調整策略；但近期看除了Meta有出來講講話，以及媒體替他們恐慌外，其他巨頭倒是沒有什麼回應 4. DeepSeek就是後進者優勢，已經知道市場喜歡什麼、測試者都在測什麼，針對重點去開發，當然能節省成本![Re: [新聞] 中國「DeepSeek」威脅美國AI主導地位？遭](https://i.imgur.com/T83UMmEb.jpg "Re: [新聞] 中國「DeepSeek」威脅美國AI主導地位？遭")
6
[問卦] 認真文 中國AI超前美國是好事吧就是 我之前就講過了 中國大陸強大對人類發展才是好的 這次deepseek也代表中美兩國的AI 沒有任何一方有絕對的領先地位![[問卦] 認真文 中國AI超前美國是好事吧](https://i.imgur.com/zTuR1jpb.jpeg "[問卦] 認真文 中國AI超前美國是好事吧")
4
[問卦] AI推理 LPU會打扒GPU嗎groq的語言模型推理 從硬體架構上就針對語言模型最佳化 號稱比GPU快10倍 是否可能把GPU打趴 讓GPU回去做他該做的事（遊戲 生圖等等）？ --
Re: [問卦] CPU 重要性哪時候被 GPU 超越的?我跟你說 未來的發展 還有APU BPU DPU
爆
[問卦] 去銀行一次提領一百![[問卦] 去銀行一次提領一百](https://i.imgur.com/eiBR27jb.jpeg "[問卦] 去銀行一次提領一百")
爆
[問卦] 現在的HR都愛問一些奇怪問題嗎![[問卦] 現在的HR都愛問一些奇怪問題嗎](https://i.urusai.cc/QtYfe.png "[問卦] 現在的HR都愛問一些奇怪問題嗎")
94
[問卦] 霸凌同學 有好聽說法嗎爆
Re: [問卦] 11/4離職 11/26出包，公司叫離職的負責?![Re: [問卦] 11/4離職 11/26出包，公司叫離職的負責?](https://i.imgur.com/AN84rLmb.jpeg "Re: [問卦] 11/4離職 11/26出包，公司叫離職的負責?")
72
[問卦] 台女脆文：瑞幸咖啡穩死的！![[問卦] 台女脆文：瑞幸咖啡穩死的！](https://i.mopix.cc/NRU3Hs.jpg "[問卦] 台女脆文：瑞幸咖啡穩死的！")
68
[問卦] 八歲就開扁同學以後能成大事嗎63
[問卦] CloudFlare又掛了？![[問卦] CloudFlare又掛了？](https://cf-assets.www.cloudflare.com/dzlvafdwdttg/5hEMO0prBW3wDvchZU0iBZ/8e05bb4c55f8906e58d09dbc861c0f22/CF_logo_horizontal_singlecolor_wht.svg "[問卦] CloudFlare又掛了？")
42
[問卦] 全聯鯛魚搞到要國賠了![[問卦] 全聯鯛魚搞到要國賠了](https://i.imgur.com/flM1A6bb.png "[問卦] 全聯鯛魚搞到要國賠了")
爆
[問卦] 11/4離職 11/26出包，公司叫離職的負責?![[問卦] 11/4離職 11/26出包，公司叫離職的負責?](https://img.youtube.com/vi/uGOWqxN_avw/mqdefault.jpg "[問卦] 11/4離職 11/26出包，公司叫離職的負責?")
爆
[問卦] 真的有記者去含檢察官的屌換情報？![[問卦] 真的有記者去含檢察官的屌換情報？](https://i.imgur.com/osUmcCvb.jpeg "[問卦] 真的有記者去含檢察官的屌換情報？")
86
[問卦] 脆女：第一胎沒300萬 別生小孩了！85
[問卦] 吳郭魚片寫台灣鯛魚片484詐騙？![[問卦] 吳郭魚片寫台灣鯛魚片484詐騙？](https://img.youtube.com/vi/dtuSqd-TcxU/mqdefault.jpg "[問卦] 吳郭魚片寫台灣鯛魚片484詐騙？")
45
[問卦] 8歲就嗆要打死人，長大能做什麼？![[問卦] 8歲就嗆要打死人，長大能做什麼？](https://i.imgur.com/eVKUCT4b.jpeg "[問卦] 8歲就嗆要打死人，長大能做什麼？")
44
[問卦] 驚！9年來 年輕人自殺成長三倍 代表什麼![[問卦] 驚！9年來 年輕人自殺成長三倍 代表什麼](https://i.imgur.com/I9muINnb.jpeg "[問卦] 驚！9年來 年輕人自殺成長三倍 代表什麼")
39
[問卦] 燒臘便當這樣多少合理？![[問卦] 燒臘便當這樣多少合理？](https://i.imgur.com/FLuRAsfb.jpeg "[問卦] 燒臘便當這樣多少合理？")
36
[問卦] 經過鯛魚事件後 你還相信檢驗數據嗎?![[問卦] 經過鯛魚事件後 你還相信檢驗數據嗎?](https://i.mopix.cc/wyBvTF.jpg "[問卦] 經過鯛魚事件後 你還相信檢驗數據嗎?")
42
[問卦] 為何08年大家22k時沒人躺平 現在卻一堆？![[問卦] 為何08年大家22k時沒人躺平 現在卻一堆？](https://i.mopix.cc/P0cKXZ.jpg "[問卦] 為何08年大家22k時沒人躺平 現在卻一堆？")
84
[問卦] 美財長貝森特:美是中國盟友也是台灣盟友![[問卦] 美財長貝森特:美是中國盟友也是台灣盟友](https://i.imgur.com/W29EoF5b.png "[問卦] 美財長貝森特:美是中國盟友也是台灣盟友")
34
[問卦] 為什麼女生興趣都寫旅遊跟美食24
[問卦] 沒人發現今日小紅書,明日就是PTT??![[問卦] 沒人發現今日小紅書,明日就是PTT??](https://i.imgur.com/Oh5UTjvb.jpeg "[問卦] 沒人發現今日小紅書,明日就是PTT??")
49
[問卦] 蝙蝠俠幹嘛不把小丑做掉![[問卦] 蝙蝠俠幹嘛不把小丑做掉](https://img.youtube.com/vi/cm3Chp2u7HY/mqdefault.jpg "[問卦] 蝙蝠俠幹嘛不把小丑做掉")
30
[問卦] Telegram才更該禁吧31
[問卦] 台女：性騷擾本來就是我來定義29
[問卦] 2025年底了今年的代表字是? 好的部分30
[問卦] 檢驗結果為什麼是助理扛？![[問卦] 檢驗結果為什麼是助理扛？](https://img.youtube.com/vi/ftuuVwvhvKM/mqdefault.jpg "[問卦] 檢驗結果為什麼是助理扛？")
29
[問卦] 8歲打人是「小朋友之間的摩擦」那18歲?![[問卦] 8歲打人是「小朋友之間的摩擦」那18歲?](https://i.meee.com.tw/QWoHrWC.jpg "[問卦] 8歲打人是「小朋友之間的摩擦」那18歲?")
28
[問卦] 炒麵 要怎麼做 才能做出最好吃的炒麵?![[問卦] 炒麵 要怎麼做 才能做出最好吃的炒麵?](https://i.ytimg.com/vi/zU_l0NR7HFE/maxresdefault.jpg "[問卦] 炒麵 要怎麼做 才能做出最好吃的炒麵?")
27
[問卦] 王子甩掉粿粿的機率多高28
[問卦] 織田信長是一位很糟糕的大名吧？26
[問卦] 禁小紅書台灣擋的技術是不是很爛
![[問卦] 霸凌同學 有好聽說法嗎](https://i.imgur.com/dk2pQkeb.jpg118.171.157.197 "[問卦] 霸凌同學 有好聽說法嗎")