[討論] LPU在deepseek上能否取代GPU?
看到新模型出來後發現 算力並非全部
特化後的演算法反而比較有用
那這樣本來就為了大型語言模型而生的LPU
是不是才是未來的主流
看了Groq的官網 已經有人在測lpu效能了
想問一下是不是LPU能取代gpu獨佔地位
-----
Sent from MeowPtt on my SM-S9280
--
※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 223.137.194.16 (臺灣)
※ PTT 網址
推
sabanova這種專用架構很值得關注,
→
之前用過速度真的很香
推
確定llm就是解答嗎?
67
Re: [新聞] DeepSeek R1來了,追平o1!它現在不但比OpenAI開放,也應該不用那麼久 重點是DS是開源的 現在應該有許多數據中心已經開始實驗DS的演算法 我們先假設DS的創新 是往AGI道路上的王道21
Re: [問卦] 為什麼AI 這2-3年進步這麼神速?我剛好研究所讀資工領域的。 你應該知道在這次AI大模型震撼世人之前,電腦科學界在紅啥嗎?? 就是Big Data,大數據,資料探勘。 但是因為"算力"不足,所以在十年前,幾乎都是關注於儲存與基礎處理而已。 譬如NoSQL數據庫與一些簡單的資料探勘,那個時候SVM分析歸類資料可火的。7
[請益] 其實DeepSeek用了幾顆GPU根本不重要用GPU硬體加速AI運算這件事 本來就不是無限制使用, 有些人講到AI就只想到暴力運算 找最大質數...要靠AI某某模型花○○年 要是大家指望那種爛模型,7
[問卦] GPU怎麼還沒取代CPU?欸欸欸, 那個啊, 現在GPU算力這麼強, 屌打CPU幾百條街 連AI模型都用GPU 算了,2
[問卦] FPGA可以取代CPU、GPU嗎?我文組啦, 最近在研究FPGA。 更專門的領域, ASIC是無法撼動的存在。 一般使用,9
Re: [新聞] Nvidia 最大夢魘來臨!AI 聊天機器人執專用型跟泛用型不同 GpU 可執行繪圖 渲染 訓練 LLVM 什麼都可以 LPU 只能提供訓練後的LLVM 產生結果 而且 GROQ 展示的參數遠比 openAI 70B4
[情報] ChatGPT點燃AI熱情導致NVIDIA股價大漲52%最近ChatGPT各種刷屏,幾乎每天都是科技媒體網站的頭條 有人早在擔心自己的工作被ChatGPT取代,更多的人及公司是想辦法蹭上ChatGPT熱度 然而說到真正的受益者,NVIDIA這一波可是實實在在吃到了紅利。 ChatGPT火爆出圈之後,不少公司及投資者都加大了對生成式AI的投入 然而ChatGPT的成本不菲,訓練一次的費用在幾百萬到上千萬不等4
[問卦] AI推理 LPU會打扒GPU嗎groq的語言模型推理 從硬體架構上就針對語言模型最佳化 號稱比GPU快10倍 是否可能把GPU打趴 讓GPU回去做他該做的事(遊戲 生圖等等)? --1
Re: [討論] 中國什麼時候GPU可以追上輝達、AMD??????這是個假議題 好比CPU效能過剩一樣 為什麼Intel可以在那邊+、++、+++? 因為應用不知道在哪裏 而今天剛好AI的應用出來了- 我跟你說 未來的發展 還有APU BPU DPU