Re: [問卦] DeepSeek成本這麽低的原因是啥?
https://w.wiki/CtDM
跟大麥克指數一樣
大麥克便宜 就是因為人工成本便宜 勞工便宜
其實花費金額根本沒啥好談的
Deepseek的好處其實不是便宜勞工
而是用低階晶片跑
至於花多少錢真的沒啥好比 顯示出便宜勞工的問題而已
※ 引述《app325 (艾波)》之銘言:
: Deepseek 橫空出世
: 應該讓大家都嚇了一跳
: 程式碼是開源的
: 有高手看的出來訓練成本這麼低的原因是啥嗎?
--
※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.224.217.146 (臺灣)
※ PTT 網址
→
要按你這理論,去辛巴威是不是天下第一
→
便宜蛤
→
大麥克便宜的有埃及、馬來西亞、南非
40
首PoDeepseek 橫空出世 應該讓大家都嚇了一跳 程式碼是開源的 有高手看的出來訓練成本這麼低的原因是啥嗎? --![[問卦] DeepSeek成本這麽低的原因是啥? [問卦] DeepSeek成本這麽低的原因是啥?](https://i.imgur.com/g10pOKob.png)
10
目前的推測應該是跳過了訓練模型的部分 也就是說不是從0開始構築AI模型,而是用成熟的AI模型來訓練,避免掉很多無謂的試錯 或空轉,也就是之前新聞在說的「蒸餾技術」 AI 系統中的 「蒸餾技術」(Knowledge Distillation,知識蒸餾),是一種 模型壓縮 (Model Compression) 方法,主要用來讓較小的模型學習較大模型的知識,同時保持高18
因為DeepSeek本質上是優化,而不是從頭幹一個LLM。 他是拿Meta的開源模型當基底,然後用OpenAI去產訓練資料, 再加上創新的Fine Tuning技巧去進行優化的, 並不是真的用5%的成本跟算力就可以完成OpenAI走過的路徑。 的確DeepSeek(以及近期中國各家公司爭先恐後發表的模型)模型上提出了創新的方法10
分兩個部分來說, ——————————————— 第一個部分是澄清: DeepSeek 是微調別人做的基本模型。 比如臉書 meta 花數千萬美金或上億美金做出模型 llama.![Re: [問卦] DeepSeek成本這麽低的原因是啥? Re: [問卦] DeepSeek成本這麽低的原因是啥?](https://i.imgur.com/O3nSbTXb.jpeg)
4
Hi 可否問一下比較不專業的問題 1. 大致照你這邊提到的部份 那麼Deepseek 主要省訓練成本的部份 主要是跳過SFT(或著也許 還有其它步驟)的這個作法 而不是像一些報導說的 直接"蒸餾"ChatGPT"(直接用ChatGPT的問答訓練一個較小模型)6
沒有錯, 成本除了 “訓練微調出模型”,還有”應用時推論營運成本” 1. 訓練主要跳過 SFT, 2. 推論營運的成本就是雲端假設大家的應用成本,也同時帶動本地假設的可能。 所以我 Mac M2 Max,有 64GB ram,跑 DS 70B 速度還不錯,30B 完全舒服。
7
[問卦] 日本旅遊比台灣便宜?是便宜在那? 論人力,我們的勞工便宜 論物價,新聞說台灣便宜 論房價,一堆網紅說東京你買不起 那為啥日本旅遊會比台灣便宜10
Re: [問卦] 德國人:台灣薪資比德國少物價卻比德國高超市物價貴 餐廳物價便宜 也就是實際上 台灣物價確實很高 雞蛋指數 牛奶指數 台灣超貴8
[問卦] 德國汽車業是缺晶片?還是缺便宜的晶片?怎麼港覺德國一直喊缺晶片 跟台灣老闆一直喊缺勞工一樣 晶片真的缺 花高一點價格搶啊 勞工真的缺7
[問卦] 勞工非常便宜的話,會被囤積嗎?快篩非常便宜的話 有可能被囤積 那如果勞工非常便宜呢? 會不會一不小心被囤積太多 大家都用勞工堆產能5
[問卦]台灣超市很貴,餐廳很便宜的原因是什麼?用國外餐廳 像是麥當勞之類的來比 台灣就算是餐廳很便宜的國家 但是台灣如果用超市去比較![[問卦]台灣超市很貴,餐廳很便宜的原因是什麼? [問卦]台灣超市很貴,餐廳很便宜的原因是什麼?](https://i.imgur.com/8JU6W10b.jpg)
6
[問卦] 食材便宜+勞工貴 vs 食材貴+勞工便宜國外物價高 是因為勞工貴 所以餐廳價格高 可是去超市買食材都很便宜 然後歐洲整體工時是台灣70% [0.7倍]![[問卦] 食材便宜+勞工貴 vs 食材貴+勞工便宜 [問卦] 食材便宜+勞工貴 vs 食材貴+勞工便宜](https://img.youtube.com/vi/OoGaMdYTFqI/mqdefault.jpg)
3
[問卦] 所以顯卡要大降價了嗎如題 砍掉很多人說 deepseek 用低階晶片就夠了 代表X
[問卦] 美國要求企業留美國,台灣卻開放外勞?美國不管是川普還是拜登 都要求本國企業、甚至外國企業 要在美國設廠,並且用美國勞工 記得上次新聞護國神山想要運送一批便宜台勞 好像就被阻止了2
Re: [問卦] 波蘭人均GDP比台灣低 薪資卻比台灣高?國 : 站不喜勿點,不想點開的我另外截圖說明大致內容。 : : 波蘭法定最低時薪為23.5茲,換算成台幣為185元 :![Re: [問卦] 波蘭人均GDP比台灣低 薪資卻比台灣高? Re: [問卦] 波蘭人均GDP比台灣低 薪資卻比台灣高?](https://www.economist.com/img/b/1280/721/90/sites/default/files/20180707_WOC666.png)
[問卦] 大麥克指數準嗎?物價看單一商品並不準吧 不然光看牛奶 台灣物價世界最高 是不是該多方比較?![[問卦] 大麥克指數準嗎? [問卦] 大麥克指數準嗎?](https://i.imgur.com/n043DICb.jpg)