[心得] deepseek是蒸餾chatGPT的嗎?

dogalan 04/30 22:47從來沒有"因為DS跌"這回事 那只是編的故事...

Feting 04/30 22:48摸摸擬的LP，你認為DS會造成AI跌嗎

nfsong 04/30 22:49蒸餾也沒差

nfsong 04/30 22:49大家都開始蒸餾

madeinheaven04/30 22:49早就說是蒸餾的

nfsong 04/30 22:50昨天說有 small LLAMA , mini LLAMA

nfsong 04/30 22:50目標就是蒸餾到 可以在手機本地執行

Acetoxy 04/30 22:51其實要蒸餾的好也很是有技術 不然model怎會那麼大

cake10414 04/30 22:52心得?

nfsong 04/30 22:52一開始訪問 databank的Ali Ghodsi

nfsong 04/30 22:52現在開始 就是比看誰有資料 可以訓練

nfsong 04/30 22:52進入 業務邏輯的 蒸餾

nfsong 04/30 22:53databricks

huabandd 04/30 22:53能夠靠蒸餾賺錢也是一個技術

nfsong 04/30 22:53資料很值錢的 就像醫院的X光

Rainbow5566 04/30 22:54這些AI模型用的資料有付過版權嗎 你沒看OPEN AI都

nfsong 04/30 22:54MRI CT

Rainbow5566 04/30 22:54說不會提告了

nfsong 04/30 22:56現在一堆 在海量訓練 PDF論文的 版權都說不明白

rivet 04/30 22:56chatgpt 有開源嗎？

nfsong 04/30 22:56但是 現在是爆炸比速度的時代

nfsong 04/30 22:56等你發現 提告 搞不好都進入下一階段了

nfsong 04/30 22:56根本沒空打官司

nfsong 04/30 22:57而且 全部都新創 根本沒賺錢 提告也沒用

nfsong 04/30 22:57現在沒人賺錢好嗎

qwe78971 04/30 22:58事實是 蒸餾大家都在用 只是當時是中國的 所以反應

qwe78971 04/30 22:58才大 一方面 仇中 一方面 美各種制裁/限制還是被人

qwe78971 04/30 22:58搞出生成式AI 然後美研究AI 有超過一半是中國人

qwe78971 04/30 22:58記得現在AI領域 中國人佔比70% 剩下的白人分

nfsong 04/30 22:59恐怖的是 下一個階段

nfsong 04/30 22:59現在 大陸已經開始用MCP 做 智慧家電 聊天玩具

nfsong 04/30 23:00然後 白色家電 因為紅海市場 所以沒人在做

nfsong 04/30 23:00所以 只有大陸在搞 智慧家電 通吃

nfsong 04/30 23:00跟冰箱聊天 跟冷氣聊天 和超可動玩具聊天

nfsong 04/30 23:01仿真狗 仿真貓 可以聊天的寵物

nfsong 04/30 23:01最快看到的應該是 智慧電風扇吧 $3000以內

AlarmAlarm 04/30 23:02是不是蒸餾根本沒有很重要 AI能用低成本回答你的問

AlarmAlarm 04/30 23:02題 你無聊去管他蒸不蒸餾？後面要怎麼競爭才是重點

goodevening 04/30 23:02早就說是了啊 但chatgpt那個本來就是開放的 他也不

goodevening 04/30 23:02能說啥

labbat 04/30 23:02過氣 跟電子狗和電子雞一樣過時了

sheng76314 04/30 23:07台灣人軟體實在爛到不行

cphe 04/30 23:08這篇是時空旅人嗎 Lag這麼久

TheBeast 04/30 23:10阿祖過氣的的llama這麼曝光度這麼低是不是很氣阿

TheBeast 04/30 23:11那葛羊駝4還被踢爆是作弊 只能說不愧是meta

nfsong 04/30 23:12阿祖沒差 他進入下一個時代 開始配帶眼鏡

sheng76314 04/30 23:13https://i.imgur.com/Tf6YQLC.jpeg

z7956234 04/30 23:13你那邊還來得及，小心川普的對等關稅會很誇張，是

z7956234 04/30 23:13直接用貿易逆差去課關稅

sheng76314 04/30 23:132.5超神 sonet也不錯但是貴人家10倍

nfsong 04/30 23:14樓上混測 怎麼準

nfsong 04/30 23:14大模型 和邏輯模型要分開吧

nfsong 04/30 23:14LLM Leaderboard

nfsong 04/30 23:15現在分很多 領域

sheng76314 04/30 23:15好用便宜 gemini2.5就夠了 但真的感謝ds幫忙卷價格

sheng76314 04/30 23:16排名每天變 對我們不重要

nfsong 04/30 23:16Nvidia 還搞了一個1.5B 的奧數模型

nfsong 04/30 23:17奧數 Leetcode 這些 未來還會有一堆各種領域

icehorng 04/30 23:234

icehorng 04/30 23:25DA並無法取代GTP ,只能是萃取GTP優化

icehorng 04/30 23:27DS就是二房東的概念 但是DS的出現演變成

icehorng 04/30 23:27AI不一定要軍備競賽 低成本也能優化

iiverson649 04/30 23:29只有神知道股市為什麼跌 不要自己掰理由

strlen 04/30 23:32不重要 現在都看糞川一句話

shiyangfoo 04/30 23:40有一隻美股專門在防DS蒸餾ㄉ

howzming 04/30 23:42蒸餾也是技術，你以為跟製酒一樣簡單？

b9513227 04/30 23:55DS現在跟屎一樣

b9513227 04/30 23:55不但速度慢 回的答案還是沒用的

seemoon2000 04/30 23:58主要是 成本沒有想像中低而已 效率已經跟不上其他

CTHsieh 04/30 23:59Deepseek有開放蒸餾過的小模型。蒸餾是用於產生小

CTHsieh 04/30 23:59模型用於邊緣運算。

CTHsieh 05/01 00:01DeekSeek是利用其它大語言模型產生訓練資料。

jamesho8743 05/01 00:42千問還比ds強

TameFoxx 05/01 00:49開源模型其實會更好被蒸餾

TameFoxx 05/01 00:49搞不好千問才是最大受害者

TameFoxx 05/01 00:50但不管怎麼說 在這樣的環境下 中國模型新創卻沒有多

TameFoxx 05/01 00:50起來 代表DS顯然就是偷買了很多GPU

TameFoxx 05/01 00:51按照DS說的那種成本 加上現在蒸餾技術與開源資料集

TameFoxx 05/01 00:51照理說應該要更捲才對 畢竟DS說600萬鎂

TameFoxx 05/01 00:52至於API的價格 DS能這麼低主要還是靠Token限制

TameFoxx 05/01 00:53其次就是 他提供服務也不需要賺錢 能賺到Data更重要

cdcardabc 05/01 01:03就是啊 yt很多人在講 就中吹整天說沒抄襲 笑死

ffaatt 05/01 01:10ds 影響利潤 怎麼會沒影響股市

jo4 05/01 01:19隨便 反正現在過渡期 最後只有一個贏的 用贏的就是

hsu0612 05/01 01:36假議題

nfsong 05/01 01:50Llama con 2005 回到影片 Satya 真的全力輸出阿

nfsong 05/01 01:502025 這個影片 含金量真的高!!!

nfsong 05/01 01:53他們已經想打破邊界了

nfsong 05/01 01:53重構linux kernel , 把word excel powerpoint整合

nfsong 05/01 01:56過去的 萬年遺毒 現在已經不用考慮沿革

nfsong 05/01 01:57讓ai 繼續疊代下去 再大的專案也不怕

s213092921 05/01 01:58如果DS是蒸餾的，還能贏過GPT老師就講不通了

s213092921 05/01 01:59DS開源週發布的論文也都是ClosedAI想不到的，也被各

s213092921 05/01 01:59大機構驗證確實有效

s213092921 05/01 02:00最後中國六大開源模型圍毆ClosedAI的態勢已成，奧特

s213092921 05/01 02:00曼準備打包回家了

nfsong 05/01 02:01Satya 已經在用AI suite agents

nfsong 05/01 02:05https://cloud.google.com/blog

nfsong 05/01 02:05真的要追一下 各大廠的blog

nfsong 05/01 02:06大象真的要起飛

nfsong 05/01 02:07現在 是模型協同合作的鳴槍起跑

nfsong 05/01 02:08你有新的專業模型 就加入MCP

nfsong 05/01 02:08大模型主要賽道 已經沒人了

nfsong 05/01 02:09現在就是 比如何整合專業模型 然後開始賣錢

nfsong 05/01 02:09譬如 房地產AI仲介

nfsong 05/01 02:11這一兩年 就是成千上萬的專業模型開始廝殺

strlen 05/01 02:16回家勒 等你會生吉卜力再來 笑死

gary82gary 05/01 02:26但最近使用，程式deep寫比較好

psion 05/01 03:07googl不是還上了個A2A?

psion 05/01 03:08現在大多是搞推理

jimhall 05/01 03:41meta就是靠不用錢的用戶個資發大財的啊

laechan 05/01 04:36網路梗圖 https://i.imgur.com/IK2P8od.jpeg

breacal 05/01 04:39https://i.imgur.com/A0T1Snp.jpeg

q09701023 05/01 05:30那時候不是就說是蒸餾了

ImHoluCan 05/01 05:50叫deepseek R2 來免費生成吉卜力，結果連吉卜力都

ImHoluCan 05/01 05:50生成不了，根本看破手腳

observer011705/01 06:49還在deepseek.. 現在最夯的是阿里巴巴的qwen3

lain2002 05/01 07:42其實大家都在蒸餾, 自己蒸餾自己爭議比較小罷了

NEWinx 05/01 07:55就空軍拿來炒作跟小粉紅在吹而已，後來發現DS跟Chat

NEWinx 05/01 07:55GPT比，大概就幼兒園生比大學生，現在沒人吹了

EKman 05/01 08:12台灣的人才都在ptt上分析國際局勢，沒時間研發軟體

EKman 05/01 08:12啦

fukku100 05/01 08:23我就問除了OpenAI 和 Gemini 有誰沒在蒸餾別人模型

fukku100 05/01 08:23的

fastsheep 05/01 08:58人家都開源了 還在問是不是

NetsFan 05/01 08:58OpenAI沒開源怎麼蒸餾？付費蒸餾？OpenAI沒提告也

NetsFan 05/01 08:58沒拿出證據。重點是DS用創新方法降低算力需求是事

NetsFan 05/01 08:58實，而且用他的模型蒸餾出來，反而更好用

NetsFan 05/01 08:59DS又開源又寫論文，啊OpenAI咧？

NetsFan 05/01 08:59https://youtu.be/5RuqY1VQEE8

NetsFan 05/01 09:01反正openAI多花錢買的算力拿去畫吉卜力也差不多啦

Leo4891 05/01 09:37現在已經朝向圖片生成 甚至影片生成了 還在搞蒸餾c

Leo4891 05/01 09:37ostdown是在是太落後

Leo4891 05/01 09:37不能創造多媒體的模型=糞

ActionII 05/01 09:47最近新出的低設備需求、高推理能力的模型，蠻多都

ActionII 05/01 09:47有說是蒸餾來的

ActionII 05/01 09:50*推論

appledick 05/01 10:55不蒸餾怎麼本地跑啦

freekadze 05/01 11:02說ds寫程式比chatgpt 好的大概沒啥再用

layer0930 05/01 11:08一直提gpt 真的都在看熱鬧..

layer0930 05/01 11:09有在搞開發的都自己下去弄ai了，還在比較deepseek

layer0930 05/01 11:09gpt?

layer0930 05/01 11:10有多少RD 感謝 deepseek 做領頭羊 還不知道？

pig6033666 05/01 12:48阮慕驊跟洩精合 古越含8zz是齊名的

thevirus 05/01 12:50你網路是接撥的嗎xd

fgwilliam 05/01 15:15你那邊還來的急，晚點要課關稅了，記得歐印反一

mdkn35 05/01 16:32一個很好控盤的工具

capitalofz 05/01 22:55婊蒸餾沒意義 因為大家都在幹

jimhall 05/02 04:05好不好 下載到電腦玩玩看各種蒸餾版本就有一手體驗

jimhall 05/02 04:05了