Re: [情報] 50美元訓練出媲美DeepSeek R1

https://arxiv.org/abs/2501.19393
讀完了 稍微整理一下這篇 這篇基本上就是#1dccCRfj 就是CoT synthetic dataset
透過母體大模型去設計一連串思考問題(這邊是用Gemini) 來應對一個困難任務
而此時新模型能更好地學會思考
這篇文章列了好幾個synthetic dataset的樣板
https://ibb.co/YFNLCNcS
也用了另外大模型去確認CoT Synthetic dataset 品質
Table 5. Summary of our dataset s1K. Token count measured by the
Qwen-2.5 tokenizer. We prompt Claude to produce keywords given
several questions from the domain.

這篇最大亮點是提供開源了思考練的合成數據(CoT Sythetic dataset) 樣本和樣板
剛好彌補之前所說第三方想重新複製deep-r1 但缺數據
https://huggingface.co/blog/open-r1
(版上好多ai專家說 還說捨抹不可能拿opean api去做數據 真的是...)

然後為何以前沒人做? 因為沒有第一代母體大模型

但雖然CoT (思考鏈 也就是讓模型慢慢想 不要一步到位想出答案 而是把問題
拆解N各步驟任務子問題 一步步去解決 上面的合成數據就是在做這類似事情)
可以提升效能 但這手段也是要付出一些代價

以我自己做過的LLM翻譯模型為例 在infenrece端 使用CoT 可以直接把BLEU/COMET
衝上個20% 但付出的代價就是 速度變慢五倍 (類比人類反應時間) 在許多落地場景
基於使用者體驗 速度是有嚴格定義 (比方說翻譯一句話 最多只能用多少秒)

那遇到這種問題 要如何解決?

"遇到不能解決的事情 就用C4炸彈" <謠言終結者>

"遇到效能或速度拉不起來 就用大算力" < @v@b >

(註:當然 在inference端 能提供多少樣戶
queries 算力也是個重要指標 參照 #1crWnRFw 第二個連結 評價GB200 用戶請求效能)

在AI算法 除了效能 成本外 還有一個重要指標 就是速度 很多探討你會注意到
其實速度沒放在裡面一起評價 這造成一種錯覺 會誤認算力需求可以透過算法去減輕
事實上很多算法拉升效能 降低成本 此時會付出記憶體代價 或者速度產出變慢的代價
而許多落地產景 恰巧速度是很重要的體驗 (QQ 不能分享例子 不然會被抓走)

然後老黃的親兒子coreweave 也上線了
https://blogs.nvidia.com/blog/blackwell-coreweave-gb200-nvl72-instances-cloud/

現在基於一堆優秀第一代母體大模型 天網出來也是遲早的事情 @n@/
我們離電池之日不遠了

然後蘇媽有給了一個ASIC和GPU大戰的看法 改天再分享@@/

※ 引述《LimYoHwan (gosu mage)》之銘言：
: 標題：
: 李飛飛團隊用不到50美元訓練出媲美DeepSeek R1的AI推理模型
: 來源：
: Futu
: 網址：
: https://tinyurl.com/ydrtdbu8
: 內文：
: 李飛飛等斯坦福大學和華盛頓大學研究人員近日以不到50美元的雲計算費用訓練了一個名: 叫s1的人工智能推理模型。該模型在數學和編碼能力測試中的表現與OpenAI的o1和DeepSe: ek的R1等尖端推理模型類似。研究人員表示，s1是通過蒸餾法由谷歌推理模型Gemini 2.0: Flash Thinking Experimental提煉出來的。
: https://i.imgur.com/kFg9GjU.jpeg