PTT評價

Re: [問卦] ChatGpt為什麼開始變笨了?

看板Gossiping標題Re: [問卦] ChatGpt為什麼開始變笨了?作者
ruokcnn
(Dean)
時間推噓 3 推:3 噓:0 →:3

※ 引述《gindisergo》之銘言
: 最近許多ChatGPT使用者發現ChatGPT變懶變笨了
: 目前OpenAI也坦承了這種狀況
: https://www.ctwant.com/article/303569
: 難道ChatGPT也學習會了躺平
: 然後就變懶了
: 有沒有AI達人來解釋一下原因?

正好半夜看到這篇無聊來回一下

GPT4能力下降大概5月多開始就有人注意到了

但你要怎麼定義能力衰退這件事而且量化他?

於是七月就有一篇論文在討論這件事

https://arxiv.org/abs/2307.09009

證明了gpt4能力隨時間下降這件事


但真正的原因除了OpenAI,沒有其他人知道

版本沒更新所以變笨更是屁話中的屁話

模型又不是人類會變老 腦子老化後會變笨

模型參數在部署的時候跟訓練時完全一模一樣

就是他媽固定在那邊了一輩子不會變

而且LLM的訓練成本高到一個幹破你娘

更不存在直接拿使用者答案onsite訓練這種事


所以大家在猜的幾個原因

1. 為了防範回答危險問題過度限制提問

2. 為了成本考量偷偷蒸餾模型換成較小參數模型

3. 用多個小模型組裝照問題分類各自回答模擬gpt4


總之OpenAI當初沒Open Source模型

背後要省成本換了啥模型也沒人知道 死無對證

LLM光query一次成本就超高

減少模型reasoning的成本也是目前主流研究方向

但像GPT4這種全面菁英級LLM

在不犧牲性能的前提下costdown根本是天方夜譚

加上現在光是開源的LLaMa就能擋很多初階應用場景了

所以懷疑到OpenAI濫竽充數也是很合理的事情

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 223.137.187.43 (臺灣)
PTT 網址

zyxx 12/15 01:24之前好像有看到新聞說openAI把效能調低省錢

Lowpapa 12/15 01:33真的變很笨 而且變得很愛鬼打牆

ggirls 12/15 02:20之前會自己寫程式,最近感覺直接貼網路上

ggirls 12/15 02:20的。

s611211397 12/15 06:21前陣子連簡單的用vba 打開其他excel

s611211397 12/15 06:21檔案都寫不出來 鬼打牆好久