Re: [問卦] ChatGpt為什麼開始變笨了？

※ 引述《gindisergo》之銘言
: 最近許多ChatGPT使用者發現ChatGPT變懶變笨了
: 目前OpenAI也坦承了這種狀況
: https://www.ctwant.com/article/303569
: 難道ChatGPT也學習會了躺平
: 然後就變懶了
: 有沒有AI達人來解釋一下原因？

正好半夜看到這篇無聊來回一下

GPT4能力下降大概5月多開始就有人注意到了

但你要怎麼定義能力衰退這件事而且量化他？

於是七月就有一篇論文在討論這件事

https://arxiv.org/abs/2307.09009

證明了gpt4能力隨時間下降這件事

但真正的原因除了OpenAI，沒有其他人知道

版本沒更新所以變笨更是屁話中的屁話

模型又不是人類會變老 腦子老化後會變笨

模型參數在部署的時候跟訓練時完全一模一樣

就是他媽固定在那邊了一輩子不會變

而且LLM的訓練成本高到一個幹破你娘

更不存在直接拿使用者答案onsite訓練這種事

所以大家在猜的幾個原因

1. 為了防範回答危險問題過度限制提問

2. 為了成本考量偷偷蒸餾模型換成較小參數模型

3. 用多個小模型組裝照問題分類各自回答模擬gpt4

總之OpenAI當初沒Open Source模型

背後要省成本換了啥模型也沒人知道 死無對證

LLM光query一次成本就超高

減少模型reasoning的成本也是目前主流研究方向

但像GPT4這種全面菁英級LLM

在不犧牲性能的前提下costdown根本是天方夜譚

加上現在光是開源的LLaMa就能擋很多初階應用場景了

所以懷疑到OpenAI濫竽充數也是很合理的事情

--