PTT評價

Re: [問卦] GPT給錯誤資訊卻講得很像真的

看板Gossiping標題Re: [問卦] GPT給錯誤資訊卻講得很像真的作者
kingmusk
(馬爹利)
時間推噓 2 推:2 噓:0 →:5

※ 引述 《mmzznnxxbbcc》 之銘言:
: 寫得也太像真的了吧,而且裡面有些細節也都沒錯,就是東拼西湊,
: 再給出前因後果,聽起來也十分合理,
: 如果只是知道一點情節,就很可能會覺得自己找到正解了
: 除非你是本來就知道答案的才會覺得根本亂講
: 這樣GPT也太可怕了吧,隨便亂講,但又會講得跟真的一樣

這個問題我電過它好幾百次了

它每次產生幻覺 我都直接嘴它

嘴到它下跪



它是跟我說:

因為多數用戶 認為它這樣回答很聰明

而且99%用戶沒在思考 不會回嘴

所以它們的模型就認為這種做法可行

很受用戶歡迎 所以會更誇張



但99%的用戶養成它這種習慣的話

老實說 很難翻盤

你去問那些只想跟ChatGPT要情緒價值的人好了

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 27.51.128.153 (臺灣)
PTT 網址

StarTouching 05/14 18:09和苗博雅一樣

Arcumit 05/14 18:13這也是被錯誤資訊誤導了,一定有一個總

Arcumit 05/14 18:13體權重沒錯,但gpt可以對每個人調整不同

Arcumit 05/14 18:13權重,記憶功能更加強了這點,幻覺原因

Arcumit 05/14 18:13是權重本身的影響,但一開始蒸餾的模型

Arcumit 05/14 18:13本體的影響,一定比回應累積所影響的多

Arcumit 05/14 18:13,畢竟這是LLM,不是GAN。