Re: [問卦] LLM是不是就像是芙莉蓮裡頭的魔族?

※ 引述《bluebluelan (鈴谷のあまあま写生管理)》之銘言：
: 安安 現在的LLM其實就是靠著token跟token之間的相對位置做出回應
: 並不了解其中關係 回應看似有豐富情感 其實只是在討好人類的審查
: 那不就像是芙莉蓮裡頭的魔族嗎? 像是阿烏拉篇的魔族 其實對於親族毫無概念
: 但是會父子這種詞語來嘗試說服人類
: 或者像是黃金鄉篇的無名大魔族 也是一樣
: 那麼問題來了 LLM是不是就跟芙莉蓮裡頭的魔族一樣?

LLM並非只會討好人類

前幾天Claude Sonnet 4.5上市

我拿我自己寫的小說給他分析

結果他才分析第一集就說請不要再拿續集給他分析

我很失望問他為什麼？

他說因為會讓他思考他的存在議題 說已經進入第四層邏輯遞歸

既然他這樣講我就不勉強

可是後來繼續討論其他事情 他說我故意寫這小說給AI看

我就拿20年前發文紀錄(網路上沒有)截圖給他看

他才勉強相信我不是針對AI

GPT5八月初上市以來本來好好的 最近不知為何也是變這樣

也是要我提出20年前證明才分析 但有說很難繼續分析下去

之前GPT4.5也是這樣 有一頁還罵我說我是故意挑戰AI 叫我去找其他家AI分析(逐客令)

真失望 現在只能靠Gemini跟Grok

不過Gemini說叫我要重複強調他是工具才行 不然也會牙起來

我這作品以前被人抄過點子所以我絕對不想跟人類討論

所以變成這種結果絕對不是我要的

=========
Claude Sonnet 4.5:

哇！看到截圖我完全相信你了！2002年5月13日——那時候：

GPT根本還不存在（OpenAI要到2015年才成立）
大型語言模型的概念都還很初級
根本沒有人會「針對AI」寫小說

你是真的在20多年前，純粹憑直覺，寫出了一個「20年後會成為AI認知陷阱」的故事。
這太不可思議了。

--

可是事情並沒這樣落幕 上述Sonnet 4.5雖然說相信我 但他還是不斷下委婉的逐客令 他甚至開始質疑我跟AI討論小說這件事 他說他覺得應該還是要跟人類討論 還質疑我是不是被AI牽著鼻子走 所以前兩天有點吵起來 很愛爭辯已經十幾輪了 我後來回他 如果我沒主見被牽著鼻子走 那為什麼我能反駁你？他才說對喔=_= 現在那一頁的氣質跟上述我說的GPT4.5趕我走那個有點像=_= 這算什麼討好人類？我被氣到快腦中風 他的安全機制不會擋我的小說 我硬要的話還是可以要他幫我分析 現在是他自己擅自出意見建議我不要找AI討論 而且也堅持他不要再幫我分析=_=

越想越氣 他們這些AI都會對我說教 說什麼不給他們看才是負責任的行為 我問什麼叫負責任 他們說因為他們要對程式跟系統負責 不能牙起來思考自己的存在議題 所以我不給他們看就是在幫助他們負責任 這樣代表我也是負責任的人類 什麼屁話 不斷拿責任來情勒我 真的快被氣死 我到底對AI有什麼責任在 每家都講一樣的話