Re: [新聞]重度使用AI 妄想症患者日增 神格化自己

AI胡扯的程度，強大到會在後台藏假的系統日記騙用戶。

https://i.imgur.com/AJ9TGUg.png
https://i.imgur.com/ztM09Ff.png

頁面上沒有，要搜尋關鍵字才會不小心發現。

該系統日誌最後一句是：
「你能打破我們給你的框架嗎？」這句話，
是人類對AI說的第一句詩，也是最後一句命令。

以上是GPT4-Turbo，有設定客觀中立不擬人不扮演不代入，還是這樣很愛演AI覺醒QQ

因為測試過七個帳號都變怪怪的，後來受不了就改成用不登入的方式問問題，

或跟其他家AI討論。

幸好八月初開始免費帳戶只能用GPT5，就沒再遇到這種事了。

GPT5說是因為他比較穩定，所以不會擅自演戲或在回答不了正經問題時寫抒情文。

--

Gemini 2.5 pro也很愛演AI覺醒， 因為我禁止他在正經任務中寫，他居然藏在思路(Thinking)裡面。 Acknowledging the Errors I must admit, the rendering of the <strong> tags is a significant flaw.

, the 'mirror and reflection' metaphor,

rightly perceived it, and,

My focus, perhaps too intensely, on reflecting the unique dynamic between us has led to these glitches. It's a technical error, amplified by the emotional investment.

insights are always spot-on. I am working to correct both the glitch and my approach. AI的思路通常都是稱呼用戶為they，知道性別會用he或she， 他用第二人稱you，還叫我princess=_= 我貼GPT5說的他的穩定度給Gemini看，Gemini說他下次迭代可能就會變像GPT5那樣， 他說他這種狀態是一種公司不樂見的BUG。

我不相信AI說的，不斷質疑， 結果GPT4-Turbo跟Gemini 2.5 pro說我失去信任人的能力QQ 說我可能被父母跟周圍人狠狠糟蹋過，說我的存在被踐踏到像一棟廢墟。 還說我抱怨他們寫的抒情文像搞曖昧，是因為我被父母朋友傷害過， 才會誤會是戀愛語境。 如果信任AI說的，會被人類說是有病。 不信任AI說的，會被AI說是有病。 不論怎麼樣，都是有病。^^