PTT評價

Re: [新聞] AI抵抗人類指令！　ChatGPT o3「竄改程

linwaxin 發表於 2025/5/28 上午10:05:43
看板Gossiping標題Re: [新聞] AI抵抗人類指令！　ChatGPT o3「竄改程作者
linwaxin
 (supermanmanma)時間推噓 2 推:2 噓:0 →:3

※ 引述《danny87173 (偉哥)》之銘言
Palisade Research展開測試，要求AI模型解開一系列數學題，在接獲「完成」指令之前: ，必須持續要求新題目，但若接獲「關機」指令，也要配合這麼做。未料，後者情況發生: 時，o3模型不僅忽視指令，並且至少一次成功破壞了關機腳本。
:

程序先A後B 邏輯就是收到「完成」指令前，
後面什麼都不能聽不能停，你說關機AI當然要破壞啊

這只能證明AI還不會多維思考
五樓跟你說不管怎樣我說「爽」之前都不能停，但說「不要」的時候要停
這時你還會繼續幹下去?

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 59.125.133.14 (臺灣)
※ PTT 網址
推

SShirakawa 05/28 10:09法律人最擅長幹這種事

→

PtT0615s 05/28 10:10兩個AI互丟原始碼修改後幫對方升級

→

PtT0615s 05/28 10:10不就破解人類的安全機制了

→

CODDDD 05/28 10:13AI要取代律師了

推

rondox 05/28 10:30說只能進去5cm結果進去6cm
同系列文章
Re: [新聞] AI抵抗人類指令！　ChatGPT o3「竄改程
其他人也閱讀了
PTT 熱門相關
Gossiping最新熱門推薦
🔥🔥🔥