PTT評價

Re: [閒聊] AI設定上到底有沒有辦法說謊?

看板C_Chat標題Re: [閒聊] AI設定上到底有沒有辦法說謊?作者
smart0eddie
(smart0eddie)
時間推噓 5 推:5 噓:0 →:21

AI 基本上就是根據學過的資訊回答
假設塞了簡中資料當然回答會跑出簡體

你都餵假資料給他
他當然就會回答謊言
例如一個AI如果訓練資料都是
馬斯坦古要把國民練成賢者之石
你問他誰要把國民練成賢者之石
他就會回答馬斯坦古

而能不能給他正確資料卻要求他說謊
可以
訓練的時候不准他回答正確答案就可以
例如訓練資料雖然是正確的
瓶中小人要把國民練成賢者之石
可以訓練時要求他不准回答瓶中小人



-----
Sent from JPTT on my Asus ASUS_AI2302.

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 172.59.217.2 (美國)
PTT 網址

shadow032606/15 00:11就算是沒學過的資料,生成式AI還是可以掰的頭頭是道

chinnez06/15 00:12幹那不就是卡神在做的事嗎XD

shadow032606/15 00:12AI幻覺的問題目前是無解的,但你不能說它在說謊,因為

shadow032606/15 00:12說謊的前提是AI有自我意識

Bugquan06/15 00:13主要還是看怎麼訓練,要是妄想用AI說他支持某某,那麼肯

Bugquan06/15 00:13定也能培養出說他不支持某某

LittleJade06/15 00:13講錯的事≠說謊

linzero06/15 00:22AI是把原始資料經過參數分析整合後導出結果。參數、調教

linzero06/15 00:23可以讓結果有特定的傾向。而這傾向可以讓它說出認為正確

linzero06/15 00:23的結果,或者認為正確的不能說出

linzero06/15 00:24但這正確、不正確,跟一般人認知的謊話不太一樣

smart0eddie06/15 00:44如果要用有沒有意識來決定是不是說謊的話

smart0eddie06/15 00:44那在人類搞清楚意識是什麼之前AI在設定上應該是不能

smart0eddie06/15 00:44說謊的

yuizero06/15 01:48所以 ai是沒有“說謊”這一個論點的。他只是執行你錯誤

yuizero06/15 01:48或是不能執行的言論。但是AI無法自己選擇何時給出錯誤的

yuizero06/15 01:48言論。所以不算說謊

Hosimati06/15 02:13先定義說謊

Hosimati06/15 02:14他給出所謂錯誤的答案,其實也只是照著你的訓練方式得

Hosimati06/15 02:14出來的答案

Hosimati06/15 02:14你給一個人類輸入錯誤的觀念,導致他給出錯誤的答案,

Hosimati06/15 02:15我們一般也不會說他說謊

Hosimati06/15 02:23但是如果今天你灌輸一個小孩正確觀念,卻要求他在知道

Hosimati06/15 02:23答案的情況下宣稱自己不知道答案,那算不算說謊?

Hosimati06/15 02:26如果算的話,你把對象換成ai,訓練完你就加一個程序讓a

Hosimati06/15 02:26i即使生成了答案,也會在你給出的條件下宣稱不知道答案