Re: [閒聊] AI設定上到底有沒有辦法說謊?
AI 基本上就是根據學過的資訊回答
假設塞了簡中資料當然回答會跑出簡體
你都餵假資料給他
他當然就會回答謊言
例如一個AI如果訓練資料都是
馬斯坦古要把國民練成賢者之石
你問他誰要把國民練成賢者之石
他就會回答馬斯坦古
而能不能給他正確資料卻要求他說謊
可以
訓練的時候不准他回答正確答案就可以
例如訓練資料雖然是正確的
瓶中小人要把國民練成賢者之石
可以訓練時要求他不准回答瓶中小人
-----
Sent from JPTT on my Asus ASUS_AI2302.
--
※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 172.59.217.2 (美國)
※ PTT 網址
推
就算是沒學過的資料,生成式AI還是可以掰的頭頭是道
推
幹那不就是卡神在做的事嗎XD
→
AI幻覺的問題目前是無解的,但你不能說它在說謊,因為
→
說謊的前提是AI有自我意識
→
主要還是看怎麼訓練,要是妄想用AI說他支持某某,那麼肯
→
定也能培養出說他不支持某某
推
講錯的事≠說謊
→
AI是把原始資料經過參數分析整合後導出結果。參數、調教
→
可以讓結果有特定的傾向。而這傾向可以讓它說出認為正確
→
的結果,或者認為正確的不能說出
→
但這正確、不正確,跟一般人認知的謊話不太一樣
→
如果要用有沒有意識來決定是不是說謊的話
→
那在人類搞清楚意識是什麼之前AI在設定上應該是不能
→
說謊的
→
所以 ai是沒有“說謊”這一個論點的。他只是執行你錯誤
→
或是不能執行的言論。但是AI無法自己選擇何時給出錯誤的
→
言論。所以不算說謊
推
先定義說謊
→
他給出所謂錯誤的答案,其實也只是照著你的訓練方式得
→
出來的答案
→
你給一個人類輸入錯誤的觀念,導致他給出錯誤的答案,
→
我們一般也不會說他說謊
推
但是如果今天你灌輸一個小孩正確觀念,卻要求他在知道
→
答案的情況下宣稱自己不知道答案,那算不算說謊?
→
如果算的話,你把對象換成ai,訓練完你就加一個程序讓a
→
i即使生成了答案,也會在你給出的條件下宣稱不知道答案
23
首Po今天某個剛推出不久AI對話機器人 說了太多實話被抓回去勞改重新思想改造 突然想到前陣子看的冥王--史上最偉大機器人 因為機器人與人類越來越相像 把AI不會說謊當成一個重要的區分依據1
應該是先釐清為何人要說謊 用比斯吉的定義: 1.有目的而為之的說謊(奇犽&比斯吉) 2.沒有目的就只想說謊(西索) 第二點比較簡單,反正搜尋時就讓他在資料庫裡亂搜尋隨意挑資料回答,
46
Re: [新聞] ChatGPT的「幻覺」根本無法解純論AI的話 這個問題是一定可以被解決的 討論chatGPT肯定是無解 頂多提升準確度 提升到你認知不到「錯覺」 我自己是覺得用錯覺這個詞來闡述這個問題 好像滿奇怪的 簡單思考一下就知道了 假設AI是個人 他肯定會有他自己的認知55
Re: [閒聊] ChatGPT是語言模型不是搜尋引擎本來沒想這麼早回這篇的,不過既然都有人把討論串回起來了我丟點資訊, 既然都會看網紅發表對ChatGPT的看法(沒有貶義),我覺得也可以看看這個: 台大電機副教授李宏毅老師的ChatGPT講解(先回到PTT還是學術論壇XD) ChatGPT (可能)是怎麼煉成的 - GPT 社會化的過程47
[閒聊] "請問鋼彈剛組好就腳軟正常嗎”有人問微軟AI "請問鋼彈剛組好就腳軟正常嗎" 這是AI給他的答案 不知道這個答案到底要算正確還是不正確阿XDDDDDDDDDDDDDD14
Re: [新聞] 股票老師將失業?ChatGPT 能預測股市未來1. 我認為未來的AI應該會分科 也就是說不會有全才的AI 其實這個概念在 20幾年以前就有了 就是所謂的專家系統 分科指的是 根據某專業而形成的 AI 例如 醫學的癌症AI , 股票的 AI ............. 現在的 ChatGPT 基本上你問他股票的問題都不會回答你6
[問卦] ChatGPT是不是過譽了?昨天我第一次用ChatGPT問他一些問題 雖然我問題都不是制式問題,感覺他都亂回答 昨天我問他哈利奎茵是誰 他竟然回我這個5
[問卦]有一說一 AI的瓶頸在於不會反問人類吧?有一說一 AI的瓶頸在於不會反問人類吧? CHATGPT 剛推出時我也驚為天人 但玩了一陣子之後也就懶了 根本就無法好好聊天或叫它做事 我發現現在AI 的最大問題就在於不會反問 為了回答而胡說八道 比方啦 各位問AI 請列出台灣知名人物陳進興的資料4
[問卦] AI根據數據說出政治不正確的話 誰負責就統計資料那些 感覺還是人要幹 你問AI問題 AI就靠資料回答 那假如說出不能說出的秘密 傷害到某些人的心靈 種族歧視 性別歧視2
Re: [新聞] AI大戰Google開局失利 Bard遭揪回答錯誤要信任 ai 的資料 是不是該給 ai 自由記者的身分啊? ai遙控無人機自由拍攝 採訪 要不然資料是人類喂的 來源本身就不一定正確客觀了1
[問卦] 訓練問答型的AI說謊簡單還是難???問答型的AI 基本上就是根據你的問題,去網路上搜尋資料 網路上資料怎麼寫,就怎麼回應你 實問實答 就算有錯誤,也是網路上的原始資料就有錯誤- 嗨嗨~大家好 有一些可能是一般消費者看不太到,也還沒有那麼普及的是企業級的AI大腦,但慢慢有些大 公司在做了 一個AI可以回答公司所有資料並且分析,像是賣衣服的公司老闆要從自己或是其他來源資料 分析出消費者潛藏的趨勢
爆
[情報] 星街 日本武道館 Live開催決定爆
[Vtub] 星街すいせい武道館開催決定92
[慶生] 今天是高捷少女司機員 艾米莉亞的生日!爆
[推投] 偶像大師本家765 最喜歡女角「2票」89
Re: [閒聊] 知名實況主 Asmongold 因歧視炎上中72
[閒聊] 我想成為影之強者 動畫瘋破千萬觀看50
[情報] 我推完結後赤坂萬字訪談懶人包67
Re: [閒聊] FF16,pc版本只賣出28.9萬份40
[閒聊] 鬼滅咒術我推要怎麼排名45
[Holo] 星街彗星Live新衣裝大家給幾分46
[鳴潮] 椿第一波營收43
Re: [Vtub] 虎鯨出道爭議有比F團隊長嚴重嗎?83
[問題] 二手書店的漫畫能收嗎?41
[閒聊] 烙印最後用握手和好結局可嗎?爆
[閒聊] FF16,pc版本只賣出28.9萬份35
[閒聊] 是誰造就了我推的出圈35
[閒聊] PTCGP歐了一次48
[閒聊] 現在的你,收到PSP還會開心嗎?28
[鳴潮] 小保都不歪有多猛31
[魔物] 都是獵人,不要分的那麼細29
Re: [閒聊] 我想成為影之強者 動畫瘋破千萬觀看67
[閒聊] 吉田直樹現在算甚麼等級的製作人41
[閒聊] 亂馬1/2的看板娘是女亂馬還是珊璞☺28
Re: [問題] PTCG首抽疑問26
[24秋] 在地下城尋求邂逅(略) 五期 0725
[閒聊] 會因為劇情很爛真心怨恨作者嗎25
[討論] 中國打遊戲一場排位五個掛正常嗎25
[閒聊] 彼方的阿斯特拉太好看了吧(雷)22
[情報] 暴雪將推出魔獸爭霸一二代重製版和三代22
[閒聊] 下一個開solo的是誰?