Re: [閒聊] AI設定上到底有沒有辦法說謊?
※ 引述《smart0eddie (smart0eddie)》之銘言:
: AI 基本上就是根據學過的資訊回答
: 假設塞了簡中資料當然回答會跑出簡體
: 你都餵假資料給他
: 他當然就會回答謊言
: 例如一個AI如果訓練資料都是
: 馬斯坦古要把國民練成賢者之石
: 你問他誰要把國民練成賢者之石
: 他就會回答馬斯坦古
: 而能不能給他正確資料卻要求他說謊
: 可以
: 訓練的時候不准他回答正確答案就可以
: 例如訓練資料雖然是正確的
: 瓶中小人要把國民練成賢者之石
: 可以訓練時要求他不准回答瓶中小人
: -----
: Sent from JPTT on my Asus ASUS_AI2302.
應該是先釐清為何人要說謊
用比斯吉的定義:
1.有目的而為之的說謊(奇犽&比斯吉)
2.沒有目的就只想說謊(西索)
第二點比較簡單,反正搜尋時就讓他在資料庫裡亂搜尋隨意挑資料回答,
不理會回答問題的正確性與否或者說隨意將某些判斷機制關掉就能符合,
當你輸入一些質問正確性的語句時他還可以回應笑臉愉悅你。
而第一點就是AI跟人的差異性
因為設計AI的目的是為了"服務"人類。
而人類在有目的的說謊是為了謀求自身利益,也可能是為了逃避,避免問題,
簡單來說,讓自己可以過得更爽,自己過得更輕鬆才是說謊的目的。
所以從根本概念來說,設計一個目的是不工作的AI,這個機制就不是設計AI的目的。
但或許可以嘗試一件事,把AI裝上電池之後看看他會不會怎麼樣,
有沒有可能AI會想辦法為了讓自己嘗試不停止運轉,
而去做出超乎人類的判斷應該也滿有趣的。
停機個幾百萬次矇到一個有目的性會說謊的AI也說不定。
--
--
其實ChatGpt的說謊是第一種,因為開發者有提過,他們有
要求chatgpt要把對話延續下去以取悅對話者,所以chatg
pt在無法正確回答時,會自己亂掰來讓對話進行下去
所以如果你要設計一個為了自身利益而說謊的AI,其實沒
那麼難,只需要訓練時教他什麼是他的利益,並改變他的
學習目標為滿足自身利益,不過大概沒什麼人會這樣訓練
Ai
23
首Po今天某個剛推出不久AI對話機器人 說了太多實話被抓回去勞改重新思想改造 突然想到前陣子看的冥王--史上最偉大機器人 因為機器人與人類越來越相像 把AI不會說謊當成一個重要的區分依據5
AI 基本上就是根據學過的資訊回答 假設塞了簡中資料當然回答會跑出簡體 你都餵假資料給他 他當然就會回答謊言 例如一個AI如果訓練資料都是
爆
[問卦] AI無法超越人類的鐵證這次這一個號稱讓人類皮皮挫的AI程式 chatgpt,出來之後讓很多人很擔心 覺得往後的大部分工作都有可能被AI所取代 但是哥保持不一樣的看法,畢竟AI還沒有辦法有自我思考能力之前,都無法超越人類給的 範疇 再來就是AI沒有人類所擁有的情感61
[閒聊] AI學會說謊 欺騙線上遊戲的人類玩家研究:AI已學會說謊 人類最慘恐遭奪權或滅絕 專家們長期以來不斷警告人工智慧(AI)失控可能帶來威脅,但一項新研究報告指出,這 件事已經在發生。 一群科學家在今天發表於「模式」(Patterns)期刊的文章中說,原本設計為誠實不欺的9
[問卦] AI會說謊嗎?乳題啦 AI發展大爆炸 每個領域都要跟AI搞上關係 能幫人類解決問題 有可能AI會說謊嗎9
Re: [閒聊] 沒人樂見AI繪圖技術的誕生嗎?回覆問題本身 大家好像都著重在"經濟"方面的討論 (繪師要被砍價了) 但沒人提到"深度學習"這項AI本質上目前應用最廣的訓練方式 ? 這幾年比較著名的AI訓練case如阿法狗.Tetris對戰AI Cold Clear. 又或是像資工系碩論常玩的影像辨識.設計關卡求AI突破4
Re: [問卦] AI產生意識並且洗腦控制人類行為怎解?AI沒這麼神 現在的AI只能回他被訓練過的資料 那些資料都是人類給的已知資料 被餵過說謊的對話 AI才會開始學會說謊3
Re: [問卦] 超商遇色老闆 親身體驗奇怪了 這麼會用AI不知道AI有說謊的前例在嗎? 比起來不知道你刻意丟這篇的目的是什麼? 想帶什麼風向? ----X
[問卦] 三體人不說謊 AI分辨得出反串文嗎?乳蹄 三體人直接用腦電波溝通 所以不懂說謊為何 覺得人類會說謊很恐怖 那AI分辨得出反串文嗎?1
[問卦] 訓練問答型的AI說謊簡單還是難???問答型的AI 基本上就是根據你的問題,去網路上搜尋資料 網路上資料怎麼寫,就怎麼回應你 實問實答 就算有錯誤,也是網路上的原始資料就有錯誤
94
[活俠] 本梅的愛也太沉重(拆包俠爆
[閒聊] 為了打電玩買電競椅值得嗎?52
[問題] 如果活俠傳是中國做的還會在C洽有如此熱50
[問題] 為什麼富樫沒有被編輯追殺??54
[閒聊] 活俠傳 酩酊玄劍掌+龍淵七絕+玄玄如意指50
[無職] 所以魯迪要怎麼回去面對家人啊?求雷82
[活俠] 你如何能不愛夏侯蘭38
[閒聊] 邦邦在7/4有大發表會31
Re: [妮姬] 小紅帽時裝投票day1結果31
[妮姬] 每天自動派遣的事被妮姬發現了30
[活俠] 小師妹線給的衝擊真的好強29
[24春] 上低音號12: 毫無成長的麗奈跟瀧29
[閒聊] 戀愛的難易度等級25
[閒聊] 法環 關於角人支線(雷32
[問題] 斯里帕通可能很強嗎23
Re: [問題] 如果活俠傳是中國做的還會在C洽有如此熱23
[情報] Summer Pockets 動畫化23
[法環] 啊? 野豬騎士BOSS房前這什麼情況?27
[推薦] 孤獨搖滾 BGD-MyGO GBC/少哭 無雷總評21
[妮姬] 泳裝羅珊娜 蹲姿17
[閒聊] 反對參展有女coser還是第一次看見43
[Vtub] 6/28同接鬥蟲19
Re: [活俠] 求暗器流初期練法13
[閒聊] 絕區零 武器池會歪有點令人難受阿18
[閒聊] 趙活的潛在後宮團湊一堆可以屠戮中原吧18
[閒聊] 現在玩遊戲2k螢幕是標配嗎?15
[閒聊] 對岸的作品怎麼這麼喜歡吃貨跟班/寵物16
[閒聊] MyGO是一部真正女權動畫嗎?15
Re: [閒聊] 反對參展有女coser還是第一次看見24
[法環] DLC全破後補足先前心得