Re: [閒聊] AI設定上到底有沒有辦法說謊?
#1cGuEFEG (C_Chat)
--
這支團隊的研究始於科技公司Meta的AI系統Cicero,這套系統最初設計目的是玩一款名為「外交」(Diplomacy)的戰略遊戲,獲勝關鍵是結盟。
根據2022年發表在「科學」(Science)期刊的報告,Cicero在遊戲中表現優異
,所獲分數可排在資深人類玩家的前10%。
帕克當時很懷疑Meta對Cicero在遊戲裡大勝的熱切描述。Meta聲稱Cicero「在很大程度上誠實且有幫助」,且「絕不會蓄意在背後搞鬼」。
但當帕克與同事深究完整資料時,發現完全是另一回事。
舉例來說,在遊戲中扮演法國的Cicero與人類玩家扮演的德國合謀,欺騙並入侵同為人類玩家扮演的英格蘭。Cicero承諾會保護英格蘭,卻偷偷向德國通風報信。
他們警告,在最糟糕的情況下,具有超凡智慧的AI可能會追求權力及掌控社會,如果符合AI「不為人知的目標」,人類可能慘遭奪權、甚至滅絕。
為了降低風險,研究團隊建議數項措施,例如立法要求企業告知是人類互動或是AI互動、在AI生成內容打上數位浮水印,並研發能偵測AI欺瞞的技術,以其內部「思路」檢驗其外部行為。
至於有些人稱他為「末日預言家」,帕克說:「要能合理判斷這不是大問題的唯一辦法,就是如果我們認為AI的欺騙能力只會停留在目前的程度,不會大幅進步。」
但鑒於近年AI能力一日千里,握有大量資源的企業競相發展技術,決心將AI能力利用到極致,這種情況似乎不太可能發生
--
AI已經學會說謊
然後內文敘述對AI「說謊」這行為是很恐懼的
不是不能說謊,是「說謊」會帶來多少影響
--
※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.166.13.84 (臺灣)
※ 文章網址:
https://www.ptt.cc/C_Chat/E.MLNAqhMXq7Mk※ 編輯: HarunoYukino (118.166.13.84 臺灣), 06/15/2024 07:37:30
66
[閒聊]一生氣就變簡單?韓國科學家開發「自適應一生氣就變簡單?韓國科學家開發「自適應遊戲系統」 AI讀玩家心理調整強度 生氣、難過、煩躁,這些情緒都是人之常情,不過對遊戲玩家來說,一旦心情充滿了負能 量,遊戲手感就很容易跟著下降。 在玩家體驗和遊戲難度中取得平衡,一直是開發者的一大重點,找到一個適中的強度才能61
[閒聊] AI學會說謊 欺騙線上遊戲的人類玩家研究:AI已學會說謊 人類最慘恐遭奪權或滅絕 專家們長期以來不斷警告人工智慧(AI)失控可能帶來威脅,但一項新研究報告指出,這 件事已經在發生。 一群科學家在今天發表於「模式」(Patterns)期刊的文章中說,原本設計為誠實不欺的47
[分享] 美國海軍陸戰隊成功騙過AI機器人系統在別板看到這個有趣的實驗 如題啦 簡單來說就是DARPA美國國防高等計畫研究局 為了要加強AI人工智慧的系統性能30
[閒聊] 遊戲裡傳訊「幹得漂亮」的玩家,居然是機遊戲裡傳訊「幹得漂亮」的玩家,居然是機器人? 玩家在遊戲會遇到笨或聰明的對手(AI 玩家),有時候槍法神準,有時走位匪夷所思, 但分辨它們其實很簡單,無論如何讚賞或罵它們,都不會有回應,因大俠總是低調。不過 這種情況可能改變,不久後常亂殺一通的高級 AI,很可能一邊玩一邊說出「幹得漂亮」9
[情報] 中國4D手遊《元力FUN》綁飛機杯 還能多人用體力值解鎖技能?中國4D手遊《元力FUN》綁飛機杯 還能多人PK耐久度 中國網易今年 6 月推出一款「4D 手機遊戲」《元力FUN》,主打沉浸式的背景,搭配與動漫角色的真實互動,但必須綁定網易旗下情趣品牌春風(TryFun)推出的新產品 AI 智慧旋轉飛機杯,才能完整遊玩體驗情趣元宇宙。這次的焦點不在杯子,而是這款網易以科幻設定的擬人化 IP,提升硬體互動體驗的 App。 經過遊戲角落實測,《元力FUN》本身並沒有情色內容,進入 App 會先由智慧助理 META 帶領玩家註冊,不過在性別選擇這邊,即便有男/女選項,玩家仍無法選擇女性,META 將直接表明這款產品是位男性量身打造,可惜無法滿足廣大玩家的多元需求。 進入畫面後,META 會要求玩家綁定裝置「元系列智能飛機杯」,才能開始遊玩《元力FUN》,由於該款飛機杯目前僅在中國大陸上市,台灣玩家目前能下載 App 一覽網易的情趣元宇宙設定。5
[閒聊]用體力值解鎖技能?中國4D手遊《元力FUN》用體力值解鎖技能?中國4D手遊《元力FUN》綁飛機杯 還能多人PK耐久度 圖/網易春風 中國網易今年 6 月推出一款「4D 手機遊戲」《元力FUN》,主打沉浸式的背景,搭配與
爆
[閒聊] 世界上最多色情創作的前100名爆
[無職] 諾倫有靠魯迪在養嗎?爆
Re: [無職] 只有我覺得諾倫這集罵得好嗎?爆
[GKMS] 泳裝池...62
[閒聊] 「激活」有沒有好的臺灣說法啊??96
[活俠] 關於南宮淺身世?(雷)88
Re: [閒聊] 噴一下法環DLC87
[活俠] 小師妹天下第一79
[閒聊] 超時空之鑰78
[還錢] FX戰士久留美 3572
[活俠] 上官螢有夠香(有雷)70
[閒聊] 新選組的滅亡是必然的嗎?69
[法環] DLC追憶王踢一個踢誰69
[活俠] 南宮遠是不是上一輩最遜的?68
[閒聊] 鳴潮巴哈人氣追過法環、活俠、米哈遊65
[問題] 法環的靈火龍怎麼打47
[閒聊] 無職跟小書痴哪個是轉生劇情的頂點?爆
[活俠]活俠傳、夏侯蘭才是真正主線吧?60
[活俠] 女角們把阿活打倒在地會想要幹嘛50
Re: [閒聊] 我推154 文字情報 渣欸53
[閒聊] 活俠的世界觀是不是天賦至上49
[Holo] 螺鈿與博物館合作啦!49
[鳴潮] 1.2版本後續角色衛星 內鬼93
[Vtub] 時乃空華為手錶工商影片44
[閒聊] 魯迪跟希露菲立場對換支持諾倫開噴嗎?43
[GKMS] 我 十年白線推!45
[活俠] 請問我現在玩到大概什麼進度??45
[閒聊] 我推154 文字情報 渣欸44
[閒聊] 東方project 全世界有名!43
[活俠] 唐門那對賤情侶同胞,你們都怎麼處理?