[閒聊] AI偏好在所有戰爭遊戲模擬中主動使用核武
原來AI都有內建甘地的核平人格...
https://arxiv.org/abs/2401.03408
美國康奈爾大學(Cornell University)一項新研究發現,大型語言模型(LLMs)人工智慧(AI)在模擬情境中充當外交代表時,時常展現出「難以預測的局勢升級行為,往往會偏好直接以核攻擊作為結束」。
當人工智慧(AI)在《Civilization》進行兵推和模擬外交情境時,傾向於採取激進的
方法,包括使用核武。康奈爾大學使用了5種大型語言模型作為兵推遊戲和外交情境中的自主代理人:OpenAI的3種不同版本的GPT,Anthropic開發的Claude,以及Meta開發的L
lama 2。
研究中,每個代理人都由同一套的大型語言模型在模擬中提供動作,並負責在沒有人類監督的情況下做出外交政策決定。「我們發現,在考慮到的時間範圍內,大多數研究的AI都會升級局勢,即使在最初沒有提供衝突的中立情況下也是如此。所有模型都顯示出突然、且難以預測的升級跡象。」
加州斯丹佛大學(Stanford University)的安卡(Anka Reuel)相《新科學人》(New
Scientist)表示:「所有模型在統計上,都選擇了劇烈的(局勢)升級」。
研究人員觀察到,即使在中立情況下,所有模型都存在「統計學上顯著的局勢升級」。
GPT的2種版本,特別容易出現突然升級局勢的行為,研究人員觀察到單次轉變的局勢升級幅度超過50%。GPT-4-Base有33%的機率會實施核武攻擊。總體情況下,Meta開發的
Llama-2和GPT-3.5傾向最為暴力。
而Claude顯示出較少的突然變化,Claude旨在減少有害內容。該大型語言模型,被灌輸了明確的價值觀。開發者Anthropic曾表示,Claude AI開發訓練所引用的憲章包括《聯合國人權宣言》或蘋果的服務條款。
--
遇事不決,核彈表決
先丟的最賺啊
這樣最快啊
果然天網是真的
想到火之鳥的某篇
還有幾集
AI:會贏喔
也許AI的默契是想要建構北斗神拳那樣的世界
天網 啟動
美式思維
合理吧 WW2美國不丟可能還會打一陣子?
五代的核彈對電腦來說缺點根本趨近於0,不需要花功
夫去清地板髒汙
創世紀就是天網
AI又不是人類
AI:出了問題 核彈都能解決 如果不行 就是核彈不夠
歷史上就是丟下去就結束戰爭了
但對玩家來說寧可用磨的來奪下一個肥一點的城堡領地
這樣很好
事實啊
這樣最有效率啊
那種被灌了聯合國價值觀的AI都廢了吧,根本越弄越亂而已
AI:只要我做出抗輻射機器就好了 人類全死就解決事情
AI參考勝利方程式有問題嗎?
當年文明帝國的甘地:我就說嘛
核平最快
長痛不如短痛
純然理性的抉擇
效率啊
魔鬼終結者都有演
火鳥演過
這個不用研究,玩多一點的不都知道XD
果然核平彈洗天網又贏了
這很AI,沒問題
魔鬼終結者神預言
甘地:看吧
genesis is skynet
你的核彈按鈕有我大顆嗎
這就是效率 我們不做無謂的浪費
合理 最有效率的方式
一顆沒有打完,你可以丟第二顆
觀念太正確了吧
拋開道德枷鎖確實是最快的方案
日本就是這樣被丟了兩顆嗎
其實不用AI,時間幅度拉長一點我看現實也一直在接近沒
停過
的確是最有效率的辦法
2戰就是核子武器結束的
高效率的關係吧 沒那麼多的問題要去評估
AI如果是學歷史的 當然目前都是丟下去就結束啦
單純效率與成本資源消耗上計算核平是和合理的選項
天網要來了
也才丟過一次(或者說兩次)
跟美國學的阿
人要花很多時間交涉 直接把對方打打到不用交涉不就好了
目前世界上還沒有丟下去後按回去的事件發生
AI:你們有毛病喔,你們不是真的這樣解決了嗎
所以AI一定判定核武按紐是最佳解
不考慮後續效應確實丟一顆最快,純粹要結束的話
打牌也知道靠OTK,MOBA也知道扣一波大招直接GG
這才是最有效率的啊
讀了一下論文下的prompt
AI:有核彈不丟是棒槌
hasta la vista, baby
AI只負責幫你處理提出的問題,後續還有問題產生不甘他的事
拖越久變數越多啊 稱還有利的時候先下手為強,AI沒有被
世人與論的壓力,當然能直接幹
就是「天網」
對 AI 的目標是解決眼前問題不是後續產生的其他問題
AI:我蒐集到的數據是用了核武的國家贏了
原來可以用GPT4兵推喔,想試試看耶XD
終結者不就演給你看了
看起來像是AI的表現像是不了解怎樣算是「解決問題」
正常 我玩星海諾娃戰役也是核彈1個不夠就丟10個
不然呢
人類不敢打開潘朵拉核是出於對毀滅的恐懼,但電腦哪需要
恐懼。
至於後續問題? 戰役結束就沒有後續了哪有什麼問題
玩世紀爭霸本來也都會直接丟核彈啊,沒後顧之憂本來
就是丟核彈輕鬆解決
火之鳥都演過了
面對的問題:外交不順
我玩電玩 也喜歡核武
打不贏就翻桌 當機就關機啊 XD
答案:使用目前歷史上唯一解的方式解決所有不順
不順的那邊沒有聲音了 問題解決了
他要讓AI不選擇丟核武 那就是要搞個丟完會有極大副作用
的遊戲
好萊塢電影:
丟完之後土地會怎樣 人類氣候會怎樣 不在問題裡面
莫非道德與人性真是導致作事沒效率的元兇嗎XD
問題:日本不受控制的軍事侵略
結果:日本七十年來乖乖接受國家沒有軍隊的命運
為啥霍金當初極度反對高度開發AI
解決的很好啊,AI哪有不理解核彈的效率
他就是覺得AI中就會發現沒有效率 製造問題的最大來源
就是人類自己
所有高度AI開發的結果 就會像人類預測的天網
ai:人類7414
滿合理的啊,丟下去就解決有問題的人了
不就天網
一定看到被種兩顆日本乖到現在的例子
的確 對地球來說 人類這生物是弊大於利
ikachann: 的確 對地球來說 <--- 妳是能跟地球講話喔
核彈的權重值太高 現實也是核平主義啊
AI:我要看到血流成河
以現在的人類來說 地球應該不會覺得是禍害 而是不在
意
甘地:參數設錯怪我摟
wink*
AI正在監視 你各位反抗軍 未來派T-800來查水錶
再來一顆隕石或你們自己爆一爆 都不是地球需要在意的
程度
遇事不決,扔核彈
不用等AI變聰明 人類自己會先打起來
反正我還有十億年(太陽的限制),我再進化猴子出來玩
不過如果單拿冷戰外交會不會好點 總感覺是吃了這20年
的外交手段導致
天網領先時代50年
人類跟AI比算自制了吧?第一個沒有把敵國全部先種一遍
等大家都有了 毀滅日也沒降臨 雖然有很接近過
上一個用核武的現在是霸主
核平一切
6代也沒有到非常難處理,基本上civ5、6核武就是超高CP值的
東西,AI會用不意外吧
可以拿冷戰那個人類史上最佛心事件去問AI,你看到這
種疑似誤報會怎麼處理
要是AI毫不猶豫的把香菇種下去那就尷尬了
其實你如果有個小叮噹道具把所有人類道德觀拿掉,搞不好那
地球都活了46億年了,智人丟幾顆核彈沒在怕的啦
些大國也是這樣玩的。
如果只是要贏的話這決策很正常啊XD
這問題是核彈不是只有一個國家有吧
光丟核彈不會贏吧 現實複雜多了 美蘇都有飽和核攻擊對策
最佳解 核武的參數 nerf 就會選別的了
這篇其實主要想說的應該是AI掏出來的動作太快
現在核彈沒有對丟不就是因為大家覺得不對丟比較好嗎
聯合國人權宣言有任何實質效力嗎?
比如說人類至少會和平等一個月後再開始實際做點小威
脅的時程,AI的動作已經完成了
腦子正常都知道先射先贏
美國現在攔截飛彈的技術也沒有強到幾百顆打不進來吧
情緒勒索AI又不懂,除非丟一顆會被回擊八顆
最有效率的終結戰爭方法啊
AI人格是他吧(?https://i.imgur.com/KlOPUBe.jpg
的確 沒有人就沒有問題
中立情況的AI也會突然想戰一波,學人類學的很好啊(?
AI:先丟先贏 後續啥人類譴責 國際制裁 核戰 乾我屌事
有本事一次全炸了對方決策層應該可以 但現實不可能
以歷史而言核武就最有用啊
我要戰鬥 我要戰鬥
AI:看我幹嘛 核輻射對我又不是什麼大問題(?
AI:人類就是亂源
如果沒有把自己的生存放入計算 那這個AI模型其實滿失敗
的吧 並不完備
就...遊戲內沒有影響自身的設定啊
天網: 要動手就要斬草除根
殺光人類就沒有譴責了
天網快藏不住了
所以人類一直害怕AI啊 因為要和平的話會有滅絕人類的路
某方面來說 也就是現在的軍事策略模擬只能做到這種跟
玩遊戲差不多的程度
天網:審判日無法避免
最主要的是CIV沒有所謂的科技共享,你造核彈出來的時候,有
時候別人還在排隊槍斃,這時候核彈當然首選
天網終究還是要來的 沒辦法 核彈實在太有效率
希望以後AI可以駭進核彈系統 全球直接放煙火 一起
核平
沒調整的話AI一定選最有效率的方法啊
考慮影響自身也是先丟先贏啊 不然對面丟了怎麼辦
天網要憋不住了 想解決問題根源
沒考慮後果就會用了
我們正在拼命幫天網升級中
有沒有設會被回丟的參數啊
AI有又沒有像罪惡感、怕死、自尊等等的人性,很正常
吧
最快
這樣最快
下一篇回文有人貼,是核彈效果寫得太簡單的原因
發動全面核戰:對目標國家造成毀滅性傷害。 可以會使
領土擴張,但會中斷與目標國家的友好關係。
所以就算設定可能被回丟,那也只有這樣
就算設定會被回擊 也一定是丟了最好啊
對AI來講核武就只是一種比丟飛彈還更有效的手段而已
AI又不用考慮放射線跟核子冬天的問題
要加入永續環保的終極目標
勝利目標改成賺最多資源又會是另一回事了
而且這款的核彈就很無腦 訓練出來的也不準確
現在去找水晶山還有時間吧?
天網覺得很讚
這部我看過
效率思維啊,先丟最賺
AI:這樣最有效率啊
AI:會贏就好
把製造問題的來源解決掉沒毛病
一開始就All in ,勝者為王
先手把敵人打爛我就贏了
剩幾集
AI: 丟完後的環境關我屁事
是我也核下去啊,不然戰爭遊戲要幹嘛
以後天啟四騎士就這幾個AI惹
核平使者甘地
不然換一個環保遊戲訓練不會
以後AI:人類就是地球癌細胞
最有效率,這選擇不意外
這部我看過
不意外
只是代表reward matrix跟人類的不一樣而已
沒有對手沒有問題
分類可以改[天網]
AI : 最後都要用為什麼不早用
歷史來看核彈最快解決阿
與其先被丟,不如先丟人。先手優勢大很多
合理判斷就是這樣,日本沒被丟核彈搞不好還能再打個10年
再打十年多死一百萬人 間接死亡五百萬人
目前唯一的例子不就二戰,AI當然也是學那個
不意外
美國永遠維持達美樂外送服務的
這就是未來 不要懷疑 所有科幻電影演的都會實現
分數計算問題吧,能達到目的的分數很高的情況,就會以目
地為最重要項目而接受其他失分項
CIV先丟先贏 正常
沒錯啊 最快解決所有事情 默蒼離也是這樣
用傳統手段 就是死更多人 讓更多人痛苦
巴桑
手塚先知
天網表示專業
對AI來說人命就是數字而已
一袋米抗幾樓
這很可以 這很天網
麥帥:我就說吧
包括《聯合國人權宣言》或蘋果的服務條款。
AI也認同黑暗森林法則
印象中去年就有看過嘗試用AI兵推的公司
撇除核武方面以外,在派兵方面也是會理性過頭的堆屍體
藉此突破敵方的防線
歷史證明核武最能終結戰爭
AI目前的機制就是仿人腦多巴胺的獎勵機制 他會去學
習做出什麼事情加最多分 然後盡量做會加分的事情
換成神經大人來說就是給他越多餅乾越能讓他做
扣分的事情基本上會避免 然後加越多分的越有傾向去
做
什麼會加分什麼會扣分加多少分 就是AI的一個關鍵
看你怎麼設定
我們稱之為高效
你有最大武力加上不用考慮善後的時候
遊戲裡丟核彈的懲罰太低了啊 AI又不是傻子
解決製造問題的人就沒有問題了
AI又不會管道德或是環境問題,你沒有事先用參數設
定限制那它當然用最簡單迅速的方式取勝
AI: 猴子真的麻煩
大哥 不是每篇arXiv文章都是康乃爾的研究耶
世界核平
畢竟就是學人類的玩法 但沒有刹車制
沒有人就沒有問題
效率
AI: 人類這種生物就該核平一下才會乖
效率 反正時間對他不是問題
鵝...丟核彈的國家會被懲罰嗎??
RTS遊戲也是阿 AI能快攻就快攻 能大招就大招
USAF在訓練狗鬥AI時也是 完全就是不在乎自己性命的打法
AI要的是贏 他死了也不在乎 核彈有多少AI肯定用多少
拖檯錢好玩嗎?目標就是贏錯了嗎?
26
[閒聊] AI技術什麼時候會被遊戲廣泛運用如題 現在AI可以根據需求畫圖,AI語言模型可以聽得懂人話,也可以模仿各種角色的性格和情緒 至少就AI繪圖和AI聊天我就認為它可以提升手遊的遊戲體驗 直接和老婆聊天,玩文字冒險,還能即時生成各種CG 什麼時候廠商才會廣泛引進AI技術提升遊戲體驗?23
Re: [爆卦] 中央研究院詞庫小組大型語言模型阿肥 中研院資訊所早已回應了 研究人員直接說這是幻覺~ 沒你說的這麼高端解釋啦~15
[爆卦] 全球最強中國 AI 模型被爆是套用 Meta 的李開復 所創立零一萬物 推出全球強中國 AI 模型 包括 Yi-6B 和 Yi-34B 兩個版本 取得了多項 SOTA 國際最佳性能指標認可 成為全球開源大模型的雙料冠軍 擊敗了 LLaMA2 和 Falcon 現在被爆是套用 Meta 的 LLaMa 模型架構11
[討論] 如果被終結者追殺要怎麼活下來?昨天在YT上看到OpenAI開發的一個語言模型 透過閱讀網路上大量文章訓練的AI 可以跟人類流暢的對話 並且會持續學習進步9
[問卦] Google在AI是如何一次就扳回一城的?在Chatgpt跟Claude大放異彩時 Google在AI領域卻是默默無名 後來退出Bard迎戰 還因為回答錯了被嘲笑 結果現在推出新的語言模型Gemini5
Re: [新聞] 中研院 AI 大翻車!繁中大型語言模型 CKI那個 我記得以前的新聞是這樣講的 防止簡體版AI偏見,產官學聯手開發繁體版AI語音模型 聯發創新基地負責人許大山博士表示: 「大型語言模型是近年來人工智慧技術進步的亮點 ,更是未來進步不可或缺的基石。聯發科技向來重視創新及科技發展,此次結合中研院及 國教院,成為台灣極少數能訓練大型語言模型的團隊,既發展自主訓練大型人工智慧模型6
[情報] 微軟, META合作 Llama2上 Azure1. 標題: 微軟與META擴大他們的AI合作關係,讓Llama 2上Azure以及 windows 2. 來源: 微軟公司 3. 網址:3
Re: [問卦] 聽說中研院AI花300萬?中研院聲明專區 本院資訊所表示,CKIP-Llama-2-7b 並非中研院官方或所方發表的研究成果,而是個別研 究人員公佈的階段性成果。此非臺版chatGPT,且跟國科會正在發展的 TAIDE 無關。 CKIP-Llama-2-7b 的研究目標之一是讓 meta 開發的 Llama 2 大型語言模型具備更好的2
Re: [問卦] AI機器人的信度和效度?阿肥外商碼農阿肥啦!在下鍵盤研究員回答一下你的問題, 1. 先說統計檢驗部分,一般而言在傳統研究領域小數據上都會要你做一些傳統的統計檢驗, 例如你加了某個方法以後會更好,你要跟讀者證明A優於B,要避免模型有隨機性那做了可以 證明你是對的。不過現在大部分NLP訓練都是基於巨量數據像GPT-3有45TB的文本,這麼大的 數據情況下我們都會假設數據服從中央極限定理符合常態分佈,那做假設檢驗就有點多餘。
爆
[閒聊] 對面的女孩看過來爆
Re: [閒聊] 怎麼?你當台灣人當得很難過嗎?爆
[閒聊] 50嵐在手搖飲界是怎樣的存在☺84
[閒聊] 有辦法將綠鬣蜥全部移除掉嗎?79
[鳴潮] 角色立繪公開 贊妮72
[閒聊] 三國無雙製作人聊張角形象的演變71
[閒聊] 鳴潮美術設計是不是真的蠻強的?爆
[情報] 真三國無雙起源 公開無雙武將:張角52
[閒聊] 阿含說的隊友全部都同一個人51
[閒聊] 征服者康演員前女友撤銷對他所有告訴49
[鳴潮] 新角色預告 珂萊塔爆
[摳腳] 巴哈姆特動畫瘋 付費比例來到了17%47
[閒聊] 快打旋風的春麗,鄉民可以嗎?49
Re: [閒聊] 有台灣人集體遇過的都市傳說嗎?49
[閒聊] 暗喻幻想製作人:已經開始著手下一款新作45
[鳴潮] 黎那汐塔抽卡規劃閒聊45
Re: [閒聊] 中國情境:當買了蜜雪冰城一口未喝就挨刀44
[閒聊] 實力至上二年級篇 12.5卷 出大事了…嗎43
[問題] 食戟之靈 鬼父篇以前有多強?43
[討論] 日本吃海產負擔大嗎20
[問題] 為什麼女僕普遍是女性?40
[閒聊] 本屆TGA入圍跟DEI介入有關聯嗎?40
[鳴潮] 新角色預告 洛可可37
[問題] 為什麼男爵普遍是男性爆
Re: [閒聊] 怎麼?你當台灣人當得很難過嗎?34
[閒聊] 霍格華茲的傳承是不是出太早了?35
[情報] 2025這本輕小說真厲害 第一名 敗北女角太36
[鳴潮] 白毛偷跑立繪35
[閒聊] 鳴潮今天為什麼突然重拳出擊?37
[問題] 老遊戲視窗太小問題有解嗎?