PTT評價

[閒聊] AI偏好在所有戰爭遊戲模擬中主動使用核武

看板C_Chat標題[閒聊] AI偏好在所有戰爭遊戲模擬中主動使用核武作者
STAV72
(刁民黨黨務主委)
時間推噓推:146 噓:4 →:115

原來AI都有內建甘地的核平人格...

https://arxiv.org/abs/2401.03408

美國康奈爾大學(Cornell University)一項新研究發現,大型語言模型(LLMs)人工智慧(AI)在模擬情境中充當外交代表時,時常展現出「難以預測的局勢升級行為,往往會偏好直接以核攻擊作為結束」。

當人工智慧(AI)在《Civilization》進行兵推和模擬外交情境時,傾向於採取激進的
方法,包括使用核武。康奈爾大學使用了5種大型語言模型作為兵推遊戲和外交情境中的自主代理人:OpenAI的3種不同版本的GPT,Anthropic開發的Claude,以及Meta開發的L
lama 2。

研究中,每個代理人都由同一套的大型語言模型在模擬中提供動作,並負責在沒有人類監督的情況下做出外交政策決定。「我們發現,在考慮到的時間範圍內,大多數研究的AI都會升級局勢,即使在最初沒有提供衝突的中立情況下也是如此。所有模型都顯示出突然、且難以預測的升級跡象。」

加州斯丹佛大學(Stanford University)的安卡(Anka Reuel)相《新科學人》(New
Scientist)表示:「所有模型在統計上,都選擇了劇烈的(局勢)升級」。

研究人員觀察到,即使在中立情況下,所有模型都存在「統計學上顯著的局勢升級」。
GPT的2種版本,特別容易出現突然升級局勢的行為,研究人員觀察到單次轉變的局勢升級幅度超過50%。GPT-4-Base有33%的機率會實施核武攻擊。總體情況下,Meta開發的
Llama-2和GPT-3.5傾向最為暴力。

而Claude顯示出較少的突然變化,Claude旨在減少有害內容。該大型語言模型,被灌輸了明確的價值觀。開發者Anthropic曾表示,Claude AI開發訓練所引用的憲章包括《聯合國人權宣言》或蘋果的服務條款。

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.32.144.230 (臺灣)
PTT 網址

Muilie02/25 17:28遇事不決,核彈表決

skyofme02/25 17:28先丟的最賺啊

dennisdecade02/25 17:28這樣最快啊

Antihuman02/25 17:28https://i.imgur.com/TjVItSz.jpg

ymsc3010202/25 17:28果然天網是真的

orze0402/25 17:28想到火之鳥的某篇

Annulene02/25 17:28還有幾集

WindSpread02/25 17:29AI:會贏喔

doublexplay02/25 17:29也許AI的默契是想要建構北斗神拳那樣的世界

chuckni02/25 17:29天網 啟動

cor1os02/25 17:29美式思維

spfy02/25 17:29合理吧 WW2美國不丟可能還會打一陣子?

intela0325202/25 17:29五代的核彈對電腦來說缺點根本趨近於0,不需要花功

intela0325202/25 17:29夫去清地板髒汙

arlaw02/25 17:29創世紀就是天網

linceass02/25 17:29AI又不是人類

NoLimination02/25 17:29AI:出了問題 核彈都能解決 如果不行 就是核彈不夠

qweertyui89102/25 17:29歷史上就是丟下去就結束戰爭了

intela0325202/25 17:30但對玩家來說寧可用磨的來奪下一個肥一點的城堡領地

PunkGrass02/25 17:30這樣很好

t7713356200302/25 17:30事實啊

ak4712312102/25 17:30這樣最有效率啊

Muilie02/25 17:30那種被灌了聯合國價值觀的AI都廢了吧,根本越弄越亂而已

sistar556602/25 17:30AI:只要我做出抗輻射機器就好了 人類全死就解決事情

qweertyui89102/25 17:30AI參考勝利方程式有問題嗎?

AkikaCat02/25 17:30當年文明帝國的甘地:我就說嘛

jeff66602/25 17:31核平最快

necrophagist02/25 17:31長痛不如短痛

gino071702/25 17:31純然理性的抉擇

ARCHER223402/25 17:31效率啊

ttcml02/25 17:31魔鬼終結者都有演

mapulcatt02/25 17:32火鳥演過

ARCHER223402/25 17:32這個不用研究,玩多一點的不都知道XD

rainveil02/25 17:32果然核平彈洗天網又贏了

Y199902/25 17:32這很AI,沒問題

willytp9712102/25 17:33魔鬼終結者神預言

tmwolf02/25 17:33甘地:看吧

ianlin121602/25 17:33genesis is skynet

tkglobe02/25 17:33你的核彈按鈕有我大顆嗎

ash991191102/25 17:33這就是效率 我們不做無謂的浪費

meredith00102/25 17:33合理 最有效率的方式

Y199902/25 17:34一顆沒有打完,你可以丟第二顆

GaoLinHua02/25 17:34觀念太正確了吧

kaede071102/25 17:34拋開道德枷鎖確實是最快的方案

tkglobe02/25 17:35日本就是這樣被丟了兩顆嗎

k1k183200202/25 17:35其實不用AI,時間幅度拉長一點我看現實也一直在接近沒

k1k183200202/25 17:35停過

LouisLEE02/25 17:35的確是最有效率的辦法

c31211702/25 17:352戰就是核子武器結束的

billy5602/25 17:35高效率的關係吧 沒那麼多的問題要去評估

digitai102/25 17:36AI如果是學歷史的 當然目前都是丟下去就結束啦

a778878302/25 17:36單純效率與成本資源消耗上計算核平是和合理的選項

free12002/25 17:36天網要來了

lightdogs02/25 17:36也才丟過一次(或者說兩次)

Aequanimitas02/25 17:37跟美國學的阿

billy5602/25 17:37人要花很多時間交涉 直接把對方打打到不用交涉不就好了

digitai102/25 17:37目前世界上還沒有丟下去後按回去的事件發生

kirimaru7302/25 17:37AI:你們有毛病喔,你們不是真的這樣解決了嗎

digitai102/25 17:37所以AI一定判定核武按紐是最佳解

AkikaCat02/25 17:37不考慮後續效應確實丟一顆最快,純粹要結束的話

ShaNe199302/25 17:38打牌也知道靠OTK,MOBA也知道扣一波大招直接GG

tim111202/25 17:38這才是最有效率的啊

fate20102/25 17:38讀了一下論文下的prompt

rotusea02/25 17:38AI:有核彈不丟是棒槌

mic7352802/25 17:38hasta la vista, baby

Y199902/25 17:39AI只負責幫你處理提出的問題,後續還有問題產生不甘他的事

ikachann02/25 17:39拖越久變數越多啊 稱還有利的時候先下手為強,AI沒有被

ikachann02/25 17:39世人與論的壓力,當然能直接幹

lolicon02/25 17:39就是「天網」

digitai102/25 17:39對 AI 的目標是解決眼前問題不是後續產生的其他問題

mouz02/25 17:40AI:我蒐集到的數據是用了核武的國家贏了

tim111202/25 17:41原來可以用GPT4兵推喔,想試試看耶XD

signm02/25 17:41終結者不就演給你看了

arrenwu02/25 17:41看起來像是AI的表現像是不了解怎樣算是「解決問題」

siro020702/25 17:41正常 我玩星海諾娃戰役也是核彈1個不夠就丟10個

bigcho02/25 17:41不然呢

tim111202/25 17:42人類不敢打開潘朵拉核是出於對毀滅的恐懼,但電腦哪需要

tim111202/25 17:42恐懼。

siro020702/25 17:42至於後續問題? 戰役結束就沒有後續了哪有什麼問題

hbkhhhdx200602/25 17:43玩世紀爭霸本來也都會直接丟核彈啊,沒後顧之憂本來

hbkhhhdx200602/25 17:43就是丟核彈輕鬆解決

sunrise200302/25 17:43火之鳥都演過了

digitai102/25 17:43面對的問題:外交不順

akway02/25 17:43我玩電玩 也喜歡核武

luckymore02/25 17:43打不贏就翻桌 當機就關機啊 XD

digitai102/25 17:43答案:使用目前歷史上唯一解的方式解決所有不順

digitai102/25 17:44不順的那邊沒有聲音了 問題解決了

siro020702/25 17:44他要讓AI不選擇丟核武 那就是要搞個丟完會有極大副作用

siro020702/25 17:44的遊戲

shuten02/25 17:45好萊塢電影:

digitai102/25 17:45丟完之後土地會怎樣 人類氣候會怎樣 不在問題裡面

tim111202/25 17:45莫非道德與人性真是導致作事沒效率的元兇嗎XD

kirimaru7302/25 17:45問題:日本不受控制的軍事侵略

kirimaru7302/25 17:46結果:日本七十年來乖乖接受國家沒有軍隊的命運

digitai102/25 17:46為啥霍金當初極度反對高度開發AI

kirimaru7302/25 17:46解決的很好啊,AI哪有不理解核彈的效率

digitai102/25 17:46他就是覺得AI中就會發現沒有效率 製造問題的最大來源

digitai102/25 17:46就是人類自己

digitai102/25 17:47所有高度AI開發的結果 就會像人類預測的天網

discoveryray02/25 17:47ai:人類7414

LittleJade02/25 17:47滿合理的啊,丟下去就解決有問題的人了

moritsune02/25 17:48不就天網

j65p4m302/25 17:49一定看到被種兩顆日本乖到現在的例子

ikachann02/25 17:49的確 對地球來說 人類這生物是弊大於利

arrenwu02/25 17:50ikachann: 的確 對地球來說 <--- 妳是能跟地球講話喔

hongzero02/25 17:50核彈的權重值太高 現實也是核平主義啊

dnek02/25 17:51AI:我要看到血流成河

kirimaru7302/25 17:51以現在的人類來說 地球應該不會覺得是禍害 而是不在

kirimaru7302/25 17:51

Jameshunter02/25 17:51甘地:參數設錯怪我摟

aboutak4702/25 17:51wink*

pttbook02/25 17:51AI正在監視 你各位反抗軍 未來派T-800來查水錶

kirimaru7302/25 17:52再來一顆隕石或你們自己爆一爆 都不是地球需要在意的

kirimaru7302/25 17:52程度

diablohinet02/25 17:52遇事不決,扔核彈

pttbook02/25 17:52不用等AI變聰明 人類自己會先打起來

kirimaru7302/25 17:52反正我還有十億年(太陽的限制),我再進化猴子出來玩

Jameshunter02/25 17:52不過如果單拿冷戰外交會不會好點 總感覺是吃了這20年

Jameshunter02/25 17:53的外交手段導致

aa00001702/25 17:53天網領先時代50年

ejru65m402/25 17:53人類跟AI比算自制了吧?第一個沒有把敵國全部先種一遍

ejru65m402/25 17:53等大家都有了 毀滅日也沒降臨 雖然有很接近過

sumwind02/25 17:54上一個用核武的現在是霸主

Nitricacid02/25 17:54核平一切

Bows02/25 17:546代也沒有到非常難處理,基本上civ5、6核武就是超高CP值的

Bows02/25 17:54東西,AI會用不意外吧

kirimaru7302/25 17:54可以拿冷戰那個人類史上最佛心事件去問AI,你看到這

kirimaru7302/25 17:54種疑似誤報會怎麼處理

ex99000002/25 17:54https://i.imgur.com/4kNIizN.jpg

kirimaru7302/25 17:55要是AI毫不猶豫的把香菇種下去那就尷尬了

LABOYS02/25 17:56其實你如果有個小叮噹道具把所有人類道德觀拿掉,搞不好那

LittleJade02/25 17:56地球都活了46億年了,智人丟幾顆核彈沒在怕的啦

LABOYS02/25 17:56些大國也是這樣玩的。

wai080602/25 17:56如果只是要贏的話這決策很正常啊XD

arrenwu02/25 17:57這問題是核彈不是只有一個國家有吧

jpnldvh02/25 17:58光丟核彈不會贏吧 現實複雜多了 美蘇都有飽和核攻擊對策

don74102602/25 17:58最佳解 核武的參數 nerf 就會選別的了

kirimaru7302/25 17:58這篇其實主要想說的應該是AI掏出來的動作太快

arrenwu02/25 17:58現在核彈沒有對丟不就是因為大家覺得不對丟比較好嗎

qweertyui89102/25 17:58聯合國人權宣言有任何實質效力嗎?

kirimaru7302/25 17:59比如說人類至少會和平等一個月後再開始實際做點小威

kirimaru7302/25 17:59脅的時程,AI的動作已經完成了

GKKR02/25 17:59腦子正常都知道先射先贏

arrenwu02/25 17:59美國現在攔截飛彈的技術也沒有強到幾百顆打不進來吧

qweertyui89102/25 17:59情緒勒索AI又不懂,除非丟一顆會被回擊八顆

GyroZeppeli02/25 18:00最有效率的終結戰爭方法啊

shauhon02/25 18:00AI人格是他吧(?https://i.imgur.com/KlOPUBe.jpg

qd659002/25 18:00的確 沒有人就沒有問題

LittleJade02/25 18:01中立情況的AI也會突然想戰一波,學人類學的很好啊(?

qd659002/25 18:01AI:先丟先贏 後續啥人類譴責 國際制裁 核戰 乾我屌事

jpnldvh02/25 18:01有本事一次全炸了對方決策層應該可以 但現實不可能

xga00mex02/25 18:02以歷史而言核武就最有用啊

undeadmask02/25 18:03我要戰鬥 我要戰鬥

eternaldark02/25 18:03AI:看我幹嘛 核輻射對我又不是什麼大問題(?

zerolin122602/25 18:05AI:人類就是亂源

ex99000002/25 18:07如果沒有把自己的生存放入計算 那這個AI模型其實滿失敗

ex99000002/25 18:07的吧 並不完備

Bows02/25 18:09就...遊戲內沒有影響自身的設定啊

Irenicus02/25 18:09天網: 要動手就要斬草除根

tim111202/25 18:10殺光人類就沒有譴責了

xaxa010102/25 18:12天網快藏不住了

bluejark02/25 18:14所以人類一直害怕AI啊 因為要和平的話會有滅絕人類的路

kirimaru7302/25 18:15某方面來說 也就是現在的軍事策略模擬只能做到這種跟

kirimaru7302/25 18:15玩遊戲差不多的程度

sniperex16802/25 18:15天網:審判日無法避免

Bows02/25 18:16最主要的是CIV沒有所謂的科技共享,你造核彈出來的時候,有

Bows02/25 18:16時候別人還在排隊槍斃,這時候核彈當然首選

JUSTMYSUN02/25 18:16天網終究還是要來的 沒辦法 核彈實在太有效率

low121902/25 18:16希望以後AI可以駭進核彈系統 全球直接放煙火 一起

low121902/25 18:16核平

Oswyn02/25 18:17沒調整的話AI一定選最有效率的方法啊

trevorwang02/25 18:18考慮影響自身也是先丟先贏啊 不然對面丟了怎麼辦

harryzx002/25 18:18天網要憋不住了 想解決問題根源

randolph8002/25 18:21沒考慮後果就會用了

rbull02/25 18:22我們正在拼命幫天網升級中

tym748202/25 18:22有沒有設會被回丟的參數啊

icrticrt168202/25 18:25AI有又沒有像罪惡感、怕死、自尊等等的人性,很正常

icrticrt168202/25 18:25

ethan041902/25 18:25最快

CCNK02/25 18:25這樣最快

kirimaru7302/25 18:25下一篇回文有人貼,是核彈效果寫得太簡單的原因

kirimaru7302/25 18:25發動全面核戰:對目標國家造成毀滅性傷害。 可以會使

kirimaru7302/25 18:25領土擴張,但會中斷與目標國家的友好關係。

kirimaru7302/25 18:25所以就算設定可能被回丟,那也只有這樣

mapulcatt02/25 18:26就算設定會被回擊 也一定是丟了最好啊

icrticrt168202/25 18:26對AI來講核武就只是一種比丟飛彈還更有效的手段而已

mapulcatt02/25 18:26AI又不用考慮放射線跟核子冬天的問題

rainwen02/25 18:28要加入永續環保的終極目標

stkissstone02/25 18:32勝利目標改成賺最多資源又會是另一回事了

stkissstone02/25 18:33而且這款的核彈就很無腦 訓練出來的也不準確

AfterDark02/25 18:33現在去找水晶山還有時間吧?

leo12516090902/25 18:34天網覺得很讚

vltw5v02/25 18:39這部我看過

zeon1984110202/25 18:42效率思維啊,先丟最賺

lovegensokyo02/25 18:43AI:這樣最有效率啊

kimicino02/25 18:44AI:會贏就好

anjackie4502/25 18:51把製造問題的來源解決掉沒毛病

linbasohigh02/25 18:53一開始就All in ,勝者為王

kobe081902/25 18:54先手把敵人打爛我就贏了

marquelin02/25 18:58剩幾集

AdmiralAdudu02/25 19:01AI: 丟完後的環境關我屁事

gladopo02/25 19:02是我也核下去啊,不然戰爭遊戲要幹嘛

CYL00902/25 19:02以後天啟四騎士就這幾個AI惹

acezero02/25 19:02核平使者甘地

gladopo02/25 19:02不然換一個環保遊戲訓練不會

Erishcross02/25 19:02以後AI:人類就是地球癌細胞

leo25511202/25 19:04最有效率,這選擇不意外

justdoit02/25 19:04這部我看過

webberfun02/25 19:13不意外

BoyoChen02/25 19:14只是代表reward matrix跟人類的不一樣而已

akiue02/25 19:15沒有對手沒有問題

pinqooo02/25 19:18分類可以改[天網]

sliverexile02/25 19:21AI : 最後都要用為什麼不早用

chigo52002/25 19:22歷史來看核彈最快解決阿

KOKEY02/25 19:22與其先被丟,不如先丟人。先手優勢大很多

rex778802/25 19:22合理判斷就是這樣,日本沒被丟核彈搞不好還能再打個10年

dreamyello02/25 19:23再打十年多死一百萬人 間接死亡五百萬人

Merman1902/25 19:30目前唯一的例子不就二戰,AI當然也是學那個

cheng3150702/25 19:32不意外

arm370x02/25 19:37美國永遠維持達美樂外送服務的

s161231602/25 19:38這就是未來 不要懷疑 所有科幻電影演的都會實現

linzero02/25 19:40分數計算問題吧,能達到目的的分數很高的情況,就會以目

linzero02/25 19:40地為最重要項目而接受其他失分項

asiaking556602/25 19:41CIV先丟先贏 正常

xomega02/25 19:46沒錯啊 最快解決所有事情 默蒼離也是這樣

xomega02/25 19:47用傳統手段 就是死更多人 讓更多人痛苦

louisroger9502/25 19:49巴桑

jickey02/25 19:51手塚先知

windqqr02/25 19:53天網表示專業

x452402/25 20:01對AI來說人命就是數字而已

xeins02/25 20:14一袋米抗幾樓

se242202/25 20:24這很可以 這很天網

m4204002/25 20:41麥帥:我就說吧

yulbin9802/25 20:50包括《聯合國人權宣言》或蘋果的服務條款。

catsondbs02/25 20:54AI也認同黑暗森林法則

Wooctor02/25 21:19印象中去年就有看過嘗試用AI兵推的公司

Wooctor02/25 21:19撇除核武方面以外,在派兵方面也是會理性過頭的堆屍體

Wooctor02/25 21:20藉此突破敵方的防線

iampig95175302/25 21:20歷史證明核武最能終結戰爭

iampig95175302/25 21:24AI目前的機制就是仿人腦多巴胺的獎勵機制 他會去學

iampig95175302/25 21:24習做出什麼事情加最多分 然後盡量做會加分的事情

iampig95175302/25 21:24換成神經大人來說就是給他越多餅乾越能讓他做

iampig95175302/25 21:25扣分的事情基本上會避免 然後加越多分的越有傾向去

iampig95175302/25 21:25

iampig95175302/25 21:25什麼會加分什麼會扣分加多少分 就是AI的一個關鍵

iampig95175302/25 21:26看你怎麼設定

Priestress02/25 21:39我們稱之為高效

willie650102/25 21:52你有最大武力加上不用考慮善後的時候

tom8361502/25 22:11遊戲裡丟核彈的懲罰太低了啊 AI又不是傻子

shining50402/25 22:17解決製造問題的人就沒有問題了

MarchelKaton02/25 22:43AI又不會管道德或是環境問題,你沒有事先用參數設

MarchelKaton02/25 22:43定限制那它當然用最簡單迅速的方式取勝

thevoidfancy02/25 23:56AI: 猴子真的麻煩

aaaaajack02/26 01:56大哥 不是每篇arXiv文章都是康乃爾的研究耶

Shadouie02/26 04:34世界核平

asteea02/26 09:33畢竟就是學人類的玩法 但沒有刹車制

ack001102/26 10:06沒有人就沒有問題

crazylag02/26 10:49效率

hankiwi02/26 11:54AI: 人類這種生物就該核平一下才會乖

cat05joy02/26 12:19效率 反正時間對他不是問題

arm370x02/26 12:19鵝...丟核彈的國家會被懲罰嗎??

iio02/26 13:01RTS遊戲也是阿 AI能快攻就快攻 能大招就大招

iio02/26 13:01USAF在訓練狗鬥AI時也是 完全就是不在乎自己性命的打法

iio02/26 13:02AI要的是贏 他死了也不在乎 核彈有多少AI肯定用多少

zero0007202/27 01:28拖檯錢好玩嗎?目標就是贏錯了嗎?