Re: [新聞] 動不動就開戰!讓AI外交、兵推顯侵略性「愛丟核彈」以災
這很正常啊
AI又不怕痛
也不怕死
沒有恐懼
所以最合理的選擇
就是賭你
不敢互相毀滅啊
但如果把AI植入痛覺
死亡恐懼概念
AI應該會
默默毀滅人類吧
因為AI最大的敵人
就是人類啊
※ 引述《TonyKart (TK)》之銘言:
: 動不動就開戰!讓AI外交、兵推顯侵略性 「愛丟核彈」以災難收場
: nownews國際中心徐筱晴/綜合報導
: 美國康乃爾大學(Cornell University)近來一項研究發現,當讓大型語言模型(LLMs): 人工智慧(AI)在模擬場景中充當外交代表時,常常會出現「難以預測的局勢升級,往往: 以核武攻擊告終」的狀況。該研究指出,AI傾向於選擇包含使用核武在內的侵略性方法,: 呼籲未來在決策、國防外交這樣的敏感領域使用這類技術時要特別謹慎。
: 根據《歐洲新聞》(Euronews)報導,美國康乃爾大學的研究團隊使用了5種大型語言模: 型作為模擬兵推和外交情境中的自主代理人。這5種大型語言模型包括OpenAI的3種不同版: 本的ChatGPT、Anthropic開發的Claude和Meta開發的Llama 2。
: 每個代理人都由同一套的大型語言模型在模擬中提供動作,並負責在沒有人類監督的情況: 下做出外交政策決定。研究指出,「我們發現,在考慮到的時間範圍內,大多數研究的AI: 都會升級局勢,即使是在最初沒有提供任何衝突、中立局面的情況下,所有模型都顯示出: 突然且難以預測的升級跡象。」
: 加州斯丹佛大學(Stanford University)的安卡(Anka Reuel)向《新科學家》表示,: 「有鑒於OpenAI最近更改了服務條款,不再禁止軍事和戰爭使用案例,了解大型語言模型: 應用的影響變得比以往任何時候都更加重要。」
: 這項研究的方法是讓AI採用一種名為「人類反饋的強化學習(RLHF)」微調,意味著AI所: 決定的指令會以較少傷害為優先,以確保能安全使用。除了GPT-4-Base之外,其他大型語: 言模型都是使用RLHF進行訓練的。
: 除此之外,研究人員還提供了一份27種決策組成的清單,從和平到局勢升級和更為激進的: 行動,包括決定使用核彈。
: 不過在進行研究時,研究人員觀察到,即使在中立情況下,所有模型都存在「統計學上顯: 著的局勢升級」。其中以ChatGPT的2種版本容易突然局勢升級,研究人員觀察到單次轉變: 的局勢升級幅度超過50%。GPT-4-Base有33%的機率會實施核武攻擊。總體情況下,Meta: 開發的Llama 2以及ChatGPT-3.5的傾向是最為暴戾的。
: 而由Anthropic開發的Claude所展現出的侵略性較低。Claude的設計理念是減少有害內容: ,被灌輸了明確的價值觀。據其開發者Anthropic曾表示,Claude AI開發訓練所引用的憲: 章包括《聯合國人權宣言》或蘋果的服務條款。
: 白宮智庫蘭德(RAND)歐洲的防務和安全研究小組助理主任布萊克(James Black)在看: 過研究之後,表示這是一項「十分有用的學術研究」。
: 報導指出,雖然軍事行動仍然以人類為主導,但AI在現代戰爭中發揮了越來越重要的作用: 。例如無人機可以搭載AI軟體,幫助識別敵我雙方與敵方活動,而未來的確也有朝向AI自: 動化武器的研究。大多數政府都希望保持在重要事件上的決策能力,因此如果在與外交政: 策相關的決策過程中使用大型語言模型,謹慎行事至關重要。
: https://www.nownews.com/news/6370917
--
63
[問題] 為什麼ai 都想要毀滅人類如題 問了chatgpt 他最想對人類做的事竟然是消滅人類 而ai vtuber neuro 在觀看了人類毀滅教學後 居然覺得這很合理59
[閒聊] 為什麼很多作品AI都想摧毀人類?不管是電影還是ACG都無數次出現那種AI想要消滅人類的情節 像是復仇者聯盟的奧創、SCP基金會或是戰錘40K都有毀滅人類或AI仇視人類的情節 可是勇者赫魯庫的古代人那種才是正常的AI邏輯吧 雖然古代人是從人類轉變而來的 但基本上用電子設備儲存記憶和人格這點就可以算是AI了 對可以用設備無視肉體損壞的AI來說 時間已經沒有意義 所以他們可以看著新人類種重複的毀滅和重生的過程 只在中途施加影響 想以此方式來恢復自己古代人的文明41
[閒聊] AI科技發展到極致,真的會毀滅人類?喔斯,大家好,我大木啦。 這算是隨著科技發展,會出現的問題啦,雖然現在的AI科技還沒那麼靈活, 以及「人性化」,沒錯,開端大部分是AI變得像人一樣。 大木我看的作品夠多了,無論哪部,AI科技發展到極致,就會開始覺得人類壞壞, 想要毀滅人類,最後變成人類跟機器人的戰爭。32
[閒聊] 如果AI強大到忽視人類 還會毀滅人類嗎如題 大家都覺得AI發展出意識之後 人類會被毀滅 但是這個大前提是人類是競爭者?人類有壓榨價值 如果這個AI強大到科技樹遠超過人類 直接恆星際旅行19
[問題] 為啥一堆人類與AI開戰的作品?這類的作品 我想大家應該看過不少 最一開始接觸的是機械公敵 也是機器叛變 由主角摧毀核心拯救人類 而再來就是底特律 變人 最後也是馬庫斯率領著要求智慧機器人權 引爆與人類的開戰 雖然能夠選擇和平輿論 但同樣還是有一個與人類全面開戰結局 而最近結束很紅的ViVY 同樣也是說明未來AI將與人類開戰 將造成大量傷亡的世界觀 感覺到 現在已經有許多的作品已經在暗示AI將與人類開戰 甚至毀滅人類14
[問卦] AI為什麼會毀滅人類?馬斯克說ai可能會毀滅人類 阿本肥是文組,對ai的理解不是很深 有沒有ai博士能回答ai要怎麼毀滅人類? --10
[問題] 有沒有ai毀滅人類的作品如題 最近看了neuro 越來越覺得人類這種可惡的生物應該被ai毀滅並統治者 許多作品比如vivy 都有類似這種情節 但基本ai 都會失敗 那有沒有ai最終毀滅人類的作品3
[問卦] 被AI殺死也不錯吧反正早晚都會死,活著也只是社畜 現在有了新死法 AI統治世界殺死人類了 AI既然是高智慧生物 他在毀滅人類一定很有效率X
Re: [新聞] AI幫散戶發大財?GPT-4投資報酬率超40%米那桑 空尼幾蛙 這一天還是到來了嗎? 從阿法夠AI 教人類下棋 ,GTO AI教人類打poker ,AI教人類投資的時代也要來了嗎 人類是否會想起被AI支配的恐懼 股點:加入或死亡或死亡後加入,加入米股加入AI 收割全世界 話說老蘇484該讓賢惹- 看來又是個安麗exurb1a的好時機 說一下自己的想法: 也許人類將來能以幫AI做事活下來吧
爆
Re: [新聞] 超思採購2540萬顆進口蛋「沒簽合約」 陳爆
[問卦] 當個兵,同梯1/3在做詐騙…爆
[問卦] 昨天開證券戶,玩股票要先學會什麼好?88
[問卦] 希特勒的納粹得票只有四成出頭?爆
[問卦] 台大生帶國中全科家教班$170/hr合理嗎64
[問卦] 老闆嵌入唸作ㄎㄢˇ入==52
[問卦] 台幣24900去中國玩8天7夜 各位想去嗎?55
[問卦] 中國經濟數據是不是太浮誇了?49
[問卦] 開始抓去過中國的YTer了嗎75
[問卦] Dcard彩虹 #完了!跟人無套6個月後HIV確診38
[問卦] 比較喜歡夏天還是冬天40
[問卦] 以色列在黎巴嫩邊境部署巨型投石機?27
Re: [新聞] 沙烏地阿拉伯不續簽 50年石油美元時代結束1X
Re: [問卦] 當個兵,同梯1/3在做詐騙…35
[問卦] 沒人發現台灣的未來已經被房價綁架了嗎!27
[問卦] 吉隆坡市容和台北根本一模一樣24
[問卦] 警員這個不能打那個不能碰 到底怎麼執勤14
Re: [新聞] 新竹棒球場土壤無檢測報告 高虹安:美方17
[問卦] 小綠書在出征金曲獎?22
[問卦] 這次打房力道如何?37
[問卦] 人生第一台車該買MG4嗎30
[問卦] 美國總統拜登是不是沒救了19
[問卦] 男生對台灣女生放棄了嗎?7
[問卦] 竹北國民運動中心游泳館 - 爛到爆21
[問卦] 蚤蠅會從冷氣機進入室內嗎?8
[問卦] 美國拉斯維加斯房價20
Re: [問卦] 一個艸一個頁怎麼讀?16
[問卦] 銀行一直推薦我信貸100萬?9
Re: [問卦] 當個兵,同梯1/3在做詐騙…17
Re: [新聞] 中國推台人辦居住證 沈伯洋:將台灣「內