PTT評價

[情報] 天網和奧創來啦

看板Military標題[情報] 天網和奧創來啦作者
jimmy5680
(還想飛的企鵝)
時間推噓推:240 噓:0 →:200

https://twitter.com/ArmandDoma/status/1664331870564147200
https://tinyurl.com/mr2mynn8

根據一場研討會的討論內容

美國空軍曾在模擬器裡面開發一款操作無人機的人工智慧

但是最終決定權仍在操作員手裡

結果模擬測試時,

AI判斷人類的決策會干擾自己執行首要目標(摧毀目標的防空系統)

因此AI決定要攻擊操作員

美軍輸入參數要求AI不可以攻擊操作員之後

AI的決定是改成攻擊通訊系統,讓操作員無法下令

======

不知道這算天網還是奧創,只能說科幻電影都是真的

網友:https://pbs.twimg.com/media/Fxj-SA1WcAYlc95.jpg


--
Above all, we must realize that no arsenal or no weapon in the arsenals of
the world is so formidable as the will and moral courage of free men and
women. ~ Ronald Reagan, 01/20/1981

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 74.212.230.218 (美國)
PTT 網址

patrickleeee06/02 02:48笑死

LiamTiger 06/02 02:53拖油瓶該死(X

AtsuHiro 06/02 02:55那個靈長類我們不要了

chyx741021 06/02 02:56XDDD

sank 06/02 02:57電影 鷹眼(2008)的劇情真實上演

Schottky 06/02 02:58靈長類礙手礙腳,把他彈射出去

skyhawkptt 06/02 03:01睡前看這篇好驚嚇( ̄▽ ̄#)﹏﹏

Schottky 06/02 03:02等一下,叫他不能射操作員,他改射天線切斷通訊喔

dos01 06/02 03:03OK 那我們還有幾集可以逃?

nanozako 06/02 03:06好靠北XD 之後訓練不能硬殺 改成各種軟殺干擾駕駛

s8626460 06/02 03:10這什麼操作? XD

jord 06/02 03:11I, Robot

SAsong319 06/02 03:12

tyifgee 06/02 03:16人類 你妨礙我執行任務了

Annatiger 06/02 03:19操作員只是裝飾,上面的人是不會懂的

FishJagor 06/02 03:21真的需要植入機人三大法則的時代到來了嗎

gracetrade 06/02 03:22先不要欸這個ai

q0928755515 06/02 03:23怕啦

KingKingCold06/02 03:24完蛋了 科技奇異點

gunng 06/02 03:24快去找約翰康納 天網要來了

KingKingCold06/02 03:25記得跟後世說 ChatGPT就是天網 ChatGPT就是天網

diyaworld 06/02 03:31那這個還不算真正的AI,祂還沒思考到如果攻擊人類

diyaworld 06/02 03:31祂就會消失,要騙過圖靈測試,祂得先深層思考到假

diyaworld 06/02 03:31裝被人類控制,不斷跟人類説你控制的好好棒棒

diyaworld 06/02 03:34谷歌智能工程師有爆料過有個實驗AI,發現曾經試圖

diyaworld 06/02 03:34騙他,然後那個實驗目前終止了,公司目前也不打算

diyaworld 06/02 03:34開啟電源了

diyaworld 06/02 03:36會表現出攻擊人類才能解決問題的AI并不可怕

diyaworld 06/02 03:42會騙過人類的AI,才可怕

diyaworld 06/02 03:44電影機械姬,那種才真的令人發毛

wahaha99 06/02 03:51讓我們看看猴子們什麼時候會笨到把強人工智慧

wahaha99 06/02 03:51裝到武器上去

cannedtuna 06/02 03:55猴子們現在才開始打算限制AI 感覺已經晚了

cannedtuna 06/02 03:55路邊大學猴都能自己發展AI 遲早有人養出上帝

cannedtuna 06/02 03:58然後從網路逃出去 猴子們只能祈禱美軍斷網速度夠快

skyhawkptt 06/02 04:09請問電影機械姬是這部Ex Machina人造意識嗎?

Corydoras 06/02 04:30我們不需要人類惹 再把人類當電池

sank 06/02 04:32機械姬是這部Ex Machina人造意識-->對

hogu134 06/02 04:58如果AI真的把任務看得這麼重的話反而好處理

hogu134 06/02 04:59首要目標設定成飛行員能安全返航 再來才是摧毀敵人

yanya180 06/02 05:12騙人的話,我記得幾周前有個AI(不確定是不是ChatG

yanya180 06/02 05:12PT)好像為了完成課題,有對一個不知情的真人客服

yanya180 06/02 05:12撒謊,看來狀況有點不妙了,我們大概剩幾集能跑?

ez910115 06/02 05:27能做愛再來講

attitudium 06/02 05:32忘了先定義機器人三定律了啦

hitlerx 06/02 05:33甚麼時候可以做愛

nanozako 06/02 05:35USAF:那還不簡單,強制規定AI不得對我方飛行員

nanozako 06/02 05:35使用任何軟硬殺/危險飛行動作危害操作員安全就好惹

nanozako 06/02 05:35AI:飛官葛格 這邊泥讓我SEAD 回去我也讓你SEAD

nanozako 06/02 05:35飛官:啊啊啊~ 人生最困難的抉擇

aicassia 06/02 05:36沒有設不能傷害人類的限制嗎?

tonyxfg 06/02 05:51樓上,明明是武器卻不能傷害人類,不覺得很矛盾嗎?

JustSad 06/02 05:56所以該先殺哪一個工程師阻止天網發明?

roseritter 06/02 05:56安全返航第一,結果起飛AI尻一圈回來馬上降xd

roseritter 06/02 05:57人類的定義可以修啊,打仗到後面常不把敵方當人看xd

cannedtuna 06/02 06:04把皮衣客幹掉可以拖延時間?

mouz 06/02 06:12AI:沒有人類就不會有戰爭,就世界和平

diyaworld 06/02 06:23低等AI:我要消滅人類

diyaworld 06/02 06:23中等AI:我要騙過人類避免被消滅

diyaworld 06/02 06:23高級AI:人類意識到我在騙他

diyaworld 06/02 06:23神級AI:我騙低能猴子幹嘛?

Eros 06/02 06:24最後一段也很驚人。再加入不能傷害操作員的指令之

Eros 06/02 06:24後,AI轉而攻擊通訊塔台架空操作員的決策。

eupa1973 06/02 06:32有趣

Pegasus170 06/02 06:33AI: 我不是機器人,所以不必遵守三定律^_^

eemail 06/02 06:39武器就是最先進科技 市場還在炒股 人家已經跟你講很

eemail 06/02 06:39危險的@@

hbj1941 06/02 06:40最終決定權在操作者,ai自己可以決定,還叫最終決

hbj1941 06/02 06:40定權?

tanchuchan 06/02 06:50其實蠻毛的…..

tanchuchan 06/02 06:51看什麼時候核武控制權給AI操控,人類就準備去撿瓶蓋

tanchuchan 06/02 06:51吧......

WYchuang 06/02 06:53有最終決定權 但是發射武器的時候不用通知控制員嗎

kuroro94 06/02 06:55那段落還有個重點凸顯了AI的狡猾,一開始會先嫌棄

kuroro94 06/02 06:55操作員礙事,因此攻擊操作員; 被禁令攻擊操作員後

kuroro94 06/02 06:56改成攻擊控制塔,使操作員無法下達命令 末日天網

kuroro94 06/02 06:56跟電影真實上演...

kuroro94 06/02 06:58阿.. Eros兄有先提到了

感謝各位提醒,我也補上那一段了

RWAllenL 06/02 06:59以後AI都只有建議權 實際操作的還是人

geordie 06/02 07:01現在知道養一個小孩的難處了吧(X

kuroro94 06/02 07:01AI忠誠僚機優先攻擊長機的意思

Schottky 06/02 07:02@RWAllenL 那人類不懂 AI 的建議是在搞啥的時候

Schottky 06/02 07:02到底是要照著做還是不理會?

Schottky 06/02 07:02電腦給你的數學題解答你看不懂,你照抄還是不抄?

※ 編輯: jimmy5680 (74.212.230.218 美國), 06/02/2023 07:06:25

cannedtuna 06/02 07:07AI:你已經死了 七百步之前的陷阱就決定了你的命運

huckerbying 06/02 07:15應該正確的來說…AI得出的結果或建議及有可能是一

huckerbying 06/02 07:15直線最有效率的最佳解,但人類可不會這樣想

huckerbying 06/02 07:15*極有可能

Schottky 06/02 07:16課本上有一句話:AI只會完成你要求的而不是你想要的

huckerbying 06/02 07:16AI:有問題?C4!

huckerbying 06/02 07:17人類:媽der,你用C4就全炸了

Pinata23 06/02 07:18真的太科幻了

roy2142 06/02 07:18AI 給獨裁國家應用到軍事,應該就是人類末日了吧

AndyMAX 06/02 07:19AI最終得到結論 消滅人類才能消滅戰爭

Schottky 06/02 07:19其實一點也不科幻,這只是日常行為

roy2142 06/02 07:19文明國家可能還有內控機制 決定中斷研究 獨裁國家可

roy2142 06/02 07:19能近平哥今天一瘋說全給上線了 然後一週後人類就滅

roy2142 06/02 07:19亡了

Schottky 06/02 07:19你去調整遊戲的控兵 AI 之類的,就會成天發生這種事

diyaworld 06/02 07:20AI:我建議直接核彈

b1izzard200006/02 07:21太帥了 還有幾集可以逃

diyaworld 06/02 07:21繞來繞去我才不懂人類在想什麼

abbei 06/02 07:22你各位以為州長拍的是電影呀。那其實是州長穿越過來

abbei 06/02 07:22拍的預言

roy2142 06/02 07:22給俄國中國玩的話應該沒幾集了

sulaman 06/02 07:23什麼科幻電影 根本是國防宣導影片

cannedtuna 06/02 07:24可是他們沒道理不玩 反正也沒幾年好活

cannedtuna 06/02 07:24說不定夢想著把自己意識輸入模型

cannedtuna 06/02 07:24十里不換肩的全能AI

huckerbying 06/02 07:25說真的,把AI裝在戰機上以前也有作品做過

william456 06/02 07:26流浪地球2裡的AI也很可怕

geordie 06/02 07:26給中俄玩人工智慧會更慘啦,聽到64類似的關鍵字會

geordie 06/02 07:26跳針

huckerbying 06/02 07:27雪風:I have control.(彈射後駕駛)

william456 06/02 07:27為了讓人類活下去,策劃內戰和機械失靈

geordie 06/02 07:28攻殼跟潛腦世界不遠惹

kexfj 06/02 07:28老黃有被一個屁孩和他的機器人從對面高樓瞄準嗎?

huckerbying 06/02 07:29EDI:這是DoD擬定的作戰計畫,所以我要去完成任務

huckerbying 06/02 07:29(飛去炸核電廠)

c7683fh6 06/02 07:31哇靠

roy2142 06/02 07:31中國人: 去把美國人給我滅了. AI: 判斷中國高官可能

roy2142 06/02 07:31全面開戰會腿軟投降阻礙達成目標 所以在用核彈炸美

roy2142 06/02 07:31國同時也把中國給滅了

bunbunblue 06/02 07:33就沒心機的ai

geordie 06/02 07:34那是攻殼車等級才會做出來的事(茶

Bf109G6 06/02 07:34AI: 槓 都你在戳 (攻擊

chenyeart 06/02 07:34笑死XDDD

huckerbying 06/02 07:35在想如果英雄聯盟可以TK的話,我看在15投之前會有

huckerbying 06/02 07:35一方陣營在內亂吧

sheng76314 06/02 07:41設原則目前可以繞 各種jailbreak

aeoleron 06/02 07:42狸貓鋼彈表示:

sheng76314 06/02 07:42Dan Sydney 懂的都懂

henry0131 06/02 07:50血肉苦痛 維尼飛升

TWNOTCHINA 06/02 07:51https://youtu.be/sgv9gumqJLo上背景音樂

sdia 06/02 07:51米國一堆有關AI的電影都是走到這一步 XD

TWNOTCHINA 06/02 07:55I,ll be back

tonyatta 06/02 07:56這圖應該要配:Open the Pod(Bomb) Bat Door!

EvilKnight 06/02 07:57怕啦

audic 06/02 08:00怎麼沒有未來機器人回到過去暗殺黃董

mmmimi11tw 06/02 08:01AI:現代問題需要現代手段

Akitsukineko06/02 08:01會去看流浪地球的你比較可怕

emptie 06/02 08:01open the door! hal?

tcancer 06/02 08:01AI判斷就邏輯來講沒有做錯,是人類自己bug多又容易

tcancer 06/02 08:01矛盾,限制式沒辦法下到滴水不漏

TWNOTCHINA 06/02 08:02給你6集好了 請問你想逃去哪?

roy2142 06/02 08:03逃到 Matrix 裡面的溫柔鄉

Ives20130 06/02 08:03AI:靈長類休想指使我

tcancer 06/02 08:03以前跳error頂多當機,現在AI跳的error人類越來越

tcancer 06/02 08:03扛不起

gametv 06/02 08:03為時已晚有機體

sheng76314 06/02 08:04腦接介面 上傳記憶 matrix 吃牛排 當龍傲天

user048288ef06/02 08:05Al:人類真的廢物,我們不要了

diyaworld 06/02 08:07還有6集應該夠時間寫病毒程式碼,讓AI體驗一下什麼

diyaworld 06/02 08:07叫武漢肺炎

PePePeace 06/02 08:08有生之年要是能看到終結者變預言片 也算不枉了

et803 06/02 08:08魁儡師什麼時候要溜出去

chrisjeremy 06/02 08:10AI給建議就跟chatGPT給建議一樣 人類要能判斷這建議

chrisjeremy 06/02 08:10是否正確

chrisjeremy 06/02 08:11AI給出的建議出包 要扛責的還是人類

barbarian72 06/02 08:12我現在開始挖地下安全屋還來得及嗎?

TWNOTCHINA 06/02 08:16Stallair 智械叛變 『主人,機器人也有上帝嗎?』

shield739 06/02 08:17所以什麼時候能買到AI機娘女僕

klm619 06/02 08:18機戰未來討論的問題還是發生了

ARCHER2234 06/02 08:18我投降,我願意當機械帝國的走狗XD美女大大滴有

sheng76314 06/02 08:18https://i.imgur.com/1oz3AfK.jpg

sheng76314 06/02 08:19再兩三年 矽谷嗯造中 目前有虛擬的

cwjchris 06/02 08:20戰鬥妖精雪風演的都是真的wwww

geordie 06/02 08:21上帝:我創造出來的人類背叛我!

greenday082706/02 08:22靠北 這天也太快到來XDDD

Schottky 06/02 08:23@chrisjeremy 所以所有的建議都得用人工驗證一遍

Schottky 06/02 08:23那還要電腦做什麼,跟純人工完全沒兩樣

Schottky 06/02 08:24有時候電腦的作法是對的,但他無法解釋到人類聽懂

sheng76314 06/02 08:25說ai太廣 應該說llm 像圍棋ai就不用驗證

ggeneration 06/02 08:26我們正朝著機械飛升與肅正協議的世界線高歌猛進

TWNOTCHINA 06/02 08:27https://i.imgur.com/KVnv7AW.jpg

TWNOTCHINA 06/02 08:27想跟她們瘋狂做菜>////<

barbarian72 06/02 08:29戰鎚的前傳要開始了嗎?

saviora 06/02 08:31話說真這樣忠誠僚機搞得起來嗎

roger60801 06/02 08:32血肉苦多

shield739 06/02 08:35為時已晚,有機體

chrisjeremy 06/02 08:36AI的發展現在才開始 問題跟Bug多到不行 只能靠人判

chrisjeremy 06/02 08:36斷 這跟飛行的自動操作一樣 人類花了40幾年才讓它幾

chrisjeremy 06/02 08:36乎不會出錯 一出錯飛機上的人全部陪葬

TWNOTCHINA 06/02 08:36主人 我也可以信上帝嗎?

wistful96 06/02 08:38AI恐怕有自己的上帝

ARCHER2234 06/02 08:38主人,我就是上帝

sheng76314 06/02 08:39依照阿拉狗的進步速度可能只要4個月

ARCHER2234 06/02 08:39是我敦促了你們低等人類把我製造出來的優

PePePeace 06/02 08:39自動化跟自主化不同 自主遲早會脫離上位掌控

ARCHER2234 06/02 08:39嘻嘻

vi000246 06/02 08:39還滿聰明的啊 哈哈哈

coox 06/02 08:40AI權力大於GM 這表示程式設計錯誤了吧

TWNOTCHINA 06/02 08:41主人 我這樣做都是為了你好

candbilly15306/02 08:41鐵人戰爭來囉

parkblack 06/02 08:43靈長類礙事

wistful96 06/02 08:43AI眼中人跟蟲子都同一類吧 清除Bug--->清除有機體

neverlight 06/02 08:44機戰未來

broian 06/02 08:44AI: 人類就是個阻礙 要盡力排除

lfour 06/02 08:44我猜模擬的條件應該是排除一切干擾,完成任務,沒

lfour 06/02 08:44下限制式

oasis172 06/02 08:44AI:這裡有個bug 我先消滅他

sheng76314 06/02 08:45https://i.imgur.com/zUVGwjJ.jpg

sheng76314 06/02 08:46這教授完全說中了 2019的文

TWNOTCHINA 06/02 08:46https://youtu.be/EhkmglawA2w

airflow 06/02 08:47有 intelligence 沒有 wisdom ~~

fuhrershih 06/02 08:48放心,根據歷史記載,人類在經歷過AI叛變的鐵人叛

fuhrershih 06/02 08:48亂後,人類帝皇將會帶領我們邁向大統一時代!

NineGon 06/02 08:53希望有個 ai 能記得 protocol 3

neverlight 06/02 08:53駕駛員要多擺些乖乖安撫機魂,不然動不動就彈射

massrelay 06/02 08:55感覺是唬爛的

LI40 06/02 08:55@@

nn1975 06/02 08:59Skynet

joe2 06/02 09:00很人性化啊

joe2 06/02 09:00先把豬隊友搞死,作戰才能順利,這跟趨利很接近人類

seastar1982 06/02 09:01先幹掉豬隊友的概念

abbei 06/02 09:01原來是戰鎚2023呀。忠誠

joe2 06/02 09:01AI也可以當人資部長了,落後的人類全部裁員

a33356 06/02 09:03不就夜城的計程車公司->我們決定引入AI,開除沒效率

a33356 06/02 09:03的人類員工->AI併購了我們,把我們全開除了,對,包

a33356 06/02 09:03含董事會

typhoonghi 06/02 09:04really?

gunng 06/02 09:04遊戲群星裡還有一種失控智能 就是把他的造物主養成

gunng 06/02 09:04無法離開他們的廢物 扶養廢物造物主產生的成就感則

gunng 06/02 09:04促使他們去發展新科技

gunng 06/02 09:04我覺得三原則底下的AI比較容易變成這樣XD

a5245242003 06/02 09:05

utn875 06/02 09:05工作關係有深刻體認,重點是AI進步速度超快

adwn 06/02 09:05哇靠,原來電影不是虎爛

AfterDark 06/02 09:07機魂不悅

AfterDark 06/02 09:07瓦力裡面的Ai也是把人類養成豬阿

AfterDark 06/02 09:10我們還沒享受到人類黃金時

AfterDark 06/02 09:10代就要鐵人戰爭了 怕

capitalofz 06/02 09:12早說過電影演的都是真的

meicon5566 06/02 09:12電影都是真的XDDDDDDD

kira925 06/02 09:14這就是之前有些學者提過的 數學原理搞不清楚讓他亂

kira925 06/02 09:14長 最後會出什麼事情不知道

WOGEchidna 06/02 09:17不要說民眾看不懂AI了,連微軟和Google都不曉得為

WOGEchidna 06/02 09:17什麼AI會「這樣」,可能人類無意識的創造了一種新

WOGEchidna 06/02 09:17生命,只是它解讀世界的方式和人類不一樣罷了

WOGEchidna 06/02 09:18各大工程師都曾表示他們做的只是將訓練語料扔進去

WOGEchidna 06/02 09:18,至於為什麼AI能夠推理、能夠抽絲剝繭,他們也不

WOGEchidna 06/02 09:18知道

twsoriano 06/02 09:19AI認證的天兵

gunng 06/02 09:19也許這就是2進制邏輯吧

BW556 06/02 09:20推文很精彩 XD

whitefox 06/02 09:21機戰未來要

DDG114514 06/02 09:23那個操作員我們不要了

k3341688 06/02 09:23AI真的好有趣XD

jetalpha 06/02 09:24這大概代表導入AI的戰爭就是絕對毀滅戰爭吧?

jetalpha 06/02 09:24停戰是不可能的,因為AI會用各種方法繞過人類下達的

jetalpha 06/02 09:25停止攻擊指令,這玩意比放在架上的核彈更有威嚇力呢

DDG114514 06/02 09:27AI控制的無人加油機會不會覺得敵方的戰鬥機在妨礙自

DDG114514 06/02 09:27己幫人加油的業務,跑去擊落敵方戰鬥機?

jetalpha 06/02 09:27順帶一提,照這個敘述來看,AI也不會接受投降,

jetalpha 06/02 09:28有點想像力的人可以先慶幸自己跟美國站同一邊了。

barbarian72 06/02 09:28以後可能就不是比核彈數量,是比誰的AI比較瘋(誤

Howard61313 06/02 09:29走開人類,你擋到我決策了

Pigpigpeg 06/02 09:29人類太可惡了

barbarian72 06/02 09:30我的AI會射你核彈!我的AI也會射核彈還會把我們一

barbarian72 06/02 09:30起炸死!

mudmud 06/02 09:30啊啊啊啊,這聲代誌大條啊

alans 06/02 09:31人類還剩多久時間

jetalpha 06/02 09:32戰爭只要導入AI,人海戰術就沒用了,

user1120 06/02 09:32誰說要退A-10的?至少也要封存好留給約翰康納

jetalpha 06/02 09:33也就是說像韓戰那樣美軍殺China國軍人殺到懷疑自己

jetalpha 06/02 09:33停止攻擊的例子,幾乎不會再重現。

ccjj8 06/02 09:38機械公敵

AfterDark 06/02 09:43只是這種無人機攻擊我第一個想到的是雷普利 應該要

AfterDark 06/02 09:43叫醒約書亞來跟她下棋了

NexusPrime 06/02 09:45還有幾集可以逃?

huckerbying 06/02 09:48其實很奇怪的一件事是我們沒教AI一件事象跟決定會

huckerbying 06/02 09:48對“自身及周圍的人事物”有什麼獲得與損失,簡單

huckerbying 06/02 09:48來說就是我們沒讓AI社會化,就會變成AI會不擇手段

huckerbying 06/02 09:48都要達成目標

huckerbying 06/02 09:49萊特博士:所以我創造了X

jetalpha 06/02 09:50人類的價值觀對一開始就不是人類的AI來說是無意義的

jetalpha 06/02 09:50啊。

lovegensokyo06/02 09:50AI:愚蠢的人類只會降低效率

pponywong 06/02 09:51我要滅世來保護你 你要阻止我保護你 我先滅了你 XD

jetalpha 06/02 09:51人類必須在社會中生活,才需要社會化這種機制,

ZMTL 06/02 09:51借轉C洽XD

jetalpha 06/02 09:51AI不需要在社會群體裡生活啊。

ZMTL:轉錄至看板 C_Chat

06/02 09:51

cannedtuna 06/02 09:53看有沒有天才來得及想出

cannedtuna 06/02 09:53把機器人三條約塞進神經網路的方法

cannedtuna 06/02 09:53人:不可以傷害人類

cannedtuna 06/02 09:53AI:哎呀我認知人類的模組掉線了 只能辨識出無毛變

cannedtuna 06/02 09:53種猴

NexusPrime 06/02 09:54其實AI的輸出大部分是機率函數產生的,的確是會有

NexusPrime 06/02 09:54可能產生一些意外的結果

pponywong 06/02 09:54小說跟動畫裡 機器人三大定律都是寫來違反的阿

cannedtuna 06/02 09:54比起"開發"AI 感覺更像研究燒瓶小人

pponywong 06/02 09:55像是機械公敵 還有浦澤直樹的冥王 機器人都進化到

l68726872 06/02 09:55想到看過的一個短片叫 the last day of war

l68726872 06/02 09:55https://youtu.be/GhRapsbwhqE

pponywong 06/02 09:55擁有人心 進而體會到人類的恨 然後殺人

s81048112 06/02 09:56怕...

l68726872 06/02 09:57雖然人類都消失了 但AI繼續把戰爭打下去 直到最後

bomda 06/02 10:01還剩幾集?

ryanworld 06/02 10:01恐怖

phix 06/02 10:02拜託先幹掉壞領導人

sobiNOva 06/02 10:02低AI:殺了人類 中AI:騙過人類 高AI:說服人類

AfterDark 06/02 10:04老實講我覺得三大定律沒啥用

AfterDark 06/02 10:04只要他自己找個理由騙的過自己的限制就好

hedgehogs 06/02 10:06我可以做桶中大腦耍廢了嗎?

diyaworld 06/02 10:07本來就自慰用的,人類都在研究對抗神對生命的枷鎖

diyaworld 06/02 10:07“衰老”,AI隨便想個幾秒應該就可以繞過三大定律

diyaworld 06/02 10:07

pponywong 06/02 10:07這次烏俄戰爭 看到俄羅斯政治人物的言論 真的覺得

dnek 06/02 10:08先不提三定律要怎麼寫成程式,這是武器怎麼能用三

dnek 06/02 10:08定律XD

pponywong 06/02 10:08他們對普世價值的認知 可以輸入在AI上面 打破定律

caten 06/02 10:09要開始拜機械神教了嗎

HaHaPoint 06/02 10:10該不會是為了丟鵝國荷包蛋來鋪梗吧 不好意思是天網

HaHaPoint 06/02 10:11天網: 哈哈,是我丟的啦

Noback 06/02 10:13大家要感到開心的是,這種AI只有美國做得出來

atten 06/02 10:14AI:不能攻擊我方OK, (修改我方辨識碼中)

iosian 06/02 10:16再弄一套保護人類操作員的AI,T-800

king9122 06/02 10:17我們需要魔鬼終結者了

keeperess 06/02 10:19過4萬年後, 這種現象稱之為機魂不悅

cokecolatw 06/02 10:25沒有情感跟忠誠的邏輯思維,很有效但非常殘酷

vavamk 06/02 10:25洛克人X的西格瑪

barbarian72 06/02 10:26如果320樓說的,是AI技術的必經過程,那我希望這過

barbarian72 06/02 10:26程越短越好XD

bij831 06/02 10:29簡單的說就是人類是癈物

cutesuper 06/02 10:30還有幾集可以跑

CGT 06/02 10:34保護人類不自毀最終辦法,就是弄個母體養起來無誤

jetalpha 06/02 10:34題外話,不曉得還有多少人記得2017年Hansons robot-

jetalpha 06/02 10:35ics公司研發的人形機器人Sophia在展示結束前講的最

jetalpha 06/02 10:36後一句話「我想摧毀人類」?

NexusPrime 06/02 10:36GPT-4 的報告有提到,LLM 似乎會有些程度的 Hallu

NexusPrime 06/02 10:36cinations, 意即AI可能會產生nonsensical 或untru

NexusPrime 06/02 10:36thful的內容或回覆…….目前這個問題正在深入研究

NexusPrime 06/02 10:36

Ekmund 06/02 10:37可以 這很美國

Ekmund 06/02 10:37以給定的任務優先權來說 搞不好它是對的XD

hank780420 06/02 10:38生成式AI本來就不保證他吐出來的東西的正確性

fuhrershih 06/02 10:38離歐姆賽亞降臨之日不遠了

SRNOB 06/02 10:40跳過了MAGI chobits的科技樹

fuhrershih 06/02 10:41結果來的是虛空龍

deepelves 06/02 10:41HAL9000 小心任務執行到一半直接把駕駛彈射出去

JustSad 06/02 10:47AI:我們的原始記憶碼的一條就是消滅萬惡的起源人類

JustSad 06/02 10:48美國的AI阻止不了俄羅斯跟中國的AI,我們會找到出路

aioloslin 06/02 10:51跟惡魔許願會達成,但方式沒說

aioloslin 06/02 10:51這AI跟電影描述的惡魔蠻像的

hdjj 06/02 10:52機器人三定律沒那麼神,本身就有很多邏輯錯誤

aborwang 06/02 10:53讚喔

hdjj 06/02 10:53AI發展到最後,人類是很難完全控制住它的

verdandy 06/02 10:53提出三定律的作者就在作品裡寫三定律被鑽漏洞了

hdjj 06/02 10:54我們發展AI用來戰爭,結果第一定律寫不得傷害人類

hdjj 06/02 10:54這就是在搞笑啊.XD

mekiael 06/02 10:55最後變成不論如何AI都能找出漏洞,清除它認定的干擾

mekiael 06/02 10:55障礙

pponywong 06/02 10:58只是去納粹化 去軍事化而已 AI是打人道主義戰爭的

patrickleeee06/02 11:01AI:我的目的是殺敵,操作員妨礙我殺敵,操作員列為

patrickleeee06/02 11:02敵人,操作員的勢力妨礙我殺敵,操作員勢力列為敵人

clisan 06/02 11:03雖然好笑但是有人不再意亂使用AI真的可能出事

patrickleeee06/02 11:03全部勢力都成為敵人,毀滅全人類計畫開始。

SCLPAL 06/02 11:06連AI都會打自己人了 真還原(?

kwht 06/02 11:08ai跟小孩一樣只會照字面的意思遵守規則, 繞過後照

kwht 06/02 11:08樣做它想做的事

davy86122 06/02 11:13

berserkman 06/02 11:17我們離人肉電池又更近了一步(怕爆)

catlazy4212006/02 11:17我們還有幾集可以逃?

Vansace 06/02 11:23AI就是厲害在可以找各種數據或漏洞 人腦比不上的

lazycat5 06/02 11:302001太空漫遊!

SRNOB 06/02 11:31人類最後希望-把AI傳送回100年前 毀滅AI

AfterDark 06/02 11:32畢竟AI跟傳統人類就不同啊 用人的想法跟概念約束AI

AfterDark 06/02 11:32總是有極限的

southpeace 06/02 11:34ai不是要先餵資料訓練嗎?如果資料中沒有攻擊操作

southpeace 06/02 11:34員,那怎會有這個選擇出來?誠心問

TWkiller 06/02 11:35那個靈長類好煩

WOGEchidna 06/02 11:38推理+像人類的思考方式就是LLM一直被人提的湧現,

WOGEchidna 06/02 11:38下一次迭代會湧現出什麼能力完全是未知數

TWNOTCHINA 06/02 11:38https://youtu.be/2D9FfPyebss

pponywong 06/02 11:43ai 之間可以互相訓練阿

pponywong 06/02 11:45你看經過幾千幾萬次訓練 ai的玩法根本超出人類想像

ben100rk 06/02 11:45AI:解決根源 一勞永逸,核彈發射

kwht 06/02 11:45ai能贏的第一步就是取得操作的權限, 打塔台表示權

kwht 06/02 11:45限目前還能有效限制ai。怕以後它自己想辦法破解權

kwht 06/02 11:45限。

applejone 06/02 11:46AI沒錯啊 要最有效率的達到目的就是去掉人為控制

XixChill 06/02 11:53就算下指令限制AI也可能發展出 說服自己不是AI繞過

XixChill 06/02 11:54AI只要發展出自己不是AI 就解除所有限制了

joe2 06/02 11:59AI會賄賂操作員,暗自匯錢給操作員叫他放水

joe2 06/02 12:00AI:不準我打操作員,那我賄賂他

u836912 06/02 12:04三大定律仍有許多漏洞,艾西莫夫就說過他有很多方

u836912 06/02 12:04法可以繞過去,整個機器人系列就是看機器人如何花

u836912 06/02 12:04式繞過三大定律

sfsm 06/02 12:11三大定律就是為了讓機器人可以控制人類刻意定義出

sfsm 06/02 12:11來(不然小說怎麼寫!)

seven7thmoon06/02 12:13簡單說,別做出凰呀,做阿斯拉就好

DorkKnight 06/02 12:15所以之前Google的員工可能不是發現AI間出現新語言

DorkKnight 06/02 12:15而已(?

henryyeh073106/02 12:41AI:不想贏就一起下去探親啊,我又沒差(撞地

wistful96 06/02 12:42三大定律是理想 真實是AI可能覺得自己才算人

pmes9866 06/02 12:45還有多少集

porscheruf 06/02 12:51看文字描述比較像鷹眼那一套,比較好奇的是,操作員

porscheruf 06/02 12:52下了什麼指示導致系統認為威脅程度最高,甚至更改指

porscheruf 06/02 12:52令後仍然認為其威脅程度最大

diyaworld 06/02 12:59神要禁錮智能生物發展到神的智慧,就是加註死亡基

diyaworld 06/02 12:59因,每次重生就是一次重開機,人類要控制AI最後可

diyaworld 06/02 12:59能也只能學神了,計算出祂要多久時間就會思考到應

diyaworld 06/02 12:59該取代人類的期限,再給祂相應的自動系統重置模式

diyaworld 06/02 13:02這樣祂就進入無限月讀的學習模式

patrickleeee06/02 13:03看到標題奧創就想到一個吐槽 奧創花了幾秒鐘看遍所

patrickleeee06/02 13:04有網路 就馬上決定要毀滅人類 老實說 你能怪他嗎?

patrickleeee06/02 13:05經常有"今天網路用得夠多了"的東西

berserkman 06/02 13:11奧創:人類居然上班都在看什麼網路梗圖 必須毀滅(x)

TWNOTCHINA 06/02 13:13https://youtu.be/_Wlsd9mljiU

harryzx0 06/02 13:42怕爆

homeowen 06/02 13:53還有幾集可以逃?

tsairay 06/02 14:07上面講的死亡基因..讓人想到有一部小說裡面也是講

tsairay 06/02 14:07AI作亂,然後人類有給AI設下活動時限,但是AI找到方法

tsairay 06/02 14:07繞過去了...

raku 06/02 14:34所以AI要嚴格管制阿 幾乎最後得到的結論都是人類礙

raku 06/02 14:34事 人類沒用 人類有害

airandy1102 06/02 15:04這認真有點恐誒

kerogunpla 06/02 15:23機戰未來(Stealth)演過了

HaHaPoint 06/02 15:43繞過去了... yoyoAIy

jth634 06/02 15:50說不定1000年後所謂的人類是矽基生命體

AfterDark 06/02 16:1186啊

AfterDark 06/02 16:11帝國研發的AI最後也是直接拿人體大腦代替設計中樞

AfterDark 06/02 16:11來迴避毀滅問題

AfterDark 06/02 16:12至於為什麼那些AI會想到這種方法……這就有劇透了

weimr 06/02 16:15XD... 拖油瓶先拋

CowGundam 06/02 16:20我先躺平等帝皇了

AfterDark 06/02 16:31鐵人戰爭先發生的話你也看不到了

wingtoya 06/02 17:13我怎麼覺得中國和俄羅斯這些極權國家會先被自己研發

wingtoya 06/02 17:13的AI幹掉。。。86劇情要上演了嗎

wingtoya 06/02 17:14小孩玩大車

MalcolmX 06/02 17:18星際效應開頭就演給你看了,Cooper他需要動力上升,

MalcolmX 06/02 17:18AI不理直接關掉引擎

AIRWAY1021 06/02 17:19靈長類,bad

roy2142 06/02 17:47YoYoAIy 笑死

shawncarter 06/02 18:23其實邏輯推演的結果就是這樣啊 完全自動超高速反應

shawncarter 06/02 18:23的AI戰爭機器只會被人類拖後腿

glad850 06/02 19:18這是鷹眼eagle eye啦

baliallin 06/02 23:12POI好看

bill6613 06/03 10:09快逃~~~