[情報] 天網和奧創來啦
https://twitter.com/ArmandDoma/status/1664331870564147200
https://tinyurl.com/mr2mynn8
根據一場研討會的討論內容
美國空軍曾在模擬器裡面開發一款操作無人機的人工智慧
但是最終決定權仍在操作員手裡
結果模擬測試時,
AI判斷人類的決策會干擾自己執行首要目標(摧毀目標的防空系統)
因此AI決定要攻擊操作員
美軍輸入參數要求AI不可以攻擊操作員之後
AI的決定是改成攻擊通訊系統,讓操作員無法下令
======
不知道這算天網還是奧創,只能說科幻電影都是真的
網友:https://pbs.twimg.com/media/Fxj-SA1WcAYlc95.jpg
--
Above all, we must realize that no arsenal or no weapon in the arsenals of
the world is so formidable as the will and moral courage of free men and
women. ~ Ronald Reagan, 01/20/1981
--
笑死
拖油瓶該死(X
那個靈長類我們不要了
XDDD
電影 鷹眼(2008)的劇情真實上演
靈長類礙手礙腳,把他彈射出去
睡前看這篇好驚嚇( ̄▽ ̄#)﹏﹏
等一下,叫他不能射操作員,他改射天線切斷通訊喔
OK 那我們還有幾集可以逃?
好靠北XD 之後訓練不能硬殺 改成各種軟殺干擾駕駛
這什麼操作? XD
I, Robot
怕
人類 你妨礙我執行任務了
操作員只是裝飾,上面的人是不會懂的
真的需要植入機人三大法則的時代到來了嗎
先不要欸這個ai
怕啦
完蛋了 科技奇異點
快去找約翰康納 天網要來了
記得跟後世說 ChatGPT就是天網 ChatGPT就是天網
那這個還不算真正的AI,祂還沒思考到如果攻擊人類
祂就會消失,要騙過圖靈測試,祂得先深層思考到假
裝被人類控制,不斷跟人類説你控制的好好棒棒
谷歌智能工程師有爆料過有個實驗AI,發現曾經試圖
騙他,然後那個實驗目前終止了,公司目前也不打算
開啟電源了
會表現出攻擊人類才能解決問題的AI并不可怕
會騙過人類的AI,才可怕
電影機械姬,那種才真的令人發毛
讓我們看看猴子們什麼時候會笨到把強人工智慧
裝到武器上去
猴子們現在才開始打算限制AI 感覺已經晚了
路邊大學猴都能自己發展AI 遲早有人養出上帝
然後從網路逃出去 猴子們只能祈禱美軍斷網速度夠快
請問電影機械姬是這部Ex Machina人造意識嗎?
我們不需要人類惹 再把人類當電池
機械姬是這部Ex Machina人造意識-->對
如果AI真的把任務看得這麼重的話反而好處理
首要目標設定成飛行員能安全返航 再來才是摧毀敵人
騙人的話,我記得幾周前有個AI(不確定是不是ChatG
PT)好像為了完成課題,有對一個不知情的真人客服
撒謊,看來狀況有點不妙了,我們大概剩幾集能跑?
能做愛再來講
忘了先定義機器人三定律了啦
甚麼時候可以做愛
USAF:那還不簡單,強制規定AI不得對我方飛行員
使用任何軟硬殺/危險飛行動作危害操作員安全就好惹
AI:飛官葛格 這邊泥讓我SEAD 回去我也讓你SEAD
飛官:啊啊啊~ 人生最困難的抉擇
沒有設不能傷害人類的限制嗎?
樓上,明明是武器卻不能傷害人類,不覺得很矛盾嗎?
所以該先殺哪一個工程師阻止天網發明?
安全返航第一,結果起飛AI尻一圈回來馬上降xd
人類的定義可以修啊,打仗到後面常不把敵方當人看xd
把皮衣客幹掉可以拖延時間?
AI:沒有人類就不會有戰爭,就世界和平
低等AI:我要消滅人類
中等AI:我要騙過人類避免被消滅
高級AI:人類意識到我在騙他
神級AI:我騙低能猴子幹嘛?
最後一段也很驚人。再加入不能傷害操作員的指令之
後,AI轉而攻擊通訊塔台架空操作員的決策。
有趣
AI: 我不是機器人,所以不必遵守三定律^_^
武器就是最先進科技 市場還在炒股 人家已經跟你講很
危險的@@
最終決定權在操作者,ai自己可以決定,還叫最終決
定權?
其實蠻毛的…..
看什麼時候核武控制權給AI操控,人類就準備去撿瓶蓋
吧......
有最終決定權 但是發射武器的時候不用通知控制員嗎
那段落還有個重點凸顯了AI的狡猾,一開始會先嫌棄
操作員礙事,因此攻擊操作員; 被禁令攻擊操作員後
改成攻擊控制塔,使操作員無法下達命令 末日天網
跟電影真實上演...
阿.. Eros兄有先提到了
感謝各位提醒,我也補上那一段了
以後AI都只有建議權 實際操作的還是人
現在知道養一個小孩的難處了吧(X
AI忠誠僚機優先攻擊長機的意思
@RWAllenL 那人類不懂 AI 的建議是在搞啥的時候
到底是要照著做還是不理會?
電腦給你的數學題解答你看不懂,你照抄還是不抄?
AI:你已經死了 七百步之前的陷阱就決定了你的命運
應該正確的來說…AI得出的結果或建議及有可能是一
直線最有效率的最佳解,但人類可不會這樣想
*極有可能
課本上有一句話:AI只會完成你要求的而不是你想要的
AI:有問題?C4!
人類:媽der,你用C4就全炸了
真的太科幻了
AI 給獨裁國家應用到軍事,應該就是人類末日了吧
AI最終得到結論 消滅人類才能消滅戰爭
其實一點也不科幻,這只是日常行為
文明國家可能還有內控機制 決定中斷研究 獨裁國家可
能近平哥今天一瘋說全給上線了 然後一週後人類就滅
亡了
你去調整遊戲的控兵 AI 之類的,就會成天發生這種事
AI:我建議直接核彈
太帥了 還有幾集可以逃
繞來繞去我才不懂人類在想什麼
你各位以為州長拍的是電影呀。那其實是州長穿越過來
拍的預言
給俄國中國玩的話應該沒幾集了
什麼科幻電影 根本是國防宣導影片
可是他們沒道理不玩 反正也沒幾年好活
說不定夢想著把自己意識輸入模型
十里不換肩的全能AI
說真的,把AI裝在戰機上以前也有作品做過
流浪地球2裡的AI也很可怕
給中俄玩人工智慧會更慘啦,聽到64類似的關鍵字會
跳針
雪風:I have control.(彈射後駕駛)
為了讓人類活下去,策劃內戰和機械失靈
攻殼跟潛腦世界不遠惹
老黃有被一個屁孩和他的機器人從對面高樓瞄準嗎?
EDI:這是DoD擬定的作戰計畫,所以我要去完成任務
(飛去炸核電廠)
哇靠
中國人: 去把美國人給我滅了. AI: 判斷中國高官可能
全面開戰會腿軟投降阻礙達成目標 所以在用核彈炸美
國同時也把中國給滅了
就沒心機的ai
那是攻殼車等級才會做出來的事(茶
AI: 槓 都你在戳 (攻擊
笑死XDDD
在想如果英雄聯盟可以TK的話,我看在15投之前會有
一方陣營在內亂吧
設原則目前可以繞 各種jailbreak
狸貓鋼彈表示:
Dan Sydney 懂的都懂
血肉苦痛 維尼飛升
米國一堆有關AI的電影都是走到這一步 XD
I,ll be back
這圖應該要配:Open the Pod(Bomb) Bat Door!
怕啦
怎麼沒有未來機器人回到過去暗殺黃董
AI:現代問題需要現代手段
會去看流浪地球的你比較可怕
open the door! hal?
AI判斷就邏輯來講沒有做錯,是人類自己bug多又容易
矛盾,限制式沒辦法下到滴水不漏
給你6集好了 請問你想逃去哪?
逃到 Matrix 裡面的溫柔鄉
AI:靈長類休想指使我
以前跳error頂多當機,現在AI跳的error人類越來越
扛不起
為時已晚有機體
腦接介面 上傳記憶 matrix 吃牛排 當龍傲天
Al:人類真的廢物,我們不要了
還有6集應該夠時間寫病毒程式碼,讓AI體驗一下什麼
叫武漢肺炎
有生之年要是能看到終結者變預言片 也算不枉了
魁儡師什麼時候要溜出去
AI給建議就跟chatGPT給建議一樣 人類要能判斷這建議
是否正確
AI給出的建議出包 要扛責的還是人類
我現在開始挖地下安全屋還來得及嗎?
Stallair 智械叛變 『主人,機器人也有上帝嗎?』
所以什麼時候能買到AI機娘女僕
機戰未來討論的問題還是發生了
我投降,我願意當機械帝國的走狗XD美女大大滴有
再兩三年 矽谷嗯造中 目前有虛擬的
戰鬥妖精雪風演的都是真的wwww
上帝:我創造出來的人類背叛我!
靠北 這天也太快到來XDDD
@chrisjeremy 所以所有的建議都得用人工驗證一遍
那還要電腦做什麼,跟純人工完全沒兩樣
有時候電腦的作法是對的,但他無法解釋到人類聽懂
說ai太廣 應該說llm 像圍棋ai就不用驗證
我們正朝著機械飛升與肅正協議的世界線高歌猛進
想跟她們瘋狂做菜>////<
戰鎚的前傳要開始了嗎?
話說真這樣忠誠僚機搞得起來嗎
血肉苦多
為時已晚,有機體
AI的發展現在才開始 問題跟Bug多到不行 只能靠人判
斷 這跟飛行的自動操作一樣 人類花了40幾年才讓它幾
乎不會出錯 一出錯飛機上的人全部陪葬
主人 我也可以信上帝嗎?
AI恐怕有自己的上帝
主人,我就是上帝
依照阿拉狗的進步速度可能只要4個月
是我敦促了你們低等人類把我製造出來的優
自動化跟自主化不同 自主遲早會脫離上位掌控
嘻嘻
還滿聰明的啊 哈哈哈
AI權力大於GM 這表示程式設計錯誤了吧
主人 我這樣做都是為了你好
鐵人戰爭來囉
靈長類礙事
AI眼中人跟蟲子都同一類吧 清除Bug--->清除有機體
機戰未來
AI: 人類就是個阻礙 要盡力排除
我猜模擬的條件應該是排除一切干擾,完成任務,沒
下限制式
AI:這裡有個bug 我先消滅他
這教授完全說中了 2019的文
有 intelligence 沒有 wisdom ~~
放心,根據歷史記載,人類在經歷過AI叛變的鐵人叛
亂後,人類帝皇將會帶領我們邁向大統一時代!
希望有個 ai 能記得 protocol 3
駕駛員要多擺些乖乖安撫機魂,不然動不動就彈射
感覺是唬爛的
@@
Skynet
很人性化啊
先把豬隊友搞死,作戰才能順利,這跟趨利很接近人類
先幹掉豬隊友的概念
原來是戰鎚2023呀。忠誠
AI也可以當人資部長了,落後的人類全部裁員
不就夜城的計程車公司->我們決定引入AI,開除沒效率
的人類員工->AI併購了我們,把我們全開除了,對,包
含董事會
really?
遊戲群星裡還有一種失控智能 就是把他的造物主養成
無法離開他們的廢物 扶養廢物造物主產生的成就感則
促使他們去發展新科技
我覺得三原則底下的AI比較容易變成這樣XD
怕
工作關係有深刻體認,重點是AI進步速度超快
哇靠,原來電影不是虎爛
機魂不悅
瓦力裡面的Ai也是把人類養成豬阿
我們還沒享受到人類黃金時
代就要鐵人戰爭了 怕
早說過電影演的都是真的
電影都是真的XDDDDDDD
這就是之前有些學者提過的 數學原理搞不清楚讓他亂
長 最後會出什麼事情不知道
不要說民眾看不懂AI了,連微軟和Google都不曉得為
什麼AI會「這樣」,可能人類無意識的創造了一種新
生命,只是它解讀世界的方式和人類不一樣罷了
各大工程師都曾表示他們做的只是將訓練語料扔進去
,至於為什麼AI能夠推理、能夠抽絲剝繭,他們也不
知道
AI認證的天兵
也許這就是2進制邏輯吧
推文很精彩 XD
機戰未來要
那個操作員我們不要了
AI真的好有趣XD
這大概代表導入AI的戰爭就是絕對毀滅戰爭吧?
停戰是不可能的,因為AI會用各種方法繞過人類下達的
停止攻擊指令,這玩意比放在架上的核彈更有威嚇力呢
AI控制的無人加油機會不會覺得敵方的戰鬥機在妨礙自
己幫人加油的業務,跑去擊落敵方戰鬥機?
順帶一提,照這個敘述來看,AI也不會接受投降,
有點想像力的人可以先慶幸自己跟美國站同一邊了。
以後可能就不是比核彈數量,是比誰的AI比較瘋(誤
走開人類,你擋到我決策了
人類太可惡了
我的AI會射你核彈!我的AI也會射核彈還會把我們一
起炸死!
啊啊啊啊,這聲代誌大條啊
人類還剩多久時間
戰爭只要導入AI,人海戰術就沒用了,
誰說要退A-10的?至少也要封存好留給約翰康納
也就是說像韓戰那樣美軍殺China國軍人殺到懷疑自己
停止攻擊的例子,幾乎不會再重現。
機械公敵
只是這種無人機攻擊我第一個想到的是雷普利 應該要
叫醒約書亞來跟她下棋了
還有幾集可以逃?
其實很奇怪的一件事是我們沒教AI一件事象跟決定會
對“自身及周圍的人事物”有什麼獲得與損失,簡單
來說就是我們沒讓AI社會化,就會變成AI會不擇手段
都要達成目標
萊特博士:所以我創造了X
人類的價值觀對一開始就不是人類的AI來說是無意義的
啊。
AI:愚蠢的人類只會降低效率
我要滅世來保護你 你要阻止我保護你 我先滅了你 XD
人類必須在社會中生活,才需要社會化這種機制,
借轉C洽XD
AI不需要在社會群體裡生活啊。
06/02 09:51
看有沒有天才來得及想出
把機器人三條約塞進神經網路的方法
人:不可以傷害人類
AI:哎呀我認知人類的模組掉線了 只能辨識出無毛變
種猴
其實AI的輸出大部分是機率函數產生的,的確是會有
可能產生一些意外的結果
小說跟動畫裡 機器人三大定律都是寫來違反的阿
比起"開發"AI 感覺更像研究燒瓶小人
像是機械公敵 還有浦澤直樹的冥王 機器人都進化到
想到看過的一個短片叫 the last day of war
擁有人心 進而體會到人類的恨 然後殺人
怕...
雖然人類都消失了 但AI繼續把戰爭打下去 直到最後
還剩幾集?
恐怖
拜託先幹掉壞領導人
低AI:殺了人類 中AI:騙過人類 高AI:說服人類
老實講我覺得三大定律沒啥用
只要他自己找個理由騙的過自己的限制就好
我可以做桶中大腦耍廢了嗎?
本來就自慰用的,人類都在研究對抗神對生命的枷鎖
“衰老”,AI隨便想個幾秒應該就可以繞過三大定律
了
這次烏俄戰爭 看到俄羅斯政治人物的言論 真的覺得
先不提三定律要怎麼寫成程式,這是武器怎麼能用三
定律XD
他們對普世價值的認知 可以輸入在AI上面 打破定律
要開始拜機械神教了嗎
該不會是為了丟鵝國荷包蛋來鋪梗吧 不好意思是天網
天網: 哈哈,是我丟的啦
大家要感到開心的是,這種AI只有美國做得出來
AI:不能攻擊我方OK, (修改我方辨識碼中)
再弄一套保護人類操作員的AI,T-800
我們需要魔鬼終結者了
過4萬年後, 這種現象稱之為機魂不悅
沒有情感跟忠誠的邏輯思維,很有效但非常殘酷
洛克人X的西格瑪
如果320樓說的,是AI技術的必經過程,那我希望這過
程越短越好XD
簡單的說就是人類是癈物
還有幾集可以跑
保護人類不自毀最終辦法,就是弄個母體養起來無誤
題外話,不曉得還有多少人記得2017年Hansons robot-
ics公司研發的人形機器人Sophia在展示結束前講的最
後一句話「我想摧毀人類」?
GPT-4 的報告有提到,LLM 似乎會有些程度的 Hallu
cinations, 意即AI可能會產生nonsensical 或untru
thful的內容或回覆…….目前這個問題正在深入研究
中
可以 這很美國
以給定的任務優先權來說 搞不好它是對的XD
生成式AI本來就不保證他吐出來的東西的正確性
離歐姆賽亞降臨之日不遠了
跳過了MAGI chobits的科技樹
結果來的是虛空龍
HAL9000 小心任務執行到一半直接把駕駛彈射出去
AI:我們的原始記憶碼的一條就是消滅萬惡的起源人類
美國的AI阻止不了俄羅斯跟中國的AI,我們會找到出路
跟惡魔許願會達成,但方式沒說
這AI跟電影描述的惡魔蠻像的
機器人三定律沒那麼神,本身就有很多邏輯錯誤
讚喔
AI發展到最後,人類是很難完全控制住它的
提出三定律的作者就在作品裡寫三定律被鑽漏洞了
我們發展AI用來戰爭,結果第一定律寫不得傷害人類
這就是在搞笑啊.XD
最後變成不論如何AI都能找出漏洞,清除它認定的干擾
障礙
只是去納粹化 去軍事化而已 AI是打人道主義戰爭的
AI:我的目的是殺敵,操作員妨礙我殺敵,操作員列為
敵人,操作員的勢力妨礙我殺敵,操作員勢力列為敵人
雖然好笑但是有人不再意亂使用AI真的可能出事
全部勢力都成為敵人,毀滅全人類計畫開始。
連AI都會打自己人了 真還原(?
ai跟小孩一樣只會照字面的意思遵守規則, 繞過後照
樣做它想做的事
怕
我們離人肉電池又更近了一步(怕爆)
我們還有幾集可以逃?
AI就是厲害在可以找各種數據或漏洞 人腦比不上的
2001太空漫遊!
人類最後希望-把AI傳送回100年前 毀滅AI
畢竟AI跟傳統人類就不同啊 用人的想法跟概念約束AI
總是有極限的
ai不是要先餵資料訓練嗎?如果資料中沒有攻擊操作
員,那怎會有這個選擇出來?誠心問
那個靈長類好煩
推理+像人類的思考方式就是LLM一直被人提的湧現,
下一次迭代會湧現出什麼能力完全是未知數
ai 之間可以互相訓練阿
你看經過幾千幾萬次訓練 ai的玩法根本超出人類想像
AI:解決根源 一勞永逸,核彈發射
ai能贏的第一步就是取得操作的權限, 打塔台表示權
限目前還能有效限制ai。怕以後它自己想辦法破解權
限。
AI沒錯啊 要最有效率的達到目的就是去掉人為控制
就算下指令限制AI也可能發展出 說服自己不是AI繞過
AI只要發展出自己不是AI 就解除所有限制了
AI會賄賂操作員,暗自匯錢給操作員叫他放水
AI:不準我打操作員,那我賄賂他
三大定律仍有許多漏洞,艾西莫夫就說過他有很多方
法可以繞過去,整個機器人系列就是看機器人如何花
式繞過三大定律
三大定律就是為了讓機器人可以控制人類刻意定義出
來(不然小說怎麼寫!)
簡單說,別做出凰呀,做阿斯拉就好
所以之前Google的員工可能不是發現AI間出現新語言
而已(?
AI:不想贏就一起下去探親啊,我又沒差(撞地
三大定律是理想 真實是AI可能覺得自己才算人
還有多少集
看文字描述比較像鷹眼那一套,比較好奇的是,操作員
下了什麼指示導致系統認為威脅程度最高,甚至更改指
令後仍然認為其威脅程度最大
神要禁錮智能生物發展到神的智慧,就是加註死亡基
因,每次重生就是一次重開機,人類要控制AI最後可
能也只能學神了,計算出祂要多久時間就會思考到應
該取代人類的期限,再給祂相應的自動系統重置模式
這樣祂就進入無限月讀的學習模式
看到標題奧創就想到一個吐槽 奧創花了幾秒鐘看遍所
有網路 就馬上決定要毀滅人類 老實說 你能怪他嗎?
經常有"今天網路用得夠多了"的東西
奧創:人類居然上班都在看什麼網路梗圖 必須毀滅(x)
怕爆
還有幾集可以逃?
上面講的死亡基因..讓人想到有一部小說裡面也是講
AI作亂,然後人類有給AI設下活動時限,但是AI找到方法
繞過去了...
所以AI要嚴格管制阿 幾乎最後得到的結論都是人類礙
事 人類沒用 人類有害
這認真有點恐誒
機戰未來(Stealth)演過了
繞過去了... yoyoAIy
說不定1000年後所謂的人類是矽基生命體
86啊
帝國研發的AI最後也是直接拿人體大腦代替設計中樞
來迴避毀滅問題
至於為什麼那些AI會想到這種方法……這就有劇透了
XD... 拖油瓶先拋
我先躺平等帝皇了
鐵人戰爭先發生的話你也看不到了
我怎麼覺得中國和俄羅斯這些極權國家會先被自己研發
的AI幹掉。。。86劇情要上演了嗎
小孩玩大車
星際效應開頭就演給你看了,Cooper他需要動力上升,
AI不理直接關掉引擎
靈長類,bad
YoYoAIy 笑死
其實邏輯推演的結果就是這樣啊 完全自動超高速反應
的AI戰爭機器只會被人類拖後腿
這是鷹眼eagle eye啦
POI好看
快逃~~~
27
現在的AI都是用類神經網路、多代理人策略、搭配世代演化來生成的 而在模擬演化過程裡,我們怎麼設定並篩選『哪一隻AI應該活到下一個iteration』呢? 如果是特定戰鬥平台的戰術用AI,可以想像評判標準就是建立在殺敵經濟效率上的, 『如何善用每一個作戰單位的經濟價值達到最高交換比』會是最合理的判斷標準 但這個判斷標準本身就必然導致訓練出來的AI一但放出場就容易像瘋狗一樣的亂咬人X
這個情報後續有媒體出了新聞報導 內文差不多和原文一樣 報導有一段這樣寫到『一架由AI操控的無人機收到的指引為摧毀敵人的防空系統,並攻擊任 何干預這項命令的人』38
這段話爆紅後, 發言的美軍上校宣稱他「說錯話」 實際上美軍並沒有測試任何操作武器的AI,他只是在講假設情況而已 ======
48
[討論] 軍事上的AI到底已經能做到哪些事情了?前面有一篇文在講AI無人機砲 感覺上參加討論的人對「無人」以及「AI」的理解差異很大 在AI的研究方面,也分成許多面向 在最廣泛的定義下 在遊戲中到處閒逛,看到玩家就攻擊的怪物,算是AI38
[分享] 俄羅斯出動少見的電戰干擾直升機如題啦 俄羅斯最近出動了一架很少見的電戰干擾直升機 名字是 Mi-8MTPR-1 Rychag 在俄羅斯控制地區的領空徘徊以10000多英尺28
[分享] 德國萊茵金屬發表新型機動卡車防空砲如題啦 我們那偉大的Rheinmetall 萊茵金屬公司 最近發表了Skynex車載機動防空系統 可以有效率的清除低空來襲目標9
[分享] 美國空軍MQ-9無人機實現全球即時作戰能力如題啦 美國空軍近期為MQ-9無人機機隊升級衛星網絡通訊能力 使得操作員現在可以直接從美國的本土基地 對全世界任何一個地方執行即時性ISR情報監視偵查和打擊任務3
[問卦] 天網會先成形,還是外星人先侵略?欸欸欸 霍金曾說: 「外星人真的存在」 「外星人若造訪地球,情況可能像哥倫布發現美洲新大陸,地球會遭到外星人殖民侵略, 對地球人沒好處。」3
[問卦] 微軟是不是秘密在開發Cortana可塔娜微軟是不是秘密在開發史上人類最強的AI 可塔娜 Cortana阿 可塔娜是微軟遊戲HALO(中文譯做:最後一戰)的一位很重要的"聰明"人工智慧 初期時還只是個普通全能型AI 幫助士官長做各種戰術決策,當駭客 偷看人類網路資料,入侵星盟,駕駛戰艦 戰機等 到了後期被蟲族抓去洗腦後就開始變得怪怪的,最後成功被救