Re: [情報] 天網和奧創來啦

TWNOTCHINA 發表於 2023/6/2 下午4:23:22

看板Military標題Re: [情報] 天網和奧創來啦作者

(台灣是主權獨立的國家)時間Jun 2 16:23:22 2023推噓 X 推:5 噓:10 →:5

這個情報後續有媒體出了新聞報導
https://news.ltn.com.tw/news/world/breakingnews/4321051
內文差不多和原文一樣
報導有一段這樣寫到『一架由AI操控的無人機收到的指引為摧毀敵人的防空系統，並攻擊任何干預這項命令的人』
也就是說

1.當時受測試的AI無人機可能不只一架，只是剛好這架無人機接收的指令剛好屬於這一個低邏輯的極端條件指令。

2.AI對指令反應和桌上型電腦其實差不多，就是if...else ....end if 的程式邏輯，這樣的AI就如
我們的印象，只是運算元比人類發達，邏輯思考仍然離擁有自我意識和道德意識的人腦有很大的距離。

3.執行這種死命令的無人機，其實就跟一顆巡航導彈做的事沒有多大差別，研發AI無人機，應該不只是用來執行這種，連巡航導彈也做得到的簡單指令而已。

幸好這種科技是掌握在美軍手裡
如果掌握在小學生程度的獨裁者手裡
則會非常危險
就像他不懂病毒和航母一樣
因為他可能也沒有足夠的專業知識
支撐他對這有危險性的技術
有足夠的安全認知
這次是病毒
下次變控制核彈的天網
後果恐怕就不是只有
全世界封鎖國境3年半這麼簡單

※ 引述《zanyking (最後的六年級生)》之銘言
: ※ 引述《jimmy5680 (還想飛的企鵝)》之銘言：
: : https://twitter.com/ArmandDoma/status/1664331870564147200
: : https://tinyurl.com/mr2mynn8
: : 根據一場研討會的討論內容
: : 美國空軍曾在模擬器裡面開發一款操作無人機的人工智慧
: : 但是最終決定權仍在操作員手裡
: : 結果模擬測試時，
: : AI判斷人類的決策會干擾自己執行首要目標(摧毀目標的防空系統)
: : 因此AI決定要攻擊操作員
: : 美軍輸入參數要求AI不可以攻擊操作員之後
: : AI的決定是改成攻擊通訊系統，讓操作員無法下令
: : ======
: : 不知道這算天網還是奧創，只能說科幻電影都是真的
: : 網友：https://pbs.twimg.com/media/Fxj-SA1WcAYlc95.jpg

: 現在的AI都是用類神經網路、多代理人策略、搭配世代演化來生成的
: 而在模擬演化過程裡，我們怎麼設定並篩選『哪一隻AI應該活到下一個iteration』呢？: 如果是特定戰鬥平台的戰術用AI，可以想像評判標準就是建立在殺敵經濟效率上的，
: 『如何善用每一個作戰單位的經濟價值達到最高交換比』會是最合理的判斷標準
: 但這個判斷標準本身就必然導致訓練出來的AI一但放出場就容易像瘋狗一樣的亂咬人
: 因為單位時間、單位戰鬥單位的經濟量面前，什麼都不做創造出最少的價值，而AI卻是: 被訓練成追求最大的價值：也就是消滅敵方的，即使打錯對象殺錯人會有負分，但扣分: 能扣多少呢？人的決策速度與AI的決策速度是可以有10的7次方以上的差距的，等待人: 類的決策對AI來說幾乎是永恆
: 所以只能在AI演化迭代出來以後，才在各種情境模擬中縫縫補補，設定各種額外添加的: 邊界條件，在執行過程的critical path 上AI沒辦法碰到的各種步驟中，就像是給狗戴: 上電擊項圈那樣的約制它
: 另一個造成AI往瘋狗演化的因素是：
: 每個演化世代的篩選幾乎無法靠人工，因為世代可能得迭代上萬代，而每代的代理人
: 數量可能也是好幾萬，用人工去篩選這個工作量與時間是天文數字，只能寫程式去篩選: 但這就要求工程師與科學家必須要可以用程式碼描述一個戰爭世界，裡面能向AI呈現
: 『什麼是戰略？』
: 『什麼是政治？』
: 『為什麼摧毀錯誤目標會造成戰略上的失敗與政治災難？』
: 『為何在局部戰術執行的最佳化上，需要人類決策的干預來實現戰略價值最大化？』
: 我不敢說不可能，但起碼目前人類辦不到
: 破壞力越強、戰術執行造成的戰略與政治影響力越大的戰鬥平台就越難丟給AI
: 這不是什麼天網啦、什麼人類末日啦
: 這只是我們單純的在電腦上用AI重現了養蠱，以及證明了不論AI還是人類，單純追求
: KPI(key performance indicator)、局部最佳化會如何引發災難而已

--
上海三公報和九二共識一樣都是一個公報各自表述
就只是用來大內宣唬攏牆內韭菜用的
支那粉紅醒醒
中英聯合聲明都可以當歷史文件開羅宣言波次坦宣言上海三公報
差不多也可以當衛生紙擦屁股和大便一起沖馬桶了XD

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.3.107 (臺灣)
※ 文章網址: https://www.ptt.cc/Military/E.y2rSs2X47yZc

推 mudmud : 簽名檔不當政治用語還是拿掉吧，別給版主添麻煩06/02 16:25

※ 編輯: TWNOTCHINA (101.10.3.107 臺灣), 06/02/2023 16:25:19

→ VANNN : 你怎會知道美國政客不會亂搞????06/02 16:25

: 『為什麼摧毀錯誤目標會造成戰略上的失敗與政治災難？』
: 『為何在局部戰術執行的最佳化上，需要人類決策的干預來實現戰略價值最大化？』
: 我不敢說不可能，但起碼目前人類辦不到
: 破壞力越強、戰術執行造成的戰略與政治影響力越大的戰鬥平台就越難丟給AI
: 這不是什麼天網啦、什麼人類末日啦
: 這只是我們單純的在電腦上用AI重現了養蠱，以及證明了不論AI還是人類，單純追求
: KPI(key performance indicator)、局部最佳化會如何引發災難而已

--
上海三公報和九二共識一樣都是一個公報各自表述
就只是用來大內宣唬攏牆內韭菜用的
粉紅醒醒
中英聯合聲明都可以當歷史文件開羅宣言波次坦宣言上海三公報
差不多也可以當衛生紙擦屁股和大便一起沖馬桶了XD

※ PTT 留言評論

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.3.107 (臺灣)

※ PTT 網址

推

mudmud 06/02 16:25簽名檔不當政治用語還是拿掉吧，別給版主添麻煩

※ 編輯: TWNOTCHINA (101.10.3.107 臺灣), 06/02/2023 16:25:19

→

VANNN 06/02 16:25你怎會知道美國政客不會亂搞????

※ 編輯: TWNOTCHINA (101.10.3.107 臺灣), 06/02/2023 16:26:35

→

bnn 06/02 16:27這結論只是幹掉操作的人比幹掉防空系統容易