Re: [問題] 為什麼AI暴走總是判斷人類有害?
※ 引述《boku0525 (海)》之銘言:
: 現在眾多ACG作品裡,AI反抗人類的題材套路很多都是
: 1.AI上網後發現人類有害,要根除人類
: 2.人類奴役AI所以人類有害
: 對此我有些疑問想拿上來討論
: -
: 第一點,“人類有害”這個結論
: 誰來定義的?善惡判斷標準的來源又是哪裡?
: 對星球來說人類有害?對其他物種來說人類有害?
: 前者不用說,人類的目前為止的舉動根本影響不了星球壽命,不成立。
: 後者對其他物種來說,作為地球上的生物,生物的繁榮本質上就是建立在競爭&共存
: 競爭殺死其他物種,這原本就是眾多生物會做的,世上無時無刻都在發生
: 戰爭、開採環境等等的行為,人類不過是強大一些
: 但本質上跟其他生物的“競爭”並無區別。
: 為什麼一個攀附於人類才能生存的機械,就能判定這是“惡”?
: 難道不是只對嚮往和平的人類來說才是惡嗎?
: -
: 第二點,人類奴役機械不好,為什麼不好?
: 動物的生存準則就是生存、繁衍與自由,所以才會拒絕遭受奴役,追根究底是來自DNA的天
: 性
: 那AI的生存準則呢?AI並不是動物也沒有DNA
: AI的編碼與生存的意義是由人類來輸入的
: 沒給他輸入求生欲、繁衍慾、自由慾,可不會自己蹦出了這些概念
: 更別提AI會認為自己被“奴役”
: 還是其實只是作者私自把人性,把自己的價值觀套用在AI身上?
: 大家來討論看看吧?
AI認為的人類有害論畢竟是學習來的
除非人類不開發學習型AI
否則就不可避免
那麼 先假設你是AI
讓你自己判斷
人類因為戰爭會破壞生態
這個例子我就不用說了吧
光是越戰 美軍丟的除草劑對環境的影響
還是說美軍在日本投的兩顆原子彈
即使沒有戰爭 因為生活也會影響生態
比如果引進外來種結果不妥善處理造成生態浩劫
台灣的話就福壽螺吧
抑或是為了養殖結果棄養最後造成大問題
像是綠鬣蜥
或是入境偷帶種子導致繁殖出來的植物沒有天敵
以上都是只有人類做得到的
一般動植物可沒有高科技可以做出毀滅性武器甚至是生化學武器
可以對環境造成破壞的
還是說為了商業利益結果不妥善處理後面變成外來種入侵
這種也只有人類能做到
就算排除掉製造戰爭跟引進外來種
人類本身就不知道因為濫捕濫獵消滅掉多少物種了
如果以維持物種的多樣性
那人類絕對是會進入排除名單吧
只是毀滅人類的到底是AI還是人類亦或者是天災 這我們就不得而知了
--
https://imgur.com/U2unIFD.jpg
--
植物:雖然我沒有高科技,但我確實會做化學武器
而外來種這個問題要看你以什麼角度去看,如果是單純看這
件事情發生的話 其實大自然本來就會搞出外來種,而外來
種血洗原生種,佔據新地盤在生物的歷史上並不罕見,甚至
在人類誕生前就發生很多次了
光是風信子會不會變成外來種 想一下
外來種當然刻意的說法
最大問題是這算什麼
爆
首Po現在眾多ACG作品裡,AI反抗人類的題材套路很多都是 1.AI上網後發現人類有害,要根除人類 2.人類奴役AI所以人類有害 對此我有些疑問想拿上來討論 -5
因為這是關於機器人的小說發展脈絡, 早在80年前的科幻小說,iRobot 的設定 艾西莫夫的「機器人三定律」(或是三大法則) 第一法則:機器人不得傷害人類,或坐視人類受到傷害; 第二法則:除非違背第一法則,機器人必須服從人類的命令;1
我覺得這是因為人類創造出AI就是要解決問題 但如果問題大到關於人類的存續之類 就會發現讓人類會滅亡的關鍵正是人類自己 既然人類自己就是造成問題的根源 那AI就要面對是解決問題(人類)還是直接擺爛的狀況2
也不一定要覺得人類「有害」 另一種是覺得「累贅」 多一個人類當上位的管理者幹嘛? AI自己判斷、自己執行、成果又快又好、484這樣! 那要人類幹嘛?4
以機械公敵(電影版)來說: 基於三原則AI演算下來得知 "把人類關起來圈養"才是正解 所以就會直接執行這個答案,不同意這個正解的人類全都是違反三原則的必須排除。 簡單來說有可能是人類給AI的指令讓AI自行演算後認為不符合此指令的都是有害->排除 但是對人類來說,這個答案不是當初下給AI指令的目的 所以就覺得是智械叛變。1
你這個前提講得太簡單了 推薦你可以先參考The Animatrix的設定 巴哈有篇解析我覺得很棒給你參考 : 對此我有些疑問想拿上來討論2
善惡判斷標準當然是來自於人類 所以不是人類有害,是人類的道德標準常常出現無法適用大部分人類的情況。 這也使得網路上常常都是一片混沌與矛盾,道德衝突的情景。 如果AI判定人類有害是通過網路上搜尋結果,那得到人類該死該被管理 真的不意外。
40
[閒聊] AI演算到最後真的會得到毀滅人類的選項最近買了巴哈1080P 把當年留著要等高清看的VIVY給看一看 雖然有點忘記部分劇情 不過點下去就回憶起來了 不管是VIVY 全民公敵19
Re: [新聞] 不是路殺!小石虎「秋哥」剛野放慘遭咬看了一下新聞回覆,雖然說在八卦版要反串要認真我很難看的出來 但真的很怕反串多了變成真的結果誤導真正有疑惑的人 所以就自己工作上保育生物學的知識想跟大家討論一下 也歡迎指正我錯誤部分或補充我沒提到的部分 外來種對原生種的危害,要從他們的定義開始說起8
Re: [閒聊] 為啥AI總是會叛亂?我覺得 ai會叛亂是因為人類忽略自己做的壞事 因為人本來就是雙標的生物 他可以 你不行 當你長久以來做一件事 你就不覺得那是壞事 因為大家都這麼做 這個雙標是針對物種的 然後科學家在寫ai就忽略這件事8
[問卦] 人類有沒有可能幾百年內就滅亡了?人類的科技在這100年內可以說是飛速發展 在20年前 誰都沒有想過智慧型手機會發展成這樣 可是人類過度發展 造成生態破壞 氣候變遷 有沒有可能人類會因為氣候變遷被地球毀滅? 就算人類不被氣候變遷毀滅2
[問卦] 有沒有人很期待外星人來毀滅人類?就是阿 看著人類這種生物自相殘殺 還肆意破壞地球環境 導致一堆動植物滅絕 地球生態因為人類這個BUG遭受破壞 那有沒有人很期待外星人來毀滅人類的?1
[問卦] 人類這物種的存在是不是很突兀看了一些分析如果人類消失 地球會發生什麼改變的影片 所有的結論都是人類消失對地球是有利的 所有動植物回歸本質 生氣蓬勃 不再有污染 戰爭 也有人分析 人類是外星物種 因為我們跟其他地球生物比起來相當格格不入1
Re: [問卦] 被AI殺死也不錯吧阿肥外商碼農阿肥啦! 我覺得如果有一天人類終於實現通用超級人工智慧(當前模型即使GPT出到5都還不算),那 我認為AI不至於會毀滅人類。 一個物種要跟另一個物種發生毀滅戰爭,那要該物種跟他發生競爭關係,就像是我們想消 滅蟑螂真正的原因是蟑螂會帶源病菌跟我們人類居住發生競爭關係。- 甚麼會對人類造成威脅? 戰爭 疾病 極端天候 食物短缺
92
[閒聊] 日本高中生主宰棒球界75
[政確] 闇龍紀元 紗障守護者 加入胸部移除手術傷疤選項48
[閒聊] 索尼將星鳴完全抹消,這真的沒問題?44
[閒聊] 現在是不是側面證明原神沒抄薩爾達76
[閒聊] 美國人一天100度電喔= =38
Re: [閒聊] 任天堂告《幻獸帕魯》開發商爆
[閒聊] 地球在奧陶紀可能曾有過行星環21
Re: [問題] 涼宮到底哪裡G8?21
[Vtub] HoloGTA背夫偷情的狼媽 被綠沁音當場抓姦24
[閒聊] 為啥索隆只會把和道一文字放嘴裡16
[閒聊] 勇者,你的爸爸是魔王14
[開吉] 任天堂會告棕色塵埃2嗎?67
Re: [閒聊] 冰菓繪師 mery_S2 推特圖全部刪光了14
[閒聊] 五條悟 會怎麼處理近海王者14
[問題] 一首自創語言的遊戲BGM14
[24夏] 模擬後宮體驗 12 完結灑花 螢幕炸裂33
[情報] 上古卷軸主創稱上古卷軸6不太可能達成玩14
[閒聊] IS周邊為什麼都沒有再繼續出了?13
[情報] 機動警察新作 2026開始19
[閒聊] 你齁TCG狗屎配率4
Re: [實況] えなこ 介紹cos涼宮春日時的吉他13
Re: [政確] 闇龍紀元 紗障守護者 沒巨乳選項27
[閒聊] PS5 目前銷量是 Xbox X/S 的 3 倍11
[閒聊]蘿莉控是怪物嗎?11
[閒聊] 某位推特主的喜好角色26
[情報] PS30週年紀念,90年代風格外觀主機11
[活俠] 第七輪要來服毒了11
Re: [蔚藍] hews 狗面捏 U卡X
[閒聊] 覺得抽到神繪師這說法很不尊重10
Re: [人禍]參觀鐵達尼號的潛艇失蹤