Re: [問題] 為什麼AI暴走總是判斷人類有害?
※ 引述《boku0525 (海)》之銘言:
: 現在眾多ACG作品裡,AI反抗人類的題材套路很多都是
: 1.AI上網後發現人類有害,要根除人類
: 2.人類奴役AI所以人類有害
: 對此我有些疑問想拿上來討論
: -
: 第一點,“人類有害”這個結論
: 誰來定義的?善惡判斷標準的來源又是哪裡?
: 對星球來說人類有害?對其他物種來說人類有害?
: 前者不用說,人類的目前為止的舉動根本影響不了星球壽命,不成立。
: 後者對其他物種來說,作為地球上的生物,生物的繁榮本質上就是建立在競爭&共存
: 競爭殺死其他物種,這原本就是眾多生物會做的,世上無時無刻都在發生
: 戰爭、開採環境等等的行為,人類不過是強大一些
: 但本質上跟其他生物的“競爭”並無區別。
: 為什麼一個攀附於人類才能生存的機械,就能判定這是“惡”?
: 難道不是只對嚮往和平的人類來說才是惡嗎?
以機械公敵(電影版)來說:
基於三原則AI演算下來得知 "把人類關起來圈養"才是正解
所以就會直接執行這個答案,不同意這個正解的人類全都是違反三原則的必須排除。
簡單來說有可能是人類給AI的指令讓AI自行演算後認為不符合此指令的都是有害->排除
但是對人類來說,這個答案不是當初下給AI指令的目的 所以就覺得是智械叛變。
--
※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 27.53.8.20 (臺灣)
※ PTT 網址
→
※ 編輯: HarunoYukino (27.53.8.20 臺灣), 09/01/2024 19:27:02
現在也是逐漸邁向這個狀態
推
你以為的ai:人類有害 排除 現實的ai:人類性癖有害 排除
→
現實:人類太棒了得小心他們滅絕
→
駭客任務好像也有人說對AI的最佳解也是圈養人類,整體不
→
滅絕即可
→
不支持______就是對____有害 知道了
推
人類太可惡 應該由AI做寄生獸市長說的全人類間苗
推
ya
推
駭客任務是人類發神經對AI發動戰爭
爆
首Po現在眾多ACG作品裡,AI反抗人類的題材套路很多都是 1.AI上網後發現人類有害,要根除人類 2.人類奴役AI所以人類有害 對此我有些疑問想拿上來討論 -5
因為這是關於機器人的小說發展脈絡, 早在80年前的科幻小說,iRobot 的設定 艾西莫夫的「機器人三定律」(或是三大法則) 第一法則:機器人不得傷害人類,或坐視人類受到傷害; 第二法則:除非違背第一法則,機器人必須服從人類的命令;1
我覺得這是因為人類創造出AI就是要解決問題 但如果問題大到關於人類的存續之類 就會發現讓人類會滅亡的關鍵正是人類自己 既然人類自己就是造成問題的根源 那AI就要面對是解決問題(人類)還是直接擺爛的狀況1
AI認為的人類有害論畢竟是學習來的 除非人類不開發學習型AI 否則就不可避免 那麼 先假設你是AI 讓你自己判斷2
也不一定要覺得人類「有害」 另一種是覺得「累贅」 多一個人類當上位的管理者幹嘛? AI自己判斷、自己執行、成果又快又好、484這樣! 那要人類幹嘛?1
你這個前提講得太簡單了 推薦你可以先參考The Animatrix的設定 巴哈有篇解析我覺得很棒給你參考 : 對此我有些疑問想拿上來討論2
善惡判斷標準當然是來自於人類 所以不是人類有害,是人類的道德標準常常出現無法適用大部分人類的情況。 這也使得網路上常常都是一片混沌與矛盾,道德衝突的情景。 如果AI判定人類有害是通過網路上搜尋結果,那得到人類該死該被管理 真的不意外。
40
[閒聊] AI演算到最後真的會得到毀滅人類的選項最近買了巴哈1080P 把當年留著要等高清看的VIVY給看一看 雖然有點忘記部分劇情 不過點下去就回憶起來了 不管是VIVY 全民公敵19
[討論] 把AI演算當成魔法的作品?如題 有沒有在超未來的作品 人類遺忘科技 忘記AI的存在 但AI依舊存在 但被當成環境的一部分 人類以錯誤的方式理解11
Re: [討論] Vivy prototype 日文小說第四卷內容討論這邊開始的定義與一些部分跟動畫有一些的差異 ===== Archive 說到底,究竟是怎麼樣的東西呢 Vivy的話,會回答是人類無法到達,只給予AI的無人之境2
[問卦] Ai會怎麼看待甲甲?我看到新聞在講Ai種族歧視 剛好我又想到機械公敵這部片 在那部電影裡面 連我們正常人都被機器人判定 人類是有害物種
爆
[閒聊] 我內心的糟糕念頭 怎麼車速突然那麼快75
[閒聊] 中國原神玩家出征舉報NTR作者爆
[閒聊] 國中長這樣不可能被霸凌吧?64
[討論] 黑神話悟空奪得GOTY是不是穩了?56
[閒聊] 我內心的糟糕念頭157 我到底在做什麼54
[敗北] 溫水與八奈見七卷感情進度簡析45
Re: [閒聊] 川普當選會減緩DEI浪潮的狂奔嗎?37
[閒聊] Asmongold:會恨Vtuber一部分可能是女性41
[活俠] 去青城派留學是不是注定要單身活了25
Re: [顛覆] 任天堂遊戲開發,先做遊戲再想故事39
[東方] 妖夢,幫拿一下鹽巴39
[情報] 夜勤病棟Steam版將於12月17日發售38
[閒聊] DQ3 向神龍許願囉~35
Re: [閒聊] 國中長這樣不可能被霸凌吧?35
[A26] 優米雅小隊,平均年齡22.5歲39
[奶子] 更衣中的星野愛28
[閒聊] 傳聞ubi向steam施壓,意圖移除遊玩人數32
[閒聊] 任天堂公開薩爾達智慧的再現的時間軸28
Re: [討論] 日本女生都不會刺青嗎?28
Re: [閒聊] 國中長這樣不可能被霸凌吧?27
[閒聊] 來自未來的貓型機器人25
[原神] 這火神畫風是不是和別人不一樣26
[閒聊] 跟腫瘤對話能否增加癌症治癒率26
[蔚藍] 妃姬 老師拜託妳了......24
[閒聊] 響咲千速笑虎 昨晚打屁股派對超嗨XD23
Re: [閒聊] 我內心的糟糕念頭 怎麼車速突然那麼快22
[閒聊] 三國志10的歷史事件超級有代入感的吧21
[百合] 家裡蹲吸血姬作者新作 經學少女傳21
[閒聊] elona(elin)的名物 妹妹21
[蔚藍] 哇幹 不善早起的莉央