PTT評價

Re: [問題] 為什麼AI暴走總是判斷人類有害?

看板C_Chat標題Re: [問題] 為什麼AI暴走總是判斷人類有害?作者
HarunoYukino
()
時間推噓 4 推:4 噓:0 →:5

※ 引述《boku0525 (海)》之銘言:
: 現在眾多ACG作品裡,AI反抗人類的題材套路很多都是
: 1.AI上網後發現人類有害,要根除人類
: 2.人類奴役AI所以人類有害
: 對此我有些疑問想拿上來討論
: -
: 第一點,“人類有害”這個結論
: 誰來定義的?善惡判斷標準的來源又是哪裡?
: 對星球來說人類有害?對其他物種來說人類有害?
: 前者不用說,人類的目前為止的舉動根本影響不了星球壽命,不成立。
: 後者對其他物種來說,作為地球上的生物,生物的繁榮本質上就是建立在競爭&共存
: 競爭殺死其他物種,這原本就是眾多生物會做的,世上無時無刻都在發生
: 戰爭、開採環境等等的行為,人類不過是強大一些
: 但本質上跟其他生物的“競爭”並無區別。
: 為什麼一個攀附於人類才能生存的機械,就能判定這是“惡”?
: 難道不是只對嚮往和平的人類來說才是惡嗎?

以機械公敵(電影版)來說:

基於三原則AI演算下來得知 "把人類關起來圈養"才是正解

所以就會直接執行這個答案,不同意這個正解的人類全都是違反三原則的必須排除。

簡單來說有可能是人類給AI的指令讓AI自行演算後認為不符合此指令的都是有害->排除

但是對人類來說,這個答案不是當初下給AI指令的目的 所以就覺得是智械叛變。



--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 27.53.8.20 (臺灣)
PTT 網址

kuninaka09/01 19:24現在也是逐漸邁向這個狀態

※ 編輯: HarunoYukino (27.53.8.20 臺灣), 09/01/2024 19:27:02

GAOTT09/01 19:26你以為的ai:人類有害 排除 現實的ai:人類性癖有害 排除

Justisaac09/01 19:27現實:人類太棒了得小心他們滅絕

linzero09/01 19:28駭客任務好像也有人說對AI的最佳解也是圈養人類,整體不

linzero09/01 19:28滅絕即可

A5Watamate09/01 19:31不支持______就是對____有害 知道了

CostDown09/01 19:34人類太可惡 應該由AI做寄生獸市長說的全人類間苗

Qorqios09/01 19:36ya

horrorghost09/01 19:38駭客任務是人類發神經對AI發動戰爭