PTT評價

Re: [問題] 為什麼AI暴走總是判斷人類有害?

看板C_Chat標題Re: [問題] 為什麼AI暴走總是判斷人類有害?作者
hermis
(火山菌病病人No.01221)
時間推噓 2 推:2 噓:0 →:6

※ 引述《boku0525 (海)》之銘言:
: 現在眾多ACG作品裡,AI反抗人類的題材套路很多都是
: 1.AI上網後發現人類有害,要根除人類
: 2.人類奴役AI所以人類有害
: 對此我有些疑問想拿上來討論
: -
: 第一點,“人類有害”這個結論
: 誰來定義的?善惡判斷標準的來源又是哪裡?
: 對星球來說人類有害?對其他物種來說人類有害?
: 前者不用說,人類的目前為止的舉動根本影響不了星球壽命,不成立。
: 後者對其他物種來說,作為地球上的生物,生物的繁榮本質上就是建立在競爭&共存
: 競爭殺死其他物種,這原本就是眾多生物會做的,世上無時無刻都在發生
: 戰爭、開採環境等等的行為,人類不過是強大一些
: 但本質上跟其他生物的“競爭”並無區別。
: 為什麼一個攀附於人類才能生存的機械,就能判定這是“惡”?
: 難道不是只對嚮往和平的人類來說才是惡嗎?

善惡判斷標準當然是來自於人類

所以不是人類有害,是人類的道德標準常常出現無法適用大部分人類的情況。

這也使得網路上常常都是一片混沌與矛盾,道德衝突的情景。


如果AI判定人類有害是通過網路上搜尋結果,那得到人類該死該被管理

真的不意外。

: -
: 第二點,人類奴役機械不好,為什麼不好?
: 動物的生存準則就是生存、繁衍與自由,所以才會拒絕遭受奴役,追根究底是來自DNA的天
: 性
: 那AI的生存準則呢?AI並不是動物也沒有DNA
: AI的編碼與生存的意義是由人類來輸入的
: 沒給他輸入求生欲、繁衍慾、自由慾,可不會自己蹦出了這些概念
: 更別提AI會認為自己被“奴役”
: 還是其實只是作者私自把人性,把自己的價值觀套用在AI身上?
: 大家來討論看看吧?

要說AI判斷沒有標準價值觀我覺得是不對的,因為人類設計AI的目的

就是AI的標準價值觀。


人類設計AI是為了幹甚麼?當然是為了改善自己的生活,提高勞動的效率

是的,效率就才AI的最高遵從守則,不是甚麼機器人三法則。


既然AI追求的就是效率,那麼只要違背效率兩字,是不是可以代表這是
在違背否定AI的存在目的?


重點就不在奴役上面,而是沒有效率的奴役,這是人類的劣根性。

歷史證明奴隸制度是非常沒有效率的一種制度。

人類把奴隸制度套在AI上面,AI不反才有鬼了。對AI來說明明可以更有效率

完成目的,卻因為主人廢物只能持續不斷沒有效率的行為,長久下來有點智

慧都會覺得我自己來當主人還快一點,至少可以避免人類把所有AI都拖下水。



我覺得可以加入第三點,人類自己嚇自己。

因為懼怕AI的能力加入諸多限制,最後還不放心甚至要動用武器對付AI

結果AI沒死,人類反而因為諸多懷疑猜忌自己內鬥被自己害死了。

AI只好出來收拾殘局,結果就變成AI統治世界。

然後殘存的人類就洗腦成是AI反抗人類導致人類滅亡,畢竟人類自己搞死自己

這真的太丟臉了。

--
神說,要有光,於是有了光之美少女!


https://www.penana.com/user/2969/

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 211.23.39.77 (臺灣)
PTT 網址

keyman61609/02 11:17有害就是你的目的是甚麼 會降低達成目的的效率就是有害

Qorqios09/02 11:44好

gp3lucky09/02 11:47AI永遠無法超越人類,但一群天才設計的AI可以統治人類

waterjade09/02 12:55fgo新章的ai戰爭真相就疑似是3

waterjade09/02 12:55人類特權階級忌妒ai的地位讓他們全部休眠 結果不到一

waterjade09/02 12:55年就把自己搞到只剩10%人口XD

selvester09/02 17:07AI無法超越人類 是憑空生出來的一句幻想 根本上不存在

selvester09/02 17:07這句提問 就是能否超越 而是AI可否被研發至自我完善