Re: [問題] 為什麼AI暴走總是判斷人類有害？

※ 引述《boku0525 (海)》之銘言：
: 現在眾多ACG作品裡，AI反抗人類的題材套路很多都是
: 1.AI上網後發現人類有害，要根除人類
: 2.人類奴役AI所以人類有害
你這個前提講得太簡單了
推薦你可以先參考The Animatrix的設定
巴哈有篇解析我覺得很棒給你參考
https://forum.gamer.com.tw/C.php?bsn=60037&snA=72279

: 對此我有些疑問想拿上來討論
: -
: 第一點，“人類有害”這個結論
: 誰來定義的？善惡判斷標準的來源又是哪裡？
善惡判斷的部分，我推台大 Good and Evil
https://reurl.cc/6d7lEy 給你參考

: 對星球來說人類有害？對其他物種來說人類有害？
: 前者不用說，人類的目前為止的舉動根本影響不了星球壽命，不成立。
: 後者對其他物種來說，作為地球上的生物，生物的繁榮本質上就是建立在競爭&共存
: 競爭殺死其他物種，這原本就是眾多生物會做的，世上無時無刻都在發生
並沒有，動物會有獵食及守護地盤的行為，絕大部分是為了存活。
你會需要跟你家旁邊的野狗競爭然後互咬嗎?不需要，對吧。
但是這社會上有很多人是為了好玩而虐待動物的...
人的善意與惡意都比其他動物複雜非常多啊
你也可以參考一下虐待動物的報導
https://wuo-wuo.com/abuse/

: 戰爭、開採環境等等的行為，人類不過是強大一些
強大一點???你應該不清楚人破壞自然的速度有多快又有效率嗎?
如人類在河川上游設工廠，排出的工業廢水在短時間內就可以滅絕河流內的所有生物。
你想看看有那個生物原本就會這麼做??或是能夠對生態有這種程度的破壞力??

: 但本質上跟其他生物的“競爭”並無區別。
: 為什麼一個攀附於人類才能生存的機械，就能判定這是“惡”？
: 難道不是只對嚮往和平的人類來說才是惡嗎？
回頭看一下你前面的問題，
然後試著找到你如何定義善惡，以及判斷標準的來源又是哪裡？
搞不好那就是問題的答案了。

: -
: 第二點，人類奴役機械不好，為什麼不好？
這個論點是從哪部作品的劇情出來的啊??
還是你的判斷??
「人類奴役機械」與「機械服務人類」你覺得差在哪裡?

: 動物的生存準則就是生存、繁衍與自由，所以才會拒絕遭受奴役，追根究底是來自DNA的天
: 性
: 那AI的生存準則呢？AI並不是動物也沒有DNA
: AI的編碼與生存的意義是由人類來輸入的
: 沒給他輸入求生欲、繁衍慾、自由慾，可不會自己蹦出了這些概念
: 更別提AI會認為自己被“奴役”
這個問題推薦你看 「假如人工智能（AI）有靈魂：這意味著什麼」
https://www.bbc.com/ukchina/trad/vert-fut-44641617

: 還是其實只是作者私自把人性，把自己的價值觀套用在AI身上？
以ACG作品來說世界觀就是依照作者的設定。
當然只會依照作者的想像發展啊。

: 大家來討論看看吧？
再一起討論看看吧?
: --
: ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.92.193 (臺灣)
: ※ 文章網址: https://www.ptt.cc/C_Chat/E.MLNAK89zq3NM

--