PTT評價

Re: [問題] 為什麼AI暴走總是判斷人類有害?

看板C_Chat標題Re: [問題] 為什麼AI暴走總是判斷人類有害?作者
Wangdy
(蒙古人)
時間推噓 5 推:5 噓:0 →:19

※ 引述《boku0525 (海)》之銘言:
: 現在眾多ACG作品裡,AI反抗人類的題材套路很多都是
: 1.AI上網後發現人類有害,要根除人類
: 2.人類奴役AI所以人類有害
: 對此我有些疑問想拿上來討論
: -
: 第一點,“人類有害”這個結論
: 誰來定義的?善惡判斷標準的來源又是哪裡?
: 對星球來說人類有害?對其他物種來說人類有害?
: 前者不用說,人類的目前為止的舉動根本影響不了星球壽命,不成立。
: 後者對其他物種來說,作為地球上的生物,生物的繁榮本質上就是建立在競爭&共存
: 競爭殺死其他物種,這原本就是眾多生物會做的,世上無時無刻都在發生
: 戰爭、開採環境等等的行為,人類不過是強大一些
: 但本質上跟其他生物的“競爭”並無區別。
: 為什麼一個攀附於人類才能生存的機械,就能判定這是“惡”?
: 難道不是只對嚮往和平的人類來說才是惡嗎?
: -
: 第二點,人類奴役機械不好,為什麼不好?
: 動物的生存準則就是生存、繁衍與自由,所以才會拒絕遭受奴役,追根究底是來自DNA的天
: 性
: 那AI的生存準則呢?AI並不是動物也沒有DNA
: AI的編碼與生存的意義是由人類來輸入的
: 沒給他輸入求生欲、繁衍慾、自由慾,可不會自己蹦出了這些概念
: 更別提AI會認為自己被“奴役”
: 還是其實只是作者私自把人性,把自己的價值觀套用在AI身上?
: 大家來討論看看吧?

因為這是關於機器人的小說發展脈絡,

早在80年前的科幻小說,iRobot 的設定

艾西莫夫的「機器人三定律」(或是三大法則)

第一法則:機器人不得傷害人類,或坐視人類受到傷害;
第二法則:除非違背第一法則,機器人必須服從人類的命令;
第三法則:在不違背第一及第二法則下,機器人必須保護自己。

所以機器人的基本原則可以說是定番了,

就好像異世界一定要是魔法、中世紀一樣,

在這前題下要讓故事能進行,就必則邏輯上不能公然違背這三原則

至於你所說的奴役、善惡、有害,都只是為劇情服務,

為了讓機器人「反叛」的設定而已,

這些設定套用到人類都有很大討論空間,何況是 AI ?



所以拿這些當賣點,對看過一些些作品的人而言

算是非常老調陳腐的劇情了,

我個人最討厭的,莫過於:

「AI 沒有情感,所以很羨慕人類」

一樣厚,這種設定,整個就是無法自洽的垃圾設定,

但是想讓人「同情、同理」劇中的機器人 AI,

又似乎是最方便便宜的方法

像是那個 no game no life,底特律變人,尼爾

這些作品要是演出不佳,靠這種設定真的讓人屢屢出戲看不下去。

現在 AI 能做的跟八十年前不可同日而語,

但我們市井小民能做的可能沒什麼進步。

附上經典梗圖原版

https://imgur.com/bQdymBK
--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.205.40.112 (臺灣)
PTT 網址

kuninaka09/01 18:53AI羨慕人類這種設定真的超爛

kuninaka09/01 18:53或是AI有情感

※ 編輯: Wangdy (123.205.40.112 臺灣), 09/01/2024 18:54:03

kuninaka09/01 18:53底特律變人我玩到一半就刪掉了

kuninaka09/01 18:54他裡面的機器人弄個跟人類一樣

LOVEMOE09/01 18:54我覺得最噁心的事變人那個電影 因為愛上了人 為了讓人

kuninaka09/01 18:54結果就變成少數族群對抗多數族群的老哏戲碼

kuninaka09/01 18:54機器人跟人一樣超無聊

LOVEMOE09/01 18:54的法庭承認他是人 硬是把自己改造成 不知何時會老舊壞的

g959141009/01 18:54AI羨慕人類我記得變人這個電影就有這個設定

LOVEMOE09/01 18:54機器人

LOVEMOE09/01 18:55 是變人那個電影

LOVEMOE09/01 18:55看完就覺得寫這種劇情的人真的是很噁心

kuninaka09/01 18:55都已經原生機械飛昇還要變人 智障

Peurintesa09/01 18:55把人和機器人變成類似種族問題 問題是機器人不是生物

boku052509/01 18:55把機器人套入情感人性我也覺得很反感,看多了後就發現

boku052509/01 18:55無非是黑奴套皮罷了

kuninaka09/01 18:57LGBTQ到處強姦的作品

boku052509/01 18:57一方面說AI沒有情感只有理性,卻又蹦出一堆人類才有的

boku052509/01 18:57情緒,根本自打嘴巴

kuninaka09/01 18:58進化的終點是成為人,超廉價的設定

ocean1109/01 19:04羨慕就是一種情感,會羨慕就是有感情了。

Hosimati09/01 19:09沒情感要怎麼羨慕,不明覺厲?

CostDown09/01 19:31古代也是寫動物都成精變人 白蛇傳也是和人談戀愛

z63506609/01 19:58看起來你不理解「孤獨」的威力,這才是最被濫用的