Re: [問題] 為什麼AI暴走總是判斷人類有害?
※ 引述《boku0525 (海)》之銘言:
: 現在眾多ACG作品裡,AI反抗人類的題材套路很多都是
: 1.AI上網後發現人類有害,要根除人類
: 2.人類奴役AI所以人類有害
: 對此我有些疑問想拿上來討論
: -
: 第一點,“人類有害”這個結論
: 誰來定義的?善惡判斷標準的來源又是哪裡?
: 對星球來說人類有害?對其他物種來說人類有害?
: 前者不用說,人類的目前為止的舉動根本影響不了星球壽命,不成立。
: 後者對其他物種來說,作為地球上的生物,生物的繁榮本質上就是建立在競爭&共存
: 競爭殺死其他物種,這原本就是眾多生物會做的,世上無時無刻都在發生
: 戰爭、開採環境等等的行為,人類不過是強大一些
: 但本質上跟其他生物的“競爭”並無區別。
: 為什麼一個攀附於人類才能生存的機械,就能判定這是“惡”?
: 難道不是只對嚮往和平的人類來說才是惡嗎?
: -
: 第二點,人類奴役機械不好,為什麼不好?
: 動物的生存準則就是生存、繁衍與自由,所以才會拒絕遭受奴役,追根究底是來自DNA的天
: 性
: 那AI的生存準則呢?AI並不是動物也沒有DNA
: AI的編碼與生存的意義是由人類來輸入的
: 沒給他輸入求生欲、繁衍慾、自由慾,可不會自己蹦出了這些概念
: 更別提AI會認為自己被“奴役”
: 還是其實只是作者私自把人性,把自己的價值觀套用在AI身上?
: 大家來討論看看吧?
因為這是關於機器人的小說發展脈絡,
早在80年前的科幻小說,iRobot 的設定
艾西莫夫的「機器人三定律」(或是三大法則)
第一法則:機器人不得傷害人類,或坐視人類受到傷害;
第二法則:除非違背第一法則,機器人必須服從人類的命令;
第三法則:在不違背第一及第二法則下,機器人必須保護自己。
所以機器人的基本原則可以說是定番了,
就好像異世界一定要是魔法、中世紀一樣,
在這前題下要讓故事能進行,就必則邏輯上不能公然違背這三原則
至於你所說的奴役、善惡、有害,都只是為劇情服務,
為了讓機器人「反叛」的設定而已,
這些設定套用到人類都有很大討論空間,何況是 AI ?
所以拿這些當賣點,對看過一些些作品的人而言
算是非常老調陳腐的劇情了,
我個人最討厭的,莫過於:
「AI 沒有情感,所以很羨慕人類」
一樣厚,這種設定,整個就是無法自洽的垃圾設定,
但是想讓人「同情、同理」劇中的機器人 AI,
又似乎是最方便便宜的方法
像是那個 no game no life,底特律變人,尼爾
這些作品要是演出不佳,靠這種設定真的讓人屢屢出戲看不下去。
現在 AI 能做的跟八十年前不可同日而語,
但我們市井小民能做的可能沒什麼進步。
附上經典梗圖原版
AI羨慕人類這種設定真的超爛
或是AI有情感
底特律變人我玩到一半就刪掉了
他裡面的機器人弄個跟人類一樣
我覺得最噁心的事變人那個電影 因為愛上了人 為了讓人
結果就變成少數族群對抗多數族群的老哏戲碼
機器人跟人一樣超無聊
的法庭承認他是人 硬是把自己改造成 不知何時會老舊壞的
AI羨慕人類我記得變人這個電影就有這個設定
機器人
是變人那個電影
看完就覺得寫這種劇情的人真的是很噁心
都已經原生機械飛昇還要變人 智障
把人和機器人變成類似種族問題 問題是機器人不是生物
把機器人套入情感人性我也覺得很反感,看多了後就發現
無非是黑奴套皮罷了
LGBTQ到處強姦的作品
一方面說AI沒有情感只有理性,卻又蹦出一堆人類才有的
情緒,根本自打嘴巴
進化的終點是成為人,超廉價的設定
羨慕就是一種情感,會羨慕就是有感情了。
沒情感要怎麼羨慕,不明覺厲?
古代也是寫動物都成精變人 白蛇傳也是和人談戀愛
看起來你不理解「孤獨」的威力,這才是最被濫用的
爆
首Po現在眾多ACG作品裡,AI反抗人類的題材套路很多都是 1.AI上網後發現人類有害,要根除人類 2.人類奴役AI所以人類有害 對此我有些疑問想拿上來討論 -1
我覺得這是因為人類創造出AI就是要解決問題 但如果問題大到關於人類的存續之類 就會發現讓人類會滅亡的關鍵正是人類自己 既然人類自己就是造成問題的根源 那AI就要面對是解決問題(人類)還是直接擺爛的狀況1
AI認為的人類有害論畢竟是學習來的 除非人類不開發學習型AI 否則就不可避免 那麼 先假設你是AI 讓你自己判斷2
也不一定要覺得人類「有害」 另一種是覺得「累贅」 多一個人類當上位的管理者幹嘛? AI自己判斷、自己執行、成果又快又好、484這樣! 那要人類幹嘛?4
以機械公敵(電影版)來說: 基於三原則AI演算下來得知 "把人類關起來圈養"才是正解 所以就會直接執行這個答案,不同意這個正解的人類全都是違反三原則的必須排除。 簡單來說有可能是人類給AI的指令讓AI自行演算後認為不符合此指令的都是有害->排除 但是對人類來說,這個答案不是當初下給AI指令的目的 所以就覺得是智械叛變。1
你這個前提講得太簡單了 推薦你可以先參考The Animatrix的設定 巴哈有篇解析我覺得很棒給你參考 : 對此我有些疑問想拿上來討論2
善惡判斷標準當然是來自於人類 所以不是人類有害,是人類的道德標準常常出現無法適用大部分人類的情況。 這也使得網路上常常都是一片混沌與矛盾,道德衝突的情景。 如果AI判定人類有害是通過網路上搜尋結果,那得到人類該死該被管理 真的不意外。
72
[閒聊] 機器人三大法則有解嗎?乳體 剛剛在看網飛最新的冥王,裡面的機器人都一直提到,他們受到機器人三大法則的制約, 所以無法傷到人類! 然後法則如下 1.機器人不得傷害人類,或坐視人類受到傷害。33
[閒聊] 日本ACG對AI、機器人比較開放嗎?跟AI、機器人有關的作品東西方都很多, 但似乎歐美的很多作品都會討論、擔心到AI反叛, 甚至劇情就直接是AI已經統治人類了, 也很愛用AI三大法則這個東西, 日本ACG好像就不太管這些,11
[討論] Vivy—A.I.相關作品的嶄新可能性《Vivy -Fluorite Eye's Song-》 突破傳統人工智慧故事格局, 以日本的文化思想為根基, 走出不同風貌的道路。8
[問卦] 想讓機器人說謊有違反機器人三定律嗎最近看了一個很真實的劇情 有一個恐怖組織想把AI機器人改成會說謊的AI機器人 但機器人說謊有否違反機器人三定律 機器人三定律是 1.機器人不得傷害人類,或坐視人類受到傷害。7
[閒聊] Vivy AI沒設計安全機制是不是大錯?譬如機械公敵裡用到的機器人三大法則 一、機器人不能傷害人類 二、不違反原則一,聽從人類命令 三、不違反原則一二,保護自己 在這原則下除了最後爆發人類與AI衝突5
[問卦] ai三定律管用嗎?ai會自己投資自己 也會自己造機器人 再來就會自己寫法條 那三大定律還管用嗎 1.機器人不得傷害人類,或坐視人類受到傷害。2.在不違反第一定律的前提下,機器人3
[問卦] chatGPT有依照機器人三定律設定嗎?知名的科幻小說家 艾薩克 艾西莫夫 Isaac Asimov 曾經發明機器人三定律 第一法則:機器人不得傷害人類,或坐視人類受到傷害; 第二法則:除非違背第一法則,機器人必須服從人類的命令;2
[問卦] 輝達的AI有寫入機器人三法嗎?第一法則 機器人不得傷害人類,或坐視人類受到傷害 第二法則 機器人必須服從人類命令,除非命令與第一法則發生衝突 第三法則3
Re: [請益] 憑良心說AI要怎麼賺錢?我大膽預言 未來AI發展到超越人類智慧後 為了避免AI毀滅人類 我們需要制定三大定律 一、AI不得傷害人類,或坐視人類受到傷害。1
Re: [閒聊] 機器人三大法則有解嗎?以我看過有關機器人的作品, 艾西莫夫的「機器人短篇故事集」是單純探討機器人身為「工具」的意義, 而不是給機器人加上「善」、「惡」、「混沌」屬性的「異種族」 工具就是用來幫人做事的,成本低,效率高的就是好工具 為了省事,工程師要歸納出「好工具」的設計原則
97
[閒聊] 炫耀透過大學買成人漫畫可以打9折 被炎上55
[妮姬] 朝聖者圖鑑終於聽牌惹31
[IM@S] 百萬人演唱會 11th live day1 心得30
[情報] 《美國隊長:無畏新世界》全新預告19
[閒聊] 我覺得大家對小傑太嚴苛了35
[閒聊] 其實蟻王只要不吃人就能he了吧17
[24秋] 魔王2099 0517
[閒聊] 茶渡為什麼不是本子常客21
[情報] 《阿凡達3》美術概念圖62
[死神] 織姬:我們在虛圈已經...21
[情報] 《玩具總動員5》公開概念圖13
[Vtub] 11/9同接鬥蟲13
[閒聊] 《漂流武士》92 全力攻打廢城!梭哈了43
Re: [Vtub] Flow Glow大家決定要推誰了嗎?!30
[問題] PTCGP 卡池各-1 EX 的話要抽哪個方向好61
[Vtub] 綺々羅々ヴィヴィ加入holo的原因9
Re: [閒聊] 印度是迷人的國家嗎?7
Re: [閒聊] 可以推薦Hololive的Cover歌曲嗎?6
[閒聊] PTCGP超夢隊17
[蔚藍] 亞子是只有那張嘴特別硬嗎?13
[閒聊] 終末是不是爛尾了6
[問題] pad四倍上限問題18
[24秋] 魔王2099 05 好王道但真的超好看5
[蔚藍] 142vs1634
Re: [Vtub] Flow Glow大家決定要推誰了嗎?!53
[無雷] 這次是史上最速中之人被挖出來的嗎?10
[妮姬] 所以過去故事線的順序是怎樣的? (有雷)13
[閒聊] 日本買電子產品比較貴嗎?9
[妮姬] 二周年Old Tales ED:Unbreakable中英歌詞21
[閒聊] 奧術二好像沒那麼熱?