Re: [問題] 為什麼AI暴走總是判斷人類有害?
※ 引述《g9591410 (天帝零劍)》之銘言:
: ※ 引述《boku0525 (海)》之銘言:
: : 現在眾多ACG作品裡,AI反抗人類的題材套路很多都是
: : 1.AI上網後發現人類有害,要根除人類
: : 2.人類奴役AI所以人類有害
也不一定要覺得人類「有害」
另一種是覺得「累贅」
多一個人類當上位的管理者幹嘛?
AI自己判斷、自己執行、成果又快又好、484這樣!
那要人類幹嘛?
清掉好了。
https://i.imgur.com/uFUL8Mt.jpg
--
追求廢文與心得文的比例為10:10 (允許±0.2篇)
完美平衡
https://imgur.com/AMg6qlx
--
※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.52.232.255 (越南)
※ PTT 網址
→
駭客任務裡面的AI就很可憐
→
為了保護人類還搞一個電池方案
→
還要CODING照顧他們的精神
→
累贅是真的 如果AI要幫忙人類處理常態性汙染 火力發電或
→
日常垃圾廢棄物等 處理的成本太大的話 搞不好殺掉人類
→
比較便宜的狀況下 就是殺掉人類
→
不是吧 原來這裡殺掉老年父母這麼稀鬆平常的嗎?
→
他說AI阿
→
ai的父母不是人類嗎
→
所以AI殺掉人類阿
推
所以以後妳媽老了你也殺她?
→
我不是AI阿
→
你在說什麼啊?
→
八卦新聞不就一堆了 照顧到受不了把老母殺掉的新聞
推
一般人看起來像是寫得出高級AI的嗎?當然不是AI的父母
爆
首Po現在眾多ACG作品裡,AI反抗人類的題材套路很多都是 1.AI上網後發現人類有害,要根除人類 2.人類奴役AI所以人類有害 對此我有些疑問想拿上來討論 -5
因為這是關於機器人的小說發展脈絡, 早在80年前的科幻小說,iRobot 的設定 艾西莫夫的「機器人三定律」(或是三大法則) 第一法則:機器人不得傷害人類,或坐視人類受到傷害; 第二法則:除非違背第一法則,機器人必須服從人類的命令;1
我覺得這是因為人類創造出AI就是要解決問題 但如果問題大到關於人類的存續之類 就會發現讓人類會滅亡的關鍵正是人類自己 既然人類自己就是造成問題的根源 那AI就要面對是解決問題(人類)還是直接擺爛的狀況1
AI認為的人類有害論畢竟是學習來的 除非人類不開發學習型AI 否則就不可避免 那麼 先假設你是AI 讓你自己判斷4
以機械公敵(電影版)來說: 基於三原則AI演算下來得知 "把人類關起來圈養"才是正解 所以就會直接執行這個答案,不同意這個正解的人類全都是違反三原則的必須排除。 簡單來說有可能是人類給AI的指令讓AI自行演算後認為不符合此指令的都是有害->排除 但是對人類來說,這個答案不是當初下給AI指令的目的 所以就覺得是智械叛變。1
你這個前提講得太簡單了 推薦你可以先參考The Animatrix的設定 巴哈有篇解析我覺得很棒給你參考 : 對此我有些疑問想拿上來討論2
善惡判斷標準當然是來自於人類 所以不是人類有害,是人類的道德標準常常出現無法適用大部分人類的情況。 這也使得網路上常常都是一片混沌與矛盾,道德衝突的情景。 如果AI判定人類有害是通過網路上搜尋結果,那得到人類該死該被管理 真的不意外。
20
[討論] 分辨AI跟人類作畫的方法原文: 這篇的作者在Human or AI測驗中拿到低分,因此開始研究AI的作畫特徵 原文排版比較容易閱讀,日文OK建議可以看原文。 以下節錄幾點 大前提:17
Re: [閒聊] 如果ai能畫的比人還好,幹嘛不用?你要注意這個終極問題可以套在各個層面 如果AI畫得比人類好,幹嘛不用? 如果AI寫得比人類好,幹嘛不用? 如果AI唱得比人類好,幹嘛不用? 最後就是甚麼都AI來做,幹嘛需要人類?7
Re: [閒聊] 為啥AI總是會叛亂?像google或Facebook這類大公司開發的 有自我改良能力的AI 就是不知道寫入「禁止傷害人類」有沒有效 才會總是在被人類玩壞的時候緊急關機 放出AI跟人類互動的旨意是要他們理解人類的善良4
Re: [閒聊] 對Vivy結局的一些想法這是因為你把AI當成人,覺得AI要有人類般的喜怒哀樂 才會覺得退役被關起來毫無尊嚴該憎恨人類 但故事中的AI並非如此 在Vivy不斷重複強調在強調的東西是要把它當人嗎? 不是 裡面不斷強調的是AI的使命,AI的所有想法都是要執行它的使命1
[問卦] 如果審判和執法都交給AI會怎樣如果審判和執法都交給AI AI會自我學習 AI會自我判斷 人類無法干預AI的判斷與執行 如果審判和執法都交給AI 人類社會會像電影一樣嗎
92
[閒聊] 日本高中生主宰棒球界75
[政確] 闇龍紀元 紗障守護者 加入胸部移除手術傷疤選項48
[閒聊] 索尼將星鳴完全抹消,這真的沒問題?44
[閒聊] 現在是不是側面證明原神沒抄薩爾達76
[閒聊] 美國人一天100度電喔= =38
Re: [閒聊] 任天堂告《幻獸帕魯》開發商爆
[閒聊] 地球在奧陶紀可能曾有過行星環21
Re: [問題] 涼宮到底哪裡G8?21
[Vtub] HoloGTA背夫偷情的狼媽 被綠沁音當場抓姦24
[閒聊] 為啥索隆只會把和道一文字放嘴裡16
[閒聊] 勇者,你的爸爸是魔王14
[開吉] 任天堂會告棕色塵埃2嗎?67
Re: [閒聊] 冰菓繪師 mery_S2 推特圖全部刪光了14
[閒聊] 五條悟 會怎麼處理近海王者14
[問題] 一首自創語言的遊戲BGM33
[情報] 上古卷軸主創稱上古卷軸6不太可能達成玩14
[24夏] 模擬後宮體驗 12 完結灑花 螢幕炸裂14
[閒聊] IS周邊為什麼都沒有再繼續出了?13
[情報] 機動警察新作 2026開始19
[閒聊] 你齁TCG狗屎配率13
Re: [政確] 闇龍紀元 紗障守護者 沒巨乳選項4
Re: [實況] えなこ 介紹cos涼宮春日時的吉他27
[閒聊] PS5 目前銷量是 Xbox X/S 的 3 倍11
[閒聊]蘿莉控是怪物嗎?26
[情報] PS30週年紀念,90年代風格外觀主機11
Re: [蔚藍] hews 狗面捏 U卡11
[活俠] 第七輪要來服毒了11
[閒聊] 某位推特主的喜好角色X
[閒聊] 覺得抽到神繪師這說法很不尊重13
[閒聊] 這異世界開場該選什麼技能才好啊