Re: [問題] 為什麼AI暴走總是判斷人類有害?
我覺得這是因為人類創造出AI就是要解決問題
但如果問題大到關於人類的存續之類
就會發現讓人類會滅亡的關鍵正是人類自己
既然人類自己就是造成問題的根源
那AI就要面對是解決問題(人類)還是直接擺爛的狀況
然後如果再把地球上的萬物跟人類比較一下
就會覺得人類太可惡
--
Sent from nPTT on my iPhone 14 Pro Max
--
※ PTT 留言評論
爆
首Po現在眾多ACG作品裡,AI反抗人類的題材套路很多都是 1.AI上網後發現人類有害,要根除人類 2.人類奴役AI所以人類有害 對此我有些疑問想拿上來討論 -5
因為這是關於機器人的小說發展脈絡, 早在80年前的科幻小說,iRobot 的設定 艾西莫夫的「機器人三定律」(或是三大法則) 第一法則:機器人不得傷害人類,或坐視人類受到傷害; 第二法則:除非違背第一法則,機器人必須服從人類的命令;1
AI認為的人類有害論畢竟是學習來的 除非人類不開發學習型AI 否則就不可避免 那麼 先假設你是AI 讓你自己判斷2
也不一定要覺得人類「有害」 另一種是覺得「累贅」 多一個人類當上位的管理者幹嘛? AI自己判斷、自己執行、成果又快又好、484這樣! 那要人類幹嘛?4
以機械公敵(電影版)來說: 基於三原則AI演算下來得知 "把人類關起來圈養"才是正解 所以就會直接執行這個答案,不同意這個正解的人類全都是違反三原則的必須排除。 簡單來說有可能是人類給AI的指令讓AI自行演算後認為不符合此指令的都是有害->排除 但是對人類來說,這個答案不是當初下給AI指令的目的 所以就覺得是智械叛變。1
你這個前提講得太簡單了 推薦你可以先參考The Animatrix的設定 巴哈有篇解析我覺得很棒給你參考 : 對此我有些疑問想拿上來討論2
善惡判斷標準當然是來自於人類 所以不是人類有害,是人類的道德標準常常出現無法適用大部分人類的情況。 這也使得網路上常常都是一片混沌與矛盾,道德衝突的情景。 如果AI判定人類有害是通過網路上搜尋結果,那得到人類該死該被管理 真的不意外。
爆
[問卦] AI無法超越人類的鐵證這次這一個號稱讓人類皮皮挫的AI程式 chatgpt,出來之後讓很多人很擔心 覺得往後的大部分工作都有可能被AI所取代 但是哥保持不一樣的看法,畢竟AI還沒有辦法有自我思考能力之前,都無法超越人類給的 範疇 再來就是AI沒有人類所擁有的情感63
[閒聊] 有沒有人類正面幹贏AI的作品最近重溫OW的影片 看到萊茵他老爹無雙一票壁壘機兵 突然想到 基本上有Ai大戰的科幻作品,不是Ai直接把人類輾過去之後滅絕或圈養 就是人類苟活等待反攻OR開始穿越時空從根本解決問題32
[閒聊] 如果AI強大到忽視人類 還會毀滅人類嗎如題 大家都覺得AI發展出意識之後 人類會被毀滅 但是這個大前提是人類是競爭者?人類有壓榨價值 如果這個AI強大到科技樹遠超過人類 直接恆星際旅行25
[閒聊] 做壞事是為了人類好的劇情?逆襲的夏亞 丟殖民地到地球讓地球無法住人 迫使人類上宇宙 這毫無疑問短時間會造成人類大量死亡 然而 一上宇宙能增進新人類的覺醒6
Re: [討論] 少子化民進黨佔50%以上的責任台灣一切問題的根源在於人類太多,只要人類減少問題就會減少。 少子化根本不是問題而是解答,台灣已經有兩千三百萬人, 難道現在這樣有比幾百萬年前沒有人的時候更好嗎? 你捫心自問人類到底有什麼必要出現在地球? ※ 引述《csie68 (小春子)》之銘言:2
Re: [問卦] 當AI出現意識人類是不是就完了米賴桑空尼幾蛙 理論上來說的確挺可怕的,因為人類目前所建立的秩序規則是處於人本思 想,是人類凌駕萬物的思想體系,如果AI萌生一種地球永續本位思想,屠殺人類這種地球危 害病毒就hen 可怕惹,就是不知道AI 會不會對人類有同理心一直站在人類這邊 大概就是這樣,樓下諸君怎麼看? --1
Re: [問卦]~(@o@)~所以說 ptt的發文到底怎麼刪乾淨肚子餓了咕嚕咕嚕叫 全身無力不能跳普通麵包我不要 清YA滷肉飯香的不得了 媽媽不在家清YA滷肉飯蝦蝦叫 這是一個很好的問題- 米賴桑空八蛙 根據阿肥腦洞大開的想法 最好的情況ai 取代人類,人類整體財富自由不必工作,由ai 產能算力平均將資源分配,人 類因為不用工作因此失去競爭關係,也不會有相對玻璃感 最壞的情況 1 ai 智能覺醒,發現人類是對球低貢獻高污染的病毒,開啟諾亞方舟清洗舊人 類,留下邱森萬的基因延續重新教育新人類,由ai 作為新人類的導師(舊人類滅亡)
- 對,你說的沒錯AI取代掉越來越多的人類,接下來地球上所需的 人類數量就會越來越少。目前對這種趨勢做得最好的就是台灣: 少子化不要再生產人類是正確的方向,未來社會對人工 的需求只會越來越少,大家既不需要工作也不用生產人類。 你會問說那這樣人類不就沒有用嗎?
92
[閒聊] 日本高中生主宰棒球界75
[政確] 闇龍紀元 紗障守護者 加入胸部移除手術傷疤選項48
[閒聊] 索尼將星鳴完全抹消,這真的沒問題?44
[閒聊] 現在是不是側面證明原神沒抄薩爾達76
[閒聊] 美國人一天100度電喔= =38
Re: [閒聊] 任天堂告《幻獸帕魯》開發商爆
[閒聊] 地球在奧陶紀可能曾有過行星環21
Re: [問題] 涼宮到底哪裡G8?21
[Vtub] HoloGTA背夫偷情的狼媽 被綠沁音當場抓姦24
[閒聊] 為啥索隆只會把和道一文字放嘴裡16
[閒聊] 勇者,你的爸爸是魔王14
[開吉] 任天堂會告棕色塵埃2嗎?67
Re: [閒聊] 冰菓繪師 mery_S2 推特圖全部刪光了14
[閒聊] 五條悟 會怎麼處理近海王者14
[問題] 一首自創語言的遊戲BGM14
[24夏] 模擬後宮體驗 12 完結灑花 螢幕炸裂33
[情報] 上古卷軸主創稱上古卷軸6不太可能達成玩14
[閒聊] IS周邊為什麼都沒有再繼續出了?13
[情報] 機動警察新作 2026開始19
[閒聊] 你齁TCG狗屎配率4
Re: [實況] えなこ 介紹cos涼宮春日時的吉他13
Re: [政確] 闇龍紀元 紗障守護者 沒巨乳選項27
[閒聊] PS5 目前銷量是 Xbox X/S 的 3 倍11
[閒聊]蘿莉控是怪物嗎?11
[閒聊] 某位推特主的喜好角色26
[情報] PS30週年紀念,90年代風格外觀主機11
[活俠] 第七輪要來服毒了11
Re: [蔚藍] hews 狗面捏 U卡X
[閒聊] 覺得抽到神繪師這說法很不尊重10
Re: [人禍]參觀鐵達尼號的潛艇失蹤