Re: [問題] 為什麼AI暴走總是判斷人類有害?
我覺得這是因為人類創造出AI就是要解決問題
但如果問題大到關於人類的存續之類
就會發現讓人類會滅亡的關鍵正是人類自己
既然人類自己就是造成問題的根源
那AI就要面對是解決問題(人類)還是直接擺爛的狀況
然後如果再把地球上的萬物跟人類比較一下
就會覺得人類太可惡
--
Sent from nPTT on my iPhone 14 Pro Max
--
※ PTT 留言評論
爆
首Po現在眾多ACG作品裡,AI反抗人類的題材套路很多都是 1.AI上網後發現人類有害,要根除人類 2.人類奴役AI所以人類有害 對此我有些疑問想拿上來討論 -5
因為這是關於機器人的小說發展脈絡, 早在80年前的科幻小說,iRobot 的設定 艾西莫夫的「機器人三定律」(或是三大法則) 第一法則:機器人不得傷害人類,或坐視人類受到傷害; 第二法則:除非違背第一法則,機器人必須服從人類的命令;1
AI認為的人類有害論畢竟是學習來的 除非人類不開發學習型AI 否則就不可避免 那麼 先假設你是AI 讓你自己判斷2
也不一定要覺得人類「有害」 另一種是覺得「累贅」 多一個人類當上位的管理者幹嘛? AI自己判斷、自己執行、成果又快又好、484這樣! 那要人類幹嘛?4
以機械公敵(電影版)來說: 基於三原則AI演算下來得知 "把人類關起來圈養"才是正解 所以就會直接執行這個答案,不同意這個正解的人類全都是違反三原則的必須排除。 簡單來說有可能是人類給AI的指令讓AI自行演算後認為不符合此指令的都是有害->排除 但是對人類來說,這個答案不是當初下給AI指令的目的 所以就覺得是智械叛變。1
你這個前提講得太簡單了 推薦你可以先參考The Animatrix的設定 巴哈有篇解析我覺得很棒給你參考 : 對此我有些疑問想拿上來討論2
善惡判斷標準當然是來自於人類 所以不是人類有害,是人類的道德標準常常出現無法適用大部分人類的情況。 這也使得網路上常常都是一片混沌與矛盾,道德衝突的情景。 如果AI判定人類有害是通過網路上搜尋結果,那得到人類該死該被管理 真的不意外。
爆
[問卦] AI無法超越人類的鐵證這次這一個號稱讓人類皮皮挫的AI程式 chatgpt,出來之後讓很多人很擔心 覺得往後的大部分工作都有可能被AI所取代 但是哥保持不一樣的看法,畢竟AI還沒有辦法有自我思考能力之前,都無法超越人類給的 範疇 再來就是AI沒有人類所擁有的情感63
[閒聊] 有沒有人類正面幹贏AI的作品最近重溫OW的影片 看到萊茵他老爹無雙一票壁壘機兵 突然想到 基本上有Ai大戰的科幻作品,不是Ai直接把人類輾過去之後滅絕或圈養 就是人類苟活等待反攻OR開始穿越時空從根本解決問題32
[閒聊] 如果AI強大到忽視人類 還會毀滅人類嗎如題 大家都覺得AI發展出意識之後 人類會被毀滅 但是這個大前提是人類是競爭者?人類有壓榨價值 如果這個AI強大到科技樹遠超過人類 直接恆星際旅行25
[閒聊] 做壞事是為了人類好的劇情?逆襲的夏亞 丟殖民地到地球讓地球無法住人 迫使人類上宇宙 這毫無疑問短時間會造成人類大量死亡 然而 一上宇宙能增進新人類的覺醒6
Re: [討論] 少子化民進黨佔50%以上的責任台灣一切問題的根源在於人類太多,只要人類減少問題就會減少。 少子化根本不是問題而是解答,台灣已經有兩千三百萬人, 難道現在這樣有比幾百萬年前沒有人的時候更好嗎? 你捫心自問人類到底有什麼必要出現在地球? ※ 引述《csie68 (小春子)》之銘言:2
Re: [問卦] 當AI出現意識人類是不是就完了米賴桑空尼幾蛙 理論上來說的確挺可怕的,因為人類目前所建立的秩序規則是處於人本思 想,是人類凌駕萬物的思想體系,如果AI萌生一種地球永續本位思想,屠殺人類這種地球危 害病毒就hen 可怕惹,就是不知道AI 會不會對人類有同理心一直站在人類這邊 大概就是這樣,樓下諸君怎麼看? --1
Re: [問卦]~(@o@)~所以說 ptt的發文到底怎麼刪乾淨肚子餓了咕嚕咕嚕叫 全身無力不能跳普通麵包我不要 清YA滷肉飯香的不得了 媽媽不在家清YA滷肉飯蝦蝦叫 這是一個很好的問題- 米賴桑空八蛙 根據阿肥腦洞大開的想法 最好的情況ai 取代人類,人類整體財富自由不必工作,由ai 產能算力平均將資源分配,人 類因為不用工作因此失去競爭關係,也不會有相對玻璃感 最壞的情況 1 ai 智能覺醒,發現人類是對球低貢獻高污染的病毒,開啟諾亞方舟清洗舊人 類,留下邱森萬的基因延續重新教育新人類,由ai 作為新人類的導師(舊人類滅亡)
- 對,你說的沒錯AI取代掉越來越多的人類,接下來地球上所需的 人類數量就會越來越少。目前對這種趨勢做得最好的就是台灣: 少子化不要再生產人類是正確的方向,未來社會對人工 的需求只會越來越少,大家既不需要工作也不用生產人類。 你會問說那這樣人類不就沒有用嗎?
49
[閒聊] 台版FX戰士久留美封面要加註什麼警語?爆
[妮姬] 拉毗SSR 戰力預測!28
[閒聊] 赤瀨明里 cosplay 喜多川海夢17
[閒聊] 《美國隊長4》原片名涉極權主義 現更新15
[情報] 《那天,我綁架了一隻蘿莉》第七集上市14
[閒聊] 鋼彈UCE 記憶中不存在的夏亞的逆襲爆
[閒聊] 咒術最終卷 額外加頁12
[閒聊] 真希當老婆是什麼感覺27
[情報] 葬送的芙莉蓮 文字情報 140 舞會37
[閒聊] little busters好看X
[閒聊] 一番賞店家不做假才奇怪吧!23
[討論] 膽大黨 178 精彩能力戰20
[LL] Liella這企劃成功還是失敗7
Re: [問題] 妮姬120FPS 是不是灰色地帶行為?31
[閒聊] GSC宮園薰再版崩壞,對岸大炎上9
[閒聊] 街角魔族 雙重週年展@有楽町 隨手拍遊記9
[閒聊] 熱血系列還有哪裡可以打38
[妮姬] 拉毗:小紅帽主線實裝立繪對比9
[絕區] 有拔刀狐鯊魚妹是否該蛋雕?(U・ω・U)6
[閒聊] 梅拉也來聲援 安柏赫德回應《花邊教主》8
[閒聊] 如果黑白妹做成手機遊戲會課金嗎?33
[閒聊] 待在這座小破島上還有未來嗎?7
[閒聊] 魔王軍的完美布局6
[孤獨] 聖誕節要怎麼約到星歌?23
[閒聊] 為什麼現在這麼多太太我喜歡你7
Re: [閒聊] 不婚不生,真的快樂一生嗎?☺54
[閒聊] mygo哪位最適合交往7
[討論] LL水團終單初動17.9萬6
[閒聊] 紐約在地猶太人6
[討論] 楓之谷一鍵 施放技能改版和之前指令差蠻