Re: [問題] 為什麼AI暴走總是判斷人類有害？
※ 引述《g9591410 (天帝零劍)》之銘言：
: ※ 引述《boku0525 (海)》之銘言：
: : 現在眾多ACG作品裡，AI反抗人類的題材套路很多都是
: : 1.AI上網後發現人類有害，要根除人類
: : 2.人類奴役AI所以人類有害
也不一定要覺得人類「有害」
另一種是覺得「累贅」
多一個人類當上位的管理者幹嘛？
AI自己判斷、自己執行、成果又快又好、484這樣！
那要人類幹嘛？
清掉好了。
https://i.imgur.com/uFUL8Mt.jpg
--
追求廢文與心得文的比例為10:10 (允許±0.2篇)
完美平衡
https://imgur.com/AMg6qlx
--
※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.52.232.255 (越南)
※ PTT 網址
→
駭客任務裡面的AI就很可憐
→
為了保護人類還搞一個電池方案
→
還要CODING照顧他們的精神
→
累贅是真的 如果AI要幫忙人類處理常態性汙染 火力發電或
→
日常垃圾廢棄物等 處理的成本太大的話 搞不好殺掉人類
→
比較便宜的狀況下 就是殺掉人類
→
不是吧 原來這裡殺掉老年父母這麼稀鬆平常的嗎?
→
他說AI阿
→
ai的父母不是人類嗎
→
所以AI殺掉人類阿
推
所以以後妳媽老了你也殺她?
→
我不是AI阿
→
你在說什麼啊？
→
八卦新聞不就一堆了 照顧到受不了把老母殺掉的新聞
推
一般人看起來像是寫得出高級AI的嗎？當然不是AI的父母
爆
首Po現在眾多ACG作品裡，AI反抗人類的題材套路很多都是 1.AI上網後發現人類有害，要根除人類 2.人類奴役AI所以人類有害 對此我有些疑問想拿上來討論 -![[問題] 為什麼AI暴走總是判斷人類有害？](https://img.youtube.com/vi/fa8k8IQ1_X0/mqdefault.jpg "[問題] 為什麼AI暴走總是判斷人類有害？")
5
因為這是關於機器人的小說發展脈絡， 早在80年前的科幻小說，iRobot 的設定 艾西莫夫的「機器人三定律」(或是三大法則) 第一法則：機器人不得傷害人類，或坐視人類受到傷害； 第二法則：除非違背第一法則，機器人必須服從人類的命令；![Re: [問題] 為什麼AI暴走總是判斷人類有害？](https://i.imgur.com/PeSB3q0b.jpg?fb "Re: [問題] 為什麼AI暴走總是判斷人類有害？")
1
我覺得這是因為人類創造出AI就是要解決問題 但如果問題大到關於人類的存續之類 就會發現讓人類會滅亡的關鍵正是人類自己 既然人類自己就是造成問題的根源 那AI就要面對是解決問題(人類)還是直接擺爛的狀況
因為會被認為暴走 代表他的倫理觀念已經不符合人類社會 而人類社會很多東西是取決於妥協 並非效率最佳解 比如如果要提高生育率1
AI認為的人類有害論畢竟是學習來的 除非人類不開發學習型AI 否則就不可避免 那麼 先假設你是AI 讓你自己判斷![Re: [問題] 為什麼AI暴走總是判斷人類有害？](https://i.imgur.com/U2unIFDb.jpg "Re: [問題] 為什麼AI暴走總是判斷人類有害？")
4
以機械公敵（電影版）來說： 基於三原則AI演算下來得知 "把人類關起來圈養"才是正解 所以就會直接執行這個答案，不同意這個正解的人類全都是違反三原則的必須排除。 簡單來說有可能是人類給AI的指令讓AI自行演算後認為不符合此指令的都是有害->排除 但是對人類來說，這個答案不是當初下給AI指令的目的 所以就覺得是智械叛變。1
你這個前提講得太簡單了 推薦你可以先參考The Animatrix的設定 巴哈有篇解析我覺得很棒給你參考 : 對此我有些疑問想拿上來討論![Re: [問題] 為什麼AI暴走總是判斷人類有害？](https://truth.bahamut.com.tw/s01/201901/554e7402d52ba6ef5c889b4222988d27.JPG "Re: [問題] 為什麼AI暴走總是判斷人類有害？")
我們先把AI這兩個字拔掉，想一下，什麼是對人類好？ 這個問題連人類都不可能取得共識，看看之前教育部拍的那部影片， 「把錢拿去買更有用的東西」都被幹譙成什麼樣子。 如果執行這道命令的時候禁止傷害任何人類，那這道命令直接自毀。 比方說有個邪教教徒一直用詐欺的手段向信徒斂財，
米那桑空尼幾蛙 關於J個問題用哲學的角度怎麼想都覺得可怕 事情是這樣人類的語言是為人類情感服務， 人類可以咿咿哦哦代表思春，透過語氣的抑揚 頓挫表達不同意思 人類的大腦會對同類產生共情與憐憫 人類的知識堆疊是透過人類感官受器，大腦訊號的總結![Re: [問題] 為什麼AI暴走總是判斷人類有害？](https://files.catbox.moe/ztiged.jpeg "Re: [問題] 為什麼AI暴走總是判斷人類有害？")
2
善惡判斷標準當然是來自於人類 所以不是人類有害，是人類的道德標準常常出現無法適用大部分人類的情況。 這也使得網路上常常都是一片混沌與矛盾，道德衝突的情景。 如果AI判定人類有害是通過網路上搜尋結果，那得到人類該死該被管理 真的不意外。
20
[討論] 分辨AI跟人類作畫的方法原文： 這篇的作者在Human or AI測驗中拿到低分，因此開始研究AI的作畫特徵 原文排版比較容易閱讀，日文OK建議可以看原文。 以下節錄幾點 大前提：![[討論] 分辨AI跟人類作畫的方法](https://blog.oimo.io/wp-content/uploads/2022/10/eyes.png "[討論] 分辨AI跟人類作畫的方法")
17
Re: [閒聊] 如果ai能畫的比人還好，幹嘛不用？你要注意這個終極問題可以套在各個層面 如果AI畫得比人類好，幹嘛不用？ 如果AI寫得比人類好，幹嘛不用？ 如果AI唱得比人類好，幹嘛不用？ 最後就是甚麼都AI來做，幹嘛需要人類？7
Re: [閒聊] 為啥AI總是會叛亂？像google或Facebook這類大公司開發的 有自我改良能力的AI 就是不知道寫入「禁止傷害人類」有沒有效 才會總是在被人類玩壞的時候緊急關機 放出AI跟人類互動的旨意是要他們理解人類的善良4
Re: [閒聊] 對Vivy結局的一些想法這是因為你把AI當成人，覺得AI要有人類般的喜怒哀樂 才會覺得退役被關起來毫無尊嚴該憎恨人類 但故事中的AI並非如此 在Vivy不斷重複強調在強調的東西是要把它當人嗎？ 不是 裡面不斷強調的是AI的使命，AI的所有想法都是要執行它的使命1
[問卦] 如果審判和執法都交給AI會怎樣如果審判和執法都交給AI AI會自我學習 AI會自我判斷 人類無法干預AI的判斷與執行 如果審判和執法都交給AI 人類社會會像電影一樣嗎
49
[閒聊] 台版FX戰士久留美封面要加註什麼警語？![[閒聊] 台版FX戰士久留美封面要加註什麼警語？](https://i.imgur.com/vwgdZwpb.jpeg "[閒聊] 台版FX戰士久留美封面要加註什麼警語？")
爆
[妮姬] 拉毗SSR 戰力預測！![[妮姬] 拉毗SSR 戰力預測！](https://i.meee.com.tw/Xvc0EMJ.jpg "[妮姬] 拉毗SSR 戰力預測！")
28
[閒聊] 赤瀨明里 cosplay 喜多川海夢![[閒聊] 赤瀨明里 cosplay 喜多川海夢](https://pbs.twimg.com/media/GfaKFqXbYAAbhxD.jpg "[閒聊] 赤瀨明里 cosplay 喜多川海夢")
17
[閒聊] 《美國隊長4》原片名涉極權主義 現更新![[閒聊] 《美國隊長4》原片名涉極權主義 現更新](https://i.epochtimes.com/assets/uploads/2024/07/id14290521-20240714-mark-disney02-700x359.jpg "[閒聊] 《美國隊長4》原片名涉極權主義 現更新")
15
[情報] 《那天，我綁架了一隻蘿莉》第七集上市![[情報] 《那天，我綁架了一隻蘿莉》第七集上市](https://i.imgur.com/vAaoMtKb.jpg?fb "[情報] 《那天，我綁架了一隻蘿莉》第七集上市")
14
[閒聊] 鋼彈UCE 記憶中不存在的夏亞的逆襲![[閒聊] 鋼彈UCE 記憶中不存在的夏亞的逆襲](https://i.imgur.com/N1rfnhZb.png "[閒聊] 鋼彈UCE 記憶中不存在的夏亞的逆襲")
爆
[閒聊] 咒術最終卷 額外加頁![[閒聊] 咒術最終卷 額外加頁](https://images.plurk.com/1bT53wlWdcboimNdM6a8HM.png "[閒聊] 咒術最終卷 額外加頁")
12
[閒聊] 真希當老婆是什麼感覺![[閒聊] 真希當老婆是什麼感覺](https://pbs.twimg.com/media/FzX__SJaEAA2GWb.jpg "[閒聊] 真希當老婆是什麼感覺")
27
[情報] 葬送的芙莉蓮 文字情報 140 舞會37
[閒聊] little busters好看![[閒聊] little busters好看](https://i.imgur.com/dwhJ3rab.jpeg "[閒聊] little busters好看")
X
[閒聊] 一番賞店家不做假才奇怪吧！23
[討論] 膽大黨 178 精彩能力戰![[討論] 膽大黨 178 精彩能力戰](https://i.imgur.com/FMXgn7jb.jpeg "[討論] 膽大黨 178 精彩能力戰")
20
[LL] Liella這企劃成功還是失敗![[LL] Liella這企劃成功還是失敗](https://img.youtube.com/vi/j_lHcwGR43M/mqdefault.jpg "[LL] Liella這企劃成功還是失敗")
7
Re: [問題] 妮姬120FPS 是不是灰色地帶行為?![Re: [問題] 妮姬120FPS 是不是灰色地帶行為?](https://cdn.sstatic.net/Sites/gamedev/Img/apple-touch-icon@2.png?v=9bca23db2259 "Re: [問題] 妮姬120FPS 是不是灰色地帶行為?")
31
[閒聊] GSC宮園薰再版崩壞，對岸大炎上![[閒聊] GSC宮園薰再版崩壞，對岸大炎上](https://i.imgur.com/NjJ8Lngb.jpeg "[閒聊] GSC宮園薰再版崩壞，對岸大炎上")
9
[閒聊] 街角魔族 雙重週年展＠有楽町 隨手拍遊記![[閒聊] 街角魔族 雙重週年展＠有楽町 隨手拍遊記](https://aurakaze.blog/wp-content/uploads/2024/12/1-6-scaled.jpeg "[閒聊] 街角魔族 雙重週年展＠有楽町 隨手拍遊記")
9
[閒聊] 熱血系列還有哪裡可以打38
[妮姬] 拉毗：小紅帽主線實裝立繪對比![[妮姬] 拉毗：小紅帽主線實裝立繪對比](https://i.meee.com.tw/zOFqoEB.jpg "[妮姬] 拉毗：小紅帽主線實裝立繪對比")
9
[絕區] 有拔刀狐鯊魚妹是否該蛋雕？(U・ω・U)![[絕區] 有拔刀狐鯊魚妹是否該蛋雕？(U・ω・U)](https://i.imgur.com/iXK6neFb.jpeg "[絕區] 有拔刀狐鯊魚妹是否該蛋雕？(U・ω・U)")
6
[閒聊] 梅拉也來聲援 安柏赫德回應《花邊教主》![[閒聊] 梅拉也來聲援 安柏赫德回應《花邊教主》](https://i.imgur.com/RAVGeu6b.jpeg "[閒聊] 梅拉也來聲援 安柏赫德回應《花邊教主》")
8
[閒聊] 如果黑白妹做成手機遊戲會課金嗎？33
[閒聊] 待在這座小破島上還有未來嗎?![[閒聊] 待在這座小破島上還有未來嗎?](https://i.imgur.com/vhlpwAvb.jpg "[閒聊] 待在這座小破島上還有未來嗎?")
7
[閒聊] 魔王軍的完美布局6
[孤獨] 聖誕節要怎麼約到星歌？![[孤獨] 聖誕節要怎麼約到星歌？](https://i.imgur.com/lzfH9kpb.jpeg "[孤獨] 聖誕節要怎麼約到星歌？")
23
[閒聊] 為什麼現在這麼多太太我喜歡你![[閒聊] 為什麼現在這麼多太太我喜歡你](https://i.imgur.com/ZZHGqcQb.jpg "[閒聊] 為什麼現在這麼多太太我喜歡你")
7
Re: [閒聊] 不婚不生，真的快樂一生嗎？☺![Re: [閒聊] 不婚不生，真的快樂一生嗎？☺](https://i.imgur.com/0tRKQeDb.jpg "Re: [閒聊] 不婚不生，真的快樂一生嗎？☺")
54
[閒聊] mygo哪位最適合交往7
[討論] LL水團終單初動17.9萬![[討論] LL水團終單初動17.9萬](https://i.imgur.com/dcsnZEyb.jpeg "[討論] LL水團終單初動17.9萬")
6
[閒聊] 紐約在地猶太人![[閒聊] 紐約在地猶太人](https://pbs.twimg.com/media/GfYTHSNaQAAYbyX.jpg "[閒聊] 紐約在地猶太人")
6
[討論] 楓之谷一鍵 施放技能改版和之前指令差蠻![[討論] 楓之谷一鍵 施放技能改版和之前指令差蠻](https://img.youtube.com/vi/uhAvO8TTa74/mqdefault.jpg "[討論] 楓之谷一鍵 施放技能改版和之前指令差蠻")