Re: [問題] 為什麼AI暴走總是判斷人類有害？
米那桑空尼幾蛙 關於J個問題用哲學的角度怎麼想都覺得可怕
事情是這樣人類的語言是為人類情感服務， 人類可以咿咿哦哦代表思春，透過語氣的抑揚頓挫表達不同意思
人類的大腦會對同類產生共情與憐憫
人類的知識堆疊是透過人類感官受器，大腦訊號的總結
Ai 如果沒有痛神經他懂得什麼是痛嗎？沒有鬧葉皮質，會憐憫人類嗎？
所以AI很可能會覺得人口太多，人類已經多出安全上限太多，過多的人口對生態是未爆彈
為了生態永續發展，消滅多餘的人口，把下流老人，病床上的浪費醫療資源的病患屠殺
大概就是這樣
樓下 傻那 我就是鋼彈怎麼看？
https://files.catbox.moe/ztiged.jpeg
https://files.catbox.moe/ka2ayl.jpeg
https://files.catbox.moe/vfueja.jpeg
--
※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.12.26.51 (臺灣)
※ 文章網址:
https://www.ptt.cc/C_Chat/E.4zKH3xSs7U9g
→
人類也覺得其他人類有害啊，有什麼奇怪的
雀食
→
啊j葛 這種行為不就是正常經營模擬遊戲最佳化生產運行時
→
會作der4嗎
→
問題是你為啥把這個權力交給aiR
200人口上限，要d掉村民了嗎？
→
因為人類連自己人也騙
簡單點，說話的方式簡單點！
→
我中二時嘗試解決世上所有不公不義的問題 推導到的結論
→
永遠都是不要有人類 大概寫這些AI的人也灌入了一樣的邏
→
輯吧
該被射牆上的鄉民怨念體咒靈？
※ 編輯: A98454 (101.12.26.51 臺灣), 09/01/2024 20:41:26※ 編輯: A98454 (101.12.26.51 臺灣), 09/01/2024 20:46:08
噓
AI不騙AI我會信,人類不騙人類狗屎變黃金
推
確實 如果把人類的腦完全複製到電腦上 思考會有什麼變化
爆
首Po現在眾多ACG作品裡，AI反抗人類的題材套路很多都是 1.AI上網後發現人類有害，要根除人類 2.人類奴役AI所以人類有害 對此我有些疑問想拿上來討論 -![[問題] 為什麼AI暴走總是判斷人類有害？](https://img.youtube.com/vi/fa8k8IQ1_X0/mqdefault.jpg "[問題] 為什麼AI暴走總是判斷人類有害？")
5
因為這是關於機器人的小說發展脈絡， 早在80年前的科幻小說，iRobot 的設定 艾西莫夫的「機器人三定律」(或是三大法則) 第一法則：機器人不得傷害人類，或坐視人類受到傷害； 第二法則：除非違背第一法則，機器人必須服從人類的命令；![Re: [問題] 為什麼AI暴走總是判斷人類有害？](https://i.imgur.com/PeSB3q0b.jpg?fb "Re: [問題] 為什麼AI暴走總是判斷人類有害？")
1
我覺得這是因為人類創造出AI就是要解決問題 但如果問題大到關於人類的存續之類 就會發現讓人類會滅亡的關鍵正是人類自己 既然人類自己就是造成問題的根源 那AI就要面對是解決問題(人類)還是直接擺爛的狀況
因為會被認為暴走 代表他的倫理觀念已經不符合人類社會 而人類社會很多東西是取決於妥協 並非效率最佳解 比如如果要提高生育率1
AI認為的人類有害論畢竟是學習來的 除非人類不開發學習型AI 否則就不可避免 那麼 先假設你是AI 讓你自己判斷![Re: [問題] 為什麼AI暴走總是判斷人類有害？](https://i.imgur.com/U2unIFDb.jpg "Re: [問題] 為什麼AI暴走總是判斷人類有害？")
2
也不一定要覺得人類「有害」 另一種是覺得「累贅」 多一個人類當上位的管理者幹嘛？ AI自己判斷、自己執行、成果又快又好、484這樣！ 那要人類幹嘛？![Re: [問題] 為什麼AI暴走總是判斷人類有害？](https://i.imgur.com/uFUL8Mtb.jpg "Re: [問題] 為什麼AI暴走總是判斷人類有害？")
4
以機械公敵（電影版）來說： 基於三原則AI演算下來得知 "把人類關起來圈養"才是正解 所以就會直接執行這個答案，不同意這個正解的人類全都是違反三原則的必須排除。 簡單來說有可能是人類給AI的指令讓AI自行演算後認為不符合此指令的都是有害->排除 但是對人類來說，這個答案不是當初下給AI指令的目的 所以就覺得是智械叛變。1
你這個前提講得太簡單了 推薦你可以先參考The Animatrix的設定 巴哈有篇解析我覺得很棒給你參考 : 對此我有些疑問想拿上來討論![Re: [問題] 為什麼AI暴走總是判斷人類有害？](https://truth.bahamut.com.tw/s01/201901/554e7402d52ba6ef5c889b4222988d27.JPG "Re: [問題] 為什麼AI暴走總是判斷人類有害？")
我們先把AI這兩個字拔掉，想一下，什麼是對人類好？ 這個問題連人類都不可能取得共識，看看之前教育部拍的那部影片， 「把錢拿去買更有用的東西」都被幹譙成什麼樣子。 如果執行這道命令的時候禁止傷害任何人類，那這道命令直接自毀。 比方說有個邪教教徒一直用詐欺的手段向信徒斂財，2
善惡判斷標準當然是來自於人類 所以不是人類有害，是人類的道德標準常常出現無法適用大部分人類的情況。 這也使得網路上常常都是一片混沌與矛盾，道德衝突的情景。 如果AI判定人類有害是通過網路上搜尋結果，那得到人類該死該被管理 真的不意外。
7
[閒聊] ai的感情是甚麼樣的東西?就 在看vivy 好看，應該是本季霸權了，不過我還沒看bd銷售量就是了 然後，就突然想到 ai的感情是指甚麼東西啊![[閒聊] ai的感情是甚麼樣的東西?](https://img.youtube.com/vi/-l7jmxpqLmY/mqdefault.jpg "[閒聊] ai的感情是甚麼樣的東西?")
5
Re: [討論] 好像這一天會來：工科超越醫科其實人類的思維判斷，都是ㄧ堆資訊和訊號的組合和顯現。全部都是可「訊號化」的波形。 就連最玄的音樂或文字創作靈感也是，大概就是大腦把記憶庫裡的音樂或文字的波形，打斷 、擷取再做一大堆convolution或加減乘除各種運算，所產生的東西。你聽起來會有共鳴， 可能是你的receiver跟這段訊號的頻率或harmonic 真的有共振或某種物理上的關係。 所以只要有足夠的訓練和足夠的ram和rom，理論上AI是可以取代人類做任何工作的。(生育4
[問卦] AI是一種人類集體意識產生出來的智慧生物如題 AI基本上 就是人類到目前為止科技發展出來的集體智慧 由人類的集體意識及技術產生出來的智慧產物 他的智慧程度已經超越個人 以及各智能團體 整體上來說 沒有人類 AI就沒有辦法存在下去![[問卦] AI是一種人類集體意識產生出來的智慧生物](https://i.imgur.com/xTRsXy6b.gif "[問卦] AI是一種人類集體意識產生出來的智慧生物")
2
Re: [閒聊] 當AI真的取代所有工作的時候人類要幹嘛群星裡面有四種機械文明 背景都是有機生物發展出來的 一種是機械女僕化 變成人類被放在保護區 什麼事情都不用作而廢人化 也沒有做事的能力跟決策 文明停滯只懂得享樂而已 至於發展文明科技 跟外星文明外交 都是機械來做 人類的功用 就只是讓ai認為自己有存在的意義而已 另外一種就是人類直接跟機器融合同化 成為新的人類
Re: [問卦] AI IC design 時發現人類把他們設計太笨阿肥外商碼農阿肥啦！ 最近又重新閱讀了一些機器學習的經典論文加上聽了Hinton的演講後有一種比較深的體悟 就是未來的AI肯定是從本質上超越人類肉體大腦的，原因就在於不管是在訓練(學習）或 是在推論階段，巨大的併行神經網路本質上就是等效於把十幾個人的大腦透過神經竄接綑 綁在一![Re: [問卦] AI IC design 時發現人類把他們設計太笨](https://img.youtube.com/vi/FHi8m1azVmE/mqdefault.jpg "Re: [問卦] AI IC design 時發現人類把他們設計太笨")
1
Re: [黑特] 經濟學人: AI幾乎沒有經濟影響因為您弄錯發展AI的目的:發展AI不是為了經濟而是用來取代人類 地球人類數量80億已經過多沒有必要再去生產， 現在還存在的人類方向就是專心發展AI來取代生育人類 經濟怎樣的根本不是重點能有效減少地球人口才是正確的方向 ※ 引述《abc12812 ()》之銘言：
爆
[閒聊] 日本高中生主宰棒球界![[閒聊] 日本高中生主宰棒球界](https://i.imgur.com/oOZUR62b.jpeg "[閒聊] 日本高中生主宰棒球界")
78
[政確] 闇龍紀元 紗障守護者 加入胸部移除手術傷疤選項![[政確] 闇龍紀元 紗障守護者 加入胸部移除手術傷疤選項](https://i.imgur.com/HYmVn6wb.png "[政確] 闇龍紀元 紗障守護者 加入胸部移除手術傷疤選項")
51
[閒聊] 索尼將星鳴完全抹消，這真的沒問題？45
[閒聊] 現在是不是側面證明原神沒抄薩爾達80
[閒聊] 美國人一天100度電喔= =![[閒聊] 美國人一天100度電喔= =](https://i.imgur.com/poMVk8qb.jpeg "[閒聊] 美國人一天100度電喔= =")
32
[閒聊] PS5版幻獸帕魯從TGS參展名單中被移除![[閒聊] PS5版幻獸帕魯從TGS參展名單中被移除](https://i.imgur.com/TlmG3rxb.png "[閒聊] PS5版幻獸帕魯從TGS參展名單中被移除")
25
[Vtub] HoloGTA背夫偷情的狼媽 被綠沁音當場抓姦![[Vtub] HoloGTA背夫偷情的狼媽 被綠沁音當場抓姦](https://img.youtube.com/vi/bBX3O8C-OGo/mqdefault.jpg "[Vtub] HoloGTA背夫偷情的狼媽 被綠沁音當場抓姦")
22
Re: [問題] 涼宮到底哪裡G8？![Re: [問題] 涼宮到底哪裡G8？](https://i.imgur.com/5joPqyqb.jpeg "Re: [問題] 涼宮到底哪裡G8？")
22
Re: [人禍]參觀鐵達尼號的潛艇失蹤![Re: [人禍]參觀鐵達尼號的潛艇失蹤](https://i.imgur.com/nRzqhlIb.png "Re: [人禍]參觀鐵達尼號的潛艇失蹤")
爆
[閒聊] 地球在奧陶紀可能曾有過行星環![[閒聊] 地球在奧陶紀可能曾有過行星環](https://pbs.twimg.com/media/GXr3MhTaAAAhumu.jpg "[閒聊] 地球在奧陶紀可能曾有過行星環")
19
[開吉] 任天堂會告棕色塵埃2嗎？![[開吉] 任天堂會告棕色塵埃2嗎？](https://i.imgur.com/3wHL2Djb.gif "[開吉] 任天堂會告棕色塵埃2嗎？")
19
Re: [政確] 闇龍紀元 紗障守護者 沒巨乳選項![Re: [政確] 闇龍紀元 紗障守護者 沒巨乳選項](https://i.imgur.com/ctJZHGCb.png "Re: [政確] 闇龍紀元 紗障守護者 沒巨乳選項")
24
[閒聊] 為啥索隆只會把和道一文字放嘴裡16
[閒聊] 勇者，你的爸爸是魔王16
[問題] 恩恩爸去哪了?![[問題] 恩恩爸去哪了?](https://i.imgur.com/AqSaoYcb.png "[問題] 恩恩爸去哪了?")
16
[閒聊] 辣個女人回來了!!![[閒聊] 辣個女人回來了!!](https://p2.bahamut.com.tw/HOME/creationCover/95/0006005295_B.JPG?v=1726626547 "[閒聊] 辣個女人回來了!!")
15
[情報] 機動警察新作 2026開始![[情報] 機動警察新作 2026開始](https://i.imgur.com/DZ1KpfAb.png "[情報] 機動警察新作 2026開始")
28
[閒聊] 你齁TCG狗屎配率![[閒聊] 你齁TCG狗屎配率](https://i.imgur.com/wx4mf1Bb.jpeg "[閒聊] 你齁TCG狗屎配率")
15
[閒聊] 五條悟 會怎麼處理近海王者33
[情報] 上古卷軸主創稱上古卷軸6不太可能達成玩![[情報] 上古卷軸主創稱上古卷軸6不太可能達成玩](https://img.4gamers.com.tw/news-image/df8f3bdc-70a8-4b97-89a0-e34576c93400.jpg "[情報] 上古卷軸主創稱上古卷軸6不太可能達成玩")
14
[問題] 一首自創語言的遊戲BGM![[問題] 一首自創語言的遊戲BGM](https://img.youtube.com/vi/XJyzdbTor9k/mqdefault.jpg "[問題] 一首自創語言的遊戲BGM")
4
Re: [實況] えなこ 介紹cos涼宮春日時的吉他![Re: [實況] えなこ 介紹cos涼宮春日時的吉他](https://i.imgur.com/EmeIqvAb.jpeg "Re: [實況] えなこ 介紹cos涼宮春日時的吉他")
27
[閒聊] PS5 目前銷量是 Xbox X/S 的 3 倍![[閒聊] PS5 目前銷量是 Xbox X/S 的 3 倍](https://i.imgur.com/DaYhnxGb.jpg "[閒聊] PS5 目前銷量是 Xbox X/S 的 3 倍")
11
[活俠] 第七輪要來服毒了11
[情報] 機動警察 EZY 2026年 J.C.STAFF11
Re: [蔚藍] hews 狗面捏 U卡![Re: [蔚藍] hews 狗面捏 U卡](https://i.imgur.com/ur5KKCZb.jpeg "Re: [蔚藍] hews 狗面捏 U卡")
26
[情報] PS30週年紀念，90年代風格外觀主機![[情報] PS30週年紀念，90年代風格外觀主機](https://i.imgur.com/IjygZbwb.jpeg "[情報] PS30週年紀念，90年代風格外觀主機")
10
Re: [乳摸] NS2外觀模型圖，12G的RAM、256G的儲存![Re: [乳摸] NS2外觀模型圖，12G的RAM、256G的儲存](https://img.youtube.com/vi/UArxpvOZV5M/mqdefault.jpg "Re: [乳摸] NS2外觀模型圖，12G的RAM、256G的儲存")
9
[法務] 寶可夢公司告贏中國山寨手遊侵權![[法務] 寶可夢公司告贏中國山寨手遊侵權](https://i.imgur.com/P40wegwb.png "[法務] 寶可夢公司告贏中國山寨手遊侵權")
10
[奶子] 只遮三點的莉央![[奶子] 只遮三點的莉央](https://i.meee.com.tw/ZI41VQ7.jpg "[奶子] 只遮三點的莉央")
![[活俠] 第七輪要來服毒了](https://lh7-us.googleusercontent.com/docs/AHkbwyL96HqYMgTojvMb4T97chhFgusYC-nsH4VdkmKJNcOAIdZCi__23Z8qoj1fuoxqHA130iA1ICBixEtnK0_Sijbg_zAwgfur0FJargIPucH4NU_ToRg2=w1200-h630-p "[活俠] 第七輪要來服毒了")