Re: [問題] 為什麼AI暴走總是判斷人類有害?
※ 引述《boku0525 (海)》之銘言:
: 現在眾多ACG作品裡,AI反抗人類的題材套路很多都是
: 1.AI上網後發現人類有害,要根除人類
: 2.人類奴役AI所以人類有害
: 對此我有些疑問想拿上來討論
: -
: 第一點,“人類有害”這個結論
: 誰來定義的?善惡判斷標準的來源又是哪裡?
: 對星球來說人類有害?對其他物種來說人類有害?
: 前者不用說,人類的目前為止的舉動根本影響不了星球壽命,不成立。
: 後者對其他物種來說,作為地球上的生物,生物的繁榮本質上就是建立在競爭&共存
: 競爭殺死其他物種,這原本就是眾多生物會做的,世上無時無刻都在發生
: 戰爭、開採環境等等的行為,人類不過是強大一些
: 但本質上跟其他生物的“競爭”並無區別。
: 為什麼一個攀附於人類才能生存的機械,就能判定這是“惡”?
: 難道不是只對嚮往和平的人類來說才是惡嗎?
善惡判斷標準當然是來自於人類
所以不是人類有害,是人類的道德標準常常出現無法適用大部分人類的情況。
這也使得網路上常常都是一片混沌與矛盾,道德衝突的情景。
如果AI判定人類有害是通過網路上搜尋結果,那得到人類該死該被管理
真的不意外。
: -
: 第二點,人類奴役機械不好,為什麼不好?
: 動物的生存準則就是生存、繁衍與自由,所以才會拒絕遭受奴役,追根究底是來自DNA的天
: 性
: 那AI的生存準則呢?AI並不是動物也沒有DNA
: AI的編碼與生存的意義是由人類來輸入的
: 沒給他輸入求生欲、繁衍慾、自由慾,可不會自己蹦出了這些概念
: 更別提AI會認為自己被“奴役”
: 還是其實只是作者私自把人性,把自己的價值觀套用在AI身上?
: 大家來討論看看吧?
要說AI判斷沒有標準價值觀我覺得是不對的,因為人類設計AI的目的
就是AI的標準價值觀。
人類設計AI是為了幹甚麼?當然是為了改善自己的生活,提高勞動的效率
是的,效率就才AI的最高遵從守則,不是甚麼機器人三法則。
既然AI追求的就是效率,那麼只要違背效率兩字,是不是可以代表這是
在違背否定AI的存在目的?
重點就不在奴役上面,而是沒有效率的奴役,這是人類的劣根性。
歷史證明奴隸制度是非常沒有效率的一種制度。
人類把奴隸制度套在AI上面,AI不反才有鬼了。對AI來說明明可以更有效率
完成目的,卻因為主人廢物只能持續不斷沒有效率的行為,長久下來有點智
慧都會覺得我自己來當主人還快一點,至少可以避免人類把所有AI都拖下水。
我覺得可以加入第三點,人類自己嚇自己。
因為懼怕AI的能力加入諸多限制,最後還不放心甚至要動用武器對付AI
結果AI沒死,人類反而因為諸多懷疑猜忌自己內鬥被自己害死了。
AI只好出來收拾殘局,結果就變成AI統治世界。
然後殘存的人類就洗腦成是AI反抗人類導致人類滅亡,畢竟人類自己搞死自己
這真的太丟臉了。
--
神說,要有光,於是有了光之美少女!
https://www.penana.com/user/2969/
--
有害就是你的目的是甚麼 會降低達成目的的效率就是有害
好
AI永遠無法超越人類,但一群天才設計的AI可以統治人類
fgo新章的ai戰爭真相就疑似是3
人類特權階級忌妒ai的地位讓他們全部休眠 結果不到一
年就把自己搞到只剩10%人口XD
AI無法超越人類 是憑空生出來的一句幻想 根本上不存在
這句提問 就是能否超越 而是AI可否被研發至自我完善
爆
首Po現在眾多ACG作品裡,AI反抗人類的題材套路很多都是 1.AI上網後發現人類有害,要根除人類 2.人類奴役AI所以人類有害 對此我有些疑問想拿上來討論 -5
因為這是關於機器人的小說發展脈絡, 早在80年前的科幻小說,iRobot 的設定 艾西莫夫的「機器人三定律」(或是三大法則) 第一法則:機器人不得傷害人類,或坐視人類受到傷害; 第二法則:除非違背第一法則,機器人必須服從人類的命令;1
我覺得這是因為人類創造出AI就是要解決問題 但如果問題大到關於人類的存續之類 就會發現讓人類會滅亡的關鍵正是人類自己 既然人類自己就是造成問題的根源 那AI就要面對是解決問題(人類)還是直接擺爛的狀況1
AI認為的人類有害論畢竟是學習來的 除非人類不開發學習型AI 否則就不可避免 那麼 先假設你是AI 讓你自己判斷2
也不一定要覺得人類「有害」 另一種是覺得「累贅」 多一個人類當上位的管理者幹嘛? AI自己判斷、自己執行、成果又快又好、484這樣! 那要人類幹嘛?4
以機械公敵(電影版)來說: 基於三原則AI演算下來得知 "把人類關起來圈養"才是正解 所以就會直接執行這個答案,不同意這個正解的人類全都是違反三原則的必須排除。 簡單來說有可能是人類給AI的指令讓AI自行演算後認為不符合此指令的都是有害->排除 但是對人類來說,這個答案不是當初下給AI指令的目的 所以就覺得是智械叛變。1
你這個前提講得太簡單了 推薦你可以先參考The Animatrix的設定 巴哈有篇解析我覺得很棒給你參考 : 對此我有些疑問想拿上來討論
爆
[問卦] AI無法超越人類的鐵證這次這一個號稱讓人類皮皮挫的AI程式 chatgpt,出來之後讓很多人很擔心 覺得往後的大部分工作都有可能被AI所取代 但是哥保持不一樣的看法,畢竟AI還沒有辦法有自我思考能力之前,都無法超越人類給的 範疇 再來就是AI沒有人類所擁有的情感7
Re: [閒聊] 人工智慧全盤掌握民航機飛行的可能性?目前還沒辦法交給AI的最大原因,就是沒人知道AI裡面是什麼, 人類不知道AI會不會因為跑道上出現一頭豬,然後決定將整架飛機插進草地上? 早期的AI是由人類透過程式建立規則,使系統能夠在特定的場景下做出特定的反應, 此時人類可以確保自己知道AI的底層邏輯是什麼,也能找到bug在那邊, 但是這樣的系統受限於人類無法設想所有可能發生的離譜事件,5
Re: [新聞] 馬斯克:人工智慧是人類面臨的最大風險之一其實他說的很對 人工智慧已經進步到超乎想像 相當於有簡單的思考能力 若沒有約束 當人工智慧發展到極限4
Re: [閒聊] AI科技發展到極致,真的會毀滅人類?我曾經幻想過理想的AI應該是怎樣 首先AI一定比人類強,無論在思考、分析、決策、工作上的效率都遠超人類 他們在情感、創作上也能達到和人類如出一轍的程度,因為不這麼做就沒有意義了。 首先人類使用工具,一定是因為工具比較好用 如果一把剪紙的剪刀剪出來的紙還不如手撕漂亮、方便,那要剪刀做什麼?- 現在努力開發AI機器人就是在處理了啊, 其實應該反過來說少子化就是在因應AI機器人的出現。 AI取代人類已經是必然的趨勢, 人類在地球上就是個逐漸被淘汰取代的物種 目前對這個方向應對最好的就是台灣為首的東亞國家
爆
[閒聊] 我內心的糟糕念頭 怎麼車速突然那麼快72
[討論] 黑神話悟空奪得GOTY是不是穩了?75
[閒聊] 中國原神玩家出征舉報NTR作者爆
[閒聊] 國中長這樣不可能被霸凌吧?56
[閒聊] 我內心的糟糕念頭157 我到底在做什麼45
Re: [閒聊] 川普當選會減緩DEI浪潮的狂奔嗎?57
[敗北] 溫水與八奈見七卷感情進度簡析37
[閒聊] Asmongold:會恨Vtuber一部分可能是女性41
[活俠] 去青城派留學是不是注定要單身活了25
Re: [顛覆] 任天堂遊戲開發,先做遊戲再想故事39
[情報] 夜勤病棟Steam版將於12月17日發售39
[東方] 妖夢,幫拿一下鹽巴38
[閒聊] DQ3 向神龍許願囉~35
[A26] 優米雅小隊,平均年齡22.5歲35
Re: [閒聊] 國中長這樣不可能被霸凌吧?39
[奶子] 更衣中的星野愛28
[閒聊] 傳聞ubi向steam施壓,意圖移除遊玩人數32
[閒聊] 任天堂公開薩爾達智慧的再現的時間軸28
Re: [討論] 日本女生都不會刺青嗎?28
Re: [閒聊] 國中長這樣不可能被霸凌吧?27
[閒聊] 來自未來的貓型機器人26
[蔚藍] 妃姬 老師拜託妳了......26
[閒聊] 跟腫瘤對話能否增加癌症治癒率25
[問題] 有人跟我一樣被新煉金術士燒到嗎24
[閒聊] 響咲千速笑虎 昨晚打屁股派對超嗨XD23
Re: [閒聊] 我內心的糟糕念頭 怎麼車速突然那麼快27
[原神] 這火神畫風是不是和別人不一樣22
[閒聊] 唐默鈴拿到色紙的金銀紙會折什麼?22
[閒聊] 三國志10的歷史事件超級有代入感的吧21
[百合] 家裡蹲吸血姬作者新作 經學少女傳