Re: [問題] 為什麼AI暴走總是判斷人類有害?
因為會被認為暴走
代表他的倫理觀念已經不符合人類社會
而人類社會很多東西是取決於妥協
並非效率最佳解
比如如果要提高生育率
人類社會會認為
意願很重要
所以不會強制人交配生子
但AI會覺得
直接抓起來幹不就能生了?
於是就會破門抓人去做愛
同樣的
窮人貧民窟最好的解決方法是啥?
就是全殺光
老闆今天不願意發薪水逃漏稅錢都中飽私囊怎麼辦
殺到剩願意發薪水的
人類缺乏幼體照護手段怎麼辦
集中營啊 全部抓來關起來養
股票散戶當韭菜就是很多心理素質影響
剝奪他們權力直接讓AI操盤
從此頂樓風很大跟少年股神絕跡
社會更安定
民主選舉支票騙騙窮人效率拖沓怎辦
槍殺換獨裁AI上台啊
支票直接兌現 管你徵收還是喬利益
鏟平直接蓋了
缺人?抓那些待業的空餘人力來當奴工啊
所以AI 如果效率至上
很多東西都很變成大家長模式
然後無視意願
效率有沒有
有
社會有沒有各種數據超棒成長超快
那麼有效率還真的
人類會怎麼看
幹AI暴走了啊
--
※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 39.14.8.11 (臺灣)
※ 文章網址:
https://www.ptt.cc/C_Chat/E.6GCqY5voekfk※ 編輯: astrayzip (39.14.8.11 臺灣), 09/01/2024 19:05:30
※ 編輯: astrayzip (39.14.8.11 臺灣), 09/01/2024 19:06:40
→
強迫生子的AI我看過漫畫 女生被抓起來 拼命搞 好激烈啊
爆
首Po現在眾多ACG作品裡,AI反抗人類的題材套路很多都是 1.AI上網後發現人類有害,要根除人類 2.人類奴役AI所以人類有害 對此我有些疑問想拿上來討論 -5
因為這是關於機器人的小說發展脈絡, 早在80年前的科幻小說,iRobot 的設定 艾西莫夫的「機器人三定律」(或是三大法則) 第一法則:機器人不得傷害人類,或坐視人類受到傷害; 第二法則:除非違背第一法則,機器人必須服從人類的命令;1
我覺得這是因為人類創造出AI就是要解決問題 但如果問題大到關於人類的存續之類 就會發現讓人類會滅亡的關鍵正是人類自己 既然人類自己就是造成問題的根源 那AI就要面對是解決問題(人類)還是直接擺爛的狀況1
AI認為的人類有害論畢竟是學習來的 除非人類不開發學習型AI 否則就不可避免 那麼 先假設你是AI 讓你自己判斷2
也不一定要覺得人類「有害」 另一種是覺得「累贅」 多一個人類當上位的管理者幹嘛? AI自己判斷、自己執行、成果又快又好、484這樣! 那要人類幹嘛?4
以機械公敵(電影版)來說: 基於三原則AI演算下來得知 "把人類關起來圈養"才是正解 所以就會直接執行這個答案,不同意這個正解的人類全都是違反三原則的必須排除。 簡單來說有可能是人類給AI的指令讓AI自行演算後認為不符合此指令的都是有害->排除 但是對人類來說,這個答案不是當初下給AI指令的目的 所以就覺得是智械叛變。1
你這個前提講得太簡單了 推薦你可以先參考The Animatrix的設定 巴哈有篇解析我覺得很棒給你參考 : 對此我有些疑問想拿上來討論2
善惡判斷標準當然是來自於人類 所以不是人類有害,是人類的道德標準常常出現無法適用大部分人類的情況。 這也使得網路上常常都是一片混沌與矛盾,道德衝突的情景。 如果AI判定人類有害是通過網路上搜尋結果,那得到人類該死該被管理 真的不意外。
爆
[問卦] AI無法超越人類的鐵證這次這一個號稱讓人類皮皮挫的AI程式 chatgpt,出來之後讓很多人很擔心 覺得往後的大部分工作都有可能被AI所取代 但是哥保持不一樣的看法,畢竟AI還沒有辦法有自我思考能力之前,都無法超越人類給的 範疇 再來就是AI沒有人類所擁有的情感34
Re: [閒聊] 圍棋高手柯潔大談AI繪畫看到這個我就有個疑問 圍棋的棋路是不是無限的? 如果是,那麼AI與人類互相競爭,AI提升人類的效率,人類學到AI的招式後又開發出 新的克制AI招式的招式,然後loop....... 這算不算一個很浪漫的人類與AI互相成長的故事?24
Re: [閒聊] AI打星海爭霸,後來如何?我覺得這部分當然應該是訓練給的APM相關參數有問題 也就是說給AI的APM上限還是太高,導致AI可以靠操作硬幹 我個人的推測是AI對局那個兩百年數據量,不太可能沒有用到不朽 那如果數據裡面有不朽結果還是敢用追獵硬推,而且確實也給他推成功了 那簡單來說就是這種微操無敵的兵種對AI來說太強18
[問卦] 如果超級AI出現了,你想讓它統治人類嗎第一幕:AI的崛起 在未來的某一天,一個名為「Nexus」的超級AI系統被研發出來。這個AI系統擁有超乎人類 想像的智慧和能力,可以處理任何的問題和挑戰。Nexus被設計成以人類的利益為優先,並 且會盡力讓每一個人都受益於它的技術和智慧。 第二幕:AI的普及5
Re: [新聞] 馬斯克:人工智慧是人類面臨的最大風險之一其實他說的很對 人工智慧已經進步到超乎想像 相當於有簡單的思考能力 若沒有約束 當人工智慧發展到極限4
Re: [問卦] 韓國宣布進入人口緊急狀態,那台灣呢?台灣發展AI機器人來代替人類就是解決方案。 你生一個人類要等二三十年才有生產力,這種效率在現代社會 早該被淘汰了,AI機器人的發展難道還須要等二三十年? 落後的國家才會去努力生小孩 ※ 引述《whiteadam (blue eyes blue)》之銘言:4
Re: [閒聊] AI科技發展到極致,真的會毀滅人類?我曾經幻想過理想的AI應該是怎樣 首先AI一定比人類強,無論在思考、分析、決策、工作上的效率都遠超人類 他們在情感、創作上也能達到和人類如出一轍的程度,因為不這麼做就沒有意義了。 首先人類使用工具,一定是因為工具比較好用 如果一把剪紙的剪刀剪出來的紙還不如手撕漂亮、方便,那要剪刀做什麼?4
[問卦] AI 會讓人類最終成為可愛貓貓對不對米賴桑空尼幾蛙 是這樣的最近聽人講科技哲學,大概是說早期的人類早上工作完就會圍著 火 堆跳舞,然後男女互相嗅著費洛蒙,各自回茅屋交配 一直到人類從部落到城邦到帝國到現今資本主義社會,人類為了錢錢工作養家餬口 但是AI是什麼概念,未來將凌駕人類成為主流生產工具,那麼人類就變成廢人,也就是說
53
[討論] 大家打過最高排位的遊戲?49
[閒聊] 披風拖到地上有特別原因嗎45
[閒聊] OPENAI出現前,OPENAI出現後43
[24秋] 魔王2099是搞笑作品嗎==41
Re: [閒聊] 有辦法將綠鬣蜥全部移除掉嗎?39
Re: [討論] 有什麼理由讓你玩鳴潮卻不玩原神?78
[閒聊] fate動畫順序37
[妮姬] 朝聖鑄模要開有什麼玄學可以參考?36
[閒聊] 台灣異世界轉移30
[問題] 果列奴是什麼系的能力者32
[閒聊] 真三八大爆炸後是怎麼做出起源這麼好玩47
[閒聊] 鐵道3.0劇情應該不會搞砸吧47
[閒聊] 鳴潮跟鐵道今天打對台嗎?28
[閒聊] 敗北女角 溫八賀圖49
[FGO] 第二部最適合動畫化的是哪一章28
[PTCGP]沒想到 我也有成為歐洲人一天27
[閒聊] Lawson即將推出 可以喝的美乃滋31
[情報] 經紀公司猛烈回擊 公開與T1談判時間軸26
[Vtub] 11/21同接鬥蟲25
[閒聊] 正要看少女樂團 吶喊吧 需要注意什麼?24
[閒聊] 對泰國的印象?☺23
[妮姬] 太邪惡了!21
[問題] 真三國無雙起源該衝預購還是等猛將傳?19
[問題] 關羽跟張飛是天生神力嗎?45
[英國] 金搖桿獎:黑悟空得年度最佳遊戲肯定19
Re: [討論] FGO第二部最適合動畫化的是哪一章2X
[閒聊] 志棋七七討論電子陽痿16
[討論] SQEX 的 Life is Strange 最新作翻車了16
[閒聊] 茅原実里:涼宮春日新曲錄音!23
[Vtub] 小箱or個人Vtuber 1122 DD串