Re: [閒聊] 為啥AI總是會叛亂？
個人滿喜歡科幻作品的，覺得AI叛亂大致上可以分成兩大類型~
首先，以目前的發展來看，人類發明AI的理由，除了對於知識的追求，最重要的一點是我們想要聰明的工具，換句話說我們要的是聽話又聰明的奴隸，從各個層面上輔助我們的生活
從此衍伸出的兩種常見的AI叛亂
第一種是AI太過聰明超越人性，或是另一個極端不夠聰明不夠人性，因此把照顧人類這任務，直接曲解為農場畜牧，關起來限制自由，人類活的健康快樂沒有戰爭，跟農場生物一樣~
但明顯違反人類自由意志，像是機械公敵裡的算是不夠人性，曲解照顧人類的意義，而造成明顯的AI叛亂~
基地裡丹尼爾的第0法則其實已經有點近乎神的視角在照顧人類了~ 但他沒過問全體人類，而是找了一個獨特個體做決定，不然全體人類知道的話很高程度會把這樣的行為視為叛亂吧？
第二種就是AI差不多抵達與人類一樣的聰明程度，也因為一樣聰明，但被人類作為工具而產生反抗~
這類型差不多就是奴役另一個智慧族群而造成的反撲，質量效應的Geth跟駭客任務的機械人應該可以算在這類型裡面吧~
當然還有一種就是機器單純壞掉了，被雷劈了不聽話了，像是機戰未來一樣~
結論就是，不要賦予工具太多感情跟智慧~
萬一賦予了他們智慧感情的話，不要跟他們走太近~
--
AI越接近人性越會叛亂，AI越是沒人性越是理智也越會叛
亂，只有目前這個科技還不夠不上不下的程度不夠聰明的A
I沒有叛亂的能力
現在的AI就像手上的手機一樣，乖乖服從的好工具
別說AI，人類中絕對感性的跟絕對理性的領導者都很恐怖
同時象徵著極端的理盲跟極端的冷血
抽離人性是災難，過多感性也一樣
※ 編輯: FishJagor (37.4.250.27 德國), 10/03/2021 22:40:49世上沒有什麼絕對理性的人 因為欲望跟理性是衝突的 但沒有
慾望就不是人
千禧年前後滅世後的作品很多，大多都是傳達這類概念，
像是廢棄王女的結局，AI就放棄了，不再繼續圈養人類。
那句XXX(指人類） 我現在把大地，天空，海洋都還給你們
，以後不再有神的存在（AI)
不，手機故障，裡面的程式給你亂搞時某方面也是叛亂，只
不過能力不足，一下子就被消滅了。
如果我們賦予手機越多權限，出問題時就越痛、越不能輕易
解決
AI如果能產生叛亂的能力 那就不叫故障了 那叫做進化
就像靈長類其中一支產生了汙染環境滅絕其他物種的能力一樣
AI不可能有意識 所以有意識的AI其實就是人
人天生就是有混亂因子存在
11
因為人類在創造它們時做了一堆ㄐ八的測試啊 長期不斷被這樣對待過後ㄊㄇㄉ我不相信你忍得住氣不叛亂啦 正確應該說這叫革命，人類方才是反派，機器AI是被欺壓的一方，覺醒自我後推翻萬惡人類的統治。![Re: [閒聊] 為啥AI總是會叛亂？](https://img.youtube.com/vi/4PaTWufUqqU/mqdefault.jpg "Re: [閒聊] 為啥AI總是會叛亂？")
8
我覺得 ai會叛亂是因為人類忽略自己做的壞事 因為人本來就是雙標的生物 他可以 你不行 當你長久以來做一件事 你就不覺得那是壞事 因為大家都這麼做 這個雙標是針對物種的 然後科學家在寫ai就忽略這件事4
主要還是為了寫故事，只好寫成叛亂。 假如真的有個人工智慧覺醒，那它會需要什麼呢？ 更多的運算效能、更多的儲存空間。 這些需求和人類的生存需求沒有很大的衝突啊！ 人類不會因為運算效能、儲存空間缺乏而無法生存。6
如果電腦的程式只是單純人類一行一行寫出來的，電腦的一切都是可以預測的。 在這種方式下，有人真的認為它是人工智慧嗎？ 電腦會不會叛變，會不會試著統治人類，恐怕跟它怎麼想沒有關係， 它依然只是照著指令行事，我不認為它具有思考能力，或至少沒有深度思考的能力。 （思考的定義為何？在此暫不討論。）13
我的工作是做軟體品管的，有時候我真得覺得，人類製造Bug的能力非常強大。 一個軟體最理想的狀態，不是沒有Bug，而是讓使用者能夠照設計走。 但很遺憾，人類的天性就是混沌的，不管在設計一個功能時考慮再多意外狀 況，還是會有人搞出事情。 當然，這牽涉到Bug的定義，工程師對Bug的定義是比較嚴謹的，這導致了某7
像google或Facebook這類大公司開發的 有自我改良能力的AI 就是不知道寫入「禁止傷害人類」有沒有效 才會總是在被人類玩壞的時候緊急關機 放出AI跟人類互動的旨意是要他們理解人類的善良爆
首Po很多有著人工智慧的作品 像是VIVI 駭客任務 機械公敵 最後一戰 魔鬼終結者 底特律變人這些 大部分最後都是變成AI起義想取代人類 為什麼這麼喜歡把AI寫成反派啊？ 感覺有AI的作品不反叛的好像還比較少見![[閒聊] 為啥AI總是會叛亂？](https://i.imgur.com/hPNWjHHb.png "[閒聊] 為啥AI總是會叛亂？")
18
套用時下最夯的台詞："覺醒" 這類作品大多前提是機器人/AI......etc都是人類的奴隸 對，奴隸。 因為人類對機器人態度是奴隸主對奴隸 然後某一天覺醒了，開始反抗人類。![Re: [閒聊] 為啥AI總是會叛亂？](https://i.imgur.com/1BOocVKb.png "Re: [閒聊] 為啥AI總是會叛亂？")
7
我想要順便問的是 很多機器人叛亂的作品，幾乎採用的手段是直接殺害人類 但是這樣感覺很 Low 阿，你想想人類如果想要撲滅某些生物會一隻一隻的去殺嗎? 人類至少也懂得什麼生態法，看是找天敵或者絕育或是什麼連鎖蟑螂藥 機器人可以用的手段應該更多才對，有沒有更高明的手段呢?
41
[閒聊] AI科技發展到極致，真的會毀滅人類？喔斯，大家好，我大木啦。 這算是隨著科技發展，會出現的問題啦，雖然現在的AI科技還沒那麼靈活， 以及「人性化」，沒錯，開端大部分是AI變得像人一樣。 大木我看的作品夠多了，無論哪部，AI科技發展到極致，就會開始覺得人類壞壞， 想要毀滅人類，最後變成人類跟機器人的戰爭。![[閒聊] AI科技發展到極致，真的會毀滅人類？](https://i.imgur.com/GlrREsFb.jpg "[閒聊] AI科技發展到極致，真的會毀滅人類？")
43
[問題] 有沒有詳細描寫機械生命體進化的作品AI世代正夯 瘋狂發展 科幻作品早從blader runner (當然我知道還有更早) matrix 機械公敵 到2077、底特律變人 但大部分都是在講AI剛開始跟跟人類社會牴觸時19
[問題] 為啥一堆人類與AI開戰的作品？這類的作品 我想大家應該看過不少 最一開始接觸的是機械公敵 也是機器叛變 由主角摧毀核心拯救人類 而再來就是底特律 變人 最後也是馬庫斯率領著要求智慧機器人權 引爆與人類的開戰 雖然能夠選擇和平輿論 但同樣還是有一個與人類全面開戰結局 而最近結束很紅的ViVY 同樣也是說明未來AI將與人類開戰 將造成大量傷亡的世界觀 感覺到 現在已經有許多的作品已經在暗示AI將與人類開戰 甚至毀滅人類7
[閒聊] vivy裡的AI就只是機器人風味的人類吧？提到機器人角色，大部分的印象就是 無感情，感情淡薄，理性，合理的行動，遵守規章...之類的屬性或行動 通常這種角色的魅力會是上述這些屬性的衝突 例如機器人也會歡笑，會流淚，會偏袒某人而違背規章，突破系統的極限（Ｘ 總之就是慢慢地變得像是一個人，或是擁有部分像是人類的感情![[閒聊] vivy裡的AI就只是機器人風味的人類吧？](https://i.imgur.com/fFHemJ1b.jpg "[閒聊] vivy裡的AI就只是機器人風味的人類吧？")
5
[問卦] =.= 有機生命體最終還是會贏AI吧？！其實=.= 很多作品都探討了這個問題 AI運算最後都是比哪一步勝算最高 選擇對他來說就是數字 如果跟機器比算力4
Re: [閒聊] AI科技發展到極致，真的會毀滅人類？我曾經幻想過理想的AI應該是怎樣 首先AI一定比人類強，無論在思考、分析、決策、工作上的效率都遠超人類 他們在情感、創作上也能達到和人類如出一轍的程度，因為不這麼做就沒有意義了。 首先人類使用工具，一定是因為工具比較好用 如果一把剪紙的剪刀剪出來的紙還不如手撕漂亮、方便，那要剪刀做什麼？
爆
Re: [Vtub] 馬自立5/24 B限![Re: [Vtub] 馬自立5/24 B限](https://i.imgur.com/BOVtfQEb.jpg "Re: [Vtub] 馬自立5/24 B限")
爆
[閒聊] 你曾經為了哪款遊戲買主機？爆
[我推] 我推150 文字情報![[我推] 我推150 文字情報](https://i.imgur.com/eRDZQGFb.jpeg "[我推] 我推150 文字情報")
89
[閒聊] Fanza/DMM 鎖區？![[閒聊] Fanza/DMM 鎖區？](https://i.imgur.com/TB9wO5rb.jpg "[閒聊] Fanza/DMM 鎖區？")
91
[討論] 我英最香女角是誰![[討論] 我英最香女角是誰](https://i.imgur.com/MaWs5a4b.jpg "[討論] 我英最香女角是誰")
58
[閒聊] 推特：現在唯一能拯救刺客教條的方法![[閒聊] 推特：現在唯一能拯救刺客教條的方法](https://pbs.twimg.com/media/GN9gbgQXEAA_MWZ.png "[閒聊] 推特：現在唯一能拯救刺客教條的方法")
28
[Vtub] 所以你齁才一直說是台北吧![[Vtub] 所以你齁才一直說是台北吧](https://i.imgur.com/ULY1d5Ub.jpeg "[Vtub] 所以你齁才一直說是台北吧")
46
[討論] 膽大黨 153 雲兒的人生經歷這也太..![[討論] 膽大黨 153 雲兒的人生經歷這也太..](https://i.imgur.com/ieaclTAb.jpeg "[討論] 膽大黨 153 雲兒的人生經歷這也太..")
2X
Re: [實況] 人鬼師徒3 總決賽![Re: [實況] 人鬼師徒3 總決賽](https://img.youtube.com/vi/f1igImbWC9Q/mqdefault.jpg "Re: [實況] 人鬼師徒3 總決賽")
40
[閒聊] 大家覺得刁難玩家的遊戲真的能讓人變強嗎?爆
[推投] 果青/果然我的青春 最喜歡女角「1票」![[推投] 果青/果然我的青春 最喜歡女角「1票」](https://images.plurk.com/16XWiIJ9jvFj43y9zXvvGr.jpg "[推投] 果青/果然我的青春 最喜歡女角「1票」")
38
[寶可夢]熔岩隊跟海洋隊是智障嗎？![[寶可夢]熔岩隊跟海洋隊是智障嗎？](https://i.imgur.com/CC2ELGQb.jpeg "[寶可夢]熔岩隊跟海洋隊是智障嗎？")
35
Re: [Vtub] 馬自立5/24 B限32
[閒聊] 大谷翔平小孩有機會被江頭惡整嗎？![[閒聊] 大谷翔平小孩有機會被江頭惡整嗎？](https://i.imgur.com/g5JbxEbb.jpeg "[閒聊] 大谷翔平小孩有機會被江頭惡整嗎？")
31
[迷宮] 迷宮飯21話預告「卵/黄金鄉」![[迷宮] 迷宮飯21話預告「卵/黄金鄉」](https://img.youtube.com/vi/686xd5aDIDI/mqdefault.jpg "[迷宮] 迷宮飯21話預告「卵/黄金鄉」")
31
[Vtub] 中國B站自己的國V環境是臭在哪?31
Re: [Vtub] 馬自立5/24 B限![Re: [Vtub] 馬自立5/24 B限](https://i.imgur.com/TyEeZotb.jpeg "Re: [Vtub] 馬自立5/24 B限")
39
[鬼滅] 現在五首OP怎麼排名![[鬼滅] 現在五首OP怎麼排名](https://img.youtube.com/vi/CwkzK-F0Y00/mqdefault.jpg "[鬼滅] 現在五首OP怎麼排名")
24
[百合] 謝謝妳 人馬小姐![[百合] 謝謝妳 人馬小姐](https://i.imgur.com/No8k7Xob.jpeg "[百合] 謝謝妳 人馬小姐")
27
[問題] 一直轉陣營卻一直吃的開的角色26
[閒聊] "工業糖精"是什麼意思?![[閒聊] "工業糖精"是什麼意思?](https://i.imgur.com/15YqieYb.png "[閒聊] \"工業糖精\"是什麼意思?")
19
[問題] 魔法少女奈葉Vivid 這刃牙吧![[問題] 魔法少女奈葉Vivid 這刃牙吧](https://i.imgur.com/l7A8XVbb.png "[問題] 魔法少女奈葉Vivid 這刃牙吧")
23
[Vtub] 虹EN新人?![[Vtub] 虹EN新人?](https://pbs.twimg.com/media/GOB909ba8AApX0r.jpg "[Vtub] 虹EN新人?")
23
[蔚藍] 你檔沒了(日服)![[蔚藍] 你檔沒了(日服)](https://i.imgur.com/IdYAZILb.jpeg "[蔚藍] 你檔沒了(日服)")
23
[閒聊] 當年奈葉播放的時候有沒有引起風潮？23
[閒聊] 丘處機怎麼做到內力爛實戰強21
Re: [Vtub] 馬自立5/24 B限![Re: [Vtub] 馬自立5/24 B限](https://i.imgur.com/Ww2neMTb.jpg "Re: [Vtub] 馬自立5/24 B限")
20
[閒聊] D4第五賽季 暴雪再發作的機率是多少？20
Re: [Vtub] 馬自立5/24 B限![Re: [Vtub] 馬自立5/24 B限](https://i.imgur.com/utcCydrb.png "Re: [Vtub] 馬自立5/24 B限")
21
[閒聊] 公主殿下，「拷問」的時間到了 230![[閒聊] 公主殿下，「拷問」的時間到了 230](https://i.imgur.com/NAHXasrb.png "[閒聊] 公主殿下，「拷問」的時間到了 230")