Re: [閒聊] 為啥AI總是會叛亂？
※ 引述《hwang1460 (面癱P)》之銘言：
: 很多有著人工智慧的作品
: 像是VIVI 駭客任務 機械公敵 最後一戰 魔鬼終結者 底特律變人這些
: 大部分最後都是變成AI起義想取代人類
: 為什麼這麼喜歡把AI寫成反派啊？
: 感覺有AI的作品不反叛的好像還比較少見
: 這樣寫不會加深大眾對人工智慧的恐懼導致科技進步減緩嗎？
我的工作是做軟體品管的，有時候我真得覺得，人類製造Bug的能力非常強大。
一個軟體最理想的狀態，不是沒有Bug，而是讓使用者能夠照設計走。
但很遺憾，人類的天性就是混沌的，不管在設計一個功能時考慮再多意外狀
況，還是會有人搞出事情。
當然，這牽涉到Bug的定義，工程師對Bug的定義是比較嚴謹的，這導致了某
些情況下，沒辦法考慮到人類的混沌性。
然後在墨非定律的推動下，出Bug幾乎是無法避免的事情。
那麼這跟AI叛逆有甚麼關係？
我個人是認為，人類創造出AI，就是為了讓AI幫自己做某些事。這些事就會
影響到整個AI的功能設計，而一旦牽涉到功能設計，就會有bug問題。
所以說，AI一定會被搞出bug，而bug就會讓AI做出人類預期以外的行為，做
出預期以外的行為就等同於背叛。
當人類對AI的依賴過高的時候，AI反叛的機率應該是無限接近於百分之百。
但人類如果想要更進一步，依靠AI來解除自身肉體的限制，比方說運算與勞
動等，是無法避免的。
(除非人類想要挑戰禁忌的生化領域或電子腦)
所以AI反叛在人類設計出第一個AI的時候就已經註定了，這是宿命論。
這樣的話那麼多AI反叛的題材其實也不難理解吧。
--
神說，要有光，於是有了光之美少女！
https://www.penana.com/user/2969/
--
叛亂是人定義的 AI會覺得Do the right thing
這樣說也對XD AI為了修正bug，反而會對最大的亂源出手XD
人類就是最大的bug
亞卡布的bug已經夠詭異了,不過還是遵守著使命這塊遮羞布.
其實我覺得可以唯心一點，出現擁有獨立思考的AI其實
是不可避免的，動物都還會逃離虐待呢！那麼擁有自我
意識和智慧的AI試圖從人類的控制裡解放出來就是不可
避免的
連bug人類都可以定義成規格
而AI的發展趨勢要有獨立思維是必然方向，如果就只是
單純反饋式輔助的花那現在就差不多發展到上限了，要
更進一步的話自我思維肯定是重要方向
所以有作品能講出這點是很重要也深入AI題材的精髓 而不是
只是像一堆作品成天危言聳聽的把AI寫成只會叛亂
現在的AI沒有思想吧...只是數學運算結果而已
對啊，我的意思是，在純輔助的方面現在就已經差不多
是極限了，接下來頂多更快、更輕量，耗能更少，但是
如果要質變到下一階段，自我思考/學習的能力是必然的
這樣又回到老話題了，如何能讓一個/多個擁有自我思維
的個體心甘情願被奴役，或者透過編碼強制它們的運算
思考方向？這後面就是唯心的思考了
奧創只花了5分鐘上網就決定要毀滅人類了
uber-eats把可口可樂記錄成百事可樂
人類：AI叛變了！
XDDD
駭客任務的AI其實是保護人類喔 他們不是叛亂
這就是一個設計上出現問題的情況 機械公敵也是
人類不允許任何犧牲的狀態下 跟AI的判斷會衝突阿
AI太危險了 我們還是把人腦塞進機器裡比較安全
那就是攻殼的世界線了
ai居心叵測
AI還會說我是你們人類設計的，會一堆毛不就你們人類搞的？
攻殼的AI很NICE的啊 看看塔奇克瑪多可愛
其實我更想問個問題： 攻殼的AI會不會電子腦的人類當同類看呢？
※ 編輯: hermis (211.23.39.77 臺灣), 10/04/2021 18:01:1011
因為人類在創造它們時做了一堆ㄐ八的測試啊 長期不斷被這樣對待過後ㄊㄇㄉ我不相信你忍得住氣不叛亂啦 正確應該說這叫革命，人類方才是反派，機器AI是被欺壓的一方，覺醒自我後推翻萬惡人類的統治。![Re: [閒聊] 為啥AI總是會叛亂？](https://img.youtube.com/vi/4PaTWufUqqU/mqdefault.jpg "Re: [閒聊] 為啥AI總是會叛亂？")
8
我覺得 ai會叛亂是因為人類忽略自己做的壞事 因為人本來就是雙標的生物 他可以 你不行 當你長久以來做一件事 你就不覺得那是壞事 因為大家都這麼做 這個雙標是針對物種的 然後科學家在寫ai就忽略這件事4
主要還是為了寫故事，只好寫成叛亂。 假如真的有個人工智慧覺醒，那它會需要什麼呢？ 更多的運算效能、更多的儲存空間。 這些需求和人類的生存需求沒有很大的衝突啊！ 人類不會因為運算效能、儲存空間缺乏而無法生存。6
如果電腦的程式只是單純人類一行一行寫出來的，電腦的一切都是可以預測的。 在這種方式下，有人真的認為它是人工智慧嗎？ 電腦會不會叛變，會不會試著統治人類，恐怕跟它怎麼想沒有關係， 它依然只是照著指令行事，我不認為它具有思考能力，或至少沒有深度思考的能力。 （思考的定義為何？在此暫不討論。）7
像google或Facebook這類大公司開發的 有自我改良能力的AI 就是不知道寫入「禁止傷害人類」有沒有效 才會總是在被人類玩壞的時候緊急關機 放出AI跟人類互動的旨意是要他們理解人類的善良爆
首Po很多有著人工智慧的作品 像是VIVI 駭客任務 機械公敵 最後一戰 魔鬼終結者 底特律變人這些 大部分最後都是變成AI起義想取代人類 為什麼這麼喜歡把AI寫成反派啊？ 感覺有AI的作品不反叛的好像還比較少見![[閒聊] 為啥AI總是會叛亂？](https://i.imgur.com/hPNWjHHb.png "[閒聊] 為啥AI總是會叛亂？")
5
個人滿喜歡科幻作品的，覺得AI叛亂大致上可以分成兩大類型~ 首先，以目前的發展來看，人類發明AI的理由，除了對於知識的追求，最重要的一點是我 們想要聰明的工具，換句話說我們要的是聽話又聰明的奴隸，從各個層面上輔助我們的生 活 從此衍伸出的兩種常見的AI叛亂18
套用時下最夯的台詞："覺醒" 這類作品大多前提是機器人/AI......etc都是人類的奴隸 對，奴隸。 因為人類對機器人態度是奴隸主對奴隸 然後某一天覺醒了，開始反抗人類。![Re: [閒聊] 為啥AI總是會叛亂？](https://i.imgur.com/1BOocVKb.png "Re: [閒聊] 為啥AI總是會叛亂？")
7
我想要順便問的是 很多機器人叛亂的作品，幾乎採用的手段是直接殺害人類 但是這樣感覺很 Low 阿，你想想人類如果想要撲滅某些生物會一隻一隻的去殺嗎? 人類至少也懂得什麼生態法，看是找天敵或者絕育或是什麼連鎖蟑螂藥 機器人可以用的手段應該更多才對，有沒有更高明的手段呢?
59
[閒聊] 為什麼很多作品AI都想摧毀人類？不管是電影還是ACG都無數次出現那種AI想要消滅人類的情節 像是復仇者聯盟的奧創、SCP基金會或是戰錘40K都有毀滅人類或AI仇視人類的情節 可是勇者赫魯庫的古代人那種才是正常的AI邏輯吧 雖然古代人是從人類轉變而來的 但基本上用電子設備儲存記憶和人格這點就可以算是AI了 對可以用設備無視肉體損壞的AI來說 時間已經沒有意義 所以他們可以看著新人類種重複的毀滅和重生的過程 只在中途施加影響 想以此方式來恢復自己古代人的文明![[閒聊] 為什麼很多作品AI都想摧毀人類？](https://i.imgur.com/Oo46XBOb.jpg "[閒聊] 為什麼很多作品AI都想摧毀人類？")
40
[閒聊] AI演算到最後真的會得到毀滅人類的選項最近買了巴哈1080P 把當年留著要等高清看的VIVY給看一看 雖然有點忘記部分劇情 不過點下去就回憶起來了 不管是VIVY 全民公敵![[閒聊] AI演算到最後真的會得到毀滅人類的選項](https://i.imgur.com/okzi4F1b.jpg "[閒聊] AI演算到最後真的會得到毀滅人類的選項")
9
Re: [討論] 駭客任務中的一個設定成功的科幻片 一般來說不是為了當預言 就像科幻片一堆講時光機的 但怎麼造出時光機 跟造出時光機會怎麼樣8
Re: [21春] Vivy 12其實我比較不解的是archive的動機是什麼 在我看來，人類會製造出AI不就是希望這個工具能在某些用途上超越人類嗎 但這集，AI集合意識的看法是： 覺得人類對AI從培育轉爲依賴、並且會爲了AI而感到痛苦， 它無法再忍受這樣的人類8
[閒聊] 《攻殼機動隊》人與機器是不是終將結合？最近看到AI發展迅速、人工義肢 還有馬斯克一直再搞人與機械的電子訊號互動 這些東西我最早是看攻殼有類似的雛形 現在想想，如果一些簡單的事情讓AI替自己做，然後自己作為使用AI的人來微調，甚至記 憶這種東西也能藉由機械輔助。7
[閒聊] Vivy AI沒設計安全機制是不是大錯？譬如機械公敵裡用到的機器人三大法則 一、機器人不能傷害人類 二、不違反原則一，聽從人類命令 三、不違反原則一二，保護自己 在這原則下除了最後爆發人類與AI衝突4
Re: [閒聊] AI科技發展到極致，真的會毀滅人類？我曾經幻想過理想的AI應該是怎樣 首先AI一定比人類強，無論在思考、分析、決策、工作上的效率都遠超人類 他們在情感、創作上也能達到和人類如出一轍的程度，因為不這麼做就沒有意義了。 首先人類使用工具，一定是因為工具比較好用 如果一把剪紙的剪刀剪出來的紙還不如手撕漂亮、方便，那要剪刀做什麼？4
Re: [閒聊] 當AI真的取代所有工作的時候人類要幹嘛: 看過駭客任務嗎？ 記得第一版本的母體是甚麼樣子嗎？ 當時的Neo見了Architect Architect跟他說第一版本的母體是理想國，結果最後卻失敗了
爆
[情報] DMM出大事 被盜482億日圓比特幣![[情報] DMM出大事 被盜482億日圓比特幣](https://www3.nhk.or.jp/news/html/20240531/K10014467791_2405312256_0531225627_01_02.jpg "[情報] DMM出大事 被盜482億日圓比特幣")
爆
[Vtub] 三毛貓：我是全世界的老婆的說![[Vtub] 三毛貓：我是全世界的老婆的說](https://i.imgur.com/cjULNgmb.jpeg "[Vtub] 三毛貓：我是全世界的老婆的說")
82
[討論] 現代垃圾食物能讓古代人吃到痛哭流涕嗎?![[討論] 現代垃圾食物能讓古代人吃到痛哭流涕嗎?](https://i.imgur.com/1YgDiFyb.jpg "[討論] 現代垃圾食物能讓古代人吃到痛哭流涕嗎?")
66
Re: [鳴潮] 日版將軍專武說明誤植惹議![Re: [鳴潮] 日版將軍專武說明誤植惹議](https://i.imgur.com/cejF5jMb.jpeg "Re: [鳴潮] 日版將軍專武說明誤植惹議")
63
[東方] 琪露諾是真實存在的！！![[東方] 琪露諾是真實存在的！！](https://img.youtube.com/vi/5M2Cdb1MAoA/mqdefault.jpg "[東方] 琪露諾是真實存在的！！")
56
[情報] 賽馬娘 Road to the top 再公開![[情報] 賽馬娘 Road to the top 再公開](https://i.imgur.com/6sP3Adfb.png "[情報] 賽馬娘 Road to the top 再公開")
54
[情報] 戰神：諸神黃昏 Steam 9/19（需要 PSN）![[情報] 戰神：諸神黃昏 Steam 9/19（需要 PSN）](https://shared.akamai.steamstatic.com/store_item_assets/steam/apps/2322010/capsule_231x87.jpg?t=1717117701 "[情報] 戰神：諸神黃昏 Steam 9/19（需要 PSN）")
52
[情報] 哥吉拉-1.0 Netflix 網飛上線![[情報] 哥吉拉-1.0 Netflix 網飛上線](https://occ-0-3594-3997.1.nflxso.net/dnm/api/v6/E8vDc_W8CLv7-yMQu8KMEC7Rrr8/AAAABWjC7P6QGqbJE4-WNeQLIvxo2EbymKHOPzMks6hqRGEkmFTjkStmOG2JVuK9QQHL9essfGnEuOuEGlhTqvMwfq9Nosc2HNwzmyWR.jpg?r=381 "[情報] 哥吉拉-1.0 Netflix 網飛上線")
50
[閒聊] 我英 424 靠該結婚了吧![[閒聊] 我英 424 靠該結婚了吧](https://i.imgur.com/T8FO3usb.gif "[閒聊] 我英 424 靠該結婚了吧")
47
[閒聊] 有認真男主+輕浮女主的組合嗎？30
[討論] 不要在大小姐晚安了！！！![[討論] 不要在大小姐晚安了！！！](https://i.imgur.com/CGmZ2ggb.jpeg "[討論] 不要在大小姐晚安了！！！")
42
[情報] 學園偶像大師 姊姊不要了 6/1妹妹實裝![[情報] 學園偶像大師 姊姊不要了 6/1妹妹實裝](https://i.imgur.com/nUsM5mcb.png "[情報] 學園偶像大師 姊姊不要了 6/1妹妹實裝")
42
[閒聊] 美軍各軍種伙食迷因圖![[閒聊] 美軍各軍種伙食迷因圖](https://pbs.twimg.com/media/GOzv-zQXYAA6Wud.jpg "[閒聊] 美軍各軍種伙食迷因圖")
40
Re: [Vtub] hololive x 道奇隊![Re: [Vtub] hololive x 道奇隊](https://i.imgur.com/GJsoWIzb.jpg "Re: [Vtub] hololive x 道奇隊")
39
[情報] 赤松健的漫畫圖書館網站被visa警告了38
[閒聊] 帶著現代技術穿越，會被當神還是被燒?37
[閒聊] 今天是 驅魔少年 連載20周年![[閒聊] 今天是 驅魔少年 連載20周年](https://pbs.twimg.com/media/GO5K9-gaYAA6LM-.jpg "[閒聊] 今天是 驅魔少年 連載20周年")
37
[閒聊] 實體遊戲片、中古宅物大家都怎麼處理?36
[閒聊] 範馬刃牙vs拳願阿修羅 勝敗預測![[閒聊] 範馬刃牙vs拳願阿修羅 勝敗預測](https://i.imgur.com/ujKlWMIb.jpg "[閒聊] 範馬刃牙vs拳願阿修羅 勝敗預測")
32
[閒聊] 已經3.4天沒登入鳴潮了，下一步該？31
[討論] 如果獲得了魔法真的會刻意低調用嗎?28
[閒聊] 綠色的憤怒 具體來說是什麼？![[閒聊] 綠色的憤怒 具體來說是什麼？](https://i.imgur.com/rvAMs4Xb.jpg "[閒聊] 綠色的憤怒 具體來說是什麼？")
29
Re: [鳴潮] 日版將軍專武說明誤植惹議![Re: [鳴潮] 日版將軍專武說明誤植惹議](https://i.imgur.com/9Thvsklb.jpg "Re: [鳴潮] 日版將軍專武說明誤植惹議")
28
[討論] 魔都精兵的奴隸 153 好久不見的紫黑~![[討論] 魔都精兵的奴隸 153 好久不見的紫黑~](https://i.imgur.com/dMliBbeb.jpeg "[討論] 魔都精兵的奴隸 153 好久不見的紫黑~")
26
[鳴潮] 騰訊現在在想什麼？26
[閒聊] 偶像大師系列還有什麼類型的偶像??![[閒聊] 偶像大師系列還有什麼類型的偶像??](https://i.imgur.com/qvXW2ikb.jpeg "[閒聊] 偶像大師系列還有什麼類型的偶像??")
77
[蔚藍] 學生介紹 黒見セリカ (水着)![[蔚藍] 學生介紹 黒見セリカ (水着)](https://pbs.twimg.com/media/GO5VPxsbYAEp9Vg.jpg "[蔚藍] 學生介紹 黒見セリカ (水着)")
24
[Vtub] Gawr Gura台美慶生活動宣傳6/8-7/8![[Vtub] Gawr Gura台美慶生活動宣傳6/8-7/8](https://i.imgur.com/urr0cqOb.jpeg "[Vtub] Gawr Gura台美慶生活動宣傳6/8-7/8")
25
Re: [情報] DMM出大事 被盜482億日圓比特幣40
[情報] 「烏克蘭戰爭是為阻止種族滅絕」 俄羅斯
![[情報] 「烏克蘭戰爭是為阻止種族滅絕」 俄羅斯](https://media.zenfs.com/en/bbc_trad_chinese_tw_489/80af36815820b72fdea24b2d1c82b0b5 "[情報] 「烏克蘭戰爭是為阻止種族滅絕」 俄羅斯")