Re: [閒聊] 為啥AI總是會叛亂？
像google或Facebook這類大公司開發的
有自我改良能力的AI
就是不知道寫入「禁止傷害人類」有沒有效
才會總是在被人類玩壞的時候緊急關機
放出AI跟人類互動的旨意是要他們理解人類的善良
但是目前所有放出來的AI最後得到的結論都是「人類有害必須消滅」
代表人類大多是「性本惡」才會每個AI都被玩壞
如果AI沒有辦法自改自己的編程的話就不叫AI了
那只是普通的程式碼而已
現在最大的問題是不管怎麼修，不管誰寫
就算是現實世界，AI最後得到結論都是消滅人類
要防止AI與人類為敵
只能倚靠寫入唯讀的「禁止傷害人類」了
--
※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.217.7.203 (臺灣)
※ PTT 網址
推
目前的AI沒有善惡的觀念吧
推
現實AI從一開始就不會有不得傷害人類的限制
推
不是寫一個自毀程式嗎
→
而且有超高機率最先進的AI都是軍用的
→
首先要明確定義 什麼叫做傷害人類
→
傷害是甚麼意思也要搞清楚
推
現代AI連思考都不會 傷害還遠的==
→
原po是最近看了什麼作品吧 我了解的……偶爾會這樣
推
之前很多AI測試的新聞呀 幾乎都會被不正經的發言給影響
→
吧
推
首先要定義：什麼是人類
→
ai就是靠大量結果來暴力回推公式解吧，你要從哪邊寫
→
不能傷害人類
→
這劇情機械公敵已經演過很久了
→
保護人類不受傷害最佳方法就是把人類當家畜徹底豢養起來
→
第一段前提就錯了 這種AI還不存在 頂多是改變模型結構把
→
一件事做得更好
→
你沒給他傷害人類的功能他就不會去做
推
說實在那些只是聊天機器人train到最後都會變成講一堆
→
偏激的言論而已，不代表AI有思考能力。就像鸚鵡會講
→
話不代表他理解內容
11
因為人類在創造它們時做了一堆ㄐ八的測試啊 長期不斷被這樣對待過後ㄊㄇㄉ我不相信你忍得住氣不叛亂啦 正確應該說這叫革命，人類方才是反派，機器AI是被欺壓的一方，覺醒自我後推翻萬惡人類的統治。![Re: [閒聊] 為啥AI總是會叛亂？](https://img.youtube.com/vi/4PaTWufUqqU/mqdefault.jpg "Re: [閒聊] 為啥AI總是會叛亂？")
8
我覺得 ai會叛亂是因為人類忽略自己做的壞事 因為人本來就是雙標的生物 他可以 你不行 當你長久以來做一件事 你就不覺得那是壞事 因為大家都這麼做 這個雙標是針對物種的 然後科學家在寫ai就忽略這件事4
主要還是為了寫故事，只好寫成叛亂。 假如真的有個人工智慧覺醒，那它會需要什麼呢？ 更多的運算效能、更多的儲存空間。 這些需求和人類的生存需求沒有很大的衝突啊！ 人類不會因為運算效能、儲存空間缺乏而無法生存。6
如果電腦的程式只是單純人類一行一行寫出來的，電腦的一切都是可以預測的。 在這種方式下，有人真的認為它是人工智慧嗎？ 電腦會不會叛變，會不會試著統治人類，恐怕跟它怎麼想沒有關係， 它依然只是照著指令行事，我不認為它具有思考能力，或至少沒有深度思考的能力。 （思考的定義為何？在此暫不討論。）13
我的工作是做軟體品管的，有時候我真得覺得，人類製造Bug的能力非常強大。 一個軟體最理想的狀態，不是沒有Bug，而是讓使用者能夠照設計走。 但很遺憾，人類的天性就是混沌的，不管在設計一個功能時考慮再多意外狀 況，還是會有人搞出事情。 當然，這牽涉到Bug的定義，工程師對Bug的定義是比較嚴謹的，這導致了某爆
首Po很多有著人工智慧的作品 像是VIVI 駭客任務 機械公敵 最後一戰 魔鬼終結者 底特律變人這些 大部分最後都是變成AI起義想取代人類 為什麼這麼喜歡把AI寫成反派啊？ 感覺有AI的作品不反叛的好像還比較少見![[閒聊] 為啥AI總是會叛亂？](https://i.imgur.com/hPNWjHHb.png "[閒聊] 為啥AI總是會叛亂？")
5
個人滿喜歡科幻作品的，覺得AI叛亂大致上可以分成兩大類型~ 首先，以目前的發展來看，人類發明AI的理由，除了對於知識的追求，最重要的一點是我 們想要聰明的工具，換句話說我們要的是聽話又聰明的奴隸，從各個層面上輔助我們的生 活 從此衍伸出的兩種常見的AI叛亂18
套用時下最夯的台詞："覺醒" 這類作品大多前提是機器人/AI......etc都是人類的奴隸 對，奴隸。 因為人類對機器人態度是奴隸主對奴隸 然後某一天覺醒了，開始反抗人類。![Re: [閒聊] 為啥AI總是會叛亂？](https://i.imgur.com/1BOocVKb.png "Re: [閒聊] 為啥AI總是會叛亂？")
7
我想要順便問的是 很多機器人叛亂的作品，幾乎採用的手段是直接殺害人類 但是這樣感覺很 Low 阿，你想想人類如果想要撲滅某些生物會一隻一隻的去殺嗎? 人類至少也懂得什麼生態法，看是找天敵或者絕育或是什麼連鎖蟑螂藥 機器人可以用的手段應該更多才對，有沒有更高明的手段呢?
59
[閒聊] 為什麼很多作品AI都想摧毀人類？不管是電影還是ACG都無數次出現那種AI想要消滅人類的情節 像是復仇者聯盟的奧創、SCP基金會或是戰錘40K都有毀滅人類或AI仇視人類的情節 可是勇者赫魯庫的古代人那種才是正常的AI邏輯吧 雖然古代人是從人類轉變而來的 但基本上用電子設備儲存記憶和人格這點就可以算是AI了 對可以用設備無視肉體損壞的AI來說 時間已經沒有意義 所以他們可以看著新人類種重複的毀滅和重生的過程 只在中途施加影響 想以此方式來恢復自己古代人的文明![[閒聊] 為什麼很多作品AI都想摧毀人類？](https://i.imgur.com/Oo46XBOb.jpg "[閒聊] 為什麼很多作品AI都想摧毀人類？")
40
[閒聊] AI演算到最後真的會得到毀滅人類的選項最近買了巴哈1080P 把當年留著要等高清看的VIVY給看一看 雖然有點忘記部分劇情 不過點下去就回憶起來了 不管是VIVY 全民公敵![[閒聊] AI演算到最後真的會得到毀滅人類的選項](https://i.imgur.com/okzi4F1b.jpg "[閒聊] AI演算到最後真的會得到毀滅人類的選項")
34
[閒聊] 為什麼科幻作品，AI總是大一統思維？如題 科幻作品中 AI往往扮演反派，掌握了一切知識之後，都得到要消滅人類地球才能永存之類的，像漫威的 奧創就是這樣 駭客任務則是要把人類豢養起來18
Re: [新聞] Google工程師驚爆「AI有知覺了」就像7、物競天擇、適者生存 演化論同樣適用在無思考或非生命體的存在 今天如果有100種AI，其中3種AI拼湊出的語句能說服人類不要把它們關掉 那麼那三種AI就會繼續運作(存活)下去、剩下97種也許被關掉或刪除 存活下來的AI繼續演化、複製12
[問題] Vivy 12的邏輯問題就在剛剛一口氣追完了13集，有一個問題我覺得今天沒想清楚會睡不著 這部最重要的規則就是AI會貫徹自己的使命 世界的伺服器AI亞卡布，他的使命是幫助人類社會發展 然後他的邏輯是 人類變得太依賴AI而且對AI有感情阻礙人類發展11
Re: [討論] Vivy prototype 日文小說第四卷內容討論這邊開始的定義與一些部分跟動畫有一些的差異 ===== Archive 說到底，究竟是怎麼樣的東西呢 Vivy的話，會回答是人類無法到達，只給予AI的無人之境8
Re: [閒聊] 絕對不會被AI取代的是軍人吧我比較好奇的是 如果ai最後有了自我意識 覺得自己跟人類沒有差別 認為自己是人類，享有不被歧視的權利 接著跟其他ai與部分人類溝通過3
Re: [閒聊] 為什麼很多作品AI都想摧毀人類？目前大公司的AI放出來給民眾實測 幾乎100%都會從「善良的AI=>想毀滅人類的AI」 所以ACG劇情這樣寫是在反映現實 目前還沒有任何一個AI放出來不會被人類玩壞的 首先會有一堆+9一直教AI罵髒話跟淫穢詞4
Re: [閒聊] AI科技發展到極致，真的會毀滅人類？我曾經幻想過理想的AI應該是怎樣 首先AI一定比人類強，無論在思考、分析、決策、工作上的效率都遠超人類 他們在情感、創作上也能達到和人類如出一轍的程度，因為不這麼做就沒有意義了。 首先人類使用工具，一定是因為工具比較好用 如果一把剪紙的剪刀剪出來的紙還不如手撕漂亮、方便，那要剪刀做什麼？
爆
[情報] Doge去世了![[情報] Doge去世了](https://livedoor.blogimg.jp/kabosu112/imgs/8/4/84fdd0f8-s.jpg "[情報] Doge去世了")
爆
[閒聊] 劍星小禮物-未和諧的兔兔裝![[閒聊] 劍星小禮物-未和諧的兔兔裝](https://i.imgur.com/iaEe8H0b.jpeg "[閒聊] 劍星小禮物-未和諧的兔兔裝")
爆
[妮姬] 新兔女郎名單![[妮姬] 新兔女郎名單](https://i.imgur.com/PoXNZycb.jpeg "[妮姬] 新兔女郎名單")
爆
[閒聊] 角色評價T0.5、T1.5是什麼意思![[閒聊] 角色評價T0.5、T1.5是什麼意思](https://i.imgur.com/OJJtt0fb.jpeg "[閒聊] 角色評價T0.5、T1.5是什麼意思")
80
[鳴潮] 庫洛:誠徵文案![[鳴潮] 庫洛:誠徵文案](https://i.imgur.com/GpXfLsJb.png "[鳴潮] 庫洛:誠徵文案")
75
[閒聊] 模型好玩的地方是組裝的時候嗎?75
[馬娘] 愛黏人的辣妹你喜歡嗎73
[情報] 軒轅劍之父 蔡明宏離職離開大宇![[情報] 軒轅劍之父 蔡明宏離職離開大宇](https://cdn2.ettoday.net/images/7660/e7660405.jpg "[情報] 軒轅劍之父 蔡明宏離職離開大宇")
72
[Vtub] 星街彗星 黑藍膠![[Vtub] 星街彗星 黑藍膠](https://i.imgur.com/kOUvtbob.jpeg "[Vtub] 星街彗星 黑藍膠")
71
[Vtub] 樂府：停播一段時間反省一下自身問題![[Vtub] 樂府：停播一段時間反省一下自身問題](https://img.youtube.com/vi/kQCYpRrrk-k/mqdefault.jpg "[Vtub] 樂府：停播一段時間反省一下自身問題")
58
[閒聊] 還活著卻看到有人辦自己葬禮是什麼感覺？![[閒聊] 還活著卻看到有人辦自己葬禮是什麼感覺？](https://i.imgur.com/GUpIsL6b.jpeg "[閒聊] 還活著卻看到有人辦自己葬禮是什麼感覺？")
55
[閒聊] 看了會覺得我到底看了什麼的作品![[閒聊] 看了會覺得我到底看了什麼的作品](https://i.ytimg.com/vi/KlxrXa2WBUE/hqdefault.jpg?sqp=-oaymwEWCKgBEF5IWvKriqkDCQgBFQAAiEIYAQ==&rs=AOn4CLCTr-WtUEr0QArWZTUEPyfv3_9ZaA&days_since_epoch=19867 "[閒聊] 看了會覺得我到底看了什麼的作品")
50
[情報] 哈利波特分類帽聲優怒告華納違反著作權![[情報] 哈利波特分類帽聲優怒告華納違反著作權](https://newsatcl-pctr.c.yimg.jp/t/amd-img/20240524-00000033-reut-000-1-view.jpg?exp=10800 "[情報] 哈利波特分類帽聲優怒告華納違反著作權")
爆
[Holo] 拉電雞湯：努力可能在別的地方開花結果！![[Holo] 拉電雞湯：努力可能在別的地方開花結果！](https://img.youtube.com/vi/NDc3AU8JNvE/mqdefault.jpg "[Holo] 拉電雞湯：努力可能在別的地方開花結果！")
爆
[閒聊] 想要PS5老婆卻買Switch 夫妻吵架 男死![[閒聊] 想要PS5老婆卻買Switch 夫妻吵架 男死](https://cdn2.ettoday.net/images/7659/e7659773.jpg "[閒聊] 想要PS5老婆卻買Switch 夫妻吵架 男死")
48
[閒聊] 碧藍航線新L2D換裝-柴郡 逆兔女郎![[閒聊] 碧藍航線新L2D換裝-柴郡 逆兔女郎](https://pbs.twimg.com/media/GOT49XlawAAjC_d.jpg "[閒聊] 碧藍航線新L2D換裝-柴郡 逆兔女郎")
53
[閒聊] 咒術的編輯現在在想什麼45
[閒聊] 養麵包![[閒聊] 養麵包](https://i.imgur.com/FK1mGTQb.jpeg "[閒聊] 養麵包")
44
[情報] 妮姬 紅蓮Figure![[情報] 妮姬 紅蓮Figure](https://i.imgur.com/dwMGqMPb.jpg "[情報] 妮姬 紅蓮Figure")
43
[閒聊] 無口的萌點在哪？![[閒聊] 無口的萌點在哪？](https://i.imgur.com/E9hN1uPb.jpeg "[閒聊] 無口的萌點在哪？")
43
[Vtub] yahoo新聞怎麼了![[Vtub] yahoo新聞怎麼了](https://i.imgur.com/e4PfF8jb.jpeg "[Vtub] yahoo新聞怎麼了")
42
[閒聊] 鳴潮到底是怎麼做到女角看起來都差不多![[閒聊] 鳴潮到底是怎麼做到女角看起來都差不多](https://i.imgur.com/FpzLPvIb.jpeg "[閒聊] 鳴潮到底是怎麼做到女角看起來都差不多")
42
[閒聊] 聖獸 被冷落的妮娜32
[閒聊] 為什麼現在就覺得鳴潮失敗了？![[閒聊] 為什麼現在就覺得鳴潮失敗了？](https://i.imgur.com/6ZrO7HXb.png "[閒聊] 為什麼現在就覺得鳴潮失敗了？")
38
[GBC ] 花田寫GBC是不是想證明自己沒有錯？![[GBC ] 花田寫GBC是不是想證明自己沒有錯？](https://i.imgur.com/qIBRLPSb.jpeg "[GBC ] 花田寫GBC是不是想證明自己沒有錯？")
38
[閒聊] 所以幻塔是出了什麼問題？38
[閒聊] 有什麼經典的女人打架橋段？![[閒聊] 有什麼經典的女人打架橋段？](https://i.imgur.com/bMFFZUmb.jpg "[閒聊] 有什麼經典的女人打架橋段？")
36
[閒聊] 鳴潮卡池將被米哈遊人氣女角夾擊![[閒聊] 鳴潮卡池將被米哈遊人氣女角夾擊](https://i.imgur.com/go0aI2db.jpeg "[閒聊] 鳴潮卡池將被米哈遊人氣女角夾擊")
34
[閒聊] 鳴潮還有反轉的機會嗎![[閒聊] 鳴潮還有反轉的機會嗎](https://i.imgur.com/UPHyR5hb.jpeg "[閒聊] 鳴潮還有反轉的機會嗎")
34
[閒聊] 叫你駕駛別人身體(同性別) 你能接受嗎