[閒聊] Vivy AI沒設計安全機制是不是大錯？
譬如機械公敵裡用到的機器人三大法則
一、機器人不能傷害人類
二、不違反原則一，聽從人類命令
三、不違反原則一二，保護自己
在這原則下除了最後爆發人類與AI衝突
中間很多事件應該都能避免
譬如巨浮島那些AI應該能避免攻擊人
又或是像來自新世界的愧死機制
讓攻擊人類致死的AI自己發動停止程序
一定程度能緩和AI的攻擊性
當然AI數量暴增多於人類很多倍還是能滅世
又或是刀劍underworld裡面禁忌目錄
正常人都無法突破限制做出不該的行動
覺得AI這種一板一眼電子存在
怎麼會沒有設計一個基本安全機制呢？
vivy裡面就很單純靠單一使命
所以很多使命都是讓人類怎樣怎樣
用歌聲讓人類幸福
當護理師讓人類生存
彈鋼琴幫助人類
營運巨浮島幫助人類
從第一集就覺得這種靠一句話使命的機制超多漏洞可鑽的
如果vivy開第二季
人類會怎樣設計改良AI安全機制？
--
在它們的腳底安裝自爆按鈕
你知道那三大原則就是拿來打破的嗎？
科幻小說會寫主要是想突顯AI帶有人性
會自行衍生或解釋
來強調他們是跟人同樣的一個創造物
三大原則是為了打破用的
更不要說vivy裡面姊妹系列本來就是刻意放寬界線的
三大法則就是拿來打破的 還直接生出萬用第零法則
我提的例子每個都有破解方法 怎麼你們大家就特別針對三大法則咧 當然知道三大法則能破 重點是vivy裡面只靠一句使命的機制 比起其他作品實在太不可靠 正常發展都遲早出事根本不用安排黑幕
※ 編輯: sado5566 (111.255.110.151 臺灣), 07/16/2021 23:02:49vivy有致敬機器人系列 像是那個電子腦無法複製
其實是有點自降格調，這些設定套在vivy世界觀的話
不能傷害人類這點，就會有其他事件出現
主角無法反擊部分人類
失控AI卻能鑽漏洞讓人類死亡
就是拿來打破的，所以歐菲利雅自殺事件才被視為奇點之一
，這100年的過程其實就是在說AI越來越趨近於人類
有安全機制也沒用啦，最後archive直接操控AI暴動
那個時候哪隻AI還有在顧使命了？全部變成殺人機器啦
20
[閒聊] Vivy 既不科幻也無成長的香香經費番Vivy最近中規中矩的結局了，但過了幾天我再回憶一下劇情， 實話說我幾乎想不起來Vivy中間劇情到底演了什麼， 但是動作鏡頭我倒是記得不少。 所以我決定整理一下為什麼Vivy最後劇情的亮點只能說乏善可陳。 雖然披著科幻皮但一點也不科幻12
[問題] Vivy 12的邏輯問題就在剛剛一口氣追完了13集，有一個問題我覺得今天沒想清楚會睡不著 這部最重要的規則就是AI會貫徹自己的使命 世界的伺服器AI亞卡布，他的使命是幫助人類社會發展 然後他的邏輯是 人類變得太依賴AI而且對AI有感情阻礙人類發展11
[討論] Vivy—A.I.相關作品的嶄新可能性《Vivy -Fluorite Eye's Song-》 突破傳統人工智慧故事格局， 以日本的文化思想為根基， 走出不同風貌的道路。![[討論] Vivy—A.I.相關作品的嶄新可能性](https://i.imgur.com/JczsxMob.jpg "[討論] Vivy—A.I.相關作品的嶄新可能性")
11
Re: [討論] Vivy prototype 日文小說第四卷內容討論這邊開始的定義與一些部分跟動畫有一些的差異 ===== Archive 說到底，究竟是怎麼樣的東西呢 Vivy的話，會回答是人類無法到達，只給予AI的無人之境6
Re: [討論] VIVY的劇情跟設定矛盾點不覺得太多了嗎?我覺得如果這個作品在剩下的集數， Vivy對這個世界、以及自己的認知 還是停留在「我是個歌手，我唱歌讓大家幸福」的階段 那我會覺得很可惜， 我會覺得這個角色在世界上活動了100年，卻沒有過「自己的想法」5
Re: [21春] Vivy 12Archive的使命：為了人類的發展 現狀：人類越來越依賴AI，原地踏步的廢物 解決：什麼事情最後都只丟給AI，定義AI為人類還比較有進步的可能 因此只要人類繼續在各領域發展且依賴於AI 作為集合體的Archive不管怎麼演算3
Re: [閒聊] Vivy 既不科幻也無成長的香香經費番是第一個具有「創作」能力的AI 創作絕對是將人類和其他生物區別開來的一大因素 第十話提到了，AI自發性創作歌曲的曲目為0 Vivy藉著過往冒險的回憶編織而成的歌曲 讓亞卡布認定Vivy是最接近人類的AI2
[21春] Vivy -Fluorite Eye's Song 06Vivy -Fluorite Eye's Song-06 本來的世界線葛雷絲會跟博士結婚 沒想到因為太空船墜毀事件 機器人保護人類的事蹟讓姐妹系列機器人評價變高 間接導致葛雷絲被選中，成為了巨浮島的管理AI![[21春] Vivy -Fluorite Eye's Song 06](https://i.imgur.com/UohdFhCb.png "[21春] Vivy -Fluorite Eye's Song 06")
2
Re: [討論] VIVY的劇情跟設定矛盾點不覺得太多了嗎?這種說法實在很天真，虛構故事不代表其中的「角色」言行不用符合邏輯。AI與人類都是 角色之一，後者並不因為前者是演算法的產物，而得到「邏輯免責」的特權。 : 再來他在這一集中講的一番話完全點出了到目前為止的矛盾原因 : "ai不該試著理解人類,不該懷抱超越使命的願望",幹說的不能再對了不是嗎? 不是。這只是你（和他）一廂情願的想法罷了2
Re: [閒聊] 對Vivy結局的一些想法我是很想寫VIVY的同人，反正可以隨便掰說這條路走一走被修正了 不過沒什麼氣力來弄這個大工程.... archive反叛的理由很牽強啊.... 因為人類太依賴AI所以要把人類毀滅然後AI成為新人類 啊AI就缺乏人類的創造性，還有那可憐的單一使命，怎麼想都沒辦法取代人類啊
爆
[問題] 中國在中世紀很強嗎？![[問題] 中國在中世紀很強嗎？](https://i.imgur.com/GPts7RTb.jpeg "[問題] 中國在中世紀很強嗎？")
92
[閒聊] 日本網友對亂馬1/2角色喜好排名![[閒聊] 日本網友對亂馬1/2角色喜好排名](https://cimg.kgl-systems.io/camion/files/17801/ogp_MSBi.jpg?x=1280 "[閒聊] 日本網友對亂馬1/2角色喜好排名")
88
[閒聊] 跟好朋友會說謝謝嗎73
[閒聊] 國家運轉靠南部 因老人多煽動很有效![[閒聊] 國家運轉靠南部 因老人多煽動很有效](https://i.imgur.com/zbYeORyb.jpeg "[閒聊] 國家運轉靠南部 因老人多煽動很有效")
76
[閒聊] 寶可夢 南半球爆乳地鼠![[閒聊] 寶可夢 南半球爆乳地鼠](https://i.imgur.com/ySb9I71b.jpeg "[閒聊] 寶可夢 南半球爆乳地鼠")
70
[閒聊] 膽大黨是不是讓童磨嚎啕大哭![[閒聊] 膽大黨是不是讓童磨嚎啕大哭](https://i.imgur.com/9QOFLCfb.jpeg "[閒聊] 膽大黨是不是讓童磨嚎啕大哭")
64
[水星] 鋼彈聯名衣服賣不出去？那不如![[水星] 鋼彈聯名衣服賣不出去？那不如](https://i.imgur.com/rQaeSPmb.jpeg "[水星] 鋼彈聯名衣服賣不出去？那不如")
55
[閒聊] 動畫瘋有想過引進真人戲劇和影集嗎？63
[24秋] 死神 推特：請大家今晚準備好一起詠唱![[24秋] 死神 推特：請大家今晚準備好一起詠唱](https://pbs.twimg.com/media/GbWH3D5XEAAKBx0.jpg "[24秋] 死神 推特：請大家今晚準備好一起詠唱")
54
[閒聊] 台灣PC玩家的配備484普遍很頂?![[閒聊] 台灣PC玩家的配備484普遍很頂?](https://i.imgur.com/LChYpUIb.png "[閒聊] 台灣PC玩家的配備484普遍很頂?")
57
[閒聊] 果然近親繁殖是不應該的吧![[閒聊] 果然近親繁殖是不應該的吧](https://i.imgur.com/uoLmzMtb.jpeg "[閒聊] 果然近親繁殖是不應該的吧")
39
[閒聊] 近期還有什麼值得追的漫畫嗎？38
[妮姬] 尼恩背叛的可能性是不是越來越大了![[妮姬] 尼恩背叛的可能性是不是越來越大了](https://i.imgur.com/4lJS93Db.jpeg "[妮姬] 尼恩背叛的可能性是不是越來越大了")
37
[閒聊] 如果魔物也加入DEI元素的話？![[閒聊] 如果魔物也加入DEI元素的話？](https://img.youtube.com/vi/1ecAPx5YeMM/mqdefault.jpg "[閒聊] 如果魔物也加入DEI元素的話？")
35
Re: [問題] 切嗣有想過去殺韋伯嗎35
Re: [閒聊] 日本網友對亂馬1/2角色喜好排名33
[問題] 妮姬這次活動小遊戲是不是很長啊？31
[閒聊] 綠牛烙跑政府沒反應嗎31
[妮姬] 紅帽原本的強度是怎樣?![[妮姬] 紅帽原本的強度是怎樣?](https://pbs.twimg.com/media/F-kKv_wWgAA3yT_.jpg "[妮姬] 紅帽原本的強度是怎樣?")
70
[GBC] 少女樂團動畫瘋彈幕：我超冰 是什麼意思![[GBC] 少女樂團動畫瘋彈幕：我超冰 是什麼意思](https://i.imgur.com/Hr6ZblUb.jpeg "[GBC] 少女樂團動畫瘋彈幕：我超冰 是什麼意思")
30
[問題] MH作成開放世界的好處？30
[妮姬] 來自老灰的關切![[妮姬] 來自老灰的關切](https://i.imgur.com/J2a6n0cb.png "[妮姬] 來自老灰的關切")
26
[閒聊] 魔物荒野試玩 有沒有Xbox的體驗感想![[閒聊] 魔物荒野試玩 有沒有Xbox的體驗感想](https://i.imgur.com/s5AECWbb.jpeg "[閒聊] 魔物荒野試玩 有沒有Xbox的體驗感想")
26
[閒聊] 又是為了繁衍嗎![[閒聊] 又是為了繁衍嗎](https://i.imgur.com/ADUKuOgb.jpeg "[閒聊] 又是為了繁衍嗎")
25
[育碧] 淨收益下滑22%，執行長：持續為股東![[育碧] 淨收益下滑22%，執行長：持續為股東](https://pgw.udn.com.tw/gw/photo.php?u=https://uc.udn.com.tw/photo/2024/11/01/0/30825838.jpg&s=Y&x=0&y=0&sw=1280&sh=720&sl=W&fw=800&exp=3600 "[育碧] 淨收益下滑22%，執行長：持續為股東")
26
[閒聊] 飛龍Wyvern要正名成啥?飛行蜥蜴?![[閒聊] 飛龍Wyvern要正名成啥?飛行蜥蜴?](https://i.imgur.com/Ue5JueVb.png "[閒聊] 飛龍Wyvern要正名成啥?飛行蜥蜴?")
25
[閒聊] 直接玩P4G會看不懂嗎25
Re: [地錯] 琉 和 劍姬 大家會選哪個![Re: [地錯] 琉 和 劍姬 大家會選哪個](https://img.youtube.com/vi/bRIJ7PSAHkk/mqdefault.jpg "Re: [地錯] 琉 和 劍姬 大家會選哪個")
57
[地錯] 琉 和 劍姬 大家會選哪個![[地錯] 琉 和 劍姬 大家會選哪個](https://img.youtube.com/vi/9q2ggMxwUSU/mqdefault.jpg "[地錯] 琉 和 劍姬 大家會選哪個")
25
[24春] 少女樂團 吶喊吧 01![[24春] 少女樂團 吶喊吧 01](https://i.imgur.com/a77J2j1b.png "[24春] 少女樂團 吶喊吧 01")