PTT評價

[閒聊] Vivy AI沒設計安全機制是不是大錯?

看板C_Chat標題[閒聊] Vivy AI沒設計安全機制是不是大錯?作者
sado5566
(5566)
時間推噓 7 推:7 噓:0 →:10

譬如機械公敵裡用到的機器人三大法則
一、機器人不能傷害人類
二、不違反原則一,聽從人類命令
三、不違反原則一二,保護自己

在這原則下除了最後爆發人類與AI衝突
中間很多事件應該都能避免
譬如巨浮島那些AI應該能避免攻擊人

又或是像來自新世界的愧死機制
讓攻擊人類致死的AI自己發動停止程序
一定程度能緩和AI的攻擊性
當然AI數量暴增多於人類很多倍還是能滅世

又或是刀劍underworld裡面禁忌目錄
正常人都無法突破限制做出不該的行動

覺得AI這種一板一眼電子存在
怎麼會沒有設計一個基本安全機制呢?

vivy裡面就很單純靠單一使命
所以很多使命都是讓人類怎樣怎樣
用歌聲讓人類幸福
當護理師讓人類生存
彈鋼琴幫助人類
營運巨浮島幫助人類
從第一集就覺得這種靠一句話使命的機制超多漏洞可鑽的

如果vivy開第二季
人類會怎樣設計改良AI安全機制?


--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.255.110.151 (臺灣)
PTT 網址

TeamFrotress07/16 22:45在它們的腳底安裝自爆按鈕

Sirctal07/16 22:55你知道那三大原則就是拿來打破的嗎?

Sirctal07/16 22:55科幻小說會寫主要是想突顯AI帶有人性

Sirctal07/16 22:55會自行衍生或解釋

Sirctal07/16 22:56來強調他們是跟人同樣的一個創造物

junior100607/16 22:57三大原則是為了打破用的

junior100607/16 22:57更不要說vivy裡面姊妹系列本來就是刻意放寬界線的

msbdhdfceb07/16 22:59三大法則就是拿來打破的 還直接生出萬用第零法則

我提的例子每個都有破解方法 怎麼你們大家就特別針對三大法則咧 當然知道三大法則能破 重點是vivy裡面只靠一句使命的機制 比起其他作品實在太不可靠 正常發展都遲早出事根本不用安排黑幕

※ 編輯: sado5566 (111.255.110.151 臺灣), 07/16/2021 23:02:49

a125g07/16 23:28vivy有致敬機器人系列 像是那個電子腦無法複製

Amulet107/16 23:46其實是有點自降格調,這些設定套在vivy世界觀的話

jiko556607/17 00:29不能傷害人類這點,就會有其他事件出現

jiko556607/17 00:29主角無法反擊部分人類

jiko556607/17 00:30失控AI卻能鑽漏洞讓人類死亡

coolctm07/17 02:11就是拿來打破的,所以歐菲利雅自殺事件才被視為奇點之一

coolctm07/17 02:11,這100年的過程其實就是在說AI越來越趨近於人類

hirokofan07/17 07:57有安全機制也沒用啦,最後archive直接操控AI暴動

hirokofan07/17 07:58那個時候哪隻AI還有在顧使命了?全部變成殺人機器啦