PTT評價

Re: [閒聊] 機器人三大法則有解嗎?

看板C_Chat標題Re: [閒聊] 機器人三大法則有解嗎?作者
jjimmy
(注意健康 關心家人)
時間推噓 6 推:6 噓:0 →:20

身為一個看過艾西莫夫作品、原子小金剛、浦澤正樹的PLUTO,還有一些有提到機器人受人類限制作品的大叔,看到這篇文章後有感而發,在此想發表一點淺見。
(PS:我還沒看動畫,下面對PLUTO是對漫畫的印象)

誠如一些回覆的版友所言,艾西莫夫當初在機器人相關故事中,設了三原則這個前提,其本質目的就是要嘗試打破。所以有不少故事會看到機器人在違反三原則的邊緣間遊走,而引發許多機器人混亂、矛盾、甚至自我毀滅的結果。

這邊有一點可能在討論中沒被強調,就是在艾西莫夫的這些機器人要裝三原則,並非法律規範的必要,而是不得不為。因為故事裡還有條不是討論中提到的第0原則的優先原則:正子腦型機器人如果不裝三原則,則無法正常運作。運作後一旦違法了,輕則當機故障,重則自我毀滅,再起不能。三原則對這些機器人來說,並不是法律規範那麼簡單的事情,用比喻的話比較像人必須呼吸空氣來維持生命,一旦違反就不能呼吸了的生理機能一樣。

當然這麼多故事中,也有少數的機器人角色,搞了第0原則來 成功地突破三原則限制,成為了比喻中不用呼吸也可以維持生命的超越存在。但大部分機器人還是難以突破。另外印象還有為了不讓間接或無意中違反三原則的機器人出事,而故意欺瞞機器人的漏洞故事。這個漏洞似乎只要不讓機器人意識到自己其實有違反了三原則,就不會故障。但如果它後來還是發現了呢? 因為看過的印象時間有點久,這邊可能就需要有人補充了。


然後我曾看人提到過,艾西莫夫在某些作品中,有出現過不再受限於三原則也可以運作的新型機器人。因為我自己沒印象看過這方面的故事,所以不方便討論這邊跑出了甚麼情節來跟三原則激盪。但我知道有個相關改編作品有明顯出現這種機器人,就是威爾史密斯主演的機械公敵(I, Robot)。這片就我的角度來看,算是呈現了大眾印象的三原則是什麼模樣。

電影裡面三原則沒那麼被強調是機器人得以運作、思考的根本,看到更多的是裡面的大眾認知的服從、安全保障機制,認為只要機器人有裝三原則,就不用擔心機器人對人類做甚麼危險的事情。然後根據電影慣例,黑幕搞出了不用三原則也能動的新型機器人,導致安全跟信任出了問題。片尾,被人懷疑有疑慮的新型機器人(不分是否是黑幕做的),也沒有重新改造,而只能大批地封印起來。

這個作法基本上也可以拿去比對其他借用三原則設定的作品上。然後就會發現,機械公敵跟別的作品相比,其實真的比較接近艾西莫夫原本的作品。因為,它並沒有說,把新型機器人回去加上三原則就可以繼續使用了。因為艾氏設定中,沒有辦法這樣做! 這些可以違反三原則也不當機的新型,已經不需要三原則就可以運作了,哪把它加回去其實不會影響它們的存亡。如果真要加,就是新的奴隸控制程式,類似裡面的黑幕操作它們一樣。


這點方面,絕大多數借用三原則的作品,其實就跟這些新型機器人對待的方式一樣,只是把三原則當作西遊記中控制孫悟空的"緊箍咒"。在"不需要三原則也能行動"的機器人上面另外加了限制程式。為什麼? 因為人類就是害怕啊! 機器人就是比人強很多啊,要是做出對人不利的事情怎麼辦? 同樣的道理,如果有人發明了可以保證狗一定服從人類的晶片,會不會就有人要求所有寵物狗都要裝這種晶片? 可能會有愛寵人士反對,但一定也會有怕狗傷到的人支持。

印象原子小金剛系列有些機器人權倡導者,也就是基於這點,而提出不要給裡面的機器人安裝所謂的"三原則"。但這無形中也透漏,就是這個作品裡面的機器人,不用裝三原則也可以行動的事實,所以有時候才會跑出大壞蛋說:哈哈哈,我的機器人沒有裝三原則,受死吧!人類警察!(跟著原子小金剛衝壞人基地也算勇敢了) 的場面。

也因為這一點啊,我一直對PLUTO 有個角色的存在,感到有點不解。如果它是要遵守三原則才能運作的機器人,才比較有存在的道理。如果是只是把三原則當緊箍咒去控制機器人不去傷害人類的世界觀,那麼,緊箍一定有解的方法吧? 有必要對它的存在感到那麼大驚小怪嗎? 還是我一直誤解了PLUTO 的世界觀,裡面的機器人也是要有三原則才能行動的類型?


最後,講個日本ACG 後來常見的引用三原則的笑話場景。我最早是在椎名高志的GS美神中看到,裡面的卡奧斯博士做了新的機器人,卻被對方倒打一把才說自己忘了裝三原則。這基本上又是上面把三原則當緊箍咒的模式。其實,對某些意圖不軌的反派來說,要給機器人裝的根本不是三原則,而是"絕對服從自己"的程式。不然,如果今天你去征服世界,機器人看到人類防衛隊來抵擋,就說"我不能傷害人類",然後反派大喊"可是你要服從我的命令"啊,導致機器人當場當機,這誰要看啊?

一點淺見,搏君一笑。

--
給全世界的孩子們愛與勇氣!!
這樣做的前提是--首先讓他們感覺到恐怖--!!
以一輩子無法遺忘的恐怖和衝擊,
使他們擁有一輩子無法遺忘的愛與勇氣!

by 富士鷹 操筆樂

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.224.210.147 (臺灣)
PTT 網址
※ 編輯: jjimmy (36.224.210.147 臺灣), 10/27/2023 10:34:00

ainamk10/27 10:33要講小金剛的話其實還要講時常被遺忘的機器人十法

greg9032610/27 10:34

iam071810/27 10:39等AI機器人有感情的一天 大概就慘了

linzero10/27 10:44現在就有不少人在擔心當今AI的發展了

linzero10/27 10:45像有條美軍訓練AI戰鬥的新聞就是AI判定人類是阻礙達成軍

linzero10/27 10:46事目標的要素而去排除他

RoChing10/27 10:47比起給人類用來限制機器人,三法更是機器人用來限制自己

iam071810/27 10:49人類如果被AI判定成病毒 或該死的那種也不是很意外

bluejark10/27 11:05如果只是限制那就沒有智慧可言

bluejark10/27 11:06這三原則會流行的原因就是因為他的矛盾等於人性的道德

lifehunter10/27 11:29沒看過原子小金剛原作 但冥王看起來裡面機器人是有加

lifehunter10/27 11:31入三原則 是當緊箍咒用 所以布萊鄔殺人 他們本來以為

lifehunter10/27 11:31是AI(緊箍)壞掉 但檢查後發現他的AI(緊箍)好好的

lifehunter10/27 11:32所以科學家才害怕 因為這表示緊箍咒是有Bug在的 而且

lifehunter10/27 11:33還不知道Bug出在哪 那表示現在路上成千上億的機器人都

lifehunter10/27 11:33不安全 隨時都可能暴起殺人~

xxx6070910/27 11:44不用艾氏設定,是因為那個強制安裝理由完全不合邏輯也不

xxx6070910/27 11:44合現實

xxx6070910/27 11:44嘛,這也是艾氏作品常見的漏洞缺陷就是

bluejark10/27 11:55這個科幻理論同時也是有諷刺人類社會

bluejark10/27 11:59一方面是人類對機器反叛的恐懼另有對人類社會的檢討

bluejark10/27 12:01其中一個就是覺得AI為了保護人類而消滅人類

rockmanx5210/27 18:15艾西莫夫自己就藉由丹尼爾的口來說過三原則本來就有

rockmanx5210/27 18:15漏洞可以鑽吧?所以他才跟同伴一起在地球跟外世界的

rockmanx5210/27 18:15戰爭中研究出第零原則並在幕後一手打造銀河帝國啊

rockmanx5210/27 18:15結果在這過程中同伴老馬犯了第零原則掛了