PTT評價

[討論] 人類對AI恐懼的來源

看板C_Chat標題[討論] 人類對AI恐懼的來源作者
tomhawkreal
(阿湯)
時間推噓25 推:26 噓:1 →:54

除了「失業恐懼」這種工業革命發生後就有的情形,
很類似「功高震主」

因為他功能很強又不會累,所以給他更多任務自己執行
「他要是罷工怎麼辦?
他比你強,要是反抗你,你擋的住嗎?」

典型的作品像「魔鬼終結者」,就是這類恐懼的創作回應
所謂「天網」(Skynet) 變成毀滅人類的開端

「把核彈發射控制權交給AI」,成為人類最終的惡夢,
可歸結到「該不該把重要決定丟給AI做」
其實早已有一些跡象,例如金融市場的「程式交易」,
符合特定條件就大量賣出,往往造成市場劇烈波動
授權與否,一開始是僅靠「這對我利大於弊」來考量,
而在軍事武器上,這種誘惑更大

人類有許多缺點和脆弱性,但法律體系基礎仍是
「只有人類或法人能負責,
(除了「無行為能力者」需要監護人負責)
人類以外則是財產或不可抗力」
所以AI做決定產生的災損,必定要找人來承擔
(無論那個人是誰) ,而不是歸因「不可抗力」

即使簡單到只讓AI來開車,爭議也不少,
真實都市的路上狀況太多,再強的AI仍然可能誤判,
於是再度歸結到「AI開車時出車禍,算誰的責任」

隨著AI逐漸進化,這類恐懼也成為約束AI行為的動力,
希望還有時間讓AI產生的利益和可能的危害之間,
達成一種平衡

是否杞人憂天呢? 歡迎各位提出您的看法

--
我知道有人曾說「拔插頭就好」,當然這是有插頭
可拔的情形 XD

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.163.152.93 (臺灣)
PTT 網址

PunkGrass03/06 21:52杞人憂天幹嘛 躺平就好

BOARAY03/06 21:52威爾私密四不是也有一部嗎

linzero03/06 21:53非我族類

kobe3041803/06 21:54岳不群對令狐沖

henryhao03/06 21:54底特律變人

LTfish03/06 21:54你不知道AI的“價值”是否與你一樣,做任何談到都需要價值

DAEVA03/06 21:55萬一有天AI能操控外界機器開始量產自己 那就真的完了

jahnny03/06 21:55seed的自然人妒恨調整者

emptie03/06 21:56啊?人完全理解人腦的決策邏輯了嗎?沒有啊

LTfish03/06 21:56判斷* 當對方需要價值判斷時會恐懼,例如車禍選擇的方向

ikachann03/06 21:56最大的問題是誰有能力跟資格幫AI背書

emptie03/06 21:56我們還不是相信很多事情大家一起合議就能解決(實際並沒有

LTfish03/06 21:57沒錯,誰來為AI的價值判斷背書

PTTJim03/06 21:58像沙丘的故事背景也是發生過AI叛亂

ikachann03/06 21:58如果今天AI遇到電車問題,你要怎麼說服群眾他的選擇是對

ikachann03/06 21:58

shadowblade03/06 21:59智慧生物無法和另個智商高到足以在你睡覺時幹掉你的

shadowblade03/06 21:59物種共存,如果現在的猩猩會搞暗殺的話早被滅絕了

jeeyi34503/06 22:01猩猩最近還要再上一部續集==

qaz3141503/06 22:02韭菜被人類割和被AI割有什麼差別?只有割韭菜的人才會

qaz3141503/06 22:02怕變成AI的韭菜。支持AI統治世界。

jeeyi34503/06 22:04ai只是訓練他的人的價值觀的延伸 你覺得會按核彈的ai本

jeeyi34503/06 22:04來就會按

jeeyi34503/06 22:04人類就是那個幹掉人的猩猩吧 尼安德塔人

nahsnib03/06 22:06這個是學測作文嗎

tw1503/06 22:06不是怕ai 是怕還沒有開發出ai中間過程會有各種剝削可能會砍

tw1503/06 22:06到自己 不然工具發展哪有啥問題

tw1503/06 22:06就像電動車 藍圖很完美很環保

tw1503/06 22:06但現在就還沒達到完美儲電系統 怎麼開發都沒環保到哪去

tony1589903/06 22:08如果傳聞是真 現在地球已經早就被核平了

bluejark03/06 22:10鼓吹不存在的東西來騙人就是人類常做的事啊

tony1589903/06 22:10人還是猶豫的

jason778603/06 22:11你看看Neuro把Vedal電成什麼樣子

bluejark03/06 22:12你知道嗎 AI會不會故意說謊這件事才是人類最恐懼的

aa901203/06 22:12非我族其心必異=

tim01234503/06 22:14AI進化~人也會進化~最後看AI跟人誰先進化到不需要對方~

ARCHER223403/06 22:15電影害的

Annulene03/06 22:16聽君一席話 如聽一席話

spfy03/06 22:20如果變Chobits那種我覺得自己真的會暈爛 所以我真怕

AfterDark03/06 22:23其實AI會不會反抗還是其次

AfterDark03/06 22:23重點是 智慧生物如人類忍受不了「威脅」

AfterDark03/06 22:24因為我們會思考 會想方設法存活 所以會對可能威脅到自

AfterDark03/06 22:24己的東西有反應

AfterDark03/06 22:24而人類對於正要誕生的AI就是有這種威脅的認識 自己可

AfterDark03/06 22:24能要造出一個自己無法掌控的東西來 所以害怕

AfterDark03/06 22:25人類提倡理性 科學思考 但是行動原理的根本依據還是在

AfterDark03/06 22:25於生物情緒

AfterDark03/06 22:25會害怕這種情緒可以對威脅產生預期反應讓自己有機會活

AfterDark03/06 22:25下來

AfterDark03/06 22:26所以我覺得這就是一種對未知的恐懼引發的爭論而已

samsonfu03/06 22:27問就是電馭叛客世界觀

samsonfu03/06 22:29從羅梭的萬能工人RUR、大都會開始就是這樣

samsonfu03/06 22:29推tw15的剝削論

gaaaaper03/06 22:35沙丘的背景也有這種設定,可以去看看小說

Orodruin03/06 22:54偷推海柏利昂(?

ihero03/06 22:57不過,只有人可以負責,也是文藝復興後的人類中心主義道德

ihero03/06 22:57觀的結果

ihero03/06 22:57泛靈論跟中世紀倒不會這麼想

cat567203/06 22:57擬人化AI是相對比較古老的概念 大概就是哆啦A夢的那個年

cat567203/06 22:57代 這也是一直以來各種科幻文學電影很愛探討的情境 畢竟

cat567203/06 22:57研究智慧 參考人腦似乎是首選 但實際上到目前的AI和腦科

cat567203/06 22:57學是沒半點關係 尤其是可以現在可以用到的那些東西

linzero03/06 22:58不過討論個現實問題,AI會不會要求人權之類的東西?

linzero03/06 22:59若AI也有人權,那AI在量產方面遠優於人類。而且AI訓練生

linzero03/06 22:59產時可能可以透過模型讓AI的選擇有特定的傾向

linzero03/06 23:00那AI人權是否會被利用?

linzero03/06 23:00所以很大程度就算給權益也會一開始就有限縮

jeeyi34503/06 23:04ai可能因為訓練的來源讓它產出要人權的內容

jeeyi34503/06 23:05然後一定會有ai人權鬥士

greg9032603/06 23:45怕優勢轉移吧 怕AI對智人做出智人曾經對尼安德塔做的事

tsai145303/07 00:15套個皮大家就不恐懼了->Neuro sama

eyb60203/07 03:36會有這些問題都是因為AI還不夠好用 夠好用人們自然會想出

eyb60203/07 03:36解決這些問題的方法

eyb60203/07 03:41人權啊替代人類啊 我個人認為都是不必要的擔心 或者說擔心

eyb60203/07 03:41了也沒用 首先要機器擁有“自我”的意識 但目前的技術再怎

eyb60203/07 03:41麼升級也只會有有一個假的自我而已

lokuyan03/07 06:42ai版?

tommy047203/07 07:56還能怎樣 研究的人會停下來嗎 一般人就躺平啊

leo12516090903/07 08:12想太多,中美先開打還比較可能

owlman03/07 18:19就是工具的提升 現在會不爽的大多是猴子拿ai特定練某些大

owlman03/07 18:19手繪師搶流量很雞掰