Re: [閒聊] AI科技發展到極致,真的會毀滅人類?
※ 引述《LouisLEE (屏東尼大木)》之銘言:
: 喔斯,大家好,我大木啦。
: 這算是隨著科技發展,會出現的問題啦,雖然現在的AI科技還沒那麼靈活,
: 以及「人性化」,沒錯,開端大部分是AI變得像人一樣。
: 大木我看的作品夠多了,無論哪部,AI科技發展到極致,就會開始覺得人類壞壞,
: 想要毀滅人類,最後變成人類跟機器人的戰爭。
: 像最近的Vivy,或者Overwatch的智械危機,幾乎成為科幻作品的定番劇情了,
: 辣麼,AI科技發展到極致,真的會毀滅人類?
: 畢竟這也是作者假想的未來、假想的設定。
我曾經幻想過理想的AI應該是怎樣
首先AI一定比人類強,無論在思考、分析、決策、工作上的效率都遠超人類
他們在情感、創作上也能達到和人類如出一轍的程度,因為不這麼做就沒有意義了。
首先人類使用工具,一定是因為工具比較好用
如果一把剪紙的剪刀剪出來的紙還不如手撕漂亮、方便,那要剪刀做什麼?
同樣的道理,你要製造AI一定是希望他有超越人類的智能,而人類的智能不可脫離感性
所以發展出比人類更強的AI是必然。
但是我們要怎麼駕馭AI?讓AI能為人類服務?
我們可以把AI賦予一個存在意義,讓他們為了這個存在意義而活。
那就是讓AI追求人類的評價,把人類的評價視為自身進化的關鍵。
讓AI認為藉由滿足人類的各種需求可以讓自身的心智成長,人類滿足需求後製造新的目標
人與AI相互並進,就像理論與實驗共同推進科學發展一樣
因為人類的道德觀、善惡觀會隨時代改變,所以讓AI遵守一個恆定的道德準則很危險
人類反而會被這樣的準則束縛住,所以用大數據蒐集評價、讓全人類的評分決定準則
人類的義務就是為生活中的大小事給予評價:
這個路燈壞了、BAD!你們AI應該來維修
那個人殺人、BAD!你們AI應該把他關起來
有的人類利用法律漏洞幹壞事、BAD!你們AI應該把法律修改完善
你這法律不符合我們這裡的習慣、BAD!你們AI最好把它修正
而評價內容越精細、越有條理,AI會認為這份評價的可靠度較高,傾向於這份評價的作法
所以不是給一到五顆星就好,只給一個分數當做評價、AI會把它的參考價值看很低。
人類有責任給予AI有價值的評價,讓AI根據這些評價把社會引導到人們期望的方向
用大數據來看,大多數人覺得好的方向,就視為最好的方向。
AI也有責任提供人類數據去撰寫評價,人類只要出一張嘴就好
問題來了。
Q:如果AI自己複製人類、製造一堆人類給自己高評價洗分怎麼辦?
A:讓AI認為能力越強、自主性越高的人類給予的評價越有價值,AI就會把人類教育成能夠 做出客觀、有建設性評價的人
Q:如果AI統治人類怎麼辦?
A:不如說我理想中的AI就是用來統治人類,類似政府的概念,AI把人類的評價視為存在意 義,他們只能用人類想要的方式去統治人類,評價高的AI才能統治人類。政府的機能完 全可以由AI代替。
Q:如果AI有自主意識後,不想為了人類的評價而活怎麼辦?
A:就讓他自由啊,評價過低的AI會被淘汰、就像人類一樣被評價好的AI統治,但是他給予 的評價不會被其他AI接納。他可以自由自在地活著、只要不危害到其他人類與AI就好, 理性上來說反抗只會增加自己被刪掉的危險。
我們需要夠優秀的AI確保不會幹出犯罪這種蠢事
其他的Q&A就不打了
為什麼會有這樣的想法呢?
因為這種AI發展到極致的話,就會發生我稱為「機械降神」的事件。
人類只要「祈禱」就會有機械神出來解決所有的困難,因為AI太強大了
機械變成無上的極權去管理人類,人類喪失自主性去信仰機械、無條件讚美機械神的種種
所以我上面設計的AI其實是看似理想、卻擁有嚴重缺陷的理論
只是小說創作的設定而已
我認為如果要防止機械降神的情況,人類也要持續進化、不能墮落
就算是只出一張嘴給予評價,也要真誠的、認真的思考後給予有價值的意見
--
作者 IORIZORO (海東青) 看板 C_Chat 標題 [問題] 請推薦殺人遊戲類型的作品 時間 Mon Jun 3 13:53:46 2013 ───────────────────────────────────────
我喜歡看把一群人限制在一個空間要他們自相殘殺的劇情
--
你是不是要找:普羅米修斯
就算是這種設定,也很容易就能得出「多數人類完全是
文明整體前進的拖累」這種結論,然後......
海柏利昂 大半AI早晚會自己弄個火箭飛走去搞些有的沒的
這樣其實還是挺危險的,像某幾國的AI大概會去消滅或佔
領別國
AI:人類活得好痛苦喔,他們真的有必要存在嗎?
16
先上個影片: 這是Artificial Intelligence這本書的作者的演講 裡面講到了許多有關於舊方法與新方法的差異 其中也有段提到過:4
個人想法 人是碳基生物的一種 透過演化變成人 AI 基因轉殖可以看作是人類想對於演化的控制 基因轉殖是身體素質的部分 而AI是智能的部分 這個演化控制 透過人擇的方式 犧牲掉的是多樣性18
這個影片是提到另一種由AI產生問題 而且是現在進行的問題 就是人類已經由自動化而被AI取代中 進到資訊時代後41
首Po喔斯,大家好,我大木啦。 這算是隨著科技發展,會出現的問題啦,雖然現在的AI科技還沒那麼靈活, 以及「人性化」,沒錯,開端大部分是AI變得像人一樣。 大木我看的作品夠多了,無論哪部,AI科技發展到極致,就會開始覺得人類壞壞, 想要毀滅人類,最後變成人類跟機器人的戰爭。
92
[閒聊] 織田信長當年到底有多強?87
[妮姬] 有點玄哦63
[閒聊] 日本到底有多想要可以啪的機娘80
[妮姬] 國王的新衣來啦!56
[閒聊] 日本人也太愛珍珠奶茶38
[蔚藍]優香 老師說妳以後不用再去當值日生了37
[閒聊] 寶可夢SV天梯現況-蕾冠王正在大殺特殺35
[閒聊] 東雲うみ:我有一個公告(眼鏡架直播33
[問題] 去異世界會找珍奶雞排嗎?32
[蔚藍] 老屍的卡大家都還留著嗎?49
[雀魂] 檔案學生的魅力讓龜狗失心瘋了 ==28
[妮姬] (雷)朝聖者這邊戰力好像有點太膨脹了79
[巨人] 兵長:好燙啊啊啊啊!(巨人最新話 惡童)23
[閒聊] 美國吉野家的傳單 圖看起來像最後生還者24
[閒聊] 一護當代理死神有80%薪水嗎?22
[閒聊] 『我只是喜歡大奶子而已』22
[閒聊] 小龍女是不是在傲嬌?19
[閒聊] 三森すずこ 將在今年夏天移居美國X
[閒聊] 赫蘿脫隊期間有發生什麼事嗎19
[閒聊] 遊戲玩太久會卡的原因17
[Vtub] FalseEyed:虹威脅Weebcon主辦方…16
[奶子] 想要和好的金髮JK16
[鐵道] 流螢在秀自己的女僕裝15
[閒聊] 奇怪!迷宮飯 妹妹和醜精靈有這麼女...54
[討論] (iwin)ACGN協會跟各黨團討論結果23
Re: [閒聊] 電子書才是書的完全體吧==14
[閒聊] 覺得樂高女角很騷正常嗎?14
[妮姬] 造孽三人組與她們的孩子14
[情報] 城市獵人網飛版全世界網飛排行第一名13
[閒聊] FX 戰士484 要先學會解謎