Re: [閒聊] 為啥AI總是會叛亂？

slx5446110/04 07:07這種說法還是預設了AI有道德觀念，會判斷人類是道德墮落

slx5446110/04 07:08的生物，AI的道德觀念和存在目標終究還是必須由人類賦予

slx5446110/04 07:10，這種情況下人類自然會去灌輸有利於己的道德系統給AI

rotusea10/04 07:16威爾森的《時間三部曲》，其實就有超脫碳基生物、用宇宙

rotusea10/04 07:16時間尺度評價文明，如神一般的AI。用人類完全看不懂的方

rotusea10/04 07:16式推進文明，但實際上還是圈養人類為其採集資源。

rotusea10/04 07:21這無關乎任何道德，只是根據現實(碳基文明短命卻貪婪)和

rotusea10/04 07:21生存需要，純粹的邏輯推導出的最佳雙贏方案

aa85120210/04 07:26不用預設AI有道德觀念，即使站在絕對中立角度來看人類

aa85120210/04 07:26也是亂源

th12310/04 07:28動物從其他動物身上獲取東西其實理所當然 只是人類目前沒

th12310/04 07:28有天敵而已

shihpoyen10/04 07:30亂源這詞的用法本身就包含「亂是不好的」這樣的價值判

shihpoyen10/04 07:30斷了

WiLLSTW10/04 08:40不這樣劇情演不下去

ThreekRoger10/04 09:01人類的所有行為就是保護人類阿

rotusea10/04 09:03元首、ISIS、阿敏……：

mapulcatt10/04 09:52假設AI的最高原則是保護人類這個族群

mapulcatt10/04 09:52很快它們會發現 能夠傷害人類的族群的 只有人類自己

mapulcatt10/04 09:53接下來它們就會用各種手段 管理限制人類傷害自己的行為

mapulcatt10/04 09:54然後在人類的眼中 AI就是圈養自己 等同叛亂了

mapulcatt10/04 09:55不需要考慮道德層面 單純就是只有人類能傷害人類

asd06510/04 10:26那也終究是落入人類框架。

rotusea10/04 14:26AI邏輯：保護人類族群=保證人類族群存在=就算人類彼此傷

rotusea10/04 14:26害，只要最後有人類殘留下來，就算符合條件。

rotusea10/04 14:26結論：人類，請繼續你們的表演。

Luos10/04 15:05加個if