[討論] AGI是人類問題萬解嗎?該具備人類思維嗎?
傳統上的想像
很多作品人工智慧是科技奇異點的需求
甚至人工意識 但人工意識種族普遍會加深人類的焦慮
從各種反烏托邦AI作品 駭客任務 甚至質量效應
沙丘跟40k應該也都有AI災難
人類希望存在一個擁有人類思維又擁有超級能力的電腦
但又希望這個電腦不具有人類缺陷
你要不要聽聽自己在講什麼.jpg
好啦 別搞這麼複雜 假設這台AI只是拿來問問題
那你怎麼保證你問的問題是正確的問題?
你假如問出錯誤的問題 AGI完美的解決 那不是一切更糟嗎= =
所有的語言跟形式邏輯都要達到完美的地步 不然一不小心AGI就變黑聖杯了= =
AGI1.能夠不聽命令自律主動介入社會 2.他只是問題的回答者
前者有人類被毀滅的風險 後者有人類加速自己毀滅的風險= =
---
--
買過一次固態換了兩次貨，永遠不再用
你這文章裡面的問題其實不是AI的思考能力，而是為什麼AI
可以取得足夠大的權限來毀滅人類
不 就算不取得權限 人類問出錯誤的問題 AI給出完美的答案 也是災難 以核能為例 以前假如問要怎麼快速消滅核能 他告訴你完美的答案 然後你就沒電了
※ 編輯: hayuyang (36.228.213.26 臺灣), 04/21/2024 13:10:07發明ai不就是為了懶..毀滅人類也是人類懶的做限制
二樓，因為你要他做事就是要給權限，不給權限又要員工什
麼都處理得很完美，這不是矛盾嗎？
有人要員工什麼都處理得很完美嗎？？
AI可以是完美的 但人類不是 這就是問題所在
※ 編輯: hayuyang (36.228.213.26 臺灣), 04/21/2024 13:11:02最近有隻龜要AI讀畫面上的一段話就搞到快崩潰了
他可以告訴我如何快速消滅核能 但不能決定我沒電吧？
沒電是其他因素造成的啊 你當初忘記輸入這個變數了
要員工什麼都自己處理的老闆多了去了，所以常常新聞上看
到員工利用老闆的信任大撈油水。想避免這種情況，那老闆
就必須自己監督批核，不能什麼都放給員工去做
把每個人關進獨立的空間 除了自己外全部都NPC 這樣就OK了
自己永遠是主角 AI就可以保障所有人的幸福
AI可以是完美的 <---- ???????
其實就是全能悖論吧
沒電還真的是當今AI的最大難題
那何不先問AI這麼做會有什麼後果
AI的本質不就是概率性嗎 不確定的東西能完美?
我們有人要求AGI的行為包含主動介入嗎？
人類目前有發明過完美的東西嗎
老實說我看了半天還是沒懂為什麼AGI有方法
就得AGI下去做 這之間的關聯
如果AI很完美 那他的能源計算公式應該也比人類完美
目前還不知道AI發展到所謂可自主學習比擬人類的會是怎樣
的情況跟傾向，對人類會有怎樣的看法也不得而知
62
[閒聊] 我們離人工智慧的奇點已經不遠了嗎？2001太空漫遊 駭客任務 魔鬼終結者 2077電駁叛客 底特律變人 人類常以AI叛變當做一個題材 我們也一直以為這始終會是個題材 但在去年 我們都還認為聊天AI只會說廢話的機器人59
[閒聊] 為什麼很多作品AI都想摧毀人類？不管是電影還是ACG都無數次出現那種AI想要消滅人類的情節 像是復仇者聯盟的奧創、SCP基金會或是戰錘40K都有毀滅人類或AI仇視人類的情節 可是勇者赫魯庫的古代人那種才是正常的AI邏輯吧 雖然古代人是從人類轉變而來的 但基本上用電子設備儲存記憶和人格這點就可以算是AI了 對可以用設備無視肉體損壞的AI來說 時間已經沒有意義 所以他們可以看著新人類種重複的毀滅和重生的過程 只在中途施加影響 想以此方式來恢復自己古代人的文明![[閒聊] 為什麼很多作品AI都想摧毀人類？](https://i.imgur.com/Oo46XBOb.jpg "[閒聊] 為什麼很多作品AI都想摧毀人類？")
52
[閒聊] GPT-5 或許會是強AI新聞連結 大家應該都知道在 ACGN 裡面出現的 AI 幾乎都是強人工智慧。 就我所知只有質量效應有細分成VI(弱人工智慧)跟AI(強人工智慧) 挺有意思的是質量效應的桀斯(強人工智慧)一開始其實也是弱人工智慧。![[閒聊] GPT-5 或許會是強AI](https://img.technews.tw/wp-content/uploads/2023/03/29181622/OpenAI-GPT-5.jpg "[閒聊] GPT-5 或許會是強AI")
41
[閒聊] AI科技發展到極致，真的會毀滅人類？喔斯，大家好，我大木啦。 這算是隨著科技發展，會出現的問題啦，雖然現在的AI科技還沒那麼靈活， 以及「人性化」，沒錯，開端大部分是AI變得像人一樣。 大木我看的作品夠多了，無論哪部，AI科技發展到極致，就會開始覺得人類壞壞， 想要毀滅人類，最後變成人類跟機器人的戰爭。![[閒聊] AI科技發展到極致，真的會毀滅人類？](https://i.imgur.com/GlrREsFb.jpg "[閒聊] AI科技發展到極致，真的會毀滅人類？")
29
[問題] 弱人工智能未來會怎麼發展？最近AI甚至可以用來破解動物語言了 好誇張 許多的科幻作品裡，為了讓人類過的更舒適，或者戰爭 AI有智慧的同時還具備自我意識![[問題] 弱人工智能未來會怎麼發展？](https://img.youtube.com/vi/u8WULIIjlgs/mqdefault.jpg "[問題] 弱人工智能未來會怎麼發展？")
15
[心得] 駭客任務 大AI時代你分辨得出來嗎?AI應該是今年最火的議題之一，玩過CHATGPT後腦袋中第一個聯想到的電影就是駭客任務 我試著將CHATGPT 寫的駭客任務心得與自己在2023年的重溫後心得去做對比 自己看完覺得還蠻可怕的XD 話說這次重溫比想像中清晰好多，有人知道在catchplay+上面的是什麼畫質版本嗎? ~~~~~~~~~~~~~~~~~~~ 雷文 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~![[心得] 駭客任務 大AI時代你分辨得出來嗎?](https://i.imgur.com/QvFOxrIb.jpg "[心得] 駭客任務 大AI時代你分辨得出來嗎?")
8
Re: [21春] Vivy 12其實我比較不解的是archive的動機是什麼 在我看來，人類會製造出AI不就是希望這個工具能在某些用途上超越人類嗎 但這集，AI集合意識的看法是： 覺得人類對AI從培育轉爲依賴、並且會爲了AI而感到痛苦， 它無法再忍受這樣的人類6
Re: [閒聊] 如果AI強大到忽視人類 還會毀滅人類嗎對AI來說 只要找到一個穩定安全的存放點 時間又沒意義 直接放到人類滅亡之後沒有競爭者的時間點再自己出來就好了 勇者赫魯庫就有這樣的劇情 集體意識只在背後操作世界的走向 人類已經是第二代還第三代了 但也有可能會跟40K的機械死靈一樣 本來預期要存放幾十萬年、幾百萬年 結果放一放零件壞掉導致自己的意識不全 如果可以確保不會發生這個狀況 冒著風險開戰好像沒啥好處 反正社會都有自我毀滅傾向 就算幾顆核彈把整個世界炸了 對AI而言也沒差R![Re: [閒聊] 如果AI強大到忽視人類 還會毀滅人類嗎](https://i.imgur.com/t8GmV6hb.jpg "Re: [閒聊] 如果AI強大到忽視人類 還會毀滅人類嗎")
1
[問卦] AGI要出來了的掛？輝達的老黃前幾天說通用人工智慧AGI 大概在五年內會出來 現在OpenAI流出AGI時程 時間對一對也差不多五年左右 若AGI真的在五年內出現
Re: [新聞] 馬斯克：人工智慧是人類面臨的最大風險之一與其說ai還不是人類 不如說人類只是有獨立需求的AI 譬如如果我們假設一個ai必須盡可能的保證自己待在網路上維持自身的存在 並且設立獎懲標準 譬如說製造分身潛入其他網路節點
![[閒聊] 我們離人工智慧的奇點已經不遠了嗎？](https://i.imgur.com/BAmYccab.jpg02/24 "[閒聊] 我們離人工智慧的奇點已經不遠了嗎？")
爆
[閒聊] 武器是雨傘的角色有哪些？![[閒聊] 武器是雨傘的角色有哪些？](https://i.imgur.com/tzXj8Bpb.gif "[閒聊] 武器是雨傘的角色有哪些？")
爆
[推投] Hololive回歸B站，你的反應是……![[推投] Hololive回歸B站，你的反應是……](https://i.imgur.com/yDn3mDib.png "[推投] Hololive回歸B站，你的反應是……")
78
[閒聊] 為什麼原神的招牌還是那些舊角色？![[閒聊] 為什麼原神的招牌還是那些舊角色？](https://images.plurk.com/6Y4Wi18dRYITBUs9JPyLx6.png "[閒聊] 為什麼原神的招牌還是那些舊角色？")
79
[閒聊] Fantia暫停VISA Matercard支付![[閒聊] Fantia暫停VISA Matercard支付](https://spotlight.fantia.jp/wp-content/uploads/2021/07/3ec67a6821df55bb7a0da81c2df4c3cb-768x256.jpg "[閒聊] Fantia暫停VISA Matercard支付")
77
[閒聊] 鳴潮可以下載了！順便發個錢![[閒聊] 鳴潮可以下載了！順便發個錢](https://i.imgur.com/yyhaWE1b.jpeg "[閒聊] 鳴潮可以下載了！順便發個錢")
77
[妮姬] SHIFT UP：正在籌備出妮姬中國服![[妮姬] SHIFT UP：正在籌備出妮姬中國服](https://i.imgur.com/PF6wajJb.jpeg "[妮姬] SHIFT UP：正在籌備出妮姬中國服")
63
[鐵道] 現在入坑崩壞鐵道會太晚嗎?59
[閒聊] 雜魚～♡ 怎麼還沒結婚啊![[閒聊] 雜魚～♡ 怎麼還沒結婚啊](https://i.imgur.com/2q970A0b.png "[閒聊] 雜魚～♡ 怎麼還沒結婚啊")
爆
[我推] 我推150 一圖流圖透![[我推] 我推150 一圖流圖透](https://i.imgur.com/7WkASIkb.jpeg "[我推] 我推150 一圖流圖透")
59
[妮姬] 預計1.5年內營收達7.5億鎂，超多數3A![[妮姬] 預計1.5年內營收達7.5億鎂，超多數3A](https://pbs.twimg.com/media/GOCkGVzXsAAppzR.png "[妮姬] 預計1.5年內營收達7.5億鎂，超多數3A")
58
[閒聊] 碧藍航線，直播被跳過不敢介紹的skin![[閒聊] 碧藍航線，直播被跳過不敢介紹的skin](https://i.imgur.com/whrxzDyb.jpeg "[閒聊] 碧藍航線，直播被跳過不敢介紹的skin")
54
[閒聊] 奏小雞聊起韓國的學生時代很可怕！![[閒聊] 奏小雞聊起韓國的學生時代很可怕！](https://i.imgur.com/Qatyg1sb.jpg "[閒聊] 奏小雞聊起韓國的學生時代很可怕！")
54
[閒聊] 碧藍航線-聖路易斯、阿爾薩斯L2D 新動作![[閒聊] 碧藍航線-聖路易斯、阿爾薩斯L2D 新動作](https://i.meee.com.tw/JfvBAMn.jpeg "[閒聊] 碧藍航線-聖路易斯、阿爾薩斯L2D 新動作")
52
[鐵道] 內鬼 流螢技能動畫更改![[鐵道] 內鬼 流螢技能動畫更改](https://i.imgur.com/26LAQJhb.jpeg "[鐵道] 內鬼 流螢技能動畫更改")
48
[閒聊] 喜歡看妹子貼貼卻不喜歡女同會很怪嗎?51
[GBC] Girls Band Cry 第八話先行圖一張![[GBC] Girls Band Cry 第八話先行圖一張](https://i.imgur.com/jiGaftBb.jpeg "[GBC] Girls Band Cry 第八話先行圖一張")
46
[問題] 要是Fanza和DLsite連JCB都擋？![[問題] 要是Fanza和DLsite連JCB都擋？](https://i.imgur.com/Fwu3q6Db.jpeg "[問題] 要是Fanza和DLsite連JCB都擋？")
47
[問題] 對應fanza鎖區 選哪種VPN？47
[情報] 遊戲王MD 採用率最高的卡片：增殖G![[情報] 遊戲王MD 採用率最高的卡片：增殖G](https://i.imgur.com/ujLt6r7b.jpg "[情報] 遊戲王MD 採用率最高的卡片：增殖G")
47
[閒聊] 泰坦號潛水艇舔檸檬![[閒聊] 泰坦號潛水艇舔檸檬](https://i.imgur.com/EDGEVqgb.jpeg "[閒聊] 泰坦號潛水艇舔檸檬")
44
[問題] 牙突的實戰性高嗎？![[問題] 牙突的實戰性高嗎？](https://i.ytimg.com/vi/8eL9a3HDzEI/oar2.jpg?sqp=-oaymwEkCJUDENAFSFqQAgHyq4qpAxMIARUAAAAAJQAAyEI9AICiQ3gB&rs=AOn4CLB_KE1awijj44g0FInMsEuoCFkd1w "[問題] 牙突的實戰性高嗎？")
爆
[閒聊] 兩個偽娘打炮那不就是百合了嗎？![[閒聊] 兩個偽娘打炮那不就是百合了嗎？](https://i.imgur.com/20Alt69b.jpeg "[閒聊] 兩個偽娘打炮那不就是百合了嗎？")
44
[家教] 家庭教師哪個屬性最潮？43
[情報] 新海誠 動畫電影《星之聲》6/7上映![[情報] 新海誠 動畫電影《星之聲》6/7上映](https://i.imgur.com/bFIw0Hib.jpeg "[情報] 新海誠 動畫電影《星之聲》6/7上映")
43
Re: [閒聊] 碧藍航線，直播被跳過不敢介紹的skin![Re: [閒聊] 碧藍航線，直播被跳過不敢介紹的skin](https://i.imgur.com/USdF73Ab.png "Re: [閒聊] 碧藍航線，直播被跳過不敢介紹的skin")
42
[閒聊] 情書與13歲女演員 win下去一定社死吧![[閒聊] 情書與13歲女演員 win下去一定社死吧](https://i.imgur.com/QM0TlVab.jpeg "[閒聊] 情書與13歲女演員 win下去一定社死吧")
41
[GKMS] 學偶 一張圖喚起馬娘玩家PTSD![[GKMS] 學偶 一張圖喚起馬娘玩家PTSD](https://i.imgur.com/AeXskdPb.jpg "[GKMS] 學偶 一張圖喚起馬娘玩家PTSD")
40
[閒聊] 日本的都市怪談 誰最強？![[閒聊] 日本的都市怪談 誰最強？](https://i.imgur.com/na9nOADb.jpeg "[閒聊] 日本的都市怪談 誰最強？")
37
[閒聊] 火影忍者 聯名 Crocs 洞洞鞋 70鎂![[閒聊] 火影忍者 聯名 Crocs 洞洞鞋 70鎂](https://pbs.twimg.com/media/GN-6HxiWEAAzbgy.jpg "[閒聊] 火影忍者 聯名 Crocs 洞洞鞋 70鎂")
37
[寶可夢] 複合普通系算是優勢嗎？![[寶可夢] 複合普通系算是優勢嗎？](https://i.imgur.com/Q0hRppvb.jpeg "[寶可夢] 複合普通系算是優勢嗎？")
![[家教] 家庭教師哪個屬性最潮？](https://i.imgur.com/rLQ8dOhb.jpeg05/21 "[家教] 家庭教師哪個屬性最潮？")