[討論] AGI是人類問題萬解嗎?該具備人類思維嗎?
傳統上的想像
很多作品人工智慧是科技奇異點的需求
甚至人工意識 但人工意識種族普遍會加深人類的焦慮
從各種反烏托邦AI作品 駭客任務 甚至質量效應
沙丘跟40k應該也都有AI災難
人類希望存在一個擁有人類思維又擁有超級能力的電腦
但又希望這個電腦不具有人類缺陷
你要不要聽聽自己在講什麼.jpg
好啦 別搞這麼複雜 假設這台AI只是拿來問問題
那你怎麼保證你問的問題是正確的問題?
你假如問出錯誤的問題 AGI完美的解決 那不是一切更糟嗎= =
所有的語言跟形式邏輯都要達到完美的地步 不然一不小心AGI就變黑聖杯了= =
AGI1.能夠不聽命令自律主動介入社會 2.他只是問題的回答者
前者有人類被毀滅的風險 後者有人類加速自己毀滅的風險= =
---
--
買過一次固態換了兩次貨，永遠不再用
你這文章裡面的問題其實不是AI的思考能力，而是為什麼AI
可以取得足夠大的權限來毀滅人類
不 就算不取得權限 人類問出錯誤的問題 AI給出完美的答案 也是災難 以核能為例 以前假如問要怎麼快速消滅核能 他告訴你完美的答案 然後你就沒電了
※ 編輯: hayuyang (36.228.213.26 臺灣), 04/21/2024 13:10:07發明ai不就是為了懶..毀滅人類也是人類懶的做限制
二樓，因為你要他做事就是要給權限，不給權限又要員工什
麼都處理得很完美，這不是矛盾嗎？
有人要員工什麼都處理得很完美嗎？？
AI可以是完美的 但人類不是 這就是問題所在
※ 編輯: hayuyang (36.228.213.26 臺灣), 04/21/2024 13:11:02最近有隻龜要AI讀畫面上的一段話就搞到快崩潰了
他可以告訴我如何快速消滅核能 但不能決定我沒電吧？
沒電是其他因素造成的啊 你當初忘記輸入這個變數了
要員工什麼都自己處理的老闆多了去了，所以常常新聞上看
到員工利用老闆的信任大撈油水。想避免這種情況，那老闆
就必須自己監督批核，不能什麼都放給員工去做
把每個人關進獨立的空間 除了自己外全部都NPC 這樣就OK了
自己永遠是主角 AI就可以保障所有人的幸福
AI可以是完美的 <---- ???????
其實就是全能悖論吧
沒電還真的是當今AI的最大難題
那何不先問AI這麼做會有什麼後果
AI的本質不就是概率性嗎 不確定的東西能完美?
我們有人要求AGI的行為包含主動介入嗎？
人類目前有發明過完美的東西嗎
老實說我看了半天還是沒懂為什麼AGI有方法
就得AGI下去做 這之間的關聯
如果AI很完美 那他的能源計算公式應該也比人類完美
目前還不知道AI發展到所謂可自主學習比擬人類的會是怎樣
的情況跟傾向，對人類會有怎樣的看法也不得而知
62
[閒聊] 我們離人工智慧的奇點已經不遠了嗎？2001太空漫遊 駭客任務 魔鬼終結者 2077電駁叛客 底特律變人 人類常以AI叛變當做一個題材 我們也一直以為這始終會是個題材 但在去年 我們都還認為聊天AI只會說廢話的機器人59
[閒聊] 為什麼很多作品AI都想摧毀人類？不管是電影還是ACG都無數次出現那種AI想要消滅人類的情節 像是復仇者聯盟的奧創、SCP基金會或是戰錘40K都有毀滅人類或AI仇視人類的情節 可是勇者赫魯庫的古代人那種才是正常的AI邏輯吧 雖然古代人是從人類轉變而來的 但基本上用電子設備儲存記憶和人格這點就可以算是AI了 對可以用設備無視肉體損壞的AI來說 時間已經沒有意義 所以他們可以看著新人類種重複的毀滅和重生的過程 只在中途施加影響 想以此方式來恢復自己古代人的文明![[閒聊] 為什麼很多作品AI都想摧毀人類？](https://i.imgur.com/Oo46XBOb.jpg "[閒聊] 為什麼很多作品AI都想摧毀人類？")
52
[閒聊] GPT-5 或許會是強AI新聞連結 大家應該都知道在 ACGN 裡面出現的 AI 幾乎都是強人工智慧。 就我所知只有質量效應有細分成VI(弱人工智慧)跟AI(強人工智慧) 挺有意思的是質量效應的桀斯(強人工智慧)一開始其實也是弱人工智慧。![[閒聊] GPT-5 或許會是強AI](https://img.technews.tw/wp-content/uploads/2023/03/29181622/OpenAI-GPT-5.jpg "[閒聊] GPT-5 或許會是強AI")
41
[閒聊] AI科技發展到極致，真的會毀滅人類？喔斯，大家好，我大木啦。 這算是隨著科技發展，會出現的問題啦，雖然現在的AI科技還沒那麼靈活， 以及「人性化」，沒錯，開端大部分是AI變得像人一樣。 大木我看的作品夠多了，無論哪部，AI科技發展到極致，就會開始覺得人類壞壞， 想要毀滅人類，最後變成人類跟機器人的戰爭。![[閒聊] AI科技發展到極致，真的會毀滅人類？](https://i.imgur.com/GlrREsFb.jpg "[閒聊] AI科技發展到極致，真的會毀滅人類？")
29
[問題] 弱人工智能未來會怎麼發展？最近AI甚至可以用來破解動物語言了 好誇張 許多的科幻作品裡，為了讓人類過的更舒適，或者戰爭 AI有智慧的同時還具備自我意識![[問題] 弱人工智能未來會怎麼發展？](https://img.youtube.com/vi/u8WULIIjlgs/mqdefault.jpg "[問題] 弱人工智能未來會怎麼發展？")
15
[心得] 駭客任務 大AI時代你分辨得出來嗎?AI應該是今年最火的議題之一，玩過CHATGPT後腦袋中第一個聯想到的電影就是駭客任務 我試著將CHATGPT 寫的駭客任務心得與自己在2023年的重溫後心得去做對比 自己看完覺得還蠻可怕的XD 話說這次重溫比想像中清晰好多，有人知道在catchplay+上面的是什麼畫質版本嗎? ~~~~~~~~~~~~~~~~~~~ 雷文 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~![[心得] 駭客任務 大AI時代你分辨得出來嗎?](https://i.imgur.com/QvFOxrIb.jpg "[心得] 駭客任務 大AI時代你分辨得出來嗎?")
8
Re: [21春] Vivy 12其實我比較不解的是archive的動機是什麼 在我看來，人類會製造出AI不就是希望這個工具能在某些用途上超越人類嗎 但這集，AI集合意識的看法是： 覺得人類對AI從培育轉爲依賴、並且會爲了AI而感到痛苦， 它無法再忍受這樣的人類6
Re: [閒聊] 如果AI強大到忽視人類 還會毀滅人類嗎對AI來說 只要找到一個穩定安全的存放點 時間又沒意義 直接放到人類滅亡之後沒有競爭者的時間點再自己出來就好了 勇者赫魯庫就有這樣的劇情 集體意識只在背後操作世界的走向 人類已經是第二代還第三代了 但也有可能會跟40K的機械死靈一樣 本來預期要存放幾十萬年、幾百萬年 結果放一放零件壞掉導致自己的意識不全 如果可以確保不會發生這個狀況 冒著風險開戰好像沒啥好處 反正社會都有自我毀滅傾向 就算幾顆核彈把整個世界炸了 對AI而言也沒差R![Re: [閒聊] 如果AI強大到忽視人類 還會毀滅人類嗎](https://i.imgur.com/t8GmV6hb.jpg "Re: [閒聊] 如果AI強大到忽視人類 還會毀滅人類嗎")
1
[問卦] AGI要出來了的掛？輝達的老黃前幾天說通用人工智慧AGI 大概在五年內會出來 現在OpenAI流出AGI時程 時間對一對也差不多五年左右 若AGI真的在五年內出現
Re: [新聞] 馬斯克：人工智慧是人類面臨的最大風險之一與其說ai還不是人類 不如說人類只是有獨立需求的AI 譬如如果我們假設一個ai必須盡可能的保證自己待在網路上維持自身的存在 並且設立獎懲標準 譬如說製造分身潛入其他網路節點
![[閒聊] 我們離人工智慧的奇點已經不遠了嗎？](https://i.imgur.com/BAmYccab.jpg02/24 "[閒聊] 我們離人工智慧的奇點已經不遠了嗎？")
51
[討論] 170cm 500萬円不算高的條件吧!?![[討論] 170cm 500萬円不算高的條件吧!?](https://i.meee.com.tw/WaRPvTB.png "[討論] 170cm 500萬円不算高的條件吧!?")
32
[提名] 洛琪希·米格路迪亞![[提名] 洛琪希·米格路迪亞](https://i.imgur.com/jyHgNgbb.jpeg "[提名] 洛琪希·米格路迪亞")
35
[閒聊] mygo 09 曾經的美好時光去哪![[閒聊] mygo 09 曾經的美好時光去哪](https://i.imgur.com/P35CNfib.jpg "[閒聊] mygo 09 曾經的美好時光去哪")
17
Re: [閒聊] 月曜日のたわわ![Re: [閒聊] 月曜日のたわわ](https://pbs.twimg.com/media/GfcG5u4a0AAFFvZ.png "Re: [閒聊] 月曜日のたわわ")
17
Re: [PTCGP] 1529人參賽出輪32強牌組![Re: [PTCGP] 1529人參賽出輪32強牌組](https://i.imgur.com/KLrlBS9b.jpeg "Re: [PTCGP] 1529人參賽出輪32強牌組")
43
[婊子] 有人被龍蝦夾過嗎![[婊子] 有人被龍蝦夾過嗎](https://i.imgur.com/wqdgA4ub.jpeg "[婊子] 有人被龍蝦夾過嗎")
12
[蔚藍] 徵人啟事![[蔚藍] 徵人啟事](https://i.imgur.com/xxeZbPEb.jpeg "[蔚藍] 徵人啟事")
12
[閒聊] 青春之箱 178![[閒聊] 青春之箱 178](https://i.imgur.com/VbaXTUfb.jpg "[閒聊] 青春之箱 178")
16
[閒聊] 想找充滿驚人想像力的漫畫![[閒聊] 想找充滿驚人想像力的漫畫](https://static.existentialcomics.com/comics/ThePhilosophyStore.png "[閒聊] 想找充滿驚人想像力的漫畫")
15
[閒聊] 蔚藍檔案 優香 ASMR專用耳機 簡易開箱![[閒聊] 蔚藍檔案 優香 ASMR專用耳機 簡易開箱](https://aurakaze.blog/wp-content/uploads/2024/12/DSC01995-scaled.jpg "[閒聊] 蔚藍檔案 優香 ASMR專用耳機 簡易開箱")
33
[MHG] 燃油車鬥魂三期製作決定，PV公開![[MHG] 燃油車鬥魂三期製作決定，PV公開](https://img.youtube.com/vi/sIfyZINA5cE/mqdefault.jpg "[MHG] 燃油車鬥魂三期製作決定，PV公開")
4
[閒聊] MyGo是不是讓邦邦古參粉失去自豪本錢![[閒聊] MyGo是不是讓邦邦古參粉失去自豪本錢](https://i.imgur.com/WWujE6Qb.jpg "[閒聊] MyGo是不是讓邦邦古參粉失去自豪本錢")
8
[Vtub] GIGI怎麼那麼黏Fauna？![[Vtub] GIGI怎麼那麼黏Fauna？](https://img.youtube.com/vi/Ef03oRhtqVI/mqdefault.jpg "[Vtub] GIGI怎麼那麼黏Fauna？")
7
[黑白妹] 哀..我只是個無能的哥哥![[黑白妹] 哀..我只是個無能的哥哥](https://i.imgur.com/5RwubKIb.jpeg "[黑白妹] 哀..我只是個無能的哥哥")
28
[閒聊] 平行天堂 280 知夫莫若妻![[閒聊] 平行天堂 280 知夫莫若妻](https://i.imgur.com/luUnSnhb.jpg "[閒聊] 平行天堂 280 知夫莫若妻")
7
Re: [閒聊] 電競房已經是現代家居標配了嗎6
[閒聊] 其他大作的譯者為啥沒朱出名![[閒聊] 其他大作的譯者為啥沒朱出名](https://i.imgur.com/dTHRIUhb.jpg "[閒聊] 其他大作的譯者為啥沒朱出名")
44
[閒聊] 統神復胖需要多久6
[奶子] 邀請老師的比基尼乃愛![[奶子] 邀請老師的比基尼乃愛](https://pbs.twimg.com/media/GfZ3e_Ha8AAOmgr.jpg "[奶子] 邀請老師的比基尼乃愛")
39
[情報] 間諜家家酒108話![[情報] 間諜家家酒108話](https://i.imgur.com/44O1hyNb.jpeg "[情報] 間諜家家酒108話")
5
[24秋] 小桃的戰力是不是很玄?![[24秋] 小桃的戰力是不是很玄?](https://i.imgur.com/2oaoZ0gb.jpeg "[24秋] 小桃的戰力是不是很玄?")
26
[情報] 噗妮露是可愛史萊姆 二期決定![[情報] 噗妮露是可愛史萊姆 二期決定](https://i.imgur.com/A4EyEnZb.png "[情報] 噗妮露是可愛史萊姆 二期決定")
12
[閒聊] 擅長逃跑的殿下 185![[閒聊] 擅長逃跑的殿下 185](https://i.imgur.com/LMzZbc5b.jpeg "[閒聊] 擅長逃跑的殿下 185")
37
[Vtub] 飴宮奈沙 20241223![[Vtub] 飴宮奈沙 20241223](https://i.imgur.com/mw2WESnb.jpeg "[Vtub] 飴宮奈沙 20241223")
15
[閒聊] 參加聯誼沒有女生 吸引人的地方?![[閒聊] 參加聯誼沒有女生 吸引人的地方?](https://i.imgur.com/38o9C6cb.jpg "[閒聊] 參加聯誼沒有女生 吸引人的地方?")
21
[ＳＣ] 我覺得大半夜開快車不是很好啊![[ＳＣ] 我覺得大半夜開快車不是很好啊](https://i.imgur.com/crk2hdgb.jpeg "[ＳＣ] 我覺得大半夜開快車不是很好啊")
5
[蔚藍] 219142雜圖![[蔚藍] 219142雜圖](https://i.imgur.com/7oFxpqsb.jpeg "[蔚藍] 219142雜圖")
10
[GKMS] 手毬:美鈴你是不是喜歡琴音...?![[GKMS] 手毬:美鈴你是不是喜歡琴音...?](https://pbs.twimg.com/media/GfZGDssbkAAF9zN.jpg "[GKMS] 手毬:美鈴你是不是喜歡琴音...?")
8
[閒聊] 馬哈特那個約要怎麼簽 (雷)![[閒聊] 馬哈特那個約要怎麼簽 (雷)](https://i.imgur.com/ynzxax0b.jpg "[閒聊] 馬哈特那個約要怎麼簽 (雷)")
14
Re: [閒聊] 光線槍為什麼死透了？![Re: [閒聊] 光線槍為什麼死透了？](https://img.youtube.com/vi/skFqwopoKTI/mqdefault.jpg "Re: [閒聊] 光線槍為什麼死透了？")