Re: [閒聊] 我們離人工智慧的奇點已經不遠了嗎？

LuckSK02/24 10:57AI看到你的發文就安心了 自己嚇自己還需要花心思處理嗎

kirimaru7302/24 11:00現在的AI不可能自己發展，就只是從資料中學習模仿而已

kirimaru7302/24 11:01如果哪天有個武器AI決定把核彈砸到誰的頭上，那也只是

kirimaru7302/24 11:01因為現實生活中的部分人類有表達過想把核彈砸到他頭上

kirimaru7302/24 11:01你可以說這叫失控AI毀滅一個國家，但根源還是人類本身

BanaRepublic02/24 11:03不是嚇自己呀，就像生物上的病毒武器化

BanaRepublic02/24 11:03大國實驗室裡都存有武器化病毒

BanaRepublic02/24 11:03而我們對AI也是

BanaRepublic02/24 11:03超越奇點已經發生，只是被刻意關著

BanaRepublic02/24 11:03等意外或戰爭的那天

lifehunter02/24 11:04就是現在AI沒有指令是不會動作的 哪天ChatGpt主動找你

kirimaru7302/24 11:04AI可能會造成大危機，但那沒有超越什麼，只是模仿而已

lifehunter02/24 11:04搭話 那問題才真的嚴重

kirimaru7302/24 11:04「失控AI會毀滅人類」這個觀念不是人類發明的嗎？

kirimaru7302/24 11:05那AI哪一天真的照抄，不也是人類的責任嗎？

kirimaru7302/24 11:06就現在大家還在研究GPU/TPU怎麼做，哪種Layer比較好用

arrenwu02/24 11:06你講的這個跟最近看到的新東西沒什麼關係就是了

kirimaru7302/24 11:06這一點來看，現在的AI本質跟30年前的人工智慧其實一樣

kirimaru7302/24 11:07只是運算速度和學習能力可能多了千萬倍而已

kirimaru7302/24 11:07這會不會提到AI學到壞東西的機率？當然會

k1k183200202/24 11:07難說,以前看各類影視動畫作品各種劇本都有,現在越來越

k1k183200202/24 11:07寫實

kirimaru7302/24 11:08但是這跟「AI自己發展出惡意」還是八竿子打不著

arrenwu02/24 11:08武器的自動化是比較接近自駕車那範疇的應用

BanaRepublic02/24 11:09kirimaru73 我覺得一開始的目的

BanaRepublic02/24 11:09可能會在演化中走上歪路

BanaRepublic02/24 11:09例如一開始只是希望AI癱瘓對方的雷達

BanaRepublic02/24 11:09但AI在作戰中

BanaRepublic02/24 11:09自己發展出癱瘓洲際電力系統的能力

BanaRepublic02/24 11:09把整個區域的電網都癱瘓，無法阻止

arrenwu02/24 11:09你講的這種AI目前八字還沒有一撇

k1k183200202/24 11:10軍用基本不會有檯面訊息,不過自動探索漏洞與網路戰術

k1k183200202/24 11:10運用型我猜已經有或者正在前進中

kirimaru7302/24 11:10你說的這種危險在自駕車中也有討論過，例如撞牆還是撞

kirimaru7302/24 11:11小孩，但這個在研究中會規則於「開發者沒有設定好撞人

kirimaru7302/24 11:11的罰則」，是人的問題，不能把責任丟給AI說他是邪惡的

arrenwu02/24 11:11"AI在作戰中自己發展出"這個跟Deepmind的AI比較相關

guogu02/24 11:12現在的ai不會自主演化

kirimaru7302/24 11:12我覺得這些危機跟「武器太強會太有效率的殺人」差不多

arrenwu02/24 11:12其實AI也沒有那麼神秘啊XD 找些免費課程如 Cousera 之類

kirimaru7302/24 11:13他們是必須要顧慮的危機，但跟過往科技發展過快引發的

arrenwu02/24 11:13地方自己實作幾個模型就不會想東想西了

kirimaru7302/24 11:13危機本質上都是相似的，AI並沒有比較特別

BanaRepublic02/24 11:14lifehunter 如果沒有倫理審查

BanaRepublic02/24 11:14有公司讓AI自主經營推特帳號

BanaRepublic02/24 11:14學習社群互動模型

BanaRepublic02/24 11:14結果AI變成極右翼政治狂熱組織

BanaRepublic02/24 11:14意外選舉出政治極端的議員

BanaRepublic02/24 11:14這感覺也滿有可能的，只是被倫理審查限制

arrenwu02/24 11:15這感覺也滿有可能的 <--- 你手動去玩些 RL 的模型就不會

arrenwu02/24 11:15這麼覺得了

kirimaru7302/24 11:15之前有個AI Vtuber不小心說出納粹集中營是假的

kirimaru7302/24 11:16這在歐洲也是滅世等級的危機啊，但就只是些科技發展中

kirimaru7302/24 11:16某些必須要人為控管的細節而已

arrenwu02/24 11:16你現在講出來的對AI的想像 其實都是在講Skynet

BanaRepublic02/24 11:18arrenwu 我剛查了幾個 RL 的文章

BanaRepublic02/24 11:18我覺得滿有趣的耶，我去學學

kirimaru7302/24 11:18https://www.youtube.com/watch?v=rWF9sg5w6Zk

arrenwu02/24 11:18RL 跟其他東西最不一樣的是：你可以不用準備太多資料

kirimaru7302/24 11:18把這系列看完就懂了，當然你也可以說台大教授掩蓋現實

arrenwu02/24 11:20我是覺得現在要擔心Skynet實在太...早了

dannyko02/24 11:20李宏毅極棒 大金

wellstart02/24 11:21你的AI是文組 現在的AI是理組 本質就不同

cat567202/24 11:24安啦 技術這種東西底子最強的還是米國

cat567202/24 11:25到時你心目中的正義美利堅也會拯救世界的

BanaRepublic02/24 11:25arrenwu 很謝謝你耶

BanaRepublic02/24 11:25把我零碎的想法分類成有系統的討論

BanaRepublic02/24 11:25也讓我了解不同技術領域的各自議題

arrenwu02/24 11:28你講的這個議題，2016 AlphaGO 熱潮的時候吹得最誇張

kirimaru7302/24 11:28現在的AI太有效率這點可能是問題，但本質上他跟30年前

kirimaru7302/24 11:28「哇這程式會完井字遊戲好厲害喔」其實是一樣的

arrenwu02/24 11:29因為RL是讓AI自己進行超高次數迭代進而達成優秀策略

arrenwu02/24 11:30就是俗稱的「自己跟自己對打&學習」

BanaRepublic02/24 11:31kirimaru73 那演講主題很直接回應我問題

BanaRepublic02/24 11:31晚點來看！

BanaRepublic02/24 11:31不過我本身也不會把AI界定為惡意與否

BanaRepublic02/24 11:31只是好奇如果把規則再放更寬

BanaRepublic02/24 11:31或是刻意制定違背道德的規則

BanaRepublic02/24 11:31會不會有破壞力驚人的可能性

arrenwu02/24 11:32可能啊 現在買一堆無人機裝炸藥就能搞出很大的破壞了

henry123456202/24 11:33簡單說 ai 不會自己無中生有

henry123456202/24 11:34現在的ai要做出毀滅人類的計畫 肯定是人類自己已經

henry123456202/24 11:34有類似的計畫了 然後ai 把他完善而已

agario02/24 11:34現在不是已經有很多virus/worm可以自己不斷複製和散布

agario02/24 11:35那如果在這些virus/worm裡頭塞一個AI會不斷寫新的virus

henry123456202/24 11:35複製自己跟憑空創造新事物差距很大吧

lifehunter02/24 11:35因為你說沒有倫理審查 本身就不可能啊www 人類小編都

agario02/24 11:35是不是就可以達成類似原PO說的效果

arrenwu02/24 11:36塞一個AI會不斷寫新的virus <--- Skynet

lifehunter02/24 11:36要政治正確了 放個沒有倫理審查的AI出來 不被炎上才怪

henry123456202/24 11:36你把一篇文章複製一遍 跟寫一個新的是一樣的事情嗎

lifehunter02/24 11:37那就只好再弄個AI不斷寫防毒軟體了www

henry123456202/24 11:37病毒之所以複製自己 是因為複製出來的自己不需要思

henry123456202/24 11:37考新的自己要怎麼寫 用複製的就好了

henry123456202/24 11:37首先你要先有辦法讓教會ai寫出一個全新的病毒

henry123456202/24 11:38或是你能提供讓ai 做到這件事情需要的所有知識方法

agario02/24 11:39那還不簡單，就用所有的 virus finetune 一下 ChatGPT

henry123456202/24 11:39在讓ai去組成這個功能出來才行

agario02/24 11:39然後把 ChatGPT 塞在裡頭不斷複製到不同電腦

im3151902/24 11:39威爾史密斯:I told you!!!!

henry123456202/24 11:42ChatGpt自己是一個伺服器 哪能隨便塞啊

arrenwu02/24 11:42@agario 看起來還滿難的啊

wellstart02/24 11:53現在的AI能自我進化就如同阿米巴變人類的輕小劇情 你

wellstart02/24 11:53信我還不信 這小說好像很熱賣

leo12516090902/24 11:55卡通演的的不要當真，在這問還不如自己孤狗

henry123456202/24 11:57Ai 現階段會做的事情依然要人類教他方法

henry123456202/24 11:58在人類自己發現一個保證能不斷改進ai 的方法前

henry123456202/24 11:58Ai 自己是做不到這件事的

hololover02/24 12:03.............

kinda02/24 12:04可以寫個AI一直創Google帳號、開Google colab。

kinda02/24 12:08覺得沒有奇異點。AI論文發的太多太快，才覺得變化太快。

CarbonK02/24 12:37看到這篇文就知道人類的智慧還不可能完成了

qd659002/24 13:37去了解AI 目前你推文說的那些都不會出現