Re: [閒聊] 我們離人工智慧的奇點已經不遠了嗎？

看你定義的奇點是什麼樣子

1 專用型AI - 僅限於特定問題 → 人類目前還在這裡

a 努力達到人類中 → 目前的自動駕駛、ChatGPT 在這裡
b 在特定領域的計算力等同或遠超人類
c 在特定領域中不止於計算力，且在判斷力等抽象表現上接近或超越人類
d 在特定領域具象、抽象表現皆勝於人類，並有能力開拓人類未知的荒土
→ 圍棋AI在這裡

2 通用型AI

a 不止於特定問題，同一個AI可以處理泛用問題，並且能力等同或超越人類
b 擁有自主學習能力，意即AI本身有能力判斷為了處理當前的問題
需要學習什麼樣的Data來提升自身

3 我們不需要人類啦

a 不止擁有通用型AI的能力，並且有能力創造全新的抽象概念
b 自主研究未知的物理定律、數學定理的能力

當然上這個劃分法不是絕對，100個人有100種定義方法也很正常

如果是毀滅人類社會穩定的奇點的話，2-a的等級就足夠了

因為即使我們讓每個人都接受足以超過這個等級的AI能力的教育

也沒有那麼多職位可以滿足所有人

樂觀一點的情況是，多數人的工作是「滿足其它人」的工作

明明可以叫AI來，我卻要讓真人來的那種 → 滿足人類的階級感

用這種方式來創造新的工作

悲觀一點的情況是，社會終將因此崩毀，造成文明倒退，直至文明退至無法生成AI

歷史從此在有AI和沒有AI間循環往復

當前的情況是還在 1，多數AI，包括ChatGPT在內會變成高階工具

毀滅人類還不至於，但是會造成嚴重的知識通膨

以往專精一門學科就可以吃一輩子

未來則必須精通多領域的知識才能生存下去

以「技術文明」尺度來看的話，3-b，有能力自主研究數學、物理的AI才是奇點

靠人腦煉蠱以百年為單位去突破數學、物理實在是太慢了

並且遲早會碰到物理上限 → 解決新問題所需的知識量超過人腦的容量

或甚至是，光是理解問題所需的知識量就超過人腦的存儲量

如果可以放著一台超強AI自動推演數學，比方說解決 P=NP 問題

並在解決 P=NP 之後繼續發現下一個「大定理」並解決，然後無限迭代

當然這種機器能不能存在是個未知數，畢竟有哥德爾不完備定理這個魔王定理存在

我不認為通用型 AI 會在20年內出現

現在有些 AI 可以跑到1-d的階段是因為問題相對簡單

像是圍棋，雖然圍棋已經很難了，但是和其它問題相比還是太簡單

比方說自駕吧，以特斯拉為首的自駕開發週期來看

要實現完全自駕(L5)普及也是2035之後的事

更泛用的AI就不用講了，google、微軟的官方發言都講得很保守

只有騙錢的金融圈在那邊吹

人腦是大自然數億年演化下的精華，不是簡單可以超過去的

--

其實就算有那種超強AI，以科學的嚴謹性來說，一定會有人去認真檢驗吐出來的東西 土法煉鋼是不至於啦

困難，目前最新的腦科學連1立方公分的人腦結構都沒有研究透 雖然對人腦大致的功能已經有一定程度的瞭解 但是大腦要晶片化勢必得將整個大腦的神經運作了解透徹，在你我有生之年不可能

因為機器人比較貴啊 人腦的優勢是能耗比真的很低，即使是當今最能耗比最高的晶片仍然被人腦吊打 如果AI的成本比真人的成本+風險高，那當然還是用真人

好

他只是語言AI而已，不能下圍棋、不能生圖、不能開車、這不能叫通用