Re: [問卦] AI發展到什麼程度你才會開始感到害怕?

: ※ 引述《holiybo (米羅)》之銘言：
: : 馬斯克看到CHATGPT後覺得恐懼
: : 但一般人哪會感到害怕
: : 甚至覺得新奇發展愈快愈好
: : 假設AI就這樣無阻礙發展下去
: : 發展到什麼程度你才會覺得恐怖?
: : 開始自動上PTT發廢文?
: : 0.0?

阿肥外商碼農阿肥啦！在下鍵盤研究員，基本上現在所有的模型本質上都還是弱人工智慧的，只是這兩三年研究累積的體現。

當前還有很多問題是需要解決的，像是雖然有偏好模型，但LLM還是對於學習並非是有偏的
，這邊的偏好依舊需要人工大量去微調，這就跟我們人類差異很大。

人類至少你在求學的時候，老師或爸媽不會是看到你做錯事情就打一次校正你，更多是教你規則跟你之前累積的經驗就可以快速學習，不過現在的LLM還是需要人工大量做Instruction Tuning(引導校正)才對某些領域有效果，這也導致所有的模型疊代勢必要offline
的訓練才能保證不會學偏。

另一個問題就是人類其實有學習的輕重緩急之分，而且這是在我們從小的人格養成就固化的，所以我們心中都會有一個世界模型，明白事物的意義跟賦予其主觀意義，而且當世界有意義時，人類就不太會跳脫世界模型思考學習，不過LLM看起來即使他學過大量語料知道邏輯，但是世界模型依舊不完整，這也是一個待研究的議題，是否是數據不足才導致還是參數不夠，這還是一個Big Question。更何況人類會整合自己的目的動機與世界模型進行針對性的學習強化，當前LLM對於學習依舊缺少目的性。

再來就是雖然很多研究表明大語言模型作為基石模型對於災難性遺忘有一定的抵抗能力(災難性遺忘即是模型隨著不斷持續喂給他新的數據而且不讓他回顧，模型會隨著輸入慢慢偏移導致原本的任務效能下降)，但是依舊還是存在，而人類通常熟練一個任務後通常會過目不忘，甚至只要稍微看一下就馬上複習完成了，像阿肥三年沒開車一開還是馬上上手一樣。

最後就是電力消耗跟建構LLM的推論成本依舊還是過高，以ChatGPT為例光是推論已經把參數都固定的狀態下還是每天要燒70萬美金，電力、GPU的使用量依舊是很嚇人的，反觀我們現在研究蒼蠅大腦其實蒼蠅大腦的耗能極低但在圖像識別或是語言溝通上卻是表現很不錯的，而且人類大腦其實也有省電模式可以幫助我們減少耗能，但現在的LLM是全線運作的，所以減少LLM的大小與消耗電力成本還是一個問題。

這邊就舉那麼多是當前研究待克服的，倒也不是說完全無解，只是更通用的解法仍需要我輩努力。

最後，我還是不太認為AI是完全取代人類的，這有點末世理論的感覺沒什麼依據，未來大概五十年內技術會逐漸落地普及，更多的是解放人類雙手，未來人機對話協作會越來越普遍，由人類為指導者來引導任務進行不代表勞工會被取代，勞工未來更多是轉向類似機器人教練的工作，必須要有更專業的知識才能引導機器往你要的方向發展，加速人類文明的累積。至於五十年後真的強人工智慧出現，那也是至少五十年後的事情了。

差不多4醬

--

強人工智慧至少五十年算樂觀估計了，至於現在的一些深度學習的擴充方法至少十年內可 以發展完備，普及化到像個人PC一樣我估計二十年就辦得到。

我們對於人腦運作機制其實還是非常不了解的，單個神經元或是一個蒼蠅大腦可能還有機 會，但是整個人類大腦其實更趨向一個混沌複雜系統，當前混沌理論發展速度還是很緩慢 的，只要超過一定複雜度的系統人類要復刻難度就異常困難，過往想要完全複製大腦也導 致AI寒冬，現在的發展完全是Hinton他們想辦法在不完全復刻大腦上面用一些優化論方法 去做出來的。