Re: [討論] 大家會擔心 ai 寫 code 讓工程師飯碗不

73 

人類離變成電池之日越來越近了QQ 這邊是一個openai的demo整理 稍微細拆一下上面的demo一些隱藏意義 誠如之前所說的2023 Text-Based GPT4出現後 業界就直接看到戰場要往多模態拚殺 多模態意思就是餵給這些LLM模型從文字理解世界

73 

週末有點時間 之前寫的老黃故事 這幾年AI模型突飛猛進的一個關鍵點就是 泛化的能力 簡言之 2018以前 AI模型 都是透過數據 去學習資料上的標註資料 來做人類事先規範好的目的 而機器透過這些標注數據 去達到人類要求的事情 當模型遇到一個沒看過的數據 或者場景變得不同 模型就會失效 甚至無法處理

35 

技術跟應用場景的問題我不談，之前的人已經談過了，大致上沒有問題。 不同領域的人可能體驗不太一樣，但LLM普及的程度並沒有這麼低，具體而言，主要是 ChatGPT ，在部分領域已經是不可或缺的必要工具，到了掛掉會影響到正常工作或不能工作的程度。 首先是 coding，就我而言，至少有50%的程式碼已經是由 ChatGPT 完成的，遇到 bug 我幾乎沒有再用 Google 或是 stackoverflow ，log 直接丟進 ChatGPT , 大部分情況下它都能大幅減少我的工作時間。 除了遇到有關於 pydantic 的問題，因為這個 module 最近出了V2，模型的回答經常會混合V1的答案，而且傻傻分不清楚，在之前舊的沒有納入 pydantic 的版本時，這問題更為嚴重，必須要自己先提供文件用RAG 讓它知道。 但是就我實際的觀察周邊的人，發現LLM 對於低階的工程師，高階的工程師的幫助個別顯著，但是對於中階工程師而且有使用上的困難。

30 

再次說一遍 千股NVDA 防身防失業防變成電池防小人防渣男 QQ 半導體有所謂的摩爾定律 AI也有 就是所謂的Scaling Law 他基本上給了一個大方向 AI是有三個元素組成 算力 算法 資料 Scaling Law基本定錨模型大小算力和資料相關性 沿者這條路的終點就是AGI 看看AI教父最新的訪談

11 

Simon Willison提到，很快大家都會有自己的ai助手。 看時間軸： 24th February 2023: LLaMA is announced, starts being shared with academic partners:

 7 

先不用談那些面試會遇到的問題，因為基本上目前的LLM能夠作到的能力是boosting 跟teaching而boosting的基礎使用者要會寫code，而teaching的的結果是使用者會 寫code 不可能無中生有，因為這違反了目前LLM的基本邏輯：文字接龍。所謂的文字接龍 ，前半段提示詞的好壞，決定後半段生成內容的品質，當用戶連怎麼正確描述自己

 6 

其實我是2019年申請、2020年收到offer，但因為疫情延期一年出國，沒想到這一篇就 因此拖了那麼久Orz 基本上雖然我寫了5000字但是沒有很實際的內容，真的就是很亂的 感想還有一些我當時遇到的狀況的說明，如果想看技術性的LSAC之類的操作，真的有 太多前輩已經寫得太詳盡了，大家可以網路搜尋他們的文章就好XD 這邊放一下我的背景跟錄取結果讓大家參考，如果覺得有興趣的話再麻煩到我部落格

 5 

先說結論： 發展本土化，繁體中文LLM模型，然後期待這個模型能讓大家使用，根本是錯誤方向。不知道這些專家學者，是在騙經費，還是還沒想清楚產業到底缺什麼。 --- 如果今天你使用Google搜尋，搜到"台灣是中國的"，或任何有政治偏見的相關文章。 你會不會覺得Google很爛？

 2 

以目前 AI 能做的事情，還很遠 當然不排除未來可以，但是至少是現在不行 現在連 AGI (通用人工智慧) 都很難 目前不管是生圖的 AI 或是大語言模型(LLM)的 AI 本質上都是猜，只是這個猜的過程可以從模型輔助讓猜這件事猜的更準

講一些自身經驗好了 自從AI領域在生成式題材大火後 全世界就進入到AI軍備競賽 所有的AI基礎研究都是以週甚至日為單位在迭代 舉個例子 當年Robert G. Gallager 在1960提出類神經網路的LDPC code到2004年才大放異彩 無限接近shannon bound 光這個演進就花了40年 對照這幾年的AI科技樹發展 根本就是指數在成長