Re: [請益] 下一波泡沫 會遠比網路泡沫嚴重嗎
講一些自身經驗好了 自從AI領域在生成式題材大火後 全世界就進入到AI軍備競賽
所有的AI基礎研究都是以週甚至日為單位在迭代 舉個例子 當年Robert G. Gallager
在1960提出類神經網路的LDPC code到2004年才大放異彩 無限接近shannon bound
光這個演進就花了40年
對照這幾年的AI科技樹發展 根本就是指數在成長
2021 (Foundation Model 參照On the Opportunities and Risks of
Foundation Models) Foundation
2021 (Diffusion 模型興起)-> 後來Sora等架構的基石
2023 (LLM正式出現在大眾面前 ) -> LLaMA開源等開始
2023 (從Text-LLM 延伸到Multi-Modality LLM) -> Gemini/GPT4 開始落地產業化
2023 (LLM Operation System概念開始出現)->以LLM當大腦成為OS
2024 (LLM Agent) 透過用LLM來當大腦決策 擴散到機器人領域
甚至自動駕駛可變為更聰明可能 (為此寫過一篇 被某鄉民說我不懂AI和自駕 QQ 5555)
LLM Agent (Multi-Modality) 透過Reasoning可以當成為整個系統控制元件
https://zhuanlan.zhihu.com/p/652821909
最核心的一個概念是ChatGPT(LLM) 背後意義是為何? 是Reasoning(機器推理)->AGI
LLM不在是一個聊天軟體 他是會基於數據能學到推理 能開始類似像人類思考
當然透過文字去學習Reasoning 有些人(比方說Yann LeCun)質疑Text-LLM學習世界
資訊效率低下 理由是 人類在學習事情 很多不是透過文字去理解 所以應該透過影像
和其他資料型態去學到思考 因此如何有效去做出世界模型變的是目前最挑戰的一件事情目前世界模型就是被列為走向AGI的基石 這會需要一堆算力 算力就像是電力
永遠不嫌多
今年部分的流行主軸是 如何讓LLM當大腦去處理系統上的事情 因此LLM OS/Agent
大量落地和設計今年散花落地 https://zhuanlan.zhihu.com/p/683877827
這些都是有機化造成另一波商業的AI application
以上這些事件不過是短短的四年 現在科技樹發展基本上是指數在成長
我當年在US Top10/CS PhD學校唸書 也沒看過這樣瘋狂的科技成長 如果有人跟我說這波跟當年Tech Bubble很像 Maybe 但回顧2000年時期 每個會議論文發表量(這可以用來
粗略衡量科技和科技應用) 並沒有指數成長 更多的是每家公司都在做類似一樣事情
(網站 網站 網站!!)
但現在以各個AI頂會為例 所有論文發表
光是投稿量都是指數成長 各種算法突發猛進 學術界更是鼓勵算法開源 實驗可重複
而一堆業界玩家整天複刻算法甚至不斷實驗嘗試可能AI落地prototope或proof-of-concept產業從擴展到各個領域 不在只是網路媒介 醫療藥物疫苗機器人自駕影視業各個領域
都開始在慢慢的散開
--
然後每次在找暑期實習生做研究時 我會看各大學實驗室 找優秀學生發信問
然後我感受到最QQ點是 每次我看一下台灣各所大學AI 除了那三間外...
我感受到無限悲傷 而韓國中國PhD學生真的強.....更別說這波歐美各家AIstartup都興起然後再回過頭來看看各家台廠AI講的遠景 恩恩恩恩 QQ 我還是回高雄顧機台好了
※ 引述《ImHoluCan (爺)》之銘言:
: 泡沫??
: 他在講你的認知外的東西,不了解就講泡沫
: 老黃在講什你應該也聽不懂
: 應該說你不是在科技產業,
: 所以你不懂到底老黃在講什
: AI 應用範圍影音其它行業我不說,
: 但尤其用在目前的台灣製造業代工廠
: 肯定可以更少人力去大大小小分析做實驗,
: 處理問題,解決問題,全全自動
: 不止半導體製造業,各行製造業都可以更上一層樓
: 你先去台積電ㄧ輪,不然在去隨便什日月光ㄧ輪
: 這兩間全世界製造業的頂了
: 他們目前的問題,也就是老黃正在解決
: 你就懂老黃在講什
: 分析,整理,統計,大數據,實驗,測試,排除
: 以後統統自動化自動模擬自動企劃
: 在也不用人工整合,全部AI自動整合
: 文書excel自動生成自動填 寫自動報告
: 懂了嗎?
: ※ 引述《gold9450412 (一塊錢)》之銘言:
: : 1999年網路泡沫
: : 台灣大盤一度跌到剩2485點,跌幅80%
: : 台灣快跌到破產了 一堆股票變廢紙
: : 但網路服務是確確實實的有獲利
: : 各種廣告都部署到網路上
: : 大型社群網站也一個一個建起
: : 什麼巴哈姆特, ptt, 台灣論壇 都差不多那時期的產物
: : 各種網路服務也是如雨後春筍般冒出
: : 整個獲利模式非常清晰
: : 未來趨勢肉眼可見
: : 人人都能透過網路盈利
: : 並且網路成本很低
: : 當時是個高獲利低成本的技術
: : 只是股價衝太快,遠超當時本益比
: : 回到現在看看AI
: : 受制於硬體 很難知道AI上限
: : 但目前除了GPT 沒找到大幅獲利的模式
: : 換臉、AI畫圖、換聲音
: : 這些太小眾 很難有大獲利
: : 如果搞了很久,就只能弄出更好的GPT
: : 更好的換臉、AI畫圖、換聲音
: : 那我想真的GG了,AI訓練成本非常非常非常昂貴,一台AI伺服器夭壽貴 : 訓練AI 成本是建一個網站的好幾倍
: : 到現在都還沒有明確的商轉目標
: : GPT外還沒出現任何可以大獲利的產品
: : 網路泡沫前掀起的牛市, 網路服務已經相當成熟了
: : 但AI掀起的牛市,AI只有一些實驗性質的產物
: : 高成本卻搞不出獲利 那這泡泡如果破了
: : 嚴重程度 可能比網路泡沫嚴重好幾倍呀
: : 不知道2年後的世界 會是怎麼樣...
--
53
首Po1999年網路泡沫 台灣大盤一度跌到剩2485點,跌幅80% 台灣快跌到破產了 一堆股票變廢紙 但網路服務是確確實實的有獲利 各種廣告都部署到網路上12
泡沫?? 他在講你的認知外的東西,不了解就講泡沫 老黃在講什你應該也聽不懂 應該說你不是在科技產業, 所以你不懂到底老黃在講什36
不懂為何這一年來一直有網路泡沫的說法, 很多說法都非常錯誤, 時間點完全不對, 到底這些喊網路泡沫的人是否真的有經歷過網路泡沫年代? 就算年紀夠有經歷過那個年代,6
你可以去查一下美國財富 Top 1% vs medium class的比例 2023年 沒記錯 top 1% 已經超過50%了 資產泡沫化進行到一半 現在是靠 每一百天 美國要舉債 1兆美金7
泡沫本來就沒這麼快 現在賺錢就是賣鏟子的 買鏟子去挖礦的 當發現挖不到 自然就風向反轉了25
我一直很疑惑到底為什麼覺得AI會泡沫? 所以當年泡沫的原因是這個? 但是以當年的資訊跟硬體跟現今的狀況來相比 怎麼還會覺得有出現泡沫的可能? 以如今這個局面來說,只要你肯砸錢X
歷史會有相像的地方,但不可能會一樣 補充一下小弟我不同面向的看法 1. 有些人會對於過往犯下的錯誤學習、改進 設下結界終身不踏入
爆
Re: [新聞] 輝達H100晶片紓壓了 訂單大戶開始轉售你劃錯重點, 先不論這篇論文的可行性與實用性, 你真的劃錯重點了 算力重要嗎? 重要但是不是影響販售/採購晶片的主因,44
[情報] 蘋果會將生成式AI帶入其生態體系嗎?【新聞/情報來源】 原網址: 短網址: 【新聞/情報內容】(國外文章請附上簡單翻譯) 微軟已經宣布與ChatGPT達成協議,將其生成式AI內建到其搜尋引擎Bing中。至於谷歌,20
Re: [討論] ChatGPT的思維是甚麼?阿肥外商碼農阿肥啦! 剛好看到這篇文章就回覆一下,這次大型語言模型(LLM)表現出來的是語言模型的湧現能 力,我其實不贊同LeCun說的LLM是歪路,畢竟雖然我們可以直覺知道加大網路連接數可能 是實踐人類大腦的一個重要步驟(畢竟人腦的連結數量跟複雜性在生物醫學上都有驗證), 但科學上不去驗證你沒辦法證明某些事情的。X
Re: [爆卦] 中央研究院詞庫小組大型語言模型對於LLM只有這一點認知程度的話,最好不要就這樣出來帶風向會比較好,不然先去 跟陽明交大校長先去旁邊先學習一下什麼叫做LLM,不同LLM之間又有什麼差異。 第一個錯誤的認知是認為LLM就應該要提供正確的答案,事實上LLM是一個機率模型, 它所做的事情是基於模型的權重預測下一個token(詞塊)最高的機率是那個,它不是資 料庫,所以你不能因為它答的一個答案不是你所想的就是說這個模型如何如何。11
[討論] LLM即將像Stable Diffusion普及Simon Willison提到,很快大家都會有自己的ai助手。 看時間軸: 24th February 2023: LLaMA is announced, starts being shared with academic partners:5
Re: [新聞]剖析中研院大型語言模型事件的衝擊先說結論: 發展本土化,繁體中文LLM模型,然後期待這個模型能讓大家使用,根本是錯誤方向。不知道這些專家學者,是在騙經費,還是還沒想清楚產業到底缺什麼。 --- 如果今天你使用Google搜尋,搜到"台灣是中國的",或任何有政治偏見的相關文章。 你會不會覺得Google很爛?5
Re: [問卦] AI發展到什麼程度你才會開始感到害怕?阿肥外商碼農阿肥啦!在下鍵盤研究員,基本上現在所有的模型本質上都還是弱人工智慧 的,只是這兩三年研究累積的體現。 當前還有很多問題是需要解決的,像是雖然有偏好模型,但LLM還是對於學習並非是有偏 的 ,這邊的偏好依舊需要人工大量去微調,這就跟我們人類差異很大。2
Re: [問卦] ChatGPT問世,臺灣的AI大師在想什麼?阿肥外商碼農阿肥啦! 當前LLM像chatGPT即使問世,依舊還是有很多前沿問題沒解決,模型即使透過Instructio ns 由人工引導學習,還是很難達到真正的在線學習,人腦卻是可以時時重塑世界模型, 而且當前很多新研究都發現人腦耗電非常低但新皮質效能卻很高,而且LLM在很多層面即 使優於人腦,但是他卻缺少部分的世界模型。1
Re: [問卦] 為什麼人工智慧在這今年炸開了矽谷一定要有話題可以炒呀 不然錢要從哪來 區塊鏈炒一波之後就下去了 AR/VR 接手炒一波也下去了 現在換 AI 接手- 阿肥外商碼農阿肥啦! 先說,自動輔助駕駛一直都是趨勢,不過當前即使最強的模型依然是輔助功能,不管是生 成式或是檢測模型都只能做到輔助。 然後不管是生成式模型或是判別模型都是一樣的,就是在預測某個出現的機率,像是檢測 模型的生成框他其實也是等效auto regressive(自回歸)的,當前很多檢測模型也會採用
XX
[心得] 大家小心凱基證券會亂報違約交割21
[情報] 11/21 WCI 下跌 0.8%X
Re: [標的] zim.us 送錢給你順勢多5
Re: [情報] MSTR 漲幅超越NVDA TSLA2
[標的] 8044.TW 網家 統一私募入股多2
Re: [新聞] 談川普當選影響 力積電黃崇仁:免擔心「6
[標的]NVDL高歌離席 再慢慢找新標的2X
[標的] 2330台積電 年底前 跟著我們空下去