PTT評價 LDPC 過去發表過的文章

23 

我也很懷疑特斯拉要怎樣畫出這個robotaxi大餅 身邊搞自駕的現在都是瞄準L2+ 輔助駕駛 只適用長途開車的場景 而自駕計程車有法規 許多安全上問題 更重要的是現階段AI發展路線都只停留在生產工具 還無法做到真正取代人類 自主性自己做決策 而車禍這種安全考量下 你的reliabilty 安全邊際必須無限高才行 現在能真運行的自駕計程車(Waymo/Cruise) 都是在侷限區域

我有紐澤西和加州房 美國房子就是坑! 首先你得花個1.8M (以今年為例)才能買 入門小黑屋 然後你接下來一輩子會陸陸續續噴個10~20萬美金 才能把小黑屋改造成 你喜歡的 然後每年加州房屋稅是買價1.3% 大約會兩三萬美金 就算你不改裝 你還每15年 要噴個兩萬修屋頂 如果下大雨 你家的crawl space又要噴錢修積水 每五年要花四五千塊 除白蟻 每一年要噴一千美金修下水道堵瑟 然後把100A總電流提升到200A

25 

對於老黃GTC到底想幹啥 可以參照底下演講 這演講其實點出很多很重要的關鍵概念 尤其是19:15那邊 你可以把語速調回0.75倍變為正常速度 19:15其實那邊就是layout AI Foundry那個pdf RAG延伸版概念 (註1) 老黃的優點就是他擅長拿別人的好主意整合到自己商業模式 從以前蘇媽HBM到台積代工

28 

HBM是最好看的懂AI題材 之前就在安利了 所有要自己搞晶片的一定會要HBM i皇Falcon Shores 老黃旗下所有HPC產品 蘇媽MI300/MI400 Google TPU Amazon Trainnium2 AVGO 這邊都是 之前看到HBM3有接近10B~20B市場 目前處於老大老二老三都在吃肉 現在手上三大HBM屯股都在漲 QQ

31 

GTC就要開始了 禮拜一早上是最後賭盤下注的時間 忘記哪邊統計過GTC以來 只有一次股票沒漲過 平均股價在GTC期間會漲5% 如果有興趣一些接下來AI落地走向 可以參考此talk 裡面滿多資訊 最主要的takeaway就是老黃已經有商業部門在面向企業部門販賣AI as a Service

58 

股版太多好人了 於是分享接下來自己操作 讓這邊繼續保持良好韭菜交流 但盈虧自負QQ 這邊是AI雲端基建藍圖 可以自己找喜歡標的物 慢慢玩長線 我們現在應該在wave 1 自己投資策略從幾年前 三大重倉持股(AMD/NVDA/TSLA) 在去年九月砍TSLA 加轉NVDA 同時我大概這兩年應該不會再碰TSLA了 去年2H時開始找HBM投資標的

73 

週末有點時間 之前寫的老黃故事 這幾年AI模型突飛猛進的一個關鍵點就是 泛化的能力 簡言之 2018以前 AI模型 都是透過數據 去學習資料上的標註資料 來做人類事先規範好的目的 而機器透過這些標注數據 去達到人類要求的事情 當模型遇到一個沒看過的數據 或者場景變得不同 模型就會失效 甚至無法處理

講一些自身經驗好了 自從AI領域在生成式題材大火後 全世界就進入到AI軍備競賽 所有的AI基礎研究都是以週甚至日為單位在迭代 舉個例子 當年Robert G. Gallager 在1960提出類神經網路的LDPC code到2004年才大放異彩 無限接近shannon bound 光這個演進就花了40年 對照這幾年的AI科技樹發展 根本就是指數在成長

11 

關於AI雲基建保底有兩年光景的願景 大家有興趣可以研讀一下這份報告 比較有趣的點就是基建裡的Optical Circuit Switch + Co-Packaged Optics 利劍指向狗家雲端基礎設施 順便跪求推薦台股供應鏈 QQ 原文提到了

51 

這兩年就是AI雲端基建年 玩家就是NVDA/AMD 至於那個i皇歐 不好說QQ 如果用internet大時代來講 等基建完畢之後 就會有Software As Service (SaaS) 這類類似saleforce興起 目前看到的玩家就是Databrick 建議可以等這家上市ipo 買爆他 基建完之後 就會慢慢走向AI as Service (AIaaS) 軟體業 我有點懷疑老黃想吃AIaaS這塊應用市場 在AI界 刷演算法的除了G/MS/OpenAI/Meta等

19 

很久以前買房出清過一次nvda 目前手上最低的存股價錢是50上下 最高是早上的6xx 還記得當初覺得等到NVDA 1000時候 我就要換去可以躺平的工作了過準退休生活 老黃這次會不會崩 我不知道 但是目前就是光是Training的市場需求還沒填完 每個國家 這一年都在發展自己的演算法 像是法國這陣子刷了不少大模型 阿聯酋那邊也是 OpenAI推的Sora也是需要大型運算 我還記得以前在迪士尼時候 迪士尼皮克斯實驗室

不知道為捨抹會講到邊緣運算啦QQ 不過老黃這波佈局就是替兩三年後落地場景客製化晶片 一般落地場景Inference(AI推理)的工程順序如下 拿一個PreTrain萬用大模型 用特殊資料FineTune 然後Deploy (Inference) 以LLaMA 7B模型為例 假設我今天要做一個醫療問診小幫手的AI 當我用一堆醫療資料 FineTune這個LLaMA 65B模型後達到我需求 (到此為此都會在Cuda生態圈做)

24 

借用這個標題吧 很久以前 我忘記是在哪篇看到的老美的如何推薦推介買老黃股票的原因 其中有一個點是 NVDA是殺手 擅長幹掉無數公司(e.g. 3dfx,ati) 然後這週末個小道消息 老黃瞄準30B市場打算做客製化晶片佈局....也就是要跟AVGO搶市場了 這也是可能為以後瞄準Inference的可能市場一個佈局了 --

 9 

現在還來得及 快上HBM的車 且HBM利潤很高 此篇底下有人分享哪家卷商可以買韓股 QQ 主要是高速頻寬記憶體是現在AI架構裡面很重要的一塊 自從多模塊大模型開始後

週末閒聊 Morgan Stanley的頂級股票分析師 也是Global Investment的主席Mike Wilson 兩天前被下台了 此老兄是空軍的最大支持者 壓垮最後一根稻草 可能是此老兄去年11月説2024大概股市只有2%成長動能 然後上週....恩嗯嗯QQ 連我多軍都有點怕 雖說此老兄從2018就是空軍元帥 繼續觀察其他華西街其他機構消息 --

33 

i皇之前有個想要對標MI300設計Supercomputer chip XPU(HPC) 代號是Falcon Shores 現在已經基本確認今年端出來的就是個GPU設計 如同一年前新聞提到的 i皇在HPC落後 AMD大概有三年 ( ) 在2023年3月 i皇可能沒意識到HPC淺在市場會有多大 i皇當初藍圖是2026 或者更晚才會推出自家HPC方案 i皇說大部分企業不需要用到HPC這種架構

18 

不太一樣啊 首先自駕的車子吃電池先天上就決定算力有個上限在 而自駕容錯率又低 落地場景難度相對高 現在生成式AI算力無限往上疊 在雲端上跑沒有電池綁手綁腳限制 而且可以搞出一堆花樣來 才不是啥鬼泡沫玩意QQ 有小道傳言說 祖柏克現在搞AI是覺這玩意可以幫助他的原宇宙 因為他覺得他元宇宙NPC都可以叫AI來當 Meta最近很狂 都喊出AGI口號了

HBM就是金礦 尤其現在部分研究有走向拉長Input Sequence和Embedding Vector Length 我好幾次train模型 記憶體都不夠用 還得搞gradient accumulation這種手法 在Multimodal開啟後 資料數據都是幾10T的Train 記憶體很容易被操爆 且部分研究顯示 多模態數據拉到60T以上後 胡言亂語症狀都會減低 然後HBM3e領先就是海力士 海力士不可能只有20% HBM現在就三大玩家 而韓廠就吃掉90%

 1 

有啊 當年有個成大電機的何國源就嗆過老黃 然後...QQ 那個Linus也嗆老黃 QQ 還比中指 然後最後當年Intel也嗆過老黃 老黃就回了一句 我們家法務部門也不是吃素的 來吧 然後Intel就付了15億美金....請求和解 ※ 引述《vinsmokesanj (廢文奇賞甲上上)》之銘言：

35 

有沒有人在玩韓股啊 自從HBM明顯是AI半導體金礦後 就開始瘋狂囤SK Hynix 參照 去年12月底 新聞有顯示一堆外資撤出中國 大量資金流入韓國瘋狂買SK和三星 然而南北韓情況交惡下後 最近這三週 韓股跟台股一樣 瘋狂韓幣貶值 同時股價狂跌

路人肥宅路過 以一個50萬美金買不起矽谷的房子 在我周遭我還真沒看過 50萬美金一年扣稅下來至少有30多萬美金 租房+食衣住行大概就差不多一個月一萬美金 那一年至少可以存接近15~20萬美金 兩年後就有足夠首付 灣區入門SFH 1.5M都買得起 更別說你弟大約72~73年次 50萬美金已經是Google L5 Band 頂部族群 以72~73年次 能拿到在L5頂 還真的絕對算是少數人 如果你弟還買不起房..那你叫其他非FAANG

Intel走到這步 真的自己該檢討一下吧 我還記得我當年走訊號處理 在唸碩士時候 教授給我了一個UWB計畫 還說這是未來主流 是Intel主導balbalabal 那時候整個台灣都被Intel拖去做UWB吧 後來故事大家都知道了 接者碩士畢業後去了2454 那時候成立了一個WiMax部門 也是Intel主導 編織了一個4G未來美夢

 3 

這是最近幾天TSLA那邊AI晶片訊息 現在看來就是NVDA+AMD會繼續有機會在AI晶片市場拉一波 最近另外一個比較紅的新聞是 Mistral AI小公司開發的LLM模型吸引不少人 而Misral AI是用CoreWeave租借算力 開發出來的大模型 這些小公司能靠租算力媲美大公司發展的模型

20 

剛看到WSJ分享一個有趣故事 WSJ因為我沒有買他們 所以有人有可以在幫忙分享 據Reddit的摘錄 說當前天加拿大商人Robert Herjavec 私人飛機抵達多倫多時 邊境海關人員馬上上前問Robert "Where is he!!" 然後Robert回 "Who?"

會有門不當戶不對都是因為有fu糗..fu糗這玩意有時候講講話聊聊天就大概看出來 工作面試通常都會有一些behavior questions就是在找尋人格特質的red flag 不論有多優秀 有些公司(e.g.Netflix,Amazon)只要看到那red flag就是拜拜 下次再說 而以我自己一個小小M1為例 原po那幾話已經是遠超過red flag了 更別說結婚是一輩子事情而不像工作hire錯誤的人還有修正方法 更別說醫生的小孩

85度C 也開始走煎餃模式 增加在美國品牌多樣性 在洛杉磯開了九初流心脆皮煎餃 不過在Yelp上 目前3.6 跟洛杉磯的八方雲集比起 目前3.9

現在謠言已經喊到加入微軟有1000萬美金簽約金 LLM大鼎薪時代超越NBA板凳球員時代來臨了!! 網路上有Ilya相關文章 據傳這世界線的Skynet因此被延後了

現在謠言已經喊到加入微軟有1000萬美金 LLM大鼎薪時代超越NBA板凳球員時代來臨了!! 網路上有Ilya相關文章 據傳這世界線的Skynet因此被延後了

36 

繼續在旁邊吃瓜觀看發展 標題: OpenAI board in discussions with Sam Altman to return as CEO 禮拜一的微軟股價真的不好說 如果Sam真的回來後 有機會微軟會繼續沉一波 ※ 引述《ericlin8545 (Eric lin)》之銘言：

94 

老黃應該是有機會能繼續用黃家刀法 用高階價錢賣低階產物給中國 從美國的最大化利益角度來想 美國也會希望老黃賣次級的晶片給中國 這樣就某種程度能最大化阻滯中國發展 和弱化中國科技樹發展 比方說 中國最近的華為昇腾910B AI晶片號稱對標A100 已經賣給百度作為AI開發用途 如果說中國目前上面自製化晶片算力是10 那A100是30 H100是50 那老黃只要賣給中國晶片

 8 

在經濟下行情況 Musk必須負責他之前的策略錯誤 在2020年Musk勾畫了一款低於25000價位 低階車款 但這塊推遲沒執行 也就是Musk一直把自家車定位還是鎖定在中高階價位族群 這件事情在現在這一年回過頭來看 是個超級致命的決策失誤 (更正:根據某大大訊息 此部分非Musk決策錯誤 而是現實不允許 ) 在4~5萬美金電車價位下 願意買ModelY/3消費者早就都買電車了

這玩得好大 啥有錢人不怕放棄美國公民 有錢人最怕在沒規劃下 臨時放棄國籍 美國在歐巴馬推動下 搞了一個棄籍稅 計算方式如下 這要短時間放棄國籍 感覺要繳一堆錢給IRS耶 ※ 引述《joanzkow (星浪)》之銘言：

 1 

買房子就是要買地點啊 而城市建設跟產業是掛在一起的 城市經濟還是會受益於產業 我家老頭是醫生 在他那年代就是來來來台大 去去去美國 然後也刷到了綠卡 然後選定了Johnson&Johnson醫院附近在NJ市中心Trenton郊區買房 當時房子非常貴 那棟房子可以單換矽谷房子 後期1990 Trenton開始走下波 產業外移 然後我家老頭後期覺自己在美國混不下去 就放棄綠卡 選擇在台灣當個躺平醫生

70 

決定回文了 順便供參考 今年就業是絕對冰河期 不要理版上幾個特定酸民 也不要太灰心 PennState明明就是全美前Top30 ECE School 我周遭樣本 1.Google Tech Lead L5 AR Team (Google在今年3月裁整個部門500個人 包含VP) 目前繼續失業

69 

有 我第一份工作是2454 那時候offer還有聯詠 工號是2xxx 簽約金就是現金+股票 第一年收入大約有到兩百萬 然後工作時間是早上8點半到晚上11點 雖然會有人吐槽 啊你得扣除掉晚上在公司打籃球時間 不過那時候過得很喪 就每天下班後 想打電話跟人抱怨各種鳥事 但手機翻一輪找不到誰能聊天 只能吃麥噹噹 於是就出國唸書了 畢業後 運氣好 第一份工作 有一個很好的白人Mentor 手把手教

18 

路過肥宅亂入 這邊也從其他方面討論 AI晶片架構開始看到針對記憶體架構打造 探討存算一體 也就是在算力無法大量提升下 可以靠大量高速記憶體和演算法把效能提升 目前看到中國那邊打算靠打造記憶體方式來彌補算力不足方式追趕AI 或是像蘇媽MI300 192GB HBM3 記憶體架構 (部分細節可以看這篇 )

12 

稍微溫習一下之前預測的文章 Netflix這陣子持續拿亞洲題材(Content)來維持吸引力 像是海賊王以及之後Squid Game第二季 串流營運目前看起來比D家好 同時好萊屋大罷工繼續持續下去 而最近工會之間有嘗試在串連 如果汽車工業工會大勝利後 那電影這邊大概也會傾倒 同時也意味者外包給亞洲的content會持續加速中 Disney最近韓劇Moving異能

23 

我有在follow coreweave 但是朝另外一個方向 Coreweave現在規劃就是死抱老黃和 微軟大腿 他提供的就是第三方租借算力 其他類似的公司有Amazon/Google/Lambda 然後Coreweave也有跟微軟簽約提供算力 老黃這陣子看得出來 他有在朝算力租借這邊佈局 在講這些玩家之前 先科普一下如果踏入AI產業 你大概會選擇三個方向其中一個

 7 

HBM3目前玩家就是 海力士 三星 美光 目前推測前兩家韓國公司會吃掉90%市場 三星和海力士正在瘋狂擴產中 訂單來自於老黃和蘇媽 順便一提 H100出貨量目前估計是50萬張 每個H100 台積電是200美金 HBM報價是1200~2000 Cowos部分是800~900 以上總成本是2500 然後每個H100賣3萬美金

 5 

QQ 給你看加州Navio 最貴的自助餐 上次去吃過一次 一個人稅後大約會逼近$260 且只能吃90分鐘 扣除甜點和入座 實際能吃的時間大概是1小時 美國人也是很盤的! ※ 引述《Happybuddha (笑開天下古今愁)》之銘言： : 如提

 3 

看了一下 主要是原po主對財務認列覺得有造假嫌疑 細節看不是很懂 但像是機器沒 deliver是不能列收入 但一但booking後沒繳完費用又可以認列 我之前聽我鄰居(HPE VP) 認列方式好像也是這樣計算 當初HPE因為海運塞車關係造成收入沒算入該Qtr營運 不過他還拿了一個Insider內部人賣股作為支持自己的論點 我只能說呵呵 不過他也拿了buy back stock作為支持自己的另外一個論點

 1 

你有看過194x~195x的40坪老房 電力總容量(e.g. 100A)還停留在上個世紀 充個特斯拉就會跳電 想用釘子釘個牆壁 就會噴出石棉這玩意 地板凹凸不平 然後要價卻要5500萬台幣嗎 且這還是蛋殼區的價碼 台北蛋黃區的老公寓還是很香的 QQ ※ 引述《villagermess (我是女生)》之銘言： : 大多數年輕人買房喜歡買預售屋

 3 

又到了不想上班的禮拜一 借用陸奇的文章 基本上大家雖然都只把焦點放在ChatGPT這類 但大概這兩年因為大模型概念越來越成熟後 Fondation Model/Pretrained Model的進步大概是以月甚至週來迭代進步 (這些發展都會 加速老黃賣鏟子) 裡面陸奇就有講到一個現象

51 

再稍微增加補充一下 這篇講得沒錯 老黃的核心重點就是"算力" 他賣的鏟子就是高計算能力平台 因此跟計算資源扯上關係的題材都會是老黃炒作對象 元宇宙也好 挖礦這些題材都算是幫他促銷鏟子 這也是為何老黃每年會去CVPR(Vision Computing)/Siggraph(Graphics Render) /NeurIPS 到處穿黑皮衣亂走 去了解整個高計算技術趨勢

 5 

蘋果這條路線跟高通一樣 就是on-device inference 高通之前示範過了 目前個人不負責任理解是 Meta/Adobe/MS/Google/Saleforce都在走向雲端大模型 (e.g., Foundation/LLM AI)也就是AI as a Service 有些Startup公司已經開始在把Foundation/Pre-trained Moedel當作工具在賣

 6 

這地點在Little Tokyo(小東京) 南方一公里左右 去洛杉磯玩需要避開的地點 就是小東京以南區塊 南加大也在洛杉磯市中心 之前有EE PhD做研究太晚 凌晨回家 回家時 在家門口前被爆頭...那被槍殺地點也跟這影片大概約有六公里左右 這些都還好 最狂的是 加州之前要在洛杉磯實驗性質的提供免費海洛因給這些流浪漢 州議會已經表決通過 還好加州州長把這法案給veto掉.. 不然你們會看到現實世界GTA

 1 

某家百年傳統娛樂產業 1.去北美任何迪士尼樂園免費無限次數 且每次進入可以隨行帶4個人免費 (a)停車費免費 (對比一班遊客一次30元) (b)迪士尼旅館4~6折起 郵輪3折~6折票價 (c)園區任何販賣物品六折起 (玩偶/光劍等等)

10 

來講一個故事好了 Robert G. Gallager在1960透過類神經網路啟發 根據Message Passing 寫了一個叫做LDPC的更正碼 根據他的paper理論可以有效 接近Shannon bound 當時被一堆人視為是一個垃圾paper 因為當時效能比Turbo-code 還爛 結果在2000年初 因為硬體和記憶體效能大增 這算法突然變成主流 才還給這老兄一個公道 所以算法有時候太先進 硬體不支援這也是個問題

 7 

還有一個大問題啊 美國基礎設施爛得要死 之前每次下雨刮大風 停電斷網常有的事情 而且我住的地方不是農村 是矽谷的Man Jose這城市 去年時只要下大雨就斷網停電 如果是電充快充站 等電車數量上升到一定數量 基本的電網在高峰期這種要提供瞬間高電流很容易崩毀 這也解釋為何ChargePoint 這類公司的瞄準市場會在未來某個時間點走到瓶頸 因為美國基礎電網的設施不夠完善

18 

前陣子自家公司GPU也不夠用了...在測試一堆想法時候 決定自掏腰包去租外面GPU 找了幾間像是 結果...wtf 也是大爆滿 看了幾個AI論壇 一堆自行開發者都自己測試各種pretrained model的下游fine-tune 也是各種哀嚎搶GPU 以前這幫個人開發者在自己的RTX 就可以簡單測試 但現在的 LLaMA也好 Diffusion也好 越來越難在家用遊戲顯卡上跑

37 

來加值信仰一下 老黃的故事 這底下Youtube說得滿精彩的 摘錄個人喜歡部分 老黃當初移民美國 家裡沒錢 父母讓他去唸個便宜寄宿中學(Oneida Baptist Institute) 結果那所學校是reform school專收問題學生 靠者教他問題肌肉室友數學 艱辛長大

 6 

DIS最近有點慘 從Iger説不排斥賣Hulu時 就代表串流已經不在像是Chapek在位一樣 成為公司轉型的主體 事實上之前幾po已經說明要維持串流好的IP 花費過於昂大 如果選擇Netflix路線去買亞洲便宜Content 那又失去自家IP色彩 同時星際大戰旅館在DPEP部門抱持能大賺的希望也最近破滅 如果要炒短期的話 就是等小美人魚票房慘崩的那個時間點 以80~85左右價格買入會比較安全 迪士尼今年的

83 

路人路過 講個自己知道的故事 我媽當年是台大醫學檢技術學系 她當年跟我說她的 分數可以上北醫醫科(我覺有點唬爛) 但因為台大名字太香了 加上當年就業前景不差 她就去唸了 沒想到等她畢業後 因為科技發展 許多自動化機器產生 造成他們領域的需求人數大幅下降 就業前景整個往下拉 這個故事我一直記在心裡 然後這波AI就是這種味道 這波AI所帶來的是生產力改善

19 

路人亂過分享 這些年在美國生活感想時 一切選擇各有好壞QQ 一切都是自己的抉擇 美國買完房後 最大壓力就是不能被裁員 之前在灣區刷了一個約1.6M小黑屋 買完花了100K 做簡單的修整 (還有一堆不順眼的要修 像是廚房整修 車庫隔出洗衣間等等 這大概之後 會繼續噴個150K) 每個月房貸大約是~5K 還有每年房屋稅/12個月~1.8K 瓦斯電力水網路 會吃掉大概0.5K

加值信仰一下 最近記者問Generative AI太昂貴了 (e.g., ChatGPT) 老黃說只花10個million 做這類AI算法 一點都不貴 真是太便宜了

37 

美國軍方有搞一個DARPA比賽 裡面有很簡單幾個任務 像是叫機器人開門闖入室內地區 下車 走障礙物體 給你看一下當年的剪輯

15 

之前推軟軟時 被一堆人酸推老人股 這波就是主打AI生產工具 這一波連Adobe都要加入了 現在就業市場突然開了一堆Generative AI缺 以後就是雲端生產工具和大缺電的時代了... Amazon 財報是04/27 然後明天會開獎屠殺名單(據說總計9K) 然後最近也發表LLM相關規劃

19 

從Iger暗示Hulu也是有機會可以拿出來賣的時候 就意味者D+ IP無限燒錢大概也要沒落了 之前D+的電影和影集雖說IP淺力無窮大 但要製作一個好的故事內容不但花錢 且影集相比電影的迭代速度又更快 以電影的思維去做影集畢竟做不下去 這波D家人事成本精簡 有很大的坑都是來自當初為了往串流走而狂燒金錢的原因 在Chapek時代可以看出他的模式是打造Disney成為一個串流公司

12 

自從LLM變成AI 軍備競賽項目時 這會造成大家都去買老黃的鏟子來挖礦 生產工具也被上一次微軟的發表大會給示範出來 老黃喊出AI as a Service 其他Software as a Service 公司 也許會跟者這波轉型 繼續正向循環 AMD/TSMC如同之前所講 有機會吃紅利 然後...i皇的Raja Koduri跳船或被跳船 看來i皇目前在AI這波硬體需求暫居下風

66 

我記得我當年在考DMV駕照時候 有一題是 如果後方逼車時 你的做法該是？ 正確答案是 換車道 讓後者先走 就算你已經是最高速行駛 看看美國這邊說法 車主閃大燈 不客氣逼車