Re: [問卦] 半導體的龐大需求到底是用在哪

※ 引述《zakijudelo (Zack)》之銘言：
: 我文組仔不懂啦
: 明明台積電及許多晶圓代工廠到處設廠
: 應該會有生產過甚
: 或是像之前GG高層自己說的
: 疫情期間有overbooking的狀況
: 但明明AI也還沒多成熟
: 挖礦也退流行了
: 到底生產那麼多晶片是用在哪裡
: 可以讓老黃的nvidia帶頭飆成這樣

AI 建模，流程可以參考這個網址
https://www.researchgate.net/figure/Steps-of-Developing-AI-Models_fig2_348142248

一般會有資料蒐集, 清洗, 演算法, 最後的 interference （推論）

第三個步驟到第四個步驟有個 model ，這步驟叫建模，

這個建模的過程會耗費極大量的 GPU 運算能量，還有無數次迭代
像 GPT 還有一個Reinforcement Learning from Human Feedback (RLHF)，
會花費大量的人工標記資料可用性

所以做大模型的就會要用大量的 GPU
像 GPT-3 就要花 1024 顆 A100 GPU 跑個 24 天，一顆也就 30 萬而已
除硬體外，電費也是非常驚人的，這時先進製程就有好處了

至於大語言模型推論也是很花 GPU 時間的，以上億用戶來說
說不定上面那些還不夠用，又要買更多 GPU .

除此之外，雲端伺服器, 高階桌上型電腦和筆記型電腦和手機都是需要GG先進製程
像 AMD 的 EPYC ，或是 Zen4 CPU 都是，手機就是 qualcomm 8 gen 2 , Mediatek 9200 等等

像 Intel 終年 14nm+++++ 不是常態，但是從某個角度，Intel 也算是將 14nm 做到
極致了，這代表著 14nm+++++ 還是有優勢的

這一波似乎是要賣給中國大陸提前出貨，所以塞爆生產線了
要不然這種需求都是緩步增加的，而且台積電產能現在都放出來了，nvidia 應該可以拿到不少
但是後面被完全制裁之後的格局未知，這也是老黃講的不一定要在台灣生產，但是大陸市場很重要
話說怎麼沒有人抵制老黃，收 3090/4090 系顯卡

Nvidia 股價大漲可能是短多長空格局，想刷一波記得研究新聞隨時跑

另外遊戲顯卡市場崩很大，這反映了 PC 端出貨不順的現況，PC 端出貨不順可能會連帶影響
雲端伺服器的生意

--