PTT評價

Re: [新聞] 輝達將成AI大贏家!Google前執行長驚爆:

看板Stock標題Re: [新聞] 輝達將成AI大贏家!Google前執行長驚爆:作者
LDPC
(Channel Coding)
時間推噓59 推:62 噓:3 →:76

QQ 那老兄講了一堆重要東西
https://www.youtube.com/watch?v=QmbO_EA82Qg
1. Large Context Window (e.g.,狗家1M Token Length)->記憶體需求
2. agents (LLM agents/LLM 機器人)
3. text-to-action (應該指的是LLM OS)

全文稿 快備份 有股點
https://reurl.cc/5d52oz
這也是為啥買NV/買HBM/Cowos/TSMC 然後 沒錢了 ...QnQ 救我
看樣子兩天前有全部影片 現在被Stanford改成private了

順帶一提 以前我認為資料隱私性必須透過on-device AI發展 但是果家私有雲一搞後
很明顯以後私有雲+on-device AI才是未來 然後NV會大賺 QnQ
※ 引述《capssan (Miracle)》之銘言:
: ※ 引述《dosiris (希望大家開心)》之銘言:
: : 原文標題:
: : 輝達將成AI大贏家!Google前執行長驚爆:逾9兆資金流入
: : 原文連結:
: : https://news.tvbs.com.tw/life/2586905
: : 發布時間:
: : 2024/08/16 11:04
: 這個片段其實有趣的
: Eric Schmidt去史丹佛的學院開講,他本來以為是閉門會議,講超多幹的
: 結束前才說這些要保密不能講出去
: 結果工作人員才跟他說這場有直播..當場臉都綠了
: 原始影片雖然下架了但很多內容其實都被拿來討論
: 像是嘴美國大公司一堆米蟲比不上台積電這個我記得有小炎上
: 以下是在X上其他人做的節錄
: -------------------------------------------------------------------------
: 現在的谷歌為什麼在AI領域輸得一塌糊塗?因為谷歌覺得讓員工儘早回家和平衡工作比贏: 得競爭更加重要。如果你的員工每個星期只來公司上一天班,你怎麼可能比得過OpenAI或: 是Anthropic?
: 看看馬斯克,看看台積電,這些公司之所以成功,就是因為能夠卷員工,你必須要把員工: 逼得夠緊才能獲勝,台積電會讓物理學博士第一年下工廠幹活,你們能想像美國的博士生: 去流水線嗎?
: 自己犯過很多錯誤,比如曾經覺得英偉達的CUDA是很蠢的編程語言,但現在CUDA是英偉達: 最牛逼的護城河,所有的大模型都要在CUDA上運行,而只有英偉達的GPU支持CUDA,這是: 其他芯片撼動不了的組合。
: 還有微軟跟OpenAI合作時自己也覺得難以置信,微軟怎麼能把最重要的AI業務外包給那種: 小公司啊,結果再次看走了眼,再瞧瞧蘋果在AI上的溫吞,大公司真的都官僚化了,奮鬥: 逼都在創業。
: TikTok給美國人上了一課,在座各位年輕人以後如果創業,能偷音樂什麼的就趕緊去做—: —似乎是在黑TikTok早期縱容盜版BMG——如果你做成了,就有錢僱用最頂級的律師幫你
: 擦屁股,如果你沒做成,那就沒人會起訴你。
: OpenAI的星際之門在宣傳時說需要1000億美金,實際上可能3000億都打不住,能源缺口太: 大了,給白宮提過建議,美國以後要麼跟加拿大打好關係,水電資源豐富,勞動力便宜,: 而且夠近,要麼去和阿拉伯國家套近乎,讓他們來做主權投資。
: 歐洲已經沒戲了,布魯塞爾(歐盟總部所在地)一直都在摧毀科技創新的機會,可能法國: 還有點希望,德國不行,其他歐洲國家就更不用提了,印度是美國盟友裡最重要的搖擺州: ,以及美國已經失去了中國。
: 開源很好,谷歌歷史上的大部分基礎設施也都受益於開源,但是說實話,AI行業的成本太: 高了,開源負擔不起,自己投資的法國大模型Mistral將會轉為閉源路線了,不是所有公: 司都願意且有能力像Meta一樣當冤大頭。
: AI會讓富者愈富、窮人恆窮,國家也是,這是一場強國之間的遊戲,沒有技術資源的國家: 需要拿到加入強國供應鏈的門票,否則也將錯過盛宴。
: AI芯片屬於高端製造業,產值很高,但不太可能拉動就業,你們可能沒幾個人去過芯片製: 造廠,裡面全是機械化生產,不需要人,人又笨又髒,所以不要指望製造業復興,蘋果把: MacBook的產線遷回德州不是因為德州工資低,因為根本不用再大規模雇人了。
: 歷史上,電力在引入工廠之後並不比蒸汽機創造了更多的生產力,是過了大概30年左右,: 分佈式電源改造了車間佈局,推動組裝系統的出現,再才開始了生產力的飛躍。現在的AI: 和當初的電力一樣,有價值,但還需要組織創新,才能真正拿到巨大的回報,目前大家都: 還只是在摘取「低垂的果實」。

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 24.4.211.194 (美國)
PTT 網址

CMPunk 08/16 15:19講太多大實話得快點設成private

※ 編輯: LDPC (24.4.211.194 美國), 08/16/2024 15:21:00 ※ 編輯: LDPC (24.4.211.194 美國), 08/16/2024 15:23:03

pponywong 08/16 15:25on device 就賭看看 ARM/AMD 吧

findwind082608/16 15:25AI看起來是真玩意兒 但LLM是不是真的解就有待觀察

findwind082608/16 15:25但只要主流還是LLM 那NV的GPU就不會有問題

metallolly 08/16 15:26已經沒有特價了喔^_^

findwind082608/16 15:26LLM模型越就越精準 需要的GPU就越多越強=老黃發財

xephon 08/16 15:27主要問題還是能不能變現,不然最後變科研項目

w60904max 08/16 15:28主流算法定期換 NV更吃香吧 畢竟通用

mangle 08/16 15:28現在卡在商業化不明朗吧

findwind082608/16 15:28怎麼可能沒辦法變現… 唯一問題是LLM是不是正確道

findwind082608/16 15:28路而已

andy810306 08/16 15:29你買十億的豪宅5億賣也是變現,懂嗎?

andy810306 08/16 15:30要說的應該是有沒有辦法撐起獲利

andy810306 08/16 15:30HTC虧錢做也是一直有營收變現不是

andy810306 08/16 15:31正確是一定不正確,不過大多數人工作也沒保證正確

andy810306 08/16 15:32就是個玩具,取代先進國家沒技術性的高薪工人而已

dosiris 08/16 15:32已下載

findwind082608/16 15:32恩 玩具 好喔 不予置評

CGDGAD 08/16 15:32已收,謝謝大大無私分享

andy810306 08/16 15:33如果你的工作無法結合創造力跟技術性就是被取代

SSglamr 08/16 15:33老黃救我~ 攤到沒錢了

Lowpapa 08/16 15:36一生平安

Brioni 08/16 15:36AI創造的生產力可能過剩,過度生產但消費力沒起來會

Brioni 08/16 15:36怎樣呢?看看中國

leoislucky 08/16 15:37bilibili有完整影片可以看

shawn0205 08/16 15:37他也說了AI很燒錢 目前都是低垂的果實

shawn0205 08/16 15:37舉了電力當例子 30年才開始發展

Brioni 08/16 15:38現在就是一直大筆資金投入算力怕落後,至於終端怎麼

Brioni 08/16 15:38回收?那是以後的事情,但投資人已經注意到這一塊了

newyorker54 08/16 15:38我跟你想法一樣,發展在地私用伺服器才是真的輝達大

shawn0205 08/16 15:38每個人都只看到自己想看的

newyorker54 08/16 15:38爆發的成長

findwind082608/16 15:38燒錢的原因不就是因為NV毛利太高嗎?

findwind082608/16 15:38反過來說股點 NV不就贏定 台積一定贏定

shawn0205 08/16 15:39短線就是過熱+燒錢 等泡沫破了

tsubasawolfy08/16 15:39low hanging fruit意思是目前這些AI產出都是小兒科

newyorker54 08/16 15:39現在的成本太高算力不足以讓每個公司自己架一台伺服

newyorker54 08/16 15:39

tsubasawolfy08/16 15:39不用花太多心力鑽研 但真正大利益是在更上層要花心

shawn0205 08/16 15:39那些高垂的果實 還在很未來

tsubasawolfy08/16 15:39思跟$$$去拿到

Brioni 08/16 15:39這也是失業率很重要的原因,不然大家都沒錢去蹲家要

Brioni 08/16 15:39怎麼撐起兆元美金的產業

andy810306 08/16 15:40現在連CPU都跟雲端廠商租了,AI更不可能自己買晶片

Brioni 08/16 15:41泡沫破裂後還是會有真強者存活,像谷歌在網路泡沫破

Brioni 08/16 15:41滅後發光那樣

andy810306 08/16 15:41而且雲端租CPU是真的有獲利,小公司做AI哪可能賺錢

dosiris 08/16 15:41不過教學還是自己買比較方便

newyorker54 08/16 15:41大爆發還要看未來五年,如果單機可以跑405B的AI才是

newyorker54 08/16 15:41真的落入民間的實用階段,像現在的個人電腦

Exusiai 08/16 15:41看來還有Arm

guk 08/16 15:41大家真的很強

Brioni 08/16 15:42NV類似當年思科,鏟子熱

andy810306 08/16 15:42頂多幾家AI新創騙投資人的錢收割一波閃人

dosiris 08/16 15:42燒錢(X) 錢求你燒(O)

strlen 08/16 15:42我們來下載拉馬3用ptt文訓練 變成不能變現GPT好惹

findwind082608/16 15:42小公司幹嘛開發AI 用大公司train好的model就好 再

findwind082608/16 15:42租算力 這成本就算是現在也不是負擔不起

strlen 08/16 15:43問他什麼問題 他講沒幾個字就嗆你 這能變現嗎?

JWJerryyy 08/16 15:43感謝大大分享

metallolly 08/16 15:43創意應該才是未來要培養方向~QQ

bnn 08/16 15:44就 大公司train好的model給小公司應用場景 不好用

littenVenus 08/16 15:44老黃:窩484快成佛惹^O^

metallolly 08/16 15:45沒有創意至少買個TSM跟NVDA~保平安一下

dong80 08/16 15:45未來發電廠也是重要的資源了

joygo 08/16 15:46做ai朋友說,現在上限就卡在,記憶體,電,電是卡

joygo 08/16 15:46在環保,所以我幾乎都在找能源的,美國其實不少新

joygo 08/16 15:46能源,但是能不能做到又是一回事

dosiris 08/16 15:47在華人社會 創意很難培養 先給學生工具讓他們敢亂想

sdbb 08/16 15:47Nv好像有教鏟子怎麼用開發鏟子用途

sdbb 08/16 15:48鏟子挖土種玉蘭花給__蛙賣

bnn 08/16 15:48能源主要卡在法規特許權那些問題很大 要內線

sunday0913 08/16 15:48重點是短期內沒人不敢不玩AI 鏟子買起來就對了 終

sunday0913 08/16 15:48端應用獲利是未來的事

findwind082608/16 15:49NIM啊 雖然我還沒看到NIM具體怎麼用

littlejackbr08/16 15:50空蛙的未來就是死路一條

findwind082608/16 15:50這版一堆矽谷的大大 不知道有沒有人能介紹

littenVenus 08/16 15:50L大以後會變大富翁 和教主一樣

littenVenus 08/16 15:51美國公用事業類股的幾家電力公司今年股價也噴噴

TameFoxx 08/16 15:55所以啦 為啥輝達會被禁賣中國

TameFoxx 08/16 15:56連台GG代工也都是被管制的

TameFoxx 08/16 15:56HBM也被管制

josephpu 08/16 15:59華爾街從來就不認為AI能在短期內商業化盈利,一個

josephpu 08/16 15:59才剛起步的行業怎可能馬上開始獲利。只有散戶緊張

josephpu 08/16 15:59兮兮,純粹是股價炒高了要修正而已

pieceioriX 08/16 16:00能源就等核融合啊 不過盒飯大概不懂這啥

aresa 08/16 16:01老實說你看輝達怎麼做的就可以猜到商業模式了,輝達

aresa 08/16 16:01之前想買ARM,明顯就是想把大模型跟soc搞在一起

junior02048608/16 16:01真的能大營利,老黃又要拆股一次

junior02048608/16 16:02老黃:豪爽,一直拆股

goodjop 08/16 16:12LD大 我解套 開始賺錢囉~

bloodashih 08/16 16:14喔喔喔

vendan5566 08/16 16:15有懶人包嗎 我懶QQ

ezreal1315 08/16 16:18記憶體後面真的要發酵了 存儲絕對不夠

wsii20 08/16 16:20記憶體是美光 三星 海力士嗎

dosiris 08/16 16:21這位老兄的號召力 不容小覷

TameFoxx 08/16 16:25記憶體現在是處於研發競賽吧

HiHiCano 08/16 16:34結果NV盤前沒任何反應 小道消息聽聽就好

findwind082608/16 16:41不用太高估華西街 他們在金融方面的消息很強

findwind082608/16 16:41但科技業的技術發展他們不一定懂

ksjeff0928 08/16 16:491200股NVDL...成本71....99nvdl~QQ

andy810306 08/16 16:49是啊,還是ptt法人最懂AI,準備套著當傳家寶

Chilloutt 08/16 16:49未來生產力:顧機台、生物電池、炒股

ru04hj4 08/16 17:20NVDA+TSM 捏爆

justin20042808/16 17:26你們知道Ai晶片可以預測飛彈路徑嗎? 天弓系統裝一

justin20042808/16 17:26

justin20042808/16 17:274k 顯微手術有時間差也是Ai預判

hihowareyou 08/16 17:32早就進了,魚頭好吃

lin8807819 08/16 18:20現在才開始

findwind082608/16 19:05如果你覺得AI沒有用 那表示你的工作快要沒用了

piece1 08/16 19:28有錢人通常不是懂的人!自己要斟酌

loveponpon 08/16 19:33nV去年漲10倍 今年呢?會繼續該有多好

AirLee 08/16 20:04應用會在新技術泡沫後大量出現

aqwa 08/16 20:35美光跌的狗吃*

lantimes 08/16 20:48谷歌有htc團隊 走著瞧

iamjamie129 08/16 21:04雲端就很難稱得上private ,你信雲端業者?

chysh 08/16 22:10看完覺得印特爾死定了... 來加碼AMD和Qcom

Heedictator 08/16 22:13晚點來讀

frank01 08/17 06:40 Nuscale power 賭下去,賭對了,直接退休。

frank01 08/17 06:43不過也別太信,他可以看錯二次,不會看錯第三次(AI)?

OFETMAN 08/17 10:02上面例子只能說是先進技術 不是需要運算就叫AI

CalvinBryant08/17 12:33這種東西就是注定公有雲,怎麼一堆人還在幻想地端思

CalvinBryant08/17 12:33維?還會問公有雲安不安全,真的笑歪

LDPC 08/17 12:57笑死 公有私有雲和 legal審核都不清楚

LDPC 08/17 12:59aws 公有雲infra支援爛 legal還不能保證train私密

LDPC 08/17 12:59資料不洩漏

LDPC 08/17 13:00狗家公有雲之前還把加拿大資料誤刪

LDPC 08/17 13:01果家的私有雲是閉環系統

LDPC 08/17 13:02ai三大項 資料最重要 果家有icloud自家隱私系統

LDPC 08/17 13:04你搜aws data leak 2022就有案例

LDPC 08/17 13:06所以一種走向是企業自己打造閉鎖cloud 有自己infra

LDPC 08/17 13:06 team

LDPC 08/17 13:10https://tinyurl.com/mryk77dv aws上capital one

LDPC 08/17 13:10 資料外流

mdkn35 08/17 13:30沒人想用之不精準的東西 炒炒股票可以 居高思危

sean667cd 08/17 15:13L大神有研究近期avgo,coreweave 近有兩個月發展嗎

sean667cd 08/17 15:13,感覺沒什麼特別大事..

CalvinBryant08/17 20:55笑了,資料會被公有雲拿去訓練,你怎麼不看看M社條

CalvinBryant08/17 20:55文怎寫的?私有雲打造AI我只是笑笑,大廠花了幾百億

CalvinBryant08/17 20:55美金的錢在訓練AI,私人企業想搞?根本就是把錢丟進

CalvinBryant08/17 20:55水裡