PTT評價

Re: [新聞] Nvidia覇主地位危矣?這些挑戰者做出便

看板Stock標題Re: [新聞] Nvidia覇主地位危矣?這些挑戰者做出便作者
zxwxz
(zxwxz)
時間推噓44 推:44 噓:0 →:26

NV的市場領先地位不是單單只有CUDA這麼單純,你要知道CUDA不是只會算AI,各種高階的模擬運算才是最可怕的護城河。

NV在技術上還有兩大護城河
NVLink/Infiniband:高效的集群計算
Omniverse:虛擬與現實的融合

目前的LLM都有越來越大的趨勢,絕對不是單一個GPU能跑得動的,所以高效的集群計算才是關鍵,你單一個GPU做多大算力不再是重點,而是你要有辦法高效的串成一整個集群,而且NV大概是唯一一家有辦法自己“驗證集群運算缺陷”的公司,因為他自己也有AI團隊在搞大模型,所以NVlink跟Infiniband才會如此重要,要知道UAlink才剛起草聯盟,第一版出來可能要2026了

Omniverse 這可能是大家比較忽略的一塊,這塊是AI從虛擬走向實體的關鍵技術,以自駕車為例,現在tesla就是以海量數據導致FSD能有領先地位,但最終,你不可能只用實際車輛採集數據,尤其是各種負面範例,撞車或撞到人,這絕對是非常稀缺的資料,但假設你能用Omniverse來模擬整個車禍發生的各種情況,才有機會解決這種資料稀缺問題。更進一步則是機器人的虛擬環境訓練,你不可能把機器人丟到家庭裡,不小小壓到小孩才開始調整行為策略,各種人機協作互動的行為更是關鍵。

這兩大塊甚至比單純的CUDA更壟斷,因為GPU集群的實驗你自己沒下去玩過,根本就不知道會發生什麼事,臨時硬體壞了該如何備份復原更換,電力系統要如何整合,這都不是小公司玩的起的
補上萬卡集群的訓練說明
https://youtu.be/aey0qZzJg-Q?si=7GoOw5EDFkG9LcVx

Omniverse 更是未來實體AI的關鍵,新的機器人一定是丟到虛擬環境練到好才出來,這也是為啥老黃一直還是延續GPU而非特化成NPU,因為它需要3D建模與物理引擎,光追系統做虛擬環境驗證,拔掉這些core可能可以省成本,但就無法用途轉移了





※ 引述 《breathair (拆了?簡單了)》 之銘言:
: 標題: Re: [新聞] Nvidia覇主地位危矣?這些挑戰者做出便
: 時間: Wed Aug 28 12:28:18 2024
:  
: 小弟請教各位大佬
:  
: NV最大的優勢,應該是CUDA
: CUDA讓各AI專家可以編程NV GPU
: 讓GPU跑你想跑的東西,而不侷限在圖形運算
:  
: AMD正是落後在這裡
: 當大家都用CUDA編程AI晶片
: AMD不能用CUDA等於不能相容
: 於是AI晶片就被NV佔據極大優勢
:  
: 以上不知對不對
:  
: 如果對
: 小弟的疑問是
: 如果NV護城河是CUDA這種編程語言
: 而AI最大優勢又是編程
:  
: 難道以後不會因為隨著AI的強大
: 各路AI晶片可以把CUDA編程
: 轉譯成自家AI晶片可以接受的語言
:  
: 這樣護城河還會在嗎?
: -----
: Sent from JPTT on my iPhone
:  
: --
: ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.76.203.28 (臺灣)
: ※ 文章網址: https://www.ptt.cc/Stock/E.aBZVMb4BSd-A
: → bolovema : 以這麼幸福嗎 08/28 12:28: → zerro7 : 前提是無痛轉譯 能達成嗎? 08/28 12:29: → gozule : amd也有搞rocm 08/28 12:30: → as80110680 : 你是第2147483647個發現的人,然後也早就有人在做 08/28 12:30: → as80110680 : 了,還被nv發現被nv警告 08/28 12:30: → bnn : CUDA本身不是護城河 是使用CUDA的人多到變成護城河 08/28 12:31: 推 Lineage5415 : 之前NV某次聲明就是在警告這件事 08/28 12:31: 推 josephpu : 所以AMD確實有在搞轉譯啊...但有難度 08/28 12:32: → Djuda : amd追不上不只有cuda... 08/28 12:32: → Djuda : 如果只是cuda 也沒辦法解釋從2007~現在amd顯卡也是 08/28 12:33: → Djuda : 一路輸到脫褲子 沒有一次有跟上的 08/28 12:33: 推 KALR : 可以查一下 ZLUDA 與 SCALE 08/28 12:33: → ohya111326 : 現在早就有轉譯了阿 08/28 12:33: 推 flipflap : 試試看 被告到破產喔 08/28 12:34: 推 lolpklol0975: 只能用 反壟斷法 來壓制了 08/28 12:34: 推 HiHiCano : 你可以看看顯卡的差距 就知道NV管理層的強大 08/28 12:36: → flypenguin : 這比在文書作業領域幹掉 MS office 還困難。 08/28 12:37: 推 xephon : AMD追不上的東西可多了... 08/28 12:38: → xephon : NV現在要擔心有沒有人要用反壟斷搞他 08/28 12:38: 推 yayohola : 能轉啊 中間損耗勒 08/28 12:38:  
: 問題是
: 一半的價格,只要提供一半多的算力
: 不也是變相的競爭?
: 不也是可以存活,或拉低NV毛利?
: ※ 編輯: breathair (42.76.203.28 臺灣), 08/28/2024 12:41:28
: 推 TurtleGods : 讓AMD努力一點,想當年CPU也是落後20年 08/28 12:40: 推 gabriel : 除了CUDA還有NV_link壓 護城河不會只有一座 08/28 12:40: 推 ohlong : 自己寫的很好改 問題是一堆api沒辦法改 西瓜偎大邊 08/28 12:41: 推 pornpig32 : 你要沒問題的原廠,還是可能有問題的副廠? 08/28 12:43: 推 kylecheng25 : 能動的東西就不要換 08/28 12:45: 推 strlen : 這東西沒那麼簡單喇 你設備做出來了 能用嗎?會不會 08/28 12:45: → strlen : 跑一跑有bug 當機 燒壞 各種毛 08/28 12:45: 推 s56565566123: Nv 沒有對手 08/28 12:45: 推 KiwiSoda01 : 一般價格一般算力 加上電費跟額外處理自己需求就虧 08/28 12:46: → KiwiSoda01 : 了 08/28 12:46: 推 co80040814 : 制定標準是一個最賺錢的方法 08/28 12:46: → KiwiSoda01 : 買越多省越多 真的不是隨便說說 08/28 12:46: 推 Samurai : 轉譯,原廠隨便改版都弄死你,傻了才擔這個風險 08/28 12:47: 推 js850604 : CUDA有一整個完整的社區當支持,強的是使用者多 08/28 12:48: 推 SSglamr : 那是整組的 NV驅動值5000沒聽過嗎 跑LLM不一定要NV 08/28 12:48: → SSglamr : 華為也可以跑啊 但目前NV最有效率 08/28 12:49: 推 RinLink : 一個基本的觀念 軟體的一切取決於硬體 08/28 12:49: → Samurai : 先行者優勢就是這麼大,不然windows早就被取代 08/28 12:49:  
: 如果不是從cuda 轉譯
: 而是從自然語言直接轉勒?
: 天方夜譚?AI的強項不是?
: ※ 編輯: breathair (42.76.203.28 臺灣), 08/28/2024 12:54:10
: 推 havochuman : 老黃強到只怕分拆 懂嗎? 08/28 12:52: 推 acgotaku : Cuda 是軟硬整合平台不是編程語言 他的語言是 c 08/28 12:53: → acgotaku : 既然是軟硬整合 就要知道 你的計算機架構不是 nv 08/28 12:54: → acgotaku : 的 08/28 12:54: 噓 dos01 : AMD有做過類似的事情 但實際的效能算下來就很差 08/28 12:54: → sezna : 轉譯哪有那麼簡單,光是效能就搞死你 08/28 12:54: → acgotaku : 你抄也沒用,要自己調教出自己軟硬整合平台 08/28 12:55: → dos01 : 對廠商來說 搞這些東西還不如多花點錢跟NV買顯卡 08/28 12:55

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.73.76.206 (臺灣)

※ 文章網址:
https://www.ptt.cc/Stock/E.TCIPyISIpp3o

Stonghenge 08/28 13:36那麼專業給推Y

breathair 08/28 13:37推!

c259888 08/28 13:37簡單一句話

c259888 08/28 13:37NV只怕反壟斷法

KIMBEOM 08/28 13:39聽不懂 但就覺得你說的對

sdbb 08/28 13:41好人推,謝謝

Samurai 08/28 13:41就是NV可以幫你模擬生成失敗或缺陷的例子,用來訓

Samurai 08/28 13:41

Samurai 08/28 13:42現在AI才正要起飛,歐印!

josephpu 08/28 13:42謝謝分享

peapriayod 08/28 13:43專業推

dragonjj 08/28 13:45有道理推 不過NVLINK已經開始有再追上了 主要是太貴

NEDOP 08/28 13:45聽不懂但感覺很專業 先推先贏

littenVenus 08/28 13:46老黃:窩484快成佛了^O^

ZYxuan1221 08/28 13:52專業推

brain9453 08/28 13:52挑戰者會被腰斬跟換腦

s9812508 08/28 13:52專業分享,推

Linweij 08/28 13:53

※ 編輯: zxwxz (42.73.76.206 臺灣), 08/28/2024 13:54:20

kkchen 08/28 14:00如果用AI技術來挖礦是不是比較容易財富自由啊?

ymlin0331 08/28 14:00不用講這麼多,all in NV就對了

kkchen 08/28 14:01明天台積電有機會開漲停嗎?

zxwxz 08/28 14:01老黃不太欣賞挖礦,他一直很牴觸,因為挖礦並沒有

zxwxz 08/28 14:01真正產生新東西

ANGUSRUBY 08/28 14:04推,觀念正確!

debian99 08/28 14:06專業 推

YOYOISGOOD 08/28 14:11沒錯 你講到重點了 Omniverse才是讓鏟子有價值去挖

YOYOISGOOD 08/28 14:11金山的機會

gladopo 08/28 14:12老黃之前賣卡都沒主打挖礦,但賺礦卡的錢太香了,也

gladopo 08/28 14:12沒認真擋

wonder007 08/28 14:13NV賣你鏟子還送你一座礦山

a12a9200 08/28 14:15Omniverse 這次麗臺在自動展也有提到,現場還展現超

a12a9200 08/28 14:15真實虛擬噴火,當作ai的模擬數據

lyxiang 08/28 14:20長知識給推

Evenpan 08/28 14:21只是財經亡每也是這樣吹航運,我就成水鬼了....

pp520 08/28 14:21原來虛擬技術的眼光如此遙遠,長知識了

Destrall070808/28 14:23不明覺厲

ararar 08/28 14:23聽不懂但你講得很有道理

wuz830101 08/28 14:24看不懂在說什麼碗糕,不過還是推

SSglamr 08/28 14:24然後晚上財報開出來就一根 有時不完全吃基本麵

qazse000 08/28 14:28我看中國論壇吹說華為有Atlas900supercl 類似NVLink

qazse000 08/28 14:28這是他們亂吹的還是真的?

qazse000 08/28 14:29沒打好 Atlas900supercluster

aaaaafaith 08/28 14:31感謝專業分享,淺顯易懂!

ChikanDesu 08/28 14:36挖礦根本就是拿核反應爐升火取暖的行為 低階到不行

qazse000 08/28 14:39還有Huawei Cache Coherence System TJO 類似NVLink

sky121 08/28 14:56聽不懂不過感覺你說得對

sheep2009 08/28 14:58別人再比鏟子 老黃已經組好挖土機了

clisan 08/28 15:05專業推

eoeoeo 08/28 15:15數位孿生

askaa 08/28 15:29感謝分享~

aaaaaaaa9 08/28 15:36Omniverse 應用領域不一樣,互補關係而已。

GGylin 08/28 15:39但業界用omni當物理引擎 佔比遠輸cuda 根本沒啥護城

GGylin 08/28 15:39河吧

cyshowen 08/28 15:55UALink 2026? 今年底spec就第一版了吧,我猜spec

cyshowen 08/28 15:55還在draft時 Q和M都已經開始做了,明年就會有ip

zxwxz 08/28 15:58ualink只有spec跟落地差很遠,且他還要協調聯盟內

zxwxz 08/28 15:58的分歧,確保各家都能受益,感覺會跟android體系一

zxwxz 08/28 15:58樣,效能落後ios一個層級

zxwxz 08/28 16:02omniverse 的賽道很窄,幾乎是自動駕駛或機器人的

zxwxz 08/28 16:02頭部玩家才會進場,我認為等機器人更明朗之後,玩

zxwxz 08/28 16:02家才會變多,如果只是工廠調度,我認為cp值還太低

zxwxz 08/28 16:02,還要幾年之後才是爆發期

qscNERO 08/28 16:12推專業文

BruceChen22708/28 16:25專業 推

aqasia 08/28 16:53結論:NV繼續無敵

roso4258 08/28 17:30巷子內的

ppuuppu 08/28 19:00感謝推

coolrock 08/28 19:48好像真的很厲害

KUS0 08/28 22:29Omniverse目前跟大便一樣...有用過就知道

KUS0 08/28 22:29NV四處拜託別人用Omniverse做東西 XD 但..懂得就董