Re: [請益] 其他軟硬體公司會聯合鬥Nvidia的壟斷嗎?
@@ 大大 AI現在已經捲到一種不可思議事件 就是全世界所有的人都往這裡跳
拿NeurIPS這會議來說 他投稿量已經暴漲到27000投稿 你現在每家公司要刷存在感
要拼結果 就是公佈code 然後能複製實驗性 給inference模型 當大家都在捲時候
結果你跑去拿一個腳踏車 來參加F1大賽 等你腳踏車進化到F1賽車等級時候 那些
車手已經跑去下一場參賽了 這種瘋狂競爭下 沒有人能等其他家硬體成熟
前陣子我用了蘇媽的MIXXX系列 gpu設置1跟8能train 當gpu設置2,4,6 (多個node)
它就給我崩了 然後我debug一週 開ticket給infra team 沒人能解@@
一週足夠讓一個貴森森科學家超車你一個賽道 但因為我是雜魚所以沒差@@
Deepseek才紅一個一下 其他賽車手又衝上來 假設你是頂級車手(@@貴森森科學家)
你選誰啊 更別說老黃自己也養貴森森科學家 每天都開發硬體 都已經吃到infra端了
多平台連線 現在LLM inference據說pre-fill和generation都拆成不同cluster
底層調校 latency和記憶體優化 這種巨大scale的給消費者的體驗就是完全不同
https://youtu.be/34o9PKsk50Q?t=590
這也意味者沒人會用非nvidia產品 現在看起來就是狗家/openai跟其他
這影片前面也解釋了 現在各國別無他法 只能卷基建 @@
諸如
https://money.udn.com/money/story/5599/8406936
https://www.163.com/dy/article/JR6JTD4U05118O92.html
雲端基建就是土壤 有土攘該國家的AI人才才會長出來
https://www.zaobao.com.sg/news/sea/story20250317-6030295
現在AI界卷的情況就是 一個高中生都可能打贏我們這種有博士頭銜雜魚@@ 只要有土壤
※ 引述《nissan168 (pingGO)》之銘言:
: 我是看完黃仁勳的自傳,再扒了文章後。才知道黃仁勳在2007年就佈局Cuda的平台,現在: 是軟體、硬體都形成生態鏈,才會讓Nvidia變成AI時代的發動引擎。
: Intel、AMD、蘋果、谷歌、微軟、亞馬遜、臉書、特斯拉...這些大公司,怎麼可能接受: 一家獨大!
: 他們有再開發一套公開的平台,來進行反向傳播演算法嗎?
: 現在的AI都是建立在辛頓演算法的基礎上。
: 每年要花幾百億美元給Nvidia?
: 未來都這樣?
: 都沒有公開的平台規則,讓所有人都可以用嗎?
--
堆尼ai ai ai 逋完
完了,沒人用NV.週一出清
中吹不喜歡這篇 icrose S213 爬梯翻牆出征
樓上根本搞錯重點...
你知道中國幾乎是全世界前三大的AI就業市場嗎?
捲基建這種事情中國人從來不手軟
那也要先有晶片啊 靠走私就看你們慢慢堆
中國人就是買一個不夠那就買三個阿 老黃爽賺
中國可以走私晶片跟一些奇技淫巧取得戰術階段性的
勝利,但是在戰略層級上還是要靠堆晶片
到三萬了吧 而且這次太多人頭 審稿五次以上的一堆都
被抓去當AC了
說到高中生 去年neurips就有high school track了
不過感覺沒啥必要 要進常春藤的高中生發main track
也沒啥問題
回到三個月前,會有人跟你說算力不重要了,NVDA死期
已到!嘻嘻
背騎少女:莫小看孔明車
講一堆廢話,就是他家的好用啊
B康藥丸
算力不重要就空方做空AI壓價的鬼話
算力不重要!All in 空 MVDA到15塊!
推,
但另一件事是,AI模型本身沒有護城河。生態系才有
護城河
推
所以博通才在衝光學共同封裝,就是想在馮紐曼瓶頸下
比老黃更快的資料傳輸
看2028MRAM可不可以商業化
算力不重要這種話都是放屁,演算法再強,最後還是
要堆算力才能更進步
大腸麵要加蒜蓉不要蒜粒
講得好像老黃就沒放注意力在CPO上一樣
甚至AVGO他吃的CPO的部分跟老黃根本就不互斥好嗎
他吃的是光轉電電轉光的IC設計 是傳輸的一部分而已
你沒看連石油佬都要發揮鈔能力卷了嗎
有石油佬當背景的科學家卷不贏嗎
笑了
說人話
AMD也太慘
F1這個比諭好像可以 錯過meta 大概只能放推等下一次
新規則 然後只有大車隊能ㄧ直季中升級
12
@@ 其實老黃的情況跟台積電有點像 單顆gpu快 蘇媽已經示範給你看過了 最大問題是整個node-to-node cluster-to-cluster 平行串連 也就是所謂的scale 一堆gpu連起來時候 一堆問題就會出現 LLM inferece端都要拆解不同 cluster-to-cluster運算 LLM一個回答問題還拆解prefill和generation兩個不同cluster ( )9
挑戰者不少吧,也不是最近才出現 大公司組AI大聯盟: Meta、IBM 發起 AI 大聯盟,Intel、AMD 等 50 個企業組織也共襄盛舉 將開發人工智慧評估標準與相關工具資源,藉此協助更好的人工智慧系統開發。![Re: [請益] 其他軟硬體公司會聯合鬥Nvidia的壟斷嗎? Re: [請益] 其他軟硬體公司會聯合鬥Nvidia的壟斷嗎?](https://bucket-image.inkmaginecms.com/version/social/cabinet/2023/12/8f73eb92-705c-4efd-a6d0-2421b15518d5.png)
爆
[心得] DeepSeek對AI產業鏈影響懶人包最這幾天股板跟 X 上的AI金融圈吵的火爆 DeepSeek 對全球 AI 技術發展影響 吵的火爆示意圖 金融人士擔憂影響![[心得] DeepSeek對AI產業鏈影響懶人包 [心得] DeepSeek對AI產業鏈影響懶人包](https://i.imgur.com/WiusWatb.jpg)
爆
Re: [新聞] 輝達H100晶片紓壓了 訂單大戶開始轉售你劃錯重點, 先不論這篇論文的可行性與實用性, 你真的劃錯重點了 算力重要嗎? 重要但是不是影響販售/採購晶片的主因,![Re: [新聞] 輝達H100晶片紓壓了 訂單大戶開始轉售 Re: [新聞] 輝達H100晶片紓壓了 訂單大戶開始轉售](https://i.imgur.com/GxJuHEib.jpeg)
87
[情報] 產生式 AI 大爆發 NVIDIA GPU 恐供不應求生成式 AI 大爆發,NVIDIA GPU 恐供不應求 來源 微軟 Bing 搜尋引擎整合 ChatGPT,加上其他生成式 AI 工具的需求攀升 都相當依賴人工智慧處理能力,正是 NVIDIA GPU 優勢所在 當科技公司利用 NVIDIA GPU 滿足增長的 AI 需求![[情報] 產生式 AI 大爆發 NVIDIA GPU 恐供不應求 [情報] 產生式 AI 大爆發 NVIDIA GPU 恐供不應求](https://img.youtube.com/vi/0dmzRwvObaE/mqdefault.jpg)
21
[閒聊] 串連數千個 Nvidia GPU,微軟打造 Chattechnews 串連數千個 Nvidia GPU,微軟打造 ChatGPT 的超級電腦 March 14, 2023 by 陳 冠榮 微軟斥資數億美元打造一台大型超級電腦,串連數千個 Nvidia GPU,為 OpenAI 的聊天機![[閒聊] 串連數千個 Nvidia GPU,微軟打造 Chat [閒聊] 串連數千個 Nvidia GPU,微軟打造 Chat](https://i.imgur.com/9bqEe8Db.jpg)
7
[請益] DeepSeek 會不會反加大中美 AI 差距最近中國的 AI 團隊 DeepSeek 宣布了一個大突破,透過 DualPipe、FP8 低精度計算、 通訊優化 這些技術,讓 AI 訓練的效率大幅提升,意思就是說 用比較少的 GPU 就能達 到原本需要超大量 GPU 才能完成的 AI 訓練。 表面上看起來這對中國 AI 產業是個好消息,因為 美國對中國禁售高端 GPU,中國 AI 企業的算力一直是硬傷。所以很多人說deepseek是中國彎道超車,讓中國即使不用美國高6
Re: [問卦] DeepSeek問世會讓顯卡降價嗎顯卡一定會漲價 目前己經有很多deepseek布署在本機電腦的教學 ollama上也有deepseek R1模型可以下載 deepseek R1模型各參數量對顯卡記憶體需求![Re: [問卦] DeepSeek問世會讓顯卡降價嗎 Re: [問卦] DeepSeek問世會讓顯卡降價嗎](https://i.imgur.com/blJhjZbb.png)
4
Re: [請益] 憑良心說AI要怎麼賺錢?1. 投資AI相關股票 - 投資如Nvidia的GPU製造商股票,因GPU對訓練人工智能模型非常重要 - 投資雲端服務供應商如Amazon Web Services、Microsoft Azure等,他們提供人工智能雲端運算資源 - 投資人工智能軟件公司如Google、OpenAI等知名AI公司的股票 2. 利用Nvidia GPU提供加速運算服務5
[問卦] deepseek 說輝達是現代石油公司?以下是我題問的問題 1.目前都說,因為演算法的進步,未來不需要英偉達那麼多gpu算力那麼多是真的嗎? Deepseek 回答如下: 從技術發展的多元角度來看,**演算法進步確實會提升計算效率,但短期內對GPU算力的 需?1
Re: [爆卦] OpenAI 新模型o1輕鬆考上台大資工/台大AI不只可以考試,現在AI甚至可以當科學家, 會自己訂研究題目、實驗、寫成論文再自己審查。 看看這篇文章: -- AI 自己寫論文、自己審查?日本 Sakana AI 推出「AI 科學家」![Re: [爆卦] OpenAI 新模型o1輕鬆考上台大資工/台大 Re: [爆卦] OpenAI 新模型o1輕鬆考上台大資工/台大](https://i.imgur.com/vaUugcyb.jpg)
X
[情報] NVIDIA 推出 RTX1000 RTX500NVIDIA 推出 RTX 500 和 1000 Professional Ada Generation 筆電 GPU 強化行動 AI 工作流程 隨著生成式AI和混合工作環境成為新標準,幾乎每個專業人士,無論是內容創作者、研究人員還是工程師,都需要一台功能強大的人工智慧(AI)加速筆記型電腦來幫助使用者應對他們產業內最嚴峻的挑戰-即使在移動途中。 全新NVIDIA RTX500 和 RTX1000 Ada Generation 筆記型電腦 GPU 將應用於全新型高度便攜的行動工作站,擴展了基於NVIDIA Ada Lovelace 架構的產品陣容,其中包括 RTX 2000、3000、3500、4000 和 5000 Ada Generation 筆記型電腦。 AI 正在迅速被採用,以提高專業設計和內容創建工作流程以及日常生產力應用程式的效率,這凸顯了在系統中擁有強大的本地人工智慧加速和足夠的處理能力的重要性。 配備 RTX500 和 RTX1000 GPU 等 Ada Generation GPU 的新一代行動工作站將包括神經處理單元(NPU)、CPU 組件和 NVIDIARTX GPU,其中包括用於 AI 處理的 Tensor Core。 NPU 有助於卸載輕型 AI 任務,而 GPU 則可額外提供高達 682 TOPS 的 AI 效能,以滿足要求更高的日常 AI 工作流程。![[情報] NVIDIA 推出 RTX1000 RTX500 [情報] NVIDIA 推出 RTX1000 RTX500](https://blogs.nvidia.com/wp-content/uploads/2024/02/rtx500-1000-table.png)
爆
Re: [心得] 山椒魚盤勢觀察![Re: [心得] 山椒魚盤勢觀察 Re: [心得] 山椒魚盤勢觀察](https://i.mopix.cc/LLOj00.jpg)
68
[情報] 台灣2025年11月份CPI 1.23%![[情報] 台灣2025年11月份CPI 1.23% [情報] 台灣2025年11月份CPI 1.23%](https://i.imgur.com/pLLp0M0b.jpeg)
96
[情報] 114年12月05日 三大法人買賣金額統計表![[情報] 114年12月05日 三大法人買賣金額統計表 [情報] 114年12月05日 三大法人買賣金額統計表](https://i.imgur.com/roBWXt2b.png)
91
[情報] 2317 鴻海 2025年11月營收75
[情報] 2344 華邦電 114年11月營收![[情報] 2344 華邦電 114年11月營收 [情報] 2344 華邦電 114年11月營收](https://i.mopix.cc/JF4BB2.jpg)
63
[情報] 00631L 預估分割17倍決議表決![[情報] 00631L 預估分割17倍決議表決 [情報] 00631L 預估分割17倍決議表決](https://imgpoi.com/i/6GBH1D.jpg)
48
[請益] 說AI會跟.com一樣泡沫化是假議題吧?![[請益] 說AI會跟.com一樣泡沫化是假議題吧? [請益] 說AI會跟.com一樣泡沫化是假議題吧?](https://img.youtube.com/vi/e0CJBzGa0hQ/mqdefault.jpg)
55
[情報] 1205 上市外資買賣超排行![[情報] 1205 上市外資買賣超排行 [情報] 1205 上市外資買賣超排行](https://i.imgur.com/cvoXoMub.jpeg)
38
[情報] 0050、0056等成分股調整33
Re: [心得] 周冠男:珍愛生命,遠離高股息![Re: [心得] 周冠男:珍愛生命,遠離高股息 Re: [心得] 周冠男:珍愛生命,遠離高股息](https://i.imgur.com/QUlaRGZb.jpg)
31
[情報] 3443 創意 11月營收31
Re: [請益] 0056可以這樣操作嗎![Re: [請益] 0056可以這樣操作嗎 Re: [請益] 0056可以這樣操作嗎](https://i.imgur.com/QUlaRGZb.jpg)
22
Re: [心得] 周冠男:珍愛生命,遠離高股息![Re: [心得] 周冠男:珍愛生命,遠離高股息 Re: [心得] 周冠男:珍愛生命,遠離高股息](https://i.imgur.com/5f96blgb.gif)
15
[情報] 2383 台光電 11月營收14
[情報] 2891 中信金 11月自結 0.36 累計 3.7611
[情報] 1205 上市投信買賣超排行8
[情報] 2885 元大金 11月自結 0.24 累計 2.509
Re: [情報] 2317 鴻海 2025年11月營收9
Re: [請益] 說AI會跟.com一樣泡沫化是假議題吧?![Re: [請益] 說AI會跟.com一樣泡沫化是假議題吧? Re: [請益] 說AI會跟.com一樣泡沫化是假議題吧?](https://img.youtube.com/vi/XwG3w4jL0wM/mqdefault.jpg)
8
[情報] 2498 宏達電 114年11月營收7
[情報] 3167 大量 114年11月營收6
[情報] 2545 皇翔 買台積電 210張,均價:1469.414
[情報] 8054 安國 114年11月營收 歷史新高6
Re: [新聞] OpenAI危險了!DeepSeek正式發佈V3.2 性5
Re: [心得] 周冠男:珍愛生命,遠離高股息4
[情報] 2880 華南金 11月自結 0.14 累計 1.754
Re: [請益] 說AI會跟.com一樣泡沫化是假議題吧?4
[情報] 3715 定穎投控 114年11月營收創新高4
[情報] 2801彰銀 11月自結 單月0.11累計1.433
[情報] 3034 聯詠 114年11月營收