Re: [新聞] 亞馬遜Alexa改採自家研發晶片 降低對輝

AI 晶片市場分成兩塊: edge, server/cloud
台灣其實沒有那麼悲觀，
至少聯發科可以吃到edge的市場，
另外，國內外比較小型的新創AI晶片公司也都是瞄準edge的市場，
所謂的edge，就是泛指手機，監視器，家電，Alexa, Nest，天貓精靈，小愛等，
其特色就是便宜，毛利率低，功耗低，
Nvidia沒興趣吃的市場，
這個市場目前是聯發科，寒武紀等公司吃下大部分市場，
但是由於門檻不高，要求效能也不高，
所以很多大廠也開始自製這塊，
像說華為手機就把寒武紀換成自製NPU,

不過聯發科還是相對安全，
有拿到大部分的edge市場，
但是不少新創公司正在搶食這塊市場，
而且背後有大廠支持甚至有大廠訂單，
至於本文中的Alexa edge應該還是用聯發科的,
一台賣你49.99, 自製根本不合成本，

文中提到的Alexa 雲端，
才是用亞馬遜自製的晶片，
也是現在利潤最高競爭最激勵的市場，
目前server/cloud 的AI晶片市場，
主要玩家是Nvidia, Google,
以Nvidia為例, server/cloud最便宜一張卡都要一兩千美金，
一台機器至少都要兩三萬美金，
而且這種等級的機器效能不夠，
無法用在Google, Amamzone, Facebook的AI training/inference,
這些公司用的機器一台要30-50萬美金以上，
這才跑得動search, youtube, facebook等，
所以Nvidia這是暴利，

老實說，Nvidia賣這價碼是真的太不合理，
我待過的所有公司內部都有推算過，
自製TPU/NPU只需要Nvidia 價碼的1/2 - 1/10，
內部使用量越大就省越多，
所以你會看到FAAMG,阿里,華為,百度全都開始自製AI晶片，
甚至自駕車量大之後也開始自製AI晶片，
就效能而言TPU是Nvidia效能的十倍以上，
畢竟Nvidia GPU還是以繪圖為主體，
ＭＬ運算只是輔助功能，
也就是說Nvidia晶片裡頭有很多區塊AI運算是根本用不上，
還是回到老話一句，
因為Nvidia太好賺，
他賣你一張顯卡裡頭很多功能你都用不到，
你只是為了跑ＭＬ運算還是必須吃下來

但是TPU/NPU也是有很大的應用上缺點，
因為這些晶片是特別對某些功能加速，
比方說有些對search加速，有些對語言處理加速，有些對影像處理加速，
所以這些TPU/NPU只能用在特殊領域，
並不適合給大部分的人使用來跑AI運算，
除非是像FAAMG,阿里,華為,百度這些公司有非常大的特殊需求，
像是需要花好幾Ｂ只是為了要search加速，
或是花好幾Ｂ只是為了雙十一跟感恩節網拍更有效率，
這就非常需要自製AI晶片

所以回到台廠跟新創公司的問題，
台灣根本就沒有掌握任何大型軟體應用市場(search, 拍賣，影音等)，
所以根本沒有這種需求必須自製AI晶片，
想自己做AI晶片賣給FAAMG,阿里,華為,百度？你在做夢嗎？
同樣的道理可以套在新創公司上，
想搶server/cloud AI市場，根本在做夢

※ 引述《CavendishJr (真禮梅西姐姐♡)》之銘言：
: 1.原文連結：
: https://bit.ly/2IF6Eff
: ※過長無法點擊者必須縮網址
: 2.原文內容：
: 亞馬遜Alexa改採自家研發晶片 降低對輝達依賴
: 亞馬遜 (AMZN-US) 周四表示，Alexa 語音助理部分運算將改採自家設計的晶片，希望提升
: 速度、降低成本。此舉也意在降低對輝達 (NVDA-US) 晶片的依賴。
: 亞馬遜 Echo 使用者詢問 Alexa 時，問題得先傳送回亞馬遜的資料中心並經過幾個處理步
: 驟，等亞馬遜電腦得出答案，也要把這些文字轉換成語音資料，再由 Alexa 回答。
: 之前這些運算工作都使用輝達的晶片，但亞馬遜決定未來「絕大多數」的工作將由自家研發
: 的「Inferentia」機器學習推論晶片處理。這款晶片最早在 2018 年推出，用於加快大量機
: 器學習資料的處理速度，例如把文字轉換成語音或人臉辨識。
: 拜亞馬遜、微軟 (MSFT-US)、Alphabet(GOOGL-US) 對運算晶片的暢旺需求之賜，輝達和英
: 特爾 (INTC-US) 等的資料中心業務蓬勃發展。但愈來愈多大型科技公司拋棄傳統晶片供應
: 商，轉而自行設計晶片，例如蘋果周二 (11 日) 正式推出首款搭載自行研發 M1 晶片的 Ma
: cBook，和英特爾分手。
: 亞馬遜表示，部分 Alexa 作業流程改用 Infertia 晶片之後，延遲情況改善 25%，成本降
: 低 30%。
: 亞馬遜曾表示，雲端人臉辨識服務 Rekognition 已經開始採用 Inferentia 晶片，但亞馬
: 遜並未透露先前採用哪一家廠商的晶片，或是改用自家晶片的比率佔多少。
: 亞馬遜的人臉辨識服務因為被用來執法受到人權團體高度關注，全美 6 月因為非裔公民佛
: 洛伊德之死爆發大規模抗議活動之後，亞馬遜暫停授權給警方使用，為期一年。
: 3.心得/評論：
: ※必需填寫滿20字
: 大家都想要用自製晶片
: 這是種趨勢嗎
: 拿翹了呢

--

不是，AMD根本沒有在ＡＩ市場裡頭， AMD主要是在蠶食Intel Sever市場, 結論是買ＧＧ，賣Intel 這裡所有的公司都在ＧＧ下單ＡＩ晶片， Intel在AI Server市場雙輸