Re: [新聞] 亞馬遜Alexa改採自家研發晶片 降低對輝

[waitrop (嘴砲無雙)]

AI 晶片市場分成兩塊: edge, server/cloud
台灣其實沒有那麼悲觀，
至少聯發科可以吃到edge的市場，
另外，國內外比較小型的新創AI晶片公司也都是瞄準edge的市場，
所謂的edge，就是泛指手機，監視器，家電，Alexa, Nest，天貓精靈，小愛等，
其特色就是便宜，毛利率低，功耗低，
Nvidia沒興趣吃的市場，
這個市場目前是聯發科，寒武紀等公司吃下大部分市場，
但是由於門檻不高，要求效能也不高，
所以很多大廠也開始自製這塊，
像說華為手機就把寒武紀換成自製NPU,

不過聯發科還是相對安全，
有拿到大部分的edge市場，
但是不少新創公司正在搶食這塊市場，
而且背後有大廠支持甚至有大廠訂單，
至於本文中的Alexa edge應該還是用聯發科的,
一台賣你49.99, 自製根本不合成本，

文中提到的Alexa 雲端，
才是用亞馬遜自製的晶片，
也是現在利潤最高競爭最激勵的市場，
目前server/cloud 的AI晶片市場，
主要玩家是Nvidia, Google,
以Nvidia為例, server/cloud最便宜一張卡都要一兩千美金，
一台機器至少都要兩三萬美金，
而且這種等級的機器效能不夠，
無法用在Google, Amamzone, Facebook的AI training/inference,
這些公司用的機器一台要30-50萬美金以上，
這才跑得動search, youtube, facebook等，
所以Nvidia這是暴利，

老實說，Nvidia賣這價碼是真的太不合理，
我待過的所有公司內部都有推算過，
自製TPU/NPU只需要Nvidia 價碼的1/2 - 1/10，
內部使用量越大就省越多，
所以你會看到FAAMG,阿里,華為,百度全都開始自製AI晶片，
甚至自駕車量大之後也開始自製AI晶片，
就效能而言TPU是Nvidia效能的十倍以上，
畢竟Nvidia GPU還是以繪圖為主體，
ＭＬ運算只是輔助功能，
也就是說Nvidia晶片裡頭有很多區塊AI運算是根本用不上，
還是回到老話一句，
因為Nvidia太好賺，
他賣你一張顯卡裡頭很多功能你都用不到，
你只是為了跑ＭＬ運算還是必須吃下來

但是TPU/NPU也是有很大的應用上缺點，
因為這些晶片是特別對某些功能加速，
比方說有些對search加速，有些對語言處理加速，有些對影像處理加速，
所以這些TPU/NPU只能用在特殊領域，
並不適合給大部分的人使用來跑AI運算，
除非是像FAAMG,阿里,華為,百度這些公司有非常大的特殊需求，
像是需要花好幾Ｂ只是為了要search加速，
或是花好幾Ｂ只是為了雙十一跟感恩節網拍更有效率，
這就非常需要自製AI晶片

所以回到台廠跟新創公司的問題，
台灣根本就沒有掌握任何大型軟體應用市場(search, 拍賣，影音等)，
所以根本沒有這種需求必須自製AI晶片，
想自己做AI晶片賣給FAAMG,阿里,華為,百度？你在做夢嗎？
同樣的道理可以套在新創公司上，
想搶server/cloud AI市場，根本在做夢


※ 引述《CavendishJr (真禮梅西姐姐♡)》之銘言：
: 1.原文連結：
: https://bit.ly/2IF6Eff
: ※過長無法點擊者必須縮網址
: 2.原文內容：
: 亞馬遜Alexa改採自家研發晶片 降低對輝達依賴
: 亞馬遜 (AMZN-US) 周四表示，Alexa 語音助理部分運算將改採自家設計的晶片，希望提升
: 速度、降低成本。此舉也意在降低對輝達 (NVDA-US) 晶片的依賴。
: 亞馬遜 Echo 使用者詢問 Alexa 時，問題得先傳送回亞馬遜的資料中心並經過幾個處理步
: 驟，等亞馬遜電腦得出答案，也要把這些文字轉換成語音資料，再由 Alexa 回答。
: 之前這些運算工作都使用輝達的晶片，但亞馬遜決定未來「絕大多數」的工作將由自家研發
: 的「Inferentia」機器學習推論晶片處理。這款晶片最早在 2018 年推出，用於加快大量機
: 器學習資料的處理速度，例如把文字轉換成語音或人臉辨識。
: 拜亞馬遜、微軟 (MSFT-US)、Alphabet(GOOGL-US) 對運算晶片的暢旺需求之賜，輝達和英
: 特爾 (INTC-US) 等的資料中心業務蓬勃發展。但愈來愈多大型科技公司拋棄傳統晶片供應
: 商，轉而自行設計晶片，例如蘋果周二 (11 日) 正式推出首款搭載自行研發 M1 晶片的 Ma
: cBook，和英特爾分手。
: 亞馬遜表示，部分 Alexa 作業流程改用 Infertia 晶片之後，延遲情況改善 25%，成本降
: 低 30%。
: 亞馬遜曾表示，雲端人臉辨識服務 Rekognition 已經開始採用 Inferentia 晶片，但亞馬
: 遜並未透露先前採用哪一家廠商的晶片，或是改用自家晶片的比率佔多少。
: 亞馬遜的人臉辨識服務因為被用來執法受到人權團體高度關注，全美 6 月因為非裔公民佛
: 洛伊德之死爆發大規模抗議活動之後，亞馬遜暫停授權給警方使用，為期一年。
: 3.心得/評論：
: ※必需填寫滿20字
: 大家都想要用自製晶片
: 這是種趨勢嗎
: 拿翹了呢

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 24.4.131.164 (美國)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1605515298.A.D4D.html
推 sunboy183   : 推
推 KadourZiani : https://i.imgur.com/5NQqHcs.gifv
推 cuteSquirrel:
→ Altair      : 老黃: 很多功能你都用不到  怪我囉?!
推 sdbb        : 感謝分享
推 icesweater  : 結論是...買AMD?
不是，AMD根本沒有在ＡＩ市場裡頭，
AMD主要是在蠶食Intel Sever市場,
結論是買ＧＧ，賣Intel
這裡所有的公司都在ＧＧ下單ＡＩ晶片，
Intel在AI Server市場雙輸
※ 編輯: waitrop (24.4.131.164 美國), 11/16/2020 17:01:34
推 RinLink     : 不是沒有軟體人才 但是沒有公司重視 只能往中日跑
→ RinLink     :  偏偏軟體其實是需要長期時間累積出來的東西 需要
→ RinLink     : 龐大的資本 過個五年你會看到軟體市場被國外壟斷
推 hyhyhy      : 如果intel下單台積呢？ 改賣AMD?
推 aegis43210  : 但學習訓練模型有很多種，這時GPGPU 優勢又出來了
→ CORYCHAN    : Intel下單前要先考慮工廠該怎麼辦。AMD當初割GF有
→ CORYCHAN    : 多痛苦，Intel遭受的痛苦就會是AMD的十倍。
→ CORYCHAN    : Intel期待台積三星先撞上製程之牆可能還實際一點
推 pp520       : 推 ! 好文
推 saygogo     : AMD當初快要死透了
推 bhdbhd      : 軟體被大廠壟斷又如何
推 Realite     : NV還是爽賺好嗎 先進製程貴鬆鬆哪來手骨都這麼粗
推 Mtcat       : 11
推 nnnnnnn     : 可是  新竹弄了一個ai園區
推 roseritter  : 這篇很白話
推 HRyan       : 激推
推 p013080     : 買nV 的晶片還需要買nV 的軟體還是什麼服務嗎？