Re: [請益] 工業電腦 FPGA設計

[chengcti (版主請投我一票!)]

FPGA 在幹嘛?
哥這半年去了一下 Amazon & 雙十一前到了阿里杭州高新園區去逛了一圈

這樣說好了 Nvidia 的 GPU 很強沒有錯
Quanta 跟 Nvidia 做了一套 demo site 專做未來 AI 雲端運算用
但是這有一點問題就是
Nvidia在使用GPU時會電力會突然遽增
一個系統需要 3KW, 一般 storage 的 cloud server 大概 400W 就很可觀了
意思是, 沒運算時 400W 真的在用的時候會暴增到 3KW
機房的電力很難評估

所以就有人想到用 Xilinx FPGA
省電 缺點是彈性很低, NVIDIA 的 GPU 彈性非常高, 只要更換 cuda code 即可
FPGA 沒辦法讓你這樣直接換 FPGA code

因此 SP 廠商就想到另外一個方法, 將機房切割成很多塊
某一個區塊是線性處理, 某一區塊是向量處理
有需要怎樣的運算, 再由系統分配到不同的 server 去做處理
省電 又便宜

會 FPGA 要幹嘛? 也沒用, 因為 Amazon/Ali 這些廠商它們的強項是
管理系統寫得很好, 租用系統的用戶被分配到哪個 resource
是它們做的, 不是用戶決定的
所以 FPGA 也是它們開發好, 分配的方法也是

這樣機房就可以非常彈性的提供雲端服務, 比 Nvidia GPU 便宜太多
實驗室做不到你要把 FPGA 組成 cluster 處理 你哪來這麼多樓板面積

Amazon這些公司的價值 真的是他們的 cluster 系統做得非常棒
熱交換容錯等 讓你感覺不出來, 不是 acer 這類想賣一套系統給人家人家想買?

重點是 "系統"

※ 引述《yohowo (科科魂!!!!)》之銘言：
: FPGA在台灣是真的看不出前途
: 最近的地方要馬去香港做高頻交易
: 要馬到中國去坐雲端運算
: 貼幾個FPGA大量的運用
: 1.微軟用百萬片FPGA互聯做了一個AI大腦Brainwave
: https://www.microsoft.com/en-us/research/project/project-brainwave/
: 彭博社最近說微軟要跳家改用Xilinx
: 2.亞馬遜的FPGA as a servics (F1)
: https://aws.amazon.com/ec2/instance-types/f1/
: 上面有很多機器學習/自然語言處理/基因定序/財務金融之類的東西
: 很多都算很成熟
: 可以看看AMI的現成套件
: https://aws.amazon.com/marketplace/pp/B06VVYBLZZ
: 3.阿里巴巴的FaaS(F3)
: 目前還很簡陋，可以自己上AliCloud試用一下
: 4.華為的網通設備跟雲也大量使用FPGA
: 應該是Xilinx的最大客戶
: 5.今天Intel在重慶蓋了一個大的FPGA生態中心
: 應該是重慶政府有金援
: http://www.dostor.com/p/54103.html
: 6.SK Telecom的智慧城市以及智慧音箱Nugu的server端雲端
: 大量部屬FPGA
: 總之，FPGA在ASIC人的眼中覺得只是過度產品
: 但是在Heterogeneous computing以及通訊邊碼解碼的領域
: FPGA因為low latency以及靈活性
: 會是終端產品的一部分
: 在AI的世界中edga也都看的見FPGA的身影，主要做AI inference以及電腦視覺
: 比方說收銀機未來也都有機會全面內建FPGA
: 目前這塊餅很大
: 可惜都大在美國中國
: 台灣好像真沒啥機會
: ※ 引述《e520615 (旁)》之銘言：
: : 各位先進大家好
: : 小弟是硬體出身 會寫MCU的韌體(C&組語)
: : 最近面試有關於FPGA的職缺
: : 工作內容除了用FPGA實現Basic function 如RS232
: : 或者是Power sequence / handle switch control
: : 更進階的有再做Video相關的處理
: : 爬文有爬到開IC跟做Function 的know how 差很多
: : 以做Function 來看的話
: : FPGA這領域的發展性大嗎??
: : 煩請各位前輩給點意見 謝謝

--
Sent from my USS Nimitz

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 122.116.148.107
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1545312378.A.B2F.html
推 yamakazi: acer的緯穎?
呃, 緯穎是緯創的不是 acer
我是說之前台灣有一群 A team 要搞什麼台灣雲, 大概就跟 Ali 一樣
當機就死了, 因為她就是一台 server 配給多個用戶, AWS 不是他是機器當掉會自己
把使用者分配到其他機器 所以你感覺不出來機器死掉了

AWS -> Quanta/Hyve/ZT
Ali -> Quanta/浪潮/Invntec/維穎
其實 每家在 FB/AWS/BAT/Google/M$ 的占比我都很清楚
最厲害的只有那幾家供應商 其他都是陪打的

→ egnaro123: amazon這類廠商的優點是你可以幾乎不停機,不用考量
→ egnaro123: 硬體損壞,全世界幾乎都有點,CDN一次完成,誇國很好用
→ egnaro123: 好用但很貴,台灣科專也有做,但應該是很不好用,case
→ egnaro123: 半公家公家的單位在用
→ egnaro123: FPGA除非是特有演算法,否則用GPU/CPU還是好用
→ egnaro123: 現在這時代FPGA幾乎沒優勢了,除了之前MINE那ASIC算SHA
推 mmonkeyboyy: 你有用MS服務的 或是GOOGLE 後面都有 FPGA....
推 gn01216674: FPGA應用上正在起飛（X股價漲翻），反而覺得台灣都只
→ gn01216674: 用傳統手法在使用（ASIC過渡）
推 seafloor: 因為台灣產業都還是以代工為主。就算能做、會做。也沒
→ seafloor: 太多市場發揮。這已經不是只要能做的出來.就能賺錢的商
→ seafloor: 業模式
→ tigertiger: 這篇內行
推 snoopy790428: 跟礦機87趴像
AWS/Ali 是用 FPGA 卡取代 GPU 卡 所以他們還是數個 cluster 組成一個服務
其他供應商很難進得去 過幾天要去 FB 談看看它們家的系統
※ 編輯: chengcti (122.116.148.107), 12/21/2018 12:23:51
推 hahahank: 很多不是只取代gpu啦，intel就有兩種架構的卡
推 hahahank: 另外 這篇提到「FPGA 沒辦法讓你這樣直接換 FPGA code」
→ hahahank: ，就我知道a牌可以做pr，x牌不能嗎？
→ kronos: X牌可以 multi-boot 換FPGA code...
→ kronos: 但是要預先燒錄在外部memory, 然後重新load 到FPGA