Re: [請益] 大家怎麼看這一波AI浪潮

[LDPC (Channel Coding)]

來講一個故事好了 Robert G. Gallager在1960透過類神經網路啟發
根據Message Passing 寫了一個叫做LDPC的更正碼 根據他的paper理論可以有效
接近Shannon bound 當時被一堆人視為是一個垃圾paper 因為當時效能比Turbo-code
還爛 結果在2000年初 因為硬體和記憶體效能大增 這算法突然變成主流
才還給這老兄一個公道 所以算法有時候太先進 硬體不支援這也是個問題

時間回到1989你看當年和藹可親的Yann Lecun還在認真做學問的時候 那時候要跑
一個CNN架構有多困難
https://www.youtube.com/watch?v=FwFduRA_L6Q

現在連一個高中生都會寫MNIST簡單CNN堆疊 這就是因為前輩的累積寫了一堆Library
和硬體的邁進 你知道在2015前寫這些Deep Learning框架還是一堆啥鬼Theano
甚至還要去碰cuda 更或者要去compile Caffe這些鬼玩意 現在框架在CUDA生態圈
發展得很成熟了 套一句巴克利的話 連他阿罵都知到如何寫pytorch 去訓練MNIST
手寫數字

啊 你要可以說 那其他家也可以這樣搞自己的AI eco system啊 也是可以啦
i皇一直都想這樣幹 他們開發了oneAPI Deep Learning Library但我到現在還是不會用

像蘇媽就比較實際點 可能會瞄準inference這塊 畢竟你訓練完後的Model
可以在不同平台去deploy 畢竟deploy
就不會像在training時候 各種開發得吃NVIDIA eco system 在deploy各種模型
只要能轉成c/c++代碼 就不在需要像以前training一樣很吃eco system 同時
在優化inference時候 不同計算系統可以針對4bit/8bit/16bit加速

像Q社就開發了許多Low Level API 專門設計給自家NPU使用 可以用來優化轉到他們
系統上的deployment 上

NV賣的就是鏟子 當年NV在3D顯示卡和ATI大戰時候也是每半年到一年瘋狂提升3D效能
https://www.youtube.com/watch?v=TeJ2IFae2-0
https://www.youtube.com/watch?v=JsVfKeJKJu0

如果時間回到199x 當3D Render演算法出現時候 照你邏輯 你應該覺得為啥要買
啥鬼N家股票 買3dfx這家公司股票就對了 就好啦 畢竟誰都可以做遊戲顯卡 對吧!!!!


※ 引述《zuvio (zz)》之銘言：
: 我發現很多人陷入一個迷思
: 能做電腦的公司這麼多家
: 為什麼AI一定要靠NV才能用
: chatgpt就不是靠NV起家的啊
: 也是有其他公司會做伺服器晶片
: 說不定intel德儀之後有更好的工業伺服器晶片屌打NV
: 現在不知道為什麼很多人覺得AI是建構在NV的上頭
: 買一堆NV相關企業的產品
: 但實際上AI根本就是軟體
: 像google搜尋引擎一樣的軟體
: 根本不一定需要哪間公司的伺服器才能做
: 隨便一家有做伺服器的都能用好嗎
: 之前挖礦區塊鏈那些公司也能做AI好嗎
: 所以這波AI真的在亂漲，不知道誰說只有NV能搞AI

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 76.103.163.64 (美國)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1689570578.A.0C3.html
※ 編輯: LDPC (76.103.163.64 美國), 07/17/2023 13:10:37
→ jayppt      : pentium配vodoo的年代啊
→ jayppt      : 好懷念
推 newvote     : 這電腦算好的了吧...以前還有5.25吋磁片
→ jayppt      : pentium vodoo加個聲霸卡sound blaster
推 ccpz        : 還要再加一張 Matrox G400
推 stuppi      : 3d加速卡那段真的是歷歷在目 幫你推ID正確XD
推 zuvio       : 那bing怎麼加入chatgpt的，要順便說說嗎
→ zuvio       : 所以微軟也是用NV才搞出chatgpt的bing?
推 alcard22    : @zuvio 你沒有看清楚這篇想表達什麼
→ zuvio       : 是他沒研究微軟怎麼套用GPT-4 LLM
→ dosiris     : 辨識手寫數字是有多少產值啦
可是我隔壁鄰居小孩國中生會寫辨識手寫數字deep learning耶
想當年我國中就只會騎腳踏車 然後被狗追 電腦只是用來打電動的 這樣度過童年!
※ 編輯: LDPC (76.103.163.64 美國), 07/17/2023 14:01:44
推 dosiris     : 比我沈迷在一元打大金剛遊戲機強兩百萬倍
推 JustInRain  : 意思是 現在站隊NV就對了 （我理解有誤嗎？
→ pippen2002  : Matrox G400  +Vodoo?
推 henry6715   : 未來真的是猜謎大賽
推 NCUking     : 辨識手寫數字現在是tutorial等級 只要會複製貼上就
→ NCUking     : 做得到
推 cobrasgo    : 講古讚讚讚
→ cobrasgo    : 幹你的ID就是LDPC啊，媽的養帳千日用在一朝
→ latw        : 樓上一堆老人