作者LDPC (Channel Coding)
看板Stock
標題Re: [請益] 大家怎麼看這一波AI浪潮
時間Mon Jul 17 13:09:36 2023
來講一個故事好了 Robert G. Gallager在1960透過類神經網路啟發
根據Message Passing 寫了一個叫做LDPC的更正碼 根據他的paper理論可以有效
接近Shannon bound 當時被一堆人視為是一個垃圾paper 因為當時效能比Turbo-code
還爛 結果在2000年初 因為硬體和記憶體效能大增 這算法突然變成主流
才還給這老兄一個公道 所以算法有時候太先進 硬體不支援這也是個問題
時間回到1989你看當年和藹可親的Yann Lecun還在認真做學問的時候 那時候要跑
一個CNN架構有多困難
https://www.youtube.com/watch?v=FwFduRA_L6Q
現在連一個高中生都會寫MNIST簡單CNN堆疊 這就是因為前輩的累積寫了一堆Library
和硬體的邁進 你知道在2015前寫這些Deep Learning框架還是一堆啥鬼Theano
甚至還要去碰cuda 更或者要去compile Caffe這些鬼玩意 現在框架在CUDA生態圈
發展得很成熟了 套一句巴克利的話 連他阿罵都知到如何寫pytorch 去訓練MNIST
手寫數字
啊 你要可以說 那其他家也可以這樣搞自己的AI eco system啊 也是可以啦
i皇一直都想這樣幹 他們開發了oneAPI Deep Learning Library但我到現在還是不會用
像蘇媽就比較實際點 可能會瞄準inference這塊 畢竟你訓練完後的Model
可以在不同平台去deploy 畢竟deploy
就不會像在training時候 各種開發得吃NVIDIA eco system 在deploy各種模型
只要能轉成c/c++代碼 就不在需要像以前training一樣很吃eco system 同時
在優化inference時候 不同計算系統可以針對4bit/8bit/16bit加速
像Q社就開發了許多Low Level API 專門設計給自家NPU使用 可以用來優化轉到他們
系統上的deployment 上
NV賣的就是鏟子 當年NV在3D顯示卡和ATI大戰時候也是每半年到一年瘋狂提升3D效能
https://www.youtube.com/watch?v=TeJ2IFae2-0
https://www.youtube.com/watch?v=JsVfKeJKJu0
如果時間回到199x 當3D Render演算法出現時候 照你邏輯 你應該覺得為啥要買
啥鬼N家股票 買3dfx這家公司股票就對了 就好啦 畢竟誰都可以做遊戲顯卡 對吧!!!!
※ 引述《zuvio (zz)》之銘言:
: 我發現很多人陷入一個迷思
: 能做電腦的公司這麼多家
: 為什麼AI一定要靠NV才能用
: chatgpt就不是靠NV起家的啊
: 也是有其他公司會做伺服器晶片
: 說不定intel德儀之後有更好的工業伺服器晶片屌打NV
: 現在不知道為什麼很多人覺得AI是建構在NV的上頭
: 買一堆NV相關企業的產品
: 但實際上AI根本就是軟體
: 像google搜尋引擎一樣的軟體
: 根本不一定需要哪間公司的伺服器才能做
: 隨便一家有做伺服器的都能用好嗎
: 之前挖礦區塊鏈那些公司也能做AI好嗎
: 所以這波AI真的在亂漲,不知道誰說只有NV能搞AI
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 76.103.163.64 (美國)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1689570578.A.0C3.html
※ 編輯: LDPC (76.103.163.64 美國), 07/17/2023 13:10:37
→ jayppt : pentium配vodoo的年代啊 07/17 13:15
→ jayppt : 好懷念 07/17 13:16
推 newvote : 這電腦算好的了吧...以前還有5.25吋磁片 07/17 13:18
→ jayppt : pentium vodoo加個聲霸卡sound blaster 07/17 13:32
推 ccpz : 還要再加一張 Matrox G400 07/17 13:38
推 stuppi : 3d加速卡那段真的是歷歷在目 幫你推ID正確XD 07/17 13:43
推 zuvio : 那bing怎麼加入chatgpt的,要順便說說嗎 07/17 13:45
→ zuvio : 所以微軟也是用NV才搞出chatgpt的bing? 07/17 13:46
推 alcard22 : @zuvio 你沒有看清楚這篇想表達什麼 07/17 13:50
→ zuvio : 是他沒研究微軟怎麼套用GPT-4 LLM 07/17 13:51
→ dosiris : 辨識手寫數字是有多少產值啦 07/17 13:59
可是我隔壁鄰居小孩國中生會寫辨識手寫數字deep learning耶
想當年我國中就只會騎腳踏車 然後被狗追 電腦只是用來打電動的 這樣度過童年!
※ 編輯: LDPC (76.103.163.64 美國), 07/17/2023 14:01:44
推 dosiris : 比我沈迷在一元打大金剛遊戲機強兩百萬倍 07/17 14:04
推 JustInRain : 意思是 現在站隊NV就對了 (我理解有誤嗎? 07/17 14:18
→ pippen2002 : Matrox G400 +Vodoo? 07/17 14:21
推 henry6715 : 未來真的是猜謎大賽 07/17 14:39
推 NCUking : 辨識手寫數字現在是tutorial等級 只要會複製貼上就 07/17 15:17
→ NCUking : 做得到 07/17 15:17
推 cobrasgo : 講古讚讚讚 07/17 15:47
→ cobrasgo : 幹你的ID就是LDPC啊,媽的養帳千日用在一朝 07/17 15:48
→ latw : 樓上一堆老人 07/17 16:40