噓 mayolane: 你隨便去找個科普影片看就不用問了 05/30 15:06
推 kuoyipong: GPU就是擅長做大量重複的事情的計算單元 05/30 15:06
推 emptie: 啊，GPU能算的東西你丟CPU也算得出來啊，跑不快而已 05/30 15:07
→ kuoyipong: AI在訓練的時候GPU比CPU方便很多 05/30 15:07
→ emptie: 這些比較專門的計算硬體會出現也是因爲人們發現什麼都丟給 05/30 15:07
→ emptie: CPU不是個好主意 05/30 15:07
→ yniori: 這邊不是西洽閒聊嗎？什麼都去看科普影片，就不說科普影 05/30 15:08
→ yniori: 片是不是都對的問題了，每個網友想法不一樣才是有趣的地 05/30 15:08
→ yniori: 方 05/30 15:08
推 meatybobby: 從一開始吧 AI的演算法很早就出現了 但是GPU出現才開 05/30 15:08
→ meatybobby: 始真正做出東西 05/30 15:08
推 BOARAY: 不是從挖礦的時候就知道了嗎 05/30 15:08
推 emptie: 那些演算法的理論雛形比老黃把他的3D加速卡命名爲GPU的時 05/30 15:10
→ emptie: 間點還早就是了 05/30 15:10
→ e5a1t20: 大概17年前 Nvidia開始推CUDA後 05/30 15:10
推 ltytw: 中間有一段時間是挖礦算力 嘻嘻 05/30 15:11
→ yniori: 有趣的是挖礦算力居然最後會變成AI算力 05/30 15:15
推 k12795: 2012 alexnet 05/30 15:17
→ GreenComet: 反過來吧 是因為有GPU deep learning 才玩的起來 05/30 15:19
→ kayliu945: 不知道 什麼時候？ 05/30 15:20
→ bnn: 不是GPU算力 是人類把計算這件事拆解成一堆(乘法+加法) 05/30 15:21
→ bnn: 剛好這運算平常就是計算遊戲顯示三角形之類的在用 拿GPU現成 05/30 15:22
推 kirimaru73: 因為成功的是類神經網路 這東西1970年代就有了 05/30 15:22
→ bnn: 你也可以改用tensor算法或是量子算法 GPU就無能為力了 05/30 15:22
→ kirimaru73: 然後被當成屎 因為誰家的CPU有那麼閒去浪費時間 05/30 15:22
→ kirimaru73: 類神經網路的擁護者浪費一堆時間只能交出屎一般的成績 05/30 15:23
→ kirimaru73: 科技發展很容易在死路裡繞 有時候就是還沒想到 05/30 15:24
→ kirimaru73: GPU也是發展了一段時間後才發現可以拿來幫忙浪費時間 05/30 15:24
→ linzero: 成本考量下的功能特化演進 05/30 15:25
推 GreenComet: 深度學習本質就是矩陣運算 剛好就是GPU的強項 05/30 15:26
→ bnn: 如果GPU沒被當成顯示卡來賣 搞不好沒人砸錢TO個純計算晶片 05/30 15:26
→ bnn: 媽哩誰砸錢就拿來算這東西 研究怎麼花錢把一堆CPU平行串起來 05/30 15:27
推 kirimaru73: 現在有TPU 不畫圖了 從生下來到被燒死之前只負責計算 05/30 15:27
→ linzero: 設計CPU時是有太多功能要他能達成，GPU則是處理特定範圍 05/30 15:27
→ linzero: 工作 05/30 15:27
→ bnn: 買別人做好的CPU再研究網路分散計算比較便宜(ry 05/30 15:27
→ kirimaru73: 不過他也沒厲害到可以讓GPU從市場上消失 05/30 15:27
→ bnn: 那時候好像很多網路切工作幫忙背景分散計算的鬼計畫 05/30 15:28
→ bnn: 姑且還是演化成後來的多核心多執行緒工作拆分這些都有意義啦 05/30 15:29
→ kirimaru73: AI發展史可以簡化成一句話 05/30 15:29
→ GreenComet: 有啊 PS3的蛋白質研究就是一種 05/30 15:29
→ kirimaru73: 人類發現計算量多到跟鬼一樣後就出現類似智慧的東西了 05/30 15:30
→ kirimaru73: 中間的原因還沒有完全解明 但現實就是如此 05/30 15:30
→ bnn: 重點是人類現在也還是用之前的拆分經驗來分散計算工作 沒虧啊 05/30 15:30
→ kirimaru73: 如果人類是發現「另外一種方式」出現類似智慧的東西 05/30 15:30
→ kirimaru73: 那就會把資源全部往「另外一種方式」丟下去 05/30 15:31
→ bnn: 網路速度不夠卡住了傳輸計算 就提升網路協定和硬體縮短距離 05/30 15:31
→ kirimaru73: 分散式計算系統可以募集很多聽起來很酷炫的計畫 05/30 15:31
→ bnn: 一個大晶片散熱會燒起來 就拆分工作多個串連分散工作 05/30 15:32
→ kirimaru73: 例如只要借用你電腦／主機一點點的深夜時間 05/30 15:32
→ kirimaru73: 我們就可以研究癌症的解藥，或是尋找外星人...... 05/30 15:32
→ bnn: 證明了計算需求量這麼大 大到靠北 就有計畫可以募錢下Tapeout 05/30 15:33
→ kirimaru73: 稍微講仔細一點 不是無腦堆計算量就可以產生智慧 05/30 15:33
→ kirimaru73: 怎麼樣用腦來堆計算量是那群研究者持續努力的目標 05/30 15:34
→ bnn: 就跟現在有人沒錢下tapeout 跑去控制記憶體協定拿來計算 05/30 15:34
推 GreenComet: 類神經網路就模仿生物的大腦機制 除非有生物學新突破 05/30 15:34
→ GreenComet: 或新物種或有人被雷打到 不然很難有新機制 05/30 15:34
→ kirimaru73: 不過重點就是要有鬼計算量 一定要跟鬼一樣 05/30 15:34
→ kirimaru73: 你有時會聽到GPT訓練需要數億年CPU計算量 那並非謠言 05/30 15:35
推 kirimaru73: 至於目前最強的架構是什麼 現在有一個進行中的賭局 05/30 15:38
→ kirimaru73: 幾個大頭用公司股份去賭Transformer是不是無敵的 05/30 15:38
→ kirimaru73: 有人相信Transformer以外的東西都要廢除 05/30 15:38
→ kirimaru73: 也有人努力要幹死Transformer 05/30 15:39
→ bnn: 問就是量子電腦終將吹飛這些線性系統(X 05/30 15:44
推 kirimaru73: 或許會有一種未來 一般民眾人手一張TPU 05/30 15:45
→ kirimaru73: 在把所有AI工具當狗操的同時還用它來玩所有的酷炫遊戲 05/30 15:45
→ kirimaru73: 照目前TPU的發展來看 應該不太會是這樣 05/30 15:46
推 vios10009: 鼯鼠五技而窮 騰蛇無足而飛，GPU就是為此誕生的 05/30 15:47
推 kirimaru73: GPU被斷法(無法平行運算)時 他的脾氣也是出了名的臭 05/30 15:49
→ syldsk: 目前人類想要的結果是用GPU比較容易生出來啊 05/30 15:52
推 flydogzzz: cpu勞力腦，gpu天才腦 05/30 16:02
推 sokayha: AI實現當初有兩個派別 一個是用邏輯判斷去堆 一個是類神 05/30 16:03
→ sokayha: 經網路 前者比較直覺也感覺有可行性 後者的硬體成立條件 05/30 16:03
→ sokayha: 當時想說需要很久之後(cpu多執行緒)。 但結果摩爾定律快 05/30 16:03
→ sokayha: 速撞極限 前者限入僵局 後者卻因為cuda默默做了一段時間 05/30 16:03
→ sokayha: 被類神經網路派別發現剛好是渾然天成的載體 所以風向就整 05/30 16:03
→ sokayha: 個反轉 05/30 16:03
→ sokayha: 但類神經網路派別是黑盒子 輸入輸出中間過程不容易可控 05/30 16:05
→ sokayha: 所以這條路線伴隨著AI不可控的高度風險 05/30 16:06
推 kirimaru73: 舉個例子 如果哪天AI醫師上線 結果偶爾會醫死一般病患 05/30 16:13
→ kirimaru73: 那這就會是一個必須要處理的問題 05/30 16:13
→ kirimaru73: 如果這個AI醫師是神燈精靈那種東西（舊時代真的有人研 05/30 16:14
→ kirimaru73: 究那種類型的醫療諮詢系統） 那就會比較容易尋找問題 05/30 16:14
→ kirimaru73: 不過如果是大型類神經網路 那問題就很難找了 05/30 16:15
推 kirimaru73: 現實更合理的做法是 永遠不要讓AI去當什麼主治醫師 05/30 16:17
推 sokayha: 但人類一代一代重新學習累積知識經驗成本相較機器實在太 05/30 16:21
→ sokayha: 沒效率 所以人類還是會想走AI接管這條路:~ 05/30 16:21
推 terry7627: cpu：一個博士生解1萬道小6數學題 05/30 16:49
→ terry7627: GPU：一萬個小6生解1萬道小6數學題 05/30 16:49
→ EcHENGx1982: A2aRX_RoQ 05/30 17:15
→ bluejark: 萬惡的老黃 05/30 18:32
→ chang1248w: 從2014 alexnet 05/30 18:34
推 dg7158: 總裁這集講的還滿好懂的 05/30 19:12