[問卦] 所以訓練ai模型根本不需要最好的晶片？

[TOMMY75410 (禿米)]

如題

如果演算法沒有革命性進展

否則訓練過程中永遠都在等資料從記憶體過來

再好的晶片也只能發呆

那484根本不需要什麼1.4 或2奈米阿？

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.74.33.191 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1784282113.A.6C9.html
→ RisingTackle: 不是不用最好，是可以不用NV的
推 milk7054: 時間比金錢還貴，笨
→ su4vu6: 大小很重要
→ milk7054: 比對手慢就掉價
→ su4vu6: 佔的空間越小 你能擺得越多 空間有限
→ su4vu6: 就像以前要拿著一個超大台電話才能溝通
→ su4vu6: 現在 薄薄一片 一個小手表 就能
推 s213092921: 去研究華為昇騰950超節點吧
推 kingnet74: 效率問題
→ clarence732: Time to market 最重要啊
推 tyke123: 要能b2c啦，只能b2b去吃屎
→ adios881: 4 沒辦法一次到最好的 就用兩個次及的
→ adios881: 電腦領域一直都是這樣
推 lastphil: 一直都不用 拚速度才要
推 andy79323: 軟硬是分開看 硬體就是效率
→ andy79323: 尼不同的算力密度和耗電量
→ andy79323: 賣出的token費用一樣嗎
推 kingstongyu: AI的速度跟演算法相差不大,和硬體的
→ kingstongyu: 關係比較大
→ takeda3234: 不知道 但一樣得答案 性能差得比較晚
→ kingstongyu: 現在的AI已經不是只應用在單純的對話
→ takeda3234: 答出來應該是肯定的
→ km612tw: 便宜的華為昇騰才是王道