[問卦] 訓練AI不一定要頂尖晶片嗎？

[SAGIN (福利熊熊福利)]

看新聞說中國的AI實力已經是逼近美國的程度了，
但中國不是沒有高階GPU嗎？是偷偷進口來用，
還是訓練AI用普通GPU也可以？有沒有八卦？



--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.158.18.95 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1779118707.A.4D3.html
推 nk: 比較吃電 然後成果比較差 中國的解法是用偷的
→ nk: 用蒸餾去偷對方成果
→ pooznn: 就ASIC啊! 你沒挖過礦嗎?
推 sheepfeather: 落後2-3代的晶片，不過靠數量可以
→ sheepfeather: 衝到落後美國 1-1.5 代的模型效果
→ sheepfeather: 普通人其實對模型的效果敏感度不高
推 shadoM: 訓練速度慢一點，多張串接雖耗而但仍可控
→ sheepfeather: 尤其token的報價可以砍到一半以下
→ sheepfeather: 短期可能是簡單的工作用中國模型
→ sheepfeather: 需要精度或高效率的工作才用美國的
→ luciffar: 用NPU堆疊啊
→ sellgd: 蒸餾偷的說法已不流行 美AI是偷網路大數據
推 lab214b: 臺灣公司幫忙偷練，有錢好辦事