[問卦] 幹嘛不把AI模型直接刻在晶片上？

[cchh179 (howie)]

現在各家科技公司花大錢買晶片、買HBM記憶體、伺服器消耗巨量的水電費根本不划算

我的想法是直接把AI模型的硬體電路刻在在晶片上

這樣子會非常省電，而且速度極快

你說AI模型這麼大晶片塞不下，而且未來沒辦法更新怎麼辦？

沒關係，分別訓練專門的AI模型縮小體積就好

例如翻譯模型、數學問題模型、歷史問題模型等等

然後先用一個通用的小模型，分析用戶要問哪方面的問題，再啟動某個專長的模型晶片

至於更新，我覺得不用太煩惱，未來AI模型訓練到一定程度，更新速度應該會放慢，就很適
合晶片3、5年迭代一次了

而且未來這種硬體電路的ai模型晶片，還能做成卡帶插在玩具、玩偶上，或是翻譯機、家電
上面

在無法聯網的環境，非常適合，速度又快

有沒有卦？

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 185.183.34.98 (荷蘭)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1782183088.A.1B9.html
噓 elec1141: 嫌通勤麻煩 怎麼不發明任意門
→ higameboy: https://i.imgur.com/Tq51N3w.jpg
→ higameboy: https://i.imgur.com/h6g3xzx.jpg
推 SAGIN: 有興趣唸研生論文啊
推 error405: taalas就你講的阿
→ vdml: 就像現在都用顯卡算AI 以後應該會有AI專用卡
→ error405: 老黃的新機就是CPU顯卡全合併
→ m13211: 這樣要怎麼更新？
推 bitcch: MoE就是你說的多專家模型
推 enmeitiryous: 有新創公司做這個啊 半年前就有de
→ enmeitiryous: mo 過了
推 archon: 模型只是用來 reference，計算還是要 GPU
→ lipstick: 為啥不把印度人集中起來 只要管三餐就好
→ cchh179: 只需要一個普通的低階cpu處理前端，然後
→ cchh179: 一通電就計算出答案
→ bndan: 你說的就專精性晶片 降低彈性換效能 這路線
→ bndan: 是當初嵌入式系統另一條極端的路
推 andy79323: 燒在晶圓上有人玩 成本降不下來
→ andy79323: 未來算力只會越高 功耗熱能就高
→ andy79323: 跟車子馬力越大越耗油一樣
→ andy79323: 省電根本book能
推 stlinman: 模型塞晶片，已經有了啊!
推 YJM1106: ASIC、FPGA都有 不是新鮮事
→ sellgd: 軟體內容一直變動啊 專門跑AI的晶片早有
→ sellgd: 現在開源社群在用RISC-V設計做晶片