[問卦] 怎麼不把AI做成本機運行的東西

[loserfatotak (魯肥宅沒老婆(TAT))]

聽說AI被降智，是因為算力不夠

晶片短缺，能源成本上漲等

怎麼不把成本外部化

把那些東西下載給使用者

讓使用者自己負擔硬體和能源

就像3A大作的遊戲片一樣

有沒有八卦

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 27.240.216.105 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1779272294.A.36B.html
→ su4vu6: 要跑整個 你電腦啥都不能做ㄟ==
推 v7q4: 早就一堆了 ollama就是了
推 error405: 開源都是阿
→ error405: gemma4 qwen3.6 研究一下
→ slein: 硬體費用不低，十萬元大概是堪用等級
→ AoWsL: 人家說要多工規格要開128欸
推 saiboos: 5090還不夠唷...
噓 ivorysoap: 你的顯示卡要有32GB
推 tetani: 記憶體不到1T 只能跑弱智模型
推 saiboos: 用雲端GPU也是貴到爆...
→ a7788783: 原本在思考跟邏輯上就已經是智障了，現
→ a7788783: 在你連上網挖資料拼出答案都不行,你覺
→ a7788783: 得你的電腦裡頭有多少資料可以給它參考
→ a7788783: ？
→ wemee:    樓下用屁股跟人換到一張 3080ti
→ adios881: 滾辣
→ adios881: nvidia dgx 現在送禮最夯 聊解一下
推 tetani: 解決了模型太弱問題 還要解決搜尋問題
→ ssccg: 因為硬體爛，AI就變智障了
→ drkkimo: 當然有呀 ollama或huggingface裝一下
→ drkkimo: 為什麼你會先定論沒有在本機跑的
噓 drkkimo: 剛才不能噓 補噓一下
→ WarIII: ollma 了解一下？ 但是本地的都bi 不夠智
→ WarIII: 能啊
→ bluelune: 早就有了 你去抓來跑看看啊
推 YSJ543: 10萬的機子真的只是堪用而已
→ krousxchen: 要128GB的VRAM才能跑夠好的本地AI
推 jhjhs33504: 有錢你也可以成為AI運算平台供應商
→ jhjhs33504: 看要跑什麼程度的模型?規模?好用程度?
→ raku: 計費呢？單機版的授權很貴
推 dancho606: 有啊 你顯卡要夠力