[閒聊] 內顯都能跑的超小型語言模型

[error405 (流河=L)]

https://github.com/microsoft/BitNet
https://x.com/simplifyinAI/status/2008195754092065050

微軟做的超小型AI語言模型 這幾天又被提起

試著去問grok 發現連內顯機都能跑
https://i.meee.com.tw/82ih830.png
https://i.meee.com.tw/xaeNqrU.png


雖然我還沒真的裝但還是覺得有點神奇


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.36.216.185 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/AI_Art/M.1767754013.A.E82.html
推 avans: 感覺很有趣，需要的記憶體用量非常低，有空來玩玩看
→ avans: https://i.meee.com.tw/4FYf2DY.png

https://youtu.be/nwC4Ky0QL-k
https://weel.co.jp/media/tech/lfm2-5/

youtube看到剛剛出的超小模型LFM2.5 聽說比上面那個更好 一起放這
※ 編輯: error405 (114.36.216.185 臺灣), 01/08/2026 22:01:47
→ error405: 拿koboldcpp.exe跑了LTM2.5 對話還挺智障
推 Supasizeit: 有VLM耶 1.5B
→ error405: 改跑qwen2.5 強太多
→ error405: bitnet說是要自己弄編譯的東西 不想管了..