[閒聊] Qwen3.8 Flash Next 125B-A6B n51B

[h0103661 (單推人) 每日換婆 (1/1)]

這名子也太他媽長了

總之是125B-A6B的MoE加上51B的n-gram嵌入

由於n-gram字典理論上能放硬碟讀取

Q4可以在8~12G vram+64G ram運行一個近200B的模型

個人電腦又迎來新神


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.79.96.144 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Marginalman/M.1787706302.A.4D4.html
推 dog41125: 我的糞ARC b70用qwen會當機 嗚哇呀
→ crimsonmoon9: 果然還是要阿里爸爸
→ pchooooome: 真假 速度勒
→ pchooooome: 肥肥34Vram 128Dram來玩玩看
→ h0103661: 明天才出
推 reader2714: 真假