看板 Gossiping 關於我們 聯絡資訊
之前發文詢問,說我的 qwen 3.6-35b-a3b 超級弱 請他寫個小網頁遊戲 (例如一些撲克牌遊戲或是簡單的桌遊) 都不成功 隨便寫寫之後就交差給我,也沒跑測試,給我的東西也只是半成品 需要不斷地提示他,搞了好久,才可以寫出一個像樣的 後來有老外提醒我說 thinking 給他開到 extra high ,也許不用preserve thinking 真是開了新世界,我的 qwen 3.6-35b-a3b 突然變得超聰明 而且速度以小資電腦來說還可以 (2000+ tk/s 預處理 60+ tk/s 產生回應) 前幾天試了 qwen 3.8-27b ,速度瞬間砍半,而且上下文也得調低 開啟了 MTP 後,generation最高只有 30 tk/s 我給他同樣的指令做一個同樣的網頁遊戲,沒有特別感覺比 qwen 3.6-35b-a3b聰明 但因為速度砍半,花了超久時間才完成,整個房間從22度C拉到26度C 請問有在玩本地大模型的板友,有什麼有趣的project可以讓我跑跑感受兩個模型的差異? -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 165.225.210.217 (加拿大) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1788360675.A.AB8.html
lukelove: 27b dense model 慢是正常 等看看35-a3b 36.231.185.194 09/02 22:54
lukelove: 吧 36.231.185.194 09/02 22:54
error405: 看人家總是先復刻賣塊 114.36.242.103 09/02 22:54
lakershank: ornith 1.5 35B 112.207.24.110 09/02 22:55
wsdykssj: https://www.bilibili.com/BV1hX8C6DEmt 118.150.100.96 09/02 22:56
wsdykssj: 屎山程式碼對決看起來滿好玩 118.150.100.96 09/02 22:56
naticom: 作者不是跳出來說沒有3.8-35b-13b嗎165.225.210.217 09/02 22:57
pooznn: ASIC專屬晶片出來前 別幻想本地能玩大模型 111.240.24.209 09/02 23:02
arnold3: 我16g跑不動 182.234.101.87 09/02 23:02
因為系統限制, 我是兩張外接顯卡 26GB VRAM , 效能大約打75折 ※ 編輯: naticom (70.68.80.135 加拿大), 09/02/2026 23:06:57
doig: 沒研究 27B,今天出的max 0902(迭代太快, 49.216.248.1 09/02 23:53
doig: 用日期當版本名了),登頂了 49.216.248.1 09/02 23:53
doig: https://i.meee.com.tw/X7nrh8f.jpg 49.216.248.1 09/02 23:53
naticom: Cyndi腦粉也在玩本地大模型嗎 XD 70.68.80.135 09/03 00:03