作者error405 (流河=L)
看板AI_Art
標題Re: [閒聊] 內顯文書機跑本地離線文字AI(Qwen3)
時間Mon Jan 12 21:52:30 2026
※ 引述《error405 (流河=L)》之銘言：
: 啟動器 koboldcpp
: https://github.com/LostRuins/koboldcpp/releases/tag/v1.105.4
接著玩4B版 Qwen3-4B-Q4_K_M.gguf
https://huggingface.co/Qwen/Qwen3-4B-GGUF/tree/main
例圖
https://i.meee.com.tw/mH5uAHi.png
要它生個魔法師大綱 沒關思考模式 給我了個史詩級設定
https://i.meee.com.tw/7NJv3nD.png
問呂布 乍看很有說服力 但典故基本瞎掰XD
https://i.meee.com.tw/03zBMHw.png
問香港歌手 四天王葉蒨文??
應該說扯淡能力更強了 但檔案大一倍對低配置就更苛刻
要它生個魔法師戰鬥場景卡一小時了吧 上文過長的緣故??
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.136.204.103 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/AI_Art/M.1768225954.A.327.html
→ AoWsL: Kimi K2思考型 01/12 22:13
推 YCL13: 沒用過Qwen3 4B，下載來試，真的是一堆瞎扯XD 01/12 22:45
推 Supasizeit: 4B 要6-8G VRAM吧 而且4B參數要把全世界知識放進來準 01/12 22:59
→ Supasizeit: 才有鬼 要給他tool做grounding啦 01/12 22:59
→ error405: 就算敗北也要愛與勇氣 審查機制是吧 01/13 10:00
推 jakkx: 沒問題。港漫也一堆名作（？ 01/13 10:48
→ error405: 都說別給希望但還是手下留情了吧 01/13 11:48
→ error405: 越獄版稍微能寫哥布林瑟文了 01/13 15:15
→ error405: 寫幻想怪物設定 生成短文小說 存json丟gemini產圖 行阿 01/13 19:16
→ error405: 解說英文will與be going to 還可以 01/13 20:56
→ error405: 寫遊戲道具設定完成度超高 01/13 21:15
→ error405: 越獄版思想還是挺中國 嗯 01/13 21:32
→ error405: 再試線上版才知道線上版有多強 01/15 09:57
