Re: [閒聊] 內顯文書機跑本地離線文字AI(LFM2.5)

[error405 (流河=L)]

※ 引述《error405 (流河=L)》之銘言：
: 啟動器 koboldcpp
: https://github.com/LostRuins/koboldcpp/releases/tag/v1.105.4

改玩最近幾天出的 LFM2.5-1.2B-Instruct-Q4_K_M.gguf
https://huggingface.co/LiquidAI/LFM2.5-1.2B-Instruct-GGUF/tree/main

例圖:
https://i.meee.com.tw/6oPC4Wi.png


創作幻想小說方面輾壓Qwen3..(並沒有)

中文圈歷史知識完全沒有 基本都是瞎掰狀態

問美國總統能答出林肯傑佛遜 資料錯誤居多

要它寫色文會直接用英文嚴正拒絕= =



https://www.liquid.ai/blog/introducing-lfm2-5-the-next-generation-of-on-device-ai
https://reurl.cc/9b9EKd
跟Qwen3數值比較

另外LFM2.5雖然有JP版但限縮功能根本垃圾 前幾天就是載了JP版

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.136.204.103 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/AI_Art/M.1768191553.A.C1A.html
※ 編輯: error405 (220.136.204.103 臺灣), 01/12/2026 12:19:52
※ 編輯: error405 (220.136.204.103 臺灣), 01/12/2026 12:20:42
→ error405: 仔細看文中會有一些意義不明的詞 可能是英翻中的關係?
→ error405: 問它知不知道orc 給了我一堆半對半錯的東西
→ error405: 創作忍者公主的故事就破功了 是對中文理解有限還怎樣
→ error405: 理解中文與故事結構可能還是Qwen3強?
→ error405: 用英文還可以
推 Supasizeit: 你的碾壓是幻覺的部分嗎
→ error405: 具體描述比較強點 Qwen3比較接近先想大綱在簡單描述
推 kimwang: 已經1.2B又被Q4量化 本來就不能期待太高了
→ kimwang: 本地模型要表現好還是得用大一點的 小的只能做點簡單事
→ error405: 好吧我收回輾壓 看起來像是被機翻到怪怪的小說
→ error405: Qwen3 4B版要他寫故事大綱 思考後先弄世界觀 行阿
※ 編輯: error405 (220.136.204.103 臺灣), 01/12/2026 16:53:38
推 Supasizeit: 寫小說有時候幻覺是好事？
→ error405: 不過這出文速度真的是比4B快很多
→ error405: 出了thinking版 完全英文思考 感覺強一點但都回英文