[開箱] 3080 20G

[march55237 (永遠的御三家)]

大概誰也沒想到
當年民用分散式計算節點(aka 礦場)的主力型號能在6年後以另一種姿態就業

卡面
https://i.imgur.com/x0F3pPw.jpeg

卡背
https://i.imgur.com/DjssjZt.jpeg

貼絕緣的NVLINK接口
https://i.imgur.com/HErnGi8.jpeg

導熱墊
https://i.imgur.com/CPhnKYn.jpeg

後IO，Blower風格
https://i.imgur.com/ZFeeSNP.jpeg

12v輸入，採雙6+2Pin
https://i.imgur.com/jKGArt7.jpeg

FFXIV DWT Benchmark 1080p全開 - PL75% (240W)
https://i.imgur.com/y5UAMod.png

數字基本上和巴哈集中跑分串上差不多(見60樓)
https://forum.gamer.com.tw/C.php?bsn=17608&snA=23233

Vulkan VRAM 測試
240W大概就650GB/s的頻寬
https://i.imgur.com/JUGI3Ok.png

LLM測試的部分
推理框架: llama.cpp b10636 (4d19b287691e)
  後燃器: PL75% (240W), Clock +0Mhz, Mem +0Mhz
    模型: Qwen3.8-27b-UD-Q4_K_S

$ ./llama-bench -ngl 99 \
    -m /e/Qwen3.8-27B-UD-Q4_K_S.gguf \
    -p 128,512,2048,4096 \
    -n 64,128,512,1024
|            test |                   t/s |
| --------------: | --------------------: |
|           pp128 |       961.25 ± 25.86 |
|           pp512 |      1063.68 ±  8.02 |
|          pp2048 |      1053.04 ±  1.42 |
|          pp4096 |      1039.57 ±  1.65 |
|            tg64 |        34.67 ±  0.07 |
|           tg128 |        34.80 ±  0.06 |
|           tg512 |        34.97 ±  0.06 |
|          tg1024 |        34.75 ±  0.03 |


llama-ui測試User Prompt (前陣子脆上讓部分人自我懷疑的貼文):
  朋友來我店裡買衣服
  卻忘了帶錢，
  只好先跟我借了 5000元結帳。
  他回家馬上轉了 5000元給我，錢是對了～
  可我總覺得哪裡好像怪怪的。
  我想不明白
  有誰知道嗎？



llama-server FA=1 NGL=99
$ ./llama-server -ngl 99 -m /e/Qwen3.8-27B-UD-Q4_K_S.gguf -fa 1
prompt eval time =     797.12 ms /   436 tokens
                    (    1.83 ms per token,   546.97 tokens per second)
       eval time =  243755.63 ms /  8037 tokens
                    (   30.33 ms per token,    32.97 tokens per second)
      total time =  244552.75 ms /  8473 tokens
https://i.imgur.com/iPbCbCA.png

llama-server FA=1 NGL=99 KV量化=Q8 NP=1 CTX=84000 投機=MTP 投機MaxT=3 停用
mmap 停用系統記憶體
$ ./llama-server -ngl 99 -m /e/Qwen3.8-27B-UD-Q4_K_S.gguf -fa 1 \
    --spec-type draft-mtp --spec-draft-n-max 2 \
    -ctk q8_0 -ctv q8_0 \
    --no-mmap --mlock \
    -c 84000 -np 1
prompt eval time =     893.56 ms /   436 tokens
                    (    2.05 ms per token,   487.94 tokens per second)
       eval time =  205425.75 ms /  9541 tokens
                    (   21.53 ms per token,    46.44 tokens per second)
      total time =  206319.31 ms /  9977 tokens
https://i.imgur.com/ySWxLBI.png


總結區

1. 推薦買嗎?

但凡你有這問題一率不推薦

這張卡存在下列隱患:
 * 小做坊產物
 * 核心的上一份工作大機率為礦卡
 * GDDR6X，不熟悉這顆粒的可以看 #1W4yTN2j (PC_Shopping)

本質上買這張的要能接受 3400RMB~=台幣16k 可能隨時進水溝的風險 (張哥: 你好)


2. 其他3080 20G的數據

支乎
https://zhuanlan.zhihu.com/p/2029188132206035598

Reddit小論文
https://www.reddit.com/r/LocalLLaMA/comments/1p0bbrl/


3. LLM情境下單使用者速度和Context尺寸普通

稠密模型MTP下 pp 900t/s 和 tg 46t/s 只能說是勉強能用的層級(玩具)
開滿240k大Context必須依賴系統記憶體或更高的量化
當作Sub-agent跑雲端上不給跑的任務還行(如逆向工程)

最近內地發布新的MoE(3.8-next與5.3-flash)，搞128G DDR4 + 24G VRAM的玩法
輸出狀況有機會比現在好，但128G DDR4要合理價格勢必得往Xeon/EPYC平台找


4. MiniMax H3 沒測，但就目前看起來搭配Offload是能玩的

之後Comfy能摸出點心得再到AI_Art分享

--
推 zyi840403   : 鄉民只會為了力挺廠商 盲目力推slc 人家暴利賺飽飽
→ zyi840403   : 會分你們？ 看看什麼阿貓阿狗廠都下來主打slc 消費
→ zyi840403   : 者還沒有自知？  slc壽命只有mlc的1/10之一 連堪用
→ zyi840403   : 都稱不上 這樣也挺得下去？ 難怪政府無底線向資方靠
→ zyi840403   : 攏 因為連人民整天都樂著幫慣老闆賺黑心錢
#1MrbeYhT (PC_Shopping)

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 125.229.172.122 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1787916933.A.1C0.html
※ march55237:轉錄至看板 AI_Art                                    08/28 19:39
推 hangtenboy: 甜甜價買的嗎
3400RMB，算上其他費用折台幣17k
這卡從2025年底現身到現在RMB售價其實沒太大落差，倒是台幣和RMB匯率有很大差異
然後MiniMax H3現身之後這卡開始在慢慢漲了
※ 編輯: march55237 (125.229.172.122 臺灣), 08/28/2026 19:46:07
→ bhmagic: Blower 指的是單風扇從尾部排氣的
→ bhmagic: 你這個後面看進去被散熱片擋死 沒有這風
推 VRadmanovic: 竟然不是渦輪扇
推 d030b: 感謝分享
推 kaj1983: 中年女騎士再就業典範
推 ping870224: 3系列都是火爐 我的3080降壓超頻用到
推 ping870224: 現在
推 hangtenboy: 讚