→ allen0981: 伺服器真的有賣這麼好嗎101.10.10.153 11/26 16:18
→ allen0981: 搞到全球供應缺貨101.10.10.153 11/26 16:18
GPU 上值錢的就是它的 VRAM.
一張 5090 有 32G VRAM 跟 64G Vram 是完全不一樣的等級.
前面的卡你只能跑 30B 的 4 bits 量化模型,後面的卡你可以跑到將近 70B,
更別說 H200、B200 這種一張超百萬的卡,記憶體是 140G 起跳.
所以為什麼美國只允許 NV 賣 H20 這種不到 100G Ram 的殘廢卡給中國,
中國還起賭爛,下令禁止中國國內廠商買 nv 卡.
而且商用級的卡用的還不是 DDRx 這種垃圾,是速度更快良率更低的 HBMx
你看現在從 OpenAI、Google、Grok 到 Meta,每家做 LLM 的,卡都十萬張十萬張在買,
所以想要讓 RAM 降價,唯一的方法就是抵制 ai chat 把你們瀏覽器、電腦裡的
perplexity、chatgpt、gemini、grok、claude、copilot...全都刪掉,抵制!抵制!抵制!
笑 你 沒 種 , 抵 制 失 敗
--
讀者審校網試行版(2018/1/1 更新網址)
http://readerreviewnet.processoroverload.net/
(哲、史、法、政、經、社,人文翻譯書籍錯譯提報網)
◎洪蘭"毀人不倦"舉報專區
http://tinyurl.com/ybfmzwne
讀者需自救,有錯自己改...
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 60.250.90.238 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1764160214.A.164.html
推 orze04: bandwidth 呢? 111.71.84.250 11/26 20:34
→ orze04: 不過你說的沒錯,比起HBM,DRAM和FLASH的 111.71.84.250 11/26 20:36
→ orze04: 利潤真的是菜渣。 111.71.84.250 11/26 20:37