Re: [請益] 顯示卡3060 12g 跑深度學習 問題請益

[pfii1997119 ( )]

※ 引述《pfii1997119 ( )》之銘言：
: 不好意思打擾各位 爬了許多文章但還是有點隔靴搔癢的感覺
: 我想要組一台深度學習的電腦 (NLP相關)

不好意思 我是原PO 當初的文章沒有寫得很清楚
非常謝謝各位願意花時間看完我的文章並在下面給我的留言以及建議
每條留言我都有看 非常感謝留言的各位!

以下我就先Po出菜單 下面再解釋一下我目前的狀況

CPU (中央處理器)：Intel i5-13600K, $10200

MB      (主機板)：技嘉 Z690 AORUS ELITE AX DDR4, $6990

RAM     (記憶體)：十銓 T-Force Vulcan Z 32GB(雙通16GB*2) DDR4-3600/CL18, $2299

VGA     (顯示卡)：↓
目前想法是3060 12g (品牌不限)
買全新會去德源 (感謝板友留言推薦) or 徵二手
或是各位根據我的狀況再幫我推薦一下 非常感謝你們

Cooler  (散熱器)：Scythe 虎徹3(SCKTT-3000), $990

SSD   (固態硬碟)：美光Micron Crucial P5 Plus 1TB
M.2 PCIe 2280/讀:6600M/寫:5000M/3D TLC顆粒/五年, $2499 (藝人店)

HDD       (硬碟)：暫無

PSU (電源供應器)：
全漢 CST130 Basic 黑 /壓克力透側/M-ATX
+ 全漢 HYDRO GSM PRO 650W/金牌電源, $2890

CHASSIS   (機殼)：↑ (與電供搭配)

MONITOR   (螢幕)：沿用

Mouse/KB  (鼠鍵)：沿用

OS    (作業系統)：沿用

不含顯示卡價格: 26219

備註:
我目前是就讀德國的研究所 碩二 第四學期 課都修完了 剩下論文
但因為家人生病的關係 所以這決定這學期待在台灣寫論文
有跟教授協調好 我遠端寫論文並固定幾周時間跟教授在線上meeting
寫完之後再回去德國口試這樣

教授人還蠻好的 說題目自己定
他的專長是NLP方面的 如果真的想不到可以找他拿題目
我自己修他的課也覺得NLP還算有趣 所以這陣子會再看論文多多鑽研一下
因為沒有教授或是研究所的資源

現在有兩個方向可以選擇 第一個就是選擇google colab pro月租
第二個選擇就是自組一台電腦 寫完論文之後也會繼續使用
自己是傾向第二個 可能寫完論文後會把顯示卡賣掉 其他部分就照常繼續使用 當文書機
如果板友有用過google colab pro的心得也很歡迎跟我說
我還在這兩個選項中猶豫

目前的預算大概就是30k左右 可以小爆 希望組完之後可以繼續使用五年以上
如果有更好的選擇 或是什麼建議都很歡迎底下留言
很謝謝電蝦板友的各位幫助 大感謝!

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.25.181.160 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1679233791.A.C6F.html
→ tomsawyer: 聽說colab pro是p100/v100/a100
推 yenchieh1102: colab看起來不吃自有電腦資源，你要不要直接用看看
→ yenchieh1102: ，體驗不好就是實體顯卡了
目前也是這個打算 打算最近先做做看實驗
如果真的體驗很不好 我就拿板友覺得OK的菜單去下單好了
這兩個選項其實還在猶豫 也都有可能用到
所以還是想說先問問看各位板友的意見
謝謝你的意見!
推 yenchieh1102: 你應該先做看看你的實驗用的資源是CPU多還是GPU
→ yenchieh1102: 現在應該多是吃GPU，那其實CPU跟主板拿12400+B板也
→ yenchieh1102: 夠用了，$$all in顯卡，平行運算的爽感無法言喻
好的 非常感謝 我先筆記下來!
→ otosaka: 這板子根本塞不進去這個殼…
好 我再找找看其他殼 不小心忽略了尺寸這個問題 感謝提醒!
推 jasn4560: 原價屋的P5plus不知道再貴幾點的
感謝! 那我罰站屋就不買這個了
→ otosaka: 這張板在原價屋買不划算 塔散太弱不夠壓136K
不小心忽略你的留言 不好意思
好的 那我也去其他店家估價看看 非常感謝!
→ trywish: 3060不算難找的卡，去問問有沒朋友讓你跑看看。如果真的
→ trywish: 很吃顯卡，3060的效能應該會跑到無奈
好 我問問看我朋友 謝謝你的建議!
→ otosaka: 原價屋P5 plus沒降價欸 欣亞都降到$2499了
非常感謝!
推 jen1121: 3060還是算了吧
沒想到這麼不堪嗎QQ
→ jahnson: P5 Plus又慢又熱又貴，換ADATA S70 Blade
好的 我現在就馬上研究看看 謝謝你!
→ Transposon: 如果可行kaggle 一週免費蹭30hr的p100
好的 非常感謝!
→ class21535: 原價屋蝦皮P5 Plus有降 用卷會比欣亞便宜
好的 謝謝你!
→ otosaka: 你可以直接同一家店買一買 叫工讀生幫你組裝好送來
好 那我每家都估價看看 找最便宜的
→ otosaka: 你的需求是MATX殼？還是其實沒限制只是剛好看到這組便宜C
→ otosaka: +P？
沒有特別需求 就想說挑最便宜的裝得下的
然後瓦數爬文下來 好像是650w比較剛好 但也有人說550就能跑了
結果不小心忽略了尺寸問題 謝謝你剛剛的提醒
推 kkrrooxx: 先不說為什麼你都在反美光，但我剛好也有S70，這支才是
→ kkrrooxx: 真的熱到爆，一樣待機狀態下系統碟的980pro 1TB已經算
→ kkrrooxx: 熱的也才45度，S70 2TB直接在56-57那邊，拷貝檔案直接
→ kkrrooxx: 衝上72度，看到你喊P5+熱 結果推S70覺得有點…
→ class21535: 塔散便宜去京東買PA120
好的 非常感謝!
推 dos01: 如果你跑的程式不吃CPU的話 要省可以拿12400的組合
→ dos01: 不過這就要你自己跑過才知道 畢竟我也不知道你在跑什麼
對 我自己會再試試看
不過還是很謝謝你推薦我比較便宜的組合
推 jasn4560: s70/p5plus我是秒選p5 plus啦
我是按照版上的推薦指南去選擇的 p5 plus感覺蠻不錯的
※ 編輯: pfii1997119 (114.25.181.160 臺灣), 03/19/2023 22:35:38
→ leo3258: Z690 AORUS ELITE AX DDR4 6990 罰站屋這張要去海鮮商城
→ leo3258: 配折價卷才划算
→ leo3258: 機殼供電拿組合比較便宜 你選這張至少要atx機殼才裝的下
→ leo3258:  sw300 air 1000p 2022c都有組合價
→ leo3258: 塔扇要雙塔
推 kkrrooxx: 之前p5 plus 2tb還要6000的時候去推跳水的S70還能理解，
→ kkrrooxx: 現在兩支幾乎等價 想不出來不選p5 plus的理由，更好笑
→ kkrrooxx: 的是用太熱這個點來打，結果我手上的S70根本熱到爆
→ Imyrr: S70標配送散熱墊，有裝還會熱嗎？這個$2369左右Gen4最便宜
推 jasn4560: 原po挑的主機板 標配散熱墊 還會熱嗎? 同理
推 kkrrooxx: 他的散熱墊很小很薄，我用主機板自帶的大散熱片都會熱了
→ kkrrooxx: ，應該是原本他自己主控就是很熱
推 s1011282: 3060不推，雖然vram大可以調大batch size，但訓練速度有
→ s1011282: 點慢
→ bear1414: 看說明似乎題目都還沒訂？等你有題目方向再決定顯卡規
→ bear1414: 格就好
→ bear1414: 另外，已題目若沒方向就請教授給幾個再選，比較有效率
推 s78513221: 之前玩算圖的心得是colab pro給的卡也不是很固定
→ s78513221: 就算買Pro+也只是相對一般會員有優先權而已
→ s78513221: 畢竟Google主力還是GCP的GPU算力或者TPU算力販售
推 xu3fu6xup6: 我自己用pro plus 一個月1500台幣的那個，基本上還沒
→ xu3fu6xup6: 看過a100以外的卡
→ xu3fu6xup6: colab有個最大問題是他的cpu極度慢，如果你的模型反而
→ xu3fu6xup6: 是cpu特化的話那就不推薦使用colab
→ inthepeace: 如果要上13600k的話，塔扇要上AG620
推 timofEE: 也要看顯示卡支不支援Cuda torch等等版本問題
→ timofEE: 甚至我同學就遇到3090太新跑不了要改用1080ti
→ timofEE: 不過應該要在價錢可以接受的程度盡量拉高等級
→ timofEE: 3090的batch size可以設到8又跑超快
→ timofEE: 同樣的程式在1080ti下就只能設到1
→ timofEE: 在某些緊急的時候真的會差很多
→ timofEE: 尤其論文通常會很緊急的要突然改什麼東西要結果出來
推 AmigoSin:  趕碩論的話建議租colab，不要用自己的機器等他慢慢練
推 yoyo178134: Gcp 300塊先用一用 用完再換下一個300
推 suitup: 如果預算受限的話3060算唯一選擇了 跑得慢至少比不能跑好
推 oopFoo: 現在NLP包含深度學習這塊已經被LLMs disrupted。就像2013
→ oopFoo: 年時，傳統電腦CV開始被NN取代。現在業界學界全力轉向LLMs
→ oopFoo: 好好重新選擇題目。現在先買3060是個好選擇，跑跑小模型
→ oopFoo: 試試東西，真的需要大量訓練的就花小錢買雲端GPU。過個一
→ oopFoo: 兩年，也可賣掉3060換更適合的顯卡。
→ oopFoo: 最後不需要再賣掉顯卡。顯卡算比較保值。
推 start928: 之前寫論文也是租了colab 真的好用 反正論文寫幾個月就
→ start928: 寫完了 如果之後也沒顯卡需求 很推直接租  比起3060快很
→ start928: 多的！
→ GoGoJoe: 你真的有看嗎 技嘉這張要配SSD拿 cooler用AG620/PA120
→ moraz0834: Pro Plus也是都拉到A100
推 mtc5566: 技嘉這張主機板拿欣亞搭SSD的組合最划算 塔散用虎徹3不
→ mtc5566: 夠 要換PA120
推 Virness: colab 52.5花下去了 自己買要調環境
→ Virness: 速度又比3060快 不會串接問gpt
→ Virness: 跑出模型再用gcp azure aws去架站
→ amy79968: 13600k至少搭個AG620比較夠用 其他會自己組的話沒什麼
→ amy79968: 問題了