→ WTF55665566 : 你可以下載到自己電腦燒顯卡運算啊02/06 11:53
→ WTF55665566 : GPT3都可以了 只是比線上難用多了 要自己訓練02/06 11:53
推 s011109 : 還是本來就是垃圾 02/06 11:54
推 necrophagist: 一開始還能用 但現在的狀態真的爛 伺服器算力不足02/06 11:54
→ fdkevin : 昨天晚上用也是這樣02/06 11:54
→ WTF55665566 : 算力不足的問題開始體現 02/06 11:56
推 mopa : 阿就算力不足啊02/06 11:57
推 zonppp : 這叫做飢餓行銷 懂的就懂 02/06 11:57
推 tw00172848 : 算力不足 NVVVVV 02/06 11:57
→ Leo4891 : 免費的還嫌啊02/06 11:58
→ mopa : DS已死啦,中國又拿不到算力,怎摸擴充,華為910來 02/06 11:58
→ mopa : 擋嗎02/06 11:58
→ wr : 免費的是沒啥好嫌 但chatGPT也免費阿...02/06 11:59
→ Leo4891 : 越多人用 ds越燒錢 當然要限制人數02/06 11:59
→ ImHoluCan : CharGPT 變超聰明,感覺有更新過 02/06 11:59
→ WTF55665566 : 有競爭有差GPT變強了+102/06 12:00
→ Leo4891 : 反正都開源了 之後美國各大模型都會跟上ds甚至更好02/06 12:00
→ Leo4891 : 用02/06 12:00
→ amd3dnow : 點麵線app的用戶數有多少?02/06 12:00
推 patrol : 就說中吹吹半天,人數一多還是死,耗不贏網路巨頭的02/06 12:01
推 patrol : 多問幾個問題光電費就燒死你了02/06 12:03
推 mopa : 不是訓練要算力,推論更需要算力,因為作為分母的用02/06 12:04
→ mopa : 戶非常多,除非你的服務只給幾百個人用。02/06 12:04
推 Roger5566 : openAI之前就擠香腸 現在被逼才拿出真本事02/06 12:05
→ Roger5566 : 但利潤就少很多 所以微軟股價才跌這麼多 02/06 12:06
噓 jack529 : 自己跑啊02/06 12:06
推 patrol : 嗯,如果把卡超頻極限使用也可能撐不過兩年,到時不02/06 12:06
→ patrol : 只燒電,還燒卡 02/06 12:06
推 littlebroken: 競賽對消費者是好事 對股民就不好說了02/06 12:06
→ littlebroken: o1確實變聰明 這就是開源的威力嗎 02/06 12:07
→ ssarc : 所以你還是需要台積電的晶片 02/06 12:07
推 pt993526 : 算力好解決吧 從新加坡縣多走私一點設備進去就好02/06 12:07
→ ssarc : 你以為很夠用,但現實是永遠不夠用 02/06 12:07
→ a79111010 : GPT在那當牙膏仔 果然還是要有個對手才行02/06 12:08
→ wr : 簡單說 節省算力可以增加普及率 但算力需求是無盡的02/06 12:08
推 hensel : 中吹? 不如去問創世神的fedgpt,應該沒人用超多資02/06 12:09
→ hensel : 源 02/06 12:09
推 rbull : 跟一開始的無線上網一樣吧 一定不夠用的02/06 12:09
推 yangtsur : 微軟振作點02/06 12:09
推 boringuy : 就說了還是需要GPU,deepseek是模型成本變低,但使02/06 12:09
→ boringuy : 用者跑模型還是需要算力02/06 12:09
→ patrol : 嗯,不確定會是誰的晶片,反正最後老美一定拿大頭02/06 12:09
推 mopa : 應該說DS可以節省訓練的算力,但是推論的算力取決於02/06 12:10
→ mopa : 用戶數,沒有人嫌客人少的。02/06 12:10
推 ssarc : 曾經我也以為手機上網的流量夠用02/06 12:10
→ mopa : 嫌客人多02/06 12:11
→ fluffyradish: 最後還是2330 02/06 12:12
推 IanLi : 免費就什麼問題都丟上去亂問,塞也給你塞死02/06 12:13
噓 kausan : 留著自己慢慢用02/06 12:14
→ wr : 跟能源一樣 節省能源是一種手段 但能源需求是無限的 02/06 12:14
噓 Sixigma : 等一下啦升騰就只有h100 60%吼一直催02/06 12:14
→ IanLi : 伺服器容量不會只差一倍,能跑也是很厲害了 02/06 12:15
推 AGODC : 就是算力不足 02/06 12:17
推 ssarc : 免費就隨便用,付費更要用到回本02/06 12:17
推 calvincock : 這種東西也在喊低調是哪邊有問題…. 直接perplexit 02/06 12:17
→ calvincock : y套r1就好了啊02/06 12:17
→ r40491101 : 本來就垃圾吧,不是錯02/06 12:21
→ r40491101 : 樓上怎麼老愛貼這個人啊……愛看自己慢慢看就好了 02/06 12:22
→ noirskakashi: 等過幾個月設備上來應該就好很多,現在池子就這麼大02/06 12:22
推 jenchieh5 : gpt最近突然強化很多,果然有競爭才會刺激進步02/06 12:23
推 beavertail97: 不只gpt聰明,現在微軟copilot新功能-深度思考-的02/06 12:23
→ beavertail97: 答案也好用,02/06 12:23
→ tw19930419 : 垃圾可以逼gpt開新功能 長見識了02/06 12:23
→ wr : 過幾個月別的AI公司也會用一樣的算法配上更強的算力02/06 12:24
→ rbull : 有時候垃圾文可以逼出大老回文啊02/06 12:24
推 seemoon2000 : 我今天第一次載來用 他R1是不是只有服務器忙碌答案02/06 12:24
推 help1268 : AI也能當牙膏廠02/06 12:27
→ wr : 算法越強普及度越高 算力需求增加 然後就科技奇異點 02/06 12:28
推 lakershank : 真的有夠難用,別瞎BB乖乖屯算力02/06 12:29
推 kobebrian : 早就說了 硬體才是王道 軟體放出來大家還不都一樣02/06 12:30
→ jasperhai : 輝達笑而不語 02/06 12:30
推 fgwilliam : 會相信某郭的話,柯憐啊02/06 12:31
推 CLisOM : deepssek不會起來因為中國硬體受限,但openAI也會 02/06 12:32
→ CLisOM : 受創因為一堆企業有了開源能以更低成本與openAI競 02/06 12:32
→ CLisOM : 爭,美國企業也能用開源02/06 12:32
推 fluffyradish: 畢竟是文組… 02/06 12:32
推 seemoon2000 : 我覺得還是早點收費吧 這個用到很躁02/06 12:33
→ DPP48 : 不爽自己架70B啊02/06 12:35
→ wr : 上一個改變世界的科技是網路 下一個估計就是AI了02/06 12:35
→ b9513227 : 高能兒說不用堆效能的不是嗎 02/06 12:37
→ swimbert : 沒有買到足夠算力02/06 12:39
推 good5755 : 沒買到NV卡還是有差02/06 12:40
推 ssarc : 虛擬的前提都是實體02/06 12:42
推 sheng76314 : DS頓就馬上切一個 現在都有整合的 一次幾個再用02/06 12:44
推 mainsa : 低成本又多人用塞成垃圾蠻合理的吧02/06 12:44
→ IBIZA : 自己裝一台啊02/06 12:52
→ IBIZA : 開源的東西,最方便的就是你自己可以搞一台出來自己02/06 12:55
→ IBIZA : 用02/06 12:55
→ WTF55665566 : 用過開源自己載下來的 不會比線上好用 除非你公司02/06 12:56
→ WTF55665566 : 要一個團隊自己去訓練 或是你是很熟底層代碼處理的 02/06 12:56
→ WTF55665566 : 專門人士02/06 12:56
→ WTF55665566 : 你顯卡設備不夠力跑的更慢02/06 12:57
→ WTF55665566 : 結論就是這個世代AI就是決戰算力 誰掌握越多優勢越 02/06 12:59
→ WTF55665566 : 大 跟蒸汽機時代的煤礦 內燃機時代的石油一樣02/06 12:59
→ ssarc : 自己組?我為什麼不換一家用就好 02/06 12:59
推 beavertail97: 使用者付費很合理,但還是希望gpt月費降價 02/06 13:02
→ IBIZA : 不用訓練啊 直接裝訓練好的02/06 13:02
→ IBIZA : 你裝起來就跟線上的一樣啊 02/06 13:02
→ IBIZA : 還可以自己調參數 關filter02/06 13:02
噓 a19851106 : 他資料就到2023阿02/06 13:03
→ IBIZA : 企業當然會喜歡自己裝 機密資訊不外流啊02/06 13:03
推 WTF55665566 : 然後企業要訓練終究要提升硬體算力 02/06 13:05
→ WTF55665566 : 個體戶自己載下來麻煩的要死 像是翻譯 我弄下來還02/06 13:06
→ WTF55665566 : 要再搞幾個相關需要的翻譯模型 不然那翻出來的品質02/06 13:06
→ WTF55665566 : 搞不好比谷歌機翻更爛02/06 13:06
→ WTF55665566 : 重點是弄完這些要算還是比網頁版慢 那搞笑嗎?02/06 13:06
推 NexusPrime : 早就說過了,訓練成本低又如何,你要多人使用就是02/06 13:06
→ NexusPrime : 看硬體能力02/06 13:06
→ qxpbyd : 買perplexity pro啊,免費的就這樣02/06 13:07
噓 squelch : 我問 真值表 狀態轉移表 跟激勵表 三者是什麼關係02/06 13:08
→ squelch : 以JK正反器 怎麼換算 只有R1答對 。你是要問問題還02/06 13:08
→ squelch : 是要轉成檔案輸出?檔案 輸出是付費功能 02/06 13:08
→ IBIZA : 搞不清楚狀況的是你吧, DeekSeek用零頭的算力就能服02/06 13:08
→ IBIZA : 務40%的user02/06 13:08
→ IBIZA : 能服務多少人是 總算力/ per算力 02/06 13:09
推 n8526781 : 怎麼沒人用gemini嗎?免費的,原po的問題一問就給02/06 13:10
→ IBIZA : per算力低 服務同樣的人 總算力就低 02/06 13:10
→ IBIZA : WTF, 我已經跟你說了 不需要訓練 02/06 13:10
→ IBIZA : 除非你是要訓練自己特殊任務的模型02/06 13:11
→ IBIZA : 不然DS是安裝後就能開始回答問題的 02/06 13:11
→ dferww55 : 服務40%,但是很卡,幾乎跑不動02/06 13:11
→ IBIZA : 但他的總算力可能只有ChatGPT的1/100甚至更低02/06 13:12
→ IBIZA : 1%的算力能服務40%的人02/06 13:12
→ dferww55 : 服務40%只是指下載人數吧,我也有下載但幾乎跑不動 02/06 13:12
→ dferww55 : 還是只能回去用GPT02/06 13:12
→ SRNOB : gemini 垃圾 還有DEI色彩 氣死02/06 13:13
→ IBIZA : 40%是指每日活躍使用人數02/06 13:13
→ HiuAnOP : DeepApple飢餓行銷!02/06 13:15
→ NexusPrime : 40%的人又不是同一秒一起問,同時問我看只能服務幾02/06 13:16
→ NexusPrime : 千人02/06 13:16
噓 LMgogo : 2000萬的免錢仔 要錢剩多少02/06 13:20
→ xammmmm : 話說他的模型有開源嗎?02/06 13:27
→ IBIZA : 用比例計算 理論上同一時間應該比例也差不多啊02/06 13:29
→ IBIZA : 甚麼叫做模型開源. 02/06 13:29
推 WTF55665566 : 我就跟你講我自己嘗試過了本機運算了 純搞語音模型02/06 13:29
→ WTF55665566 : 沒有外加別的 翻譯的還比機翻爛 我還得自己手動調02/06 13:29
→ WTF55665566 : 整一堆… 不如回去用GPT線上 02/06 13:29
→ IBIZA : 模型=程式+訓練, 能開源的只有程式02/06 13:29
→ IBIZA : GPT線上你是用API才能訓練自己模型 02/06 13:30
→ IBIZA : 你自己裝本機運算是怎麼訓練自己模型? 02/06 13:30
推 xammmmm : 原來如此感謝分享02/06 13:33
→ zzahoward : 本機運算? 你用哪個版本的? 02/06 13:37
推 TaiwanUp : 不買越多 花越多02/06 13:38
推 guowei616 : 胡扯 中吹說一台電腦一張顯卡就能運算02/06 13:38
推 cosmite : 算力不足 繼續吹 哈哈02/06 13:42
→ Leo4891 : 最終要搶市占率 你還是需要算力 在那說多省都沒 02/06 13:42
→ Leo4891 : 用 是客家人喔02/06 13:42
→ Leo4891 : 至少要像搜索引擎這樣順暢才行02/06 13:43
→ zzahoward : 八成不是跑671b的02/06 13:45
→ kapiobhee : 這樣不好嗎 難道給gpt擠牙膏02/06 13:46
推 guagua1101 : 所以乖乖來買gb200吧02/06 13:47
→ zzahoward : DS本身爆紅是因為他的模型...02/06 13:51
推 WTF55665566 : 模型優化很快團隊就能拆解跟上 這幾天Chatgpt變強02/06 13:54
→ WTF55665566 : 馬上證明這一點 但算力是你實打實的天險 你要怎麼02/06 13:54
→ WTF55665566 : 在人家優化模型的前提下用比較差的算力來競爭?現02/06 13:54
→ WTF55665566 : 在不就是證明無法了? 02/06 13:54
→ loopdiuretic: 用過還真的蠻難用的 不過未來可期….吧02/06 13:54
→ WTF55665566 : 怎麼為覺得人家家大業大 會研究不出你deepseek的優02/06 13:55
→ WTF55665566 : 勢? 02/06 13:55
→ zzahoward : 拆解是因為人家開源...大模型堆硬體大家都知道02/06 13:55
→ zzahoward : WTF56你都還沒說你本地布署的版本是哪個 02/06 13:56
→ zzahoward : 你說R1難用 結果R1能力公認的強 02/06 13:57
→ zzahoward : 現在大家說難用是因為DS本身的server被擠爆了02/06 13:57
→ zzahoward : 至於個體戶算力 大概5~6tkn的機器就可以處理多數 02/06 13:58
→ zzahoward : 問題 難一點的或長一點的20tkn也夠嗆了02/06 13:59
推 WTF55665566 : 說白一點就是 要優化模型既然比堆算力容易 那大團02/06 13:59
→ WTF55665566 : 隊要優化拆解跟上以後又擁有你無法比擬的算力你要02/06 13:59
→ WTF55665566 : 怎麼競爭?還不是得拼算力差距? 02/06 13:59
→ WTF55665566 : 啊怎麼deepseek就會被擠爆CHATGPT就沒有被擠爆?這02/06 14:00
→ WTF55665566 : 不就是差距?02/06 14:00
推 as6633208 : 真的卡到用不了==02/06 14:00
→ as6633208 : 問第一題還可以,第二題幾乎就死了02/06 14:00
→ WTF55665566 : 得回去看才曉得 我試過好幾個大語音模型 不過結論02/06 14:01
→ WTF55665566 : 是都不會比其線上版好用 除了GPT這種最新沒開源無02/06 14:01
→ WTF55665566 : 法驗證外02/06 14:01
推 as6633208 : deepseek本地要好用還真得看情況,前天才用過別人本02/06 14:06
→ as6633208 : 地部署的ds r1回答品質完全不如網頁的,本地的等很02/06 14:06
→ as6633208 : 久答案還是錯的,而且越錯越離譜,然後現在網頁那個 02/06 14:06
→ as6633208 : 也幾乎用不了,嗯,我評價不如gpt,即使是網頁的dee02/06 14:06
→ as6633208 : pseek回答第一次品質不錯,但接著問就會發現答案越02/06 14:06
→ as6633208 : 問越發散越離譜,非創作類的業務根本用不了 02/06 14:06
→ zzahoward : 你們電腦配備是不是不行啊02/06 14:08
推 Morphee : 可憐啊 我本地端用671b,用到飽 02/06 14:17
推 beariscut : 最好自己裝跟deepseek會一樣 光Azure的deepseek就 02/06 14:18
→ beariscut : 跟官方不一樣了 說是開源但還是很多多細節沒公開02/06 14:18
→ zzahoward : 該換顯卡啦 或是用我那篇那方法把模型全丟RAM跑 02/06 14:18
推 duriamon : 那個WTF本來就亂講話,他根本不懂裝懂啦!呵呵!02/06 14:20
推 KrebikShaw : DS真的會越問越離譜02/06 14:21
推 DPP48 : 搞不好是用到1.5b的02/06 14:22
→ DPP48 : 呼叫LDPC大佬解惑 02/06 14:23
推 zxcas : 手機版gpt一直閃退,根本也是爛東西02/06 14:25
→ IBIZA : 本地部署的你要看是多少b參數的 671b的就跟DS的一02/06 14:41
→ IBIZA : 樣啊02/06 14:41
→ IBIZA : 大模型堆硬體是沒錯 但堆怎樣的硬體還是有差02/06 14:42
→ IBIZA : DS 671b大概20萬的機器就能跑02/06 14:43
→ a9564208 : 不是被ddos 嗎?02/06 14:43
→ IBIZA : Azure的DS r1有部署chatbot嗎?02/06 14:48
推 as6633208 : deepseek 同一串真的會越問越發散,你要做一長串反02/06 14:55
→ as6633208 : 覆詢問的邏輯推理還是得用O1或claude,ds問到第三個02/06 14:55
→ as6633208 : 次就常常發散到外太空去了,收斂不回來原本問題 02/06 14:55
→ zzahoward : 671b就我之前發那篇文就跑很順啦 還不用GPU02/06 14:56
→ zzahoward : 8tkn的產出夠嗆了02/06 14:57
→ s12111424 : 免費仔還嫌哦 02/06 15:46
推 rommel1990 : 當免費仔的下場02/06 16:07
→ ImHoluCan : M7 02/06 16:11
→ ImHoluCan : Deepseek真的爛,剛剛問個旅遊問題,要好久02/06 16:12
※ 編輯: ImHoluCan (223.141.220.124 臺灣), 02/06/2025 16:22:42
推 skyyo : DS黑才搞笑 02/06 19:30
→ skyyo : 1.先黑人家禁詞被電 02/06 19:30
→ skyyo : 2.再黑人家蒸餾貓咪釣魚圖又被電 3.現在終於DS顯露 02/06 19:30
→ skyyo : 出算力的不足(其實day1就是算力不足) 02/06 19:30
→ skyyo : 又趕快跳出來嗆聲 轉彎轉彎再轉彎就是要嗆DS 02/06 19:30
→ skyyo : 反而股版版眾大多中肯評估 DS禁詞沒差是事實 蒸餾沒 02/06 19:30
→ skyyo : 差也是事實 模型有強還是事實 算力不足慢成龜也是股 02/06 19:30
→ skyyo : 版先發現 02/06 19:30
→ skyyo : 真不懂DS黑憑什麼覺得自己有資格說話 02/06 19:31
噓 ninggo : 開源模型本來就不是拿來安裝即用的app 好不好用是 02/07 00:05
→ ninggo : 要看微調的技術 不會微調的人想必也沒有摳api的需 02/07 00:05
→ ninggo : 求 還是乖乖付月租費吧 02/07 00:05
推 phoenixtwo : 你少說一點 把別人成果吹成自己的 02/08 00:06