[問卦] 沒人發現ChatGPT 會在本地跑模型嗎

[Supasizeit (Shitpost King)]

我就覺得奇怪

為什麼ChatGPT 在手機上這麼耗電

然後用桌面版（不是網頁版）風扇會轉起來

是不是在偷挖礦

一問之下

ChatGPT 承認會在本地偷跑一些小模型

說是要加強反應速度跟品質

偷偷吃我的資源這樣對嗎

有沒有卦

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.204.195.174 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1763398609.A.E31.html
推 la8day: https://i.imgur.com/vacXfMu.jpeg
噓 iverson0991: 隨便，幹
→ luckyalbert: 好像是迎合你用語的廣告模型
→ ah937609: 你會吉嗎
→ luciffar: 我問他 他說不會啊
→ leftless: 你太看得起你的電腦了
推 skywgu: App總共資料才200MB….是有附加什麼模型
→ skywgu: 在手機裡啦….
→ luciffar: PC 要怎樣才能跑本地 LLM？ChatGPT 官方
→ luciffar: 沒有 PC 本地版。
→ luciffar: ChatGPT 網頁版永遠是雲端，不可能啟動
→ luciffar: 本地模式。 本地 LLM 需自己安裝（
→ luciffar: Ollama 最簡單）。 能跑多大模型主要
推 luckyalbert: 他的回答有中間一句盲點：
→ luciffar: 看你 GPU 的 VRAM。
→ luckyalbert: 即使你啟用「Memory」記住一些資訊：
→ luckyalbert:   也不會被用來投放廣告
→ luckyalbert:   只用於改善你的對話體驗
→ luckyalbert:   不分享給外部第三方
→ luckyalbert: 改善你的對話體驗
→ luciffar: 所以桌面板的CHATGPT是啥?
推 luckyalbert: 他說的是瀏覽器吧，我沒用過我也不知
推 luciffar: 大概是WIN商店裡面的APP 這我沒用過
→ luciffar: FOR PC的好像是沒有.EXE
→ luckyalbert: 我之前問過ChatGPT樓主在問的這種問
→ luckyalbert: 題，剛剛又再問一次，裡面回答就是改
→ luckyalbert: 善你的使用體驗這句有差其餘的都一樣
噓 fransice7: 不知道 ； 我都用 Grok 跟 Gemini 。
→ Supasizeit: 跑embedding啊 預分析語意啊 圖片處
→ Supasizeit: 理啊
→ Supasizeit: 網頁版我的對話量都跑到他卡死  此時
→ Supasizeit: 要用app才能繼續
推 NX9999: 看一般網頁也會需要啊=_=你開youtube有的
→ NX9999: 沒有的都要資源啊
噓 adios881: 換NPU 就不會ggyy
噓 hsu0612: 草包
→ newwu: 沒什麼道理需要這麼做
推 pizzafan: https://youtu.be/-j-UOOCYogo?t=117
→ suspend: 好讚哦，我也想要這樣