Re: [討論] 其實Deepseek真的很厲害了

[ZMTL (Zaious.)]

DeepSeek可以下載到自己電腦跑、ChatGPT不行，
這在商業使用的場景上就有蠻大的差異

昨天很多人在傳說用(線上版)的DeepSeek會把資料傳給中國，這當然是對的，
但過去一兩年我們幫客戶評估AI專案時，
在串GPT-API上常常會碰到我們或我們的客戶其實也不想把資料傳給OpenAI，
即使最後都只能用"你不相信OpenAI不會看你就沒辦法繼續開發"
然後簽署一堆法律文件，我們中間服務商的免責聲明，
讓客戶"確認"是自己同意把資料給OpenAI。

另外幾個會被討論到的問題包括
a.如果OpenAI突然掛掉(過去一年發生過幾次)那我們的服務怎麼辦
b.我們很難給出服務的流量成本的報價，因為Token費用難以預估又很容易隨OpenAI調動

以上這些問題如果是用本地的語言模型都是能解決的，
但過去這一年始終沒有測到性能勾的到GPT4o的邊、中文也不錯的本地語言模型

主要是我們產業通常需要AI的回答有一些發散性的思考，
台灣幾個拿國外開源改的語言模型在文字創作能力上弱太多了、
Llama3等則是中文還是有障礙，這都會成為未來DeepSeek在台灣迅速被導入的機會


然後，
剛剛微軟宣布把DeepSeek導入它們的雲端平台了
https://bit.ly/40FBcSe


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.238.93.111 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1738207062.A.6C7.html
→ Suleika: AI哥 可是重資安不是會自架LLM嗎 根本不會考慮API吧
在DeepSeek之前一般企業根本沒有能力自己訓練LLM啊，
我指的是那種回答內容能進行商業服務等級的LLM哦。

如果你是說佈署開源的話，對，但因為GPT4o還是太厲害了，就變成要取捨
在乎資安用Llama等等，還是適當的 #相信OpenAI 因為只有他能用沒辦法

→ Suleika: 傳到歐美是傳 傳到中國也是傳 不在意的都用deepseek了吧
但現在是可以在本地佈署DeepSeek了，或透過微軟的Azure

→ spfy: 大部分導入AI的公司根本沒能力自架
※ 編輯: ZMTL (36.238.93.111 臺灣), 01/30/2025 11:25:49
推 gino0717: 老黃他的jetson系列又有新題材可以賣了
→ Ceferino: 傳到哪就假議題找藉口，就意識型態作祟而已
推 wayneshih: 我在左膠舔共歐洲公司工作也是被公司禁止使用DS
→ xxxzxcvb: 現在能自架就不用傳了
推 icq150220: 剛剛看新聞才說微軟要調查是否不當獲取資訊，怎麼現在
→ icq150220: 就把人家加進去了
推 RandyOrlando: 之前蘋果也搞用siri偷聽使用者對話 被告判賠的事情
推 guogu: 你要可以下載的以前也很多啊
很多啊，但能力都達不到中文的商業場景使用的水準啊

推 sinnerck1: 微軟動作真快w
推 miyazakisun2: 聽起來很像AI生成圖一樣可以把者個模型都給下載下來
推 tsukasaxx: 所以相信中國不相信微軟嗎
※ 編輯: ZMTL (36.238.93.111 臺灣), 01/30/2025 13:30:02
推 Peurintesa: 自架LLM?要商用除了那幾個科技巨頭有哪家企業辦得到
推 healworld: 反正開源他就沒打算賺了，但對歐美領先者的打擊非常有
→ healworld: 效，傑出的一手
推 blessbless: 推
推 osamu:   這下上面除了不用星鏈以外、windows也要蛋雕了?