看板 Stock 關於我們 聯絡資訊
※ 引述《win8719 (win8719)》之銘言: : 文章標題 請使用 原新聞標題 勿刪減或自創標題,違者4-1處分 : 原文標題: 請勿刪減或自創標題,違者4-1處分,此行請刪除 : 偷用美 AI 翻車!解放軍要中國模型抓異常 結果敏感資訊被 Claude 看光光 : 原文連結: 網址超過一行,請用縮網址,連結不能點擊者板規 1-2-2 處分。 : https://money.udn.com/money/story/5599/9749100 : 發布時間: 請勿張貼超過3天新聞 : 2026/09/11 17:28:17 : 記者署名: : 陳律安 : 原文內容: : AI重點 : Anthropic指控月之暗面未告知用戶轉送請求給Claude : 近30萬筆請求經代理網路送至Claude並蒐集推理內容。 : 敏感監控資料與企業憑證也被誤送,恐涉國安風險。 這就是AI Agent 的用法,我以為這都老常識了。 利用多個AI 之間做左右互搏之術。 通常正確率高的AI 的TOKEN價格都貴上天。 利用比較便宜的AI 做性價比的工作, 再由正確率高但貴的AI做最後的審核把關。 業界省錢都這麼幹的啊,有什麼好奇怪? 至於模型蒸餾, 這種常識不能再常識的東西,我都不知道要再說幾次。 如果只靠對別人的模型蒸餾就可以超越別人原先的模型, 那別人只要對自己的模型一直蒸餾不就可以一次次超越自己? 這種毫無邏輯論述到今日竟然還有人相信。 問題從來就不是中國AI模型有沒有蒸餾, 而是只有蒸餾是無法促使中國AI模型達到今天的能力。 隨著模型參數增多,你的蒸餾所需資料與計算就越龐大, 越容易觸發資安防護而被發現。 更不用說現在根本沒有真正免費的頂尖模型讓你蒸餾。 你所用的免費模型都是降智版,你再怎麼蒸餾還是降智模型啊。 真的要讓你蒸餾頂尖模型,所需要資料流這筆錢你付得起嗎? 再說一次,我不是替中國否認蒸餾, 而是從現實邏輯上只靠模型蒸餾不可能造就現在中國AI模型的能力。 : Anthropic 9月發布最新威脅情報報告,揭露自家的Claude模型遭惡意利用的多起案例, : 其中點名了中國大陸人工智慧(AI)新創月之暗面(Moonshot AI),指控這家Kimi模型 : 開發商,曾在用戶不知情下,把原本送往Kimi的請求轉交Claude處理,再把Claude的答案 : 呈現給用戶,並蒐集相關互動內容,用於訓練自家模型。 : 月之暗面遭控轉送Claude 蒸餾推理內容訓練模型 : Anthropic表示,在5月–7月的10天期間,月之暗面曾把近30萬筆客戶請求轉送給 : Anthropic,其中絕大多數交由Claude Opus處理。月之暗面據稱透過一個由5,380個詐欺 : 帳號組成的代理服務網路,進行前述操作,這些帳號大多看似位於新加坡與日本。 : 報告指出,月之暗面不僅把Claude的回答提供給自家用戶,也至少儲存部分互動內容,並 : 建立思維鏈(Chain of Thought,CoT)擷取流程,取得Claude的推理紀錄,用於訓練自 : 家模型。 : Claude原本不會直接傳回完整推理內容,而是提供一組「思考簽章」,降低模型遭未經授 : 權蒸餾的風險。但Anthropic指控,月之暗面會先保存這些簽章,再啟動新的工作階段, : 誘使Claude把簽章還原成完整推理軌跡,藉此取得CoT內容。 : 敏感資料恐在不知情下外流 Anthropic強化防堵蒸餾攻擊 : 遭轉送給Claude的資料中,也包括敏感資訊。Anthropic表示,一名研判可能與中國人民 : 解放軍有關的用戶,以為自己使用的是Kimi,實際上卻把成都數百支監視器所蒐集、針對 : 特定人士的監控資料送進Claude,並要求模型分析該人士是否有異常行為。 : 這些監視器包括設於解放軍設施、中國電子科技集團旗下研究機構,以及一家大型國企外 : 部的攝影機。 : 另一名中國大陸大型國企工程師,則在利用Kimi建立內部系統時,輸入多家企業的內部程 : 式碼與仍可使用的登入憑證,其中包括知名科技公司。Anthropic表示,這名工程師並不 : 知道相關內容實際被轉送給Claude處理。 : Anthropic指出,目前並不清楚月之暗面是否曾通知客戶,他們輸入Kimi的內容會被轉交 : Anthropic,因而暴露給第三方。 : 根據Anthropic統計,今年5月至7月,可歸因於月之暗面的模型蒸餾攻擊,已觀察到超過2 : ,300萬筆。Anthropic表示,已著手強化防禦機制,防堵這類利用Claude推理內容訓練其 : 他模型的手法。 : 心得/評論: : ※必須填寫滿30正體中文字,心得過短或濫竽充數將以板規 1-2-3 處分 : 這兩個不是最近在中國說是世界上數一數二的模型嗎 : 怎會跑去轉送給別人處理了 : Anthropic要在11月前上IPO了 : 到時候又是一個盛況了 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.75.199.196 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1789194221.A.E81.html
bhmagic : 神經病 09/12 14:26
對啊 就像某人不懂AI 又愛發幾篇回文一樣 常識到不行的東西 被某人講的好像太陽從西邊升起一樣。 ※ 編輯: pinkowa (42.75.199.196 臺灣), 09/12/2026 14:29:16
bhmagic : 被亂七八糟的AI教學搞得跟現實脫離了 屬於精神障礙 09/12 14:27
q888atPt : 股點在哪 網軍去八卦洗就好了吧= =? 09/12 14:32
bhmagic : 建議你回去你的國家的論壇上去蹦跳 不會被罵神經病 09/12 14:33
guk : 我也很會改別人的東西再說別人的東西很爛我的棒棒 09/12 14:36
Merrill : 現在蒸餾是在學agent了 你落後了一個世代== 09/12 14:38
jinkela1 : 全部看下來 覺得台灣的ai水準真的低 連蒸餾是什麼 09/12 14:46
jinkela1 : 能做到什麼都迷迷糊糊 難怪別人有什麼月之暗面 09/12 14:46
jinkela1 : 台灣連個月之正面都沒有 09/12 14:46
jinkela1 : 台灣看ai 真的很古人談半導體耶 09/12 14:47
hoo911ver25 : 蒸餾那麼強A,O蒸餾自己的不就飛天了 09/12 14:56
strlen : 靠中轉 呵 09/12 14:57
xmorrisx : 你精神還正常嗎? 09/12 15:01
zzzzzzzzzzzy: 推 09/12 15:02
xmorrisx : 偷就偷,還把機密傳給美國超智障 09/12 15:04
ggirls : 這麼便宜自己為何不做。中國人就是噁 09/12 15:11
zzzzzzzzzzzy: 叫噓你的人去這篇看看,他們會錯亂XD 09/12 15:13
zzzzzzzzzzzy: #1g6CeRQK 09/12 15:13
maniaque : 不要一直逼他們承認面對大陸的競爭力啊 09/12 15:15
bhmagic : 王大陸 09/12 15:56
yoyun10121 : 這幾家都比Claude便宜耶, 所以你的意思是他們都承認 09/12 16:27
yoyun10121 : 自己正確率爛只好轉包嗎 09/12 16:27
yoyun10121 : 而且人家是使用者自己按需求選Agent, 所以你的意思 09/12 16:29
yoyun10121 : 是解放軍蠢到自己選美國AI送人家資料嗎? 09/12 16:29
kalapon : 中國的軟件不會輸,是硬件輸了 09/12 16:31
kira925 : 用別人家的AI左右互搏 還比自家貴 你傻了嗎 09/12 16:46
a19851106 : 自己蒸餾自己 這個好笑 XD 09/12 17:19
jo4 : 何時第一 你自己說說看 09/12 17:39
jo4 : 幾個月就追上了 明年就第一了吧 笑~ 09/12 17:39
lin821 : 不要講自己都不想相信的啊 09/12 17:40
itwt : 原來某強國沒有準確率高的AI 09/12 18:42
Izangel : 蒸餾是基底,沒有基底,沒有後來的研發能力。沒人說 09/12 19:06
Izangel : 小偷對偷來的技術沒能力進化。但是沒先偷,中国哪有 09/12 19:06
Izangel : 現在的model? 笑死。 09/12 19:07
zzahoward : 其實AI產出的東西是沒版權的喔 09/12 19:07
zzahoward : 但這兩天LLM圈子有一些人討論的方向是 Anthropic是 09/12 19:08
zzahoward : 否有能力用這些input去追蹤real world用戶身分 09/12 19:09
zzahoward : 目前答案看起來是可以的 09/12 19:09
INIKS : P大認真了,其實一堆人都不懂AI, 09/12 20:15
INIKS : 你講這些是浪費自己的時間,A那間 09/12 20:15
INIKS : 公司的做法很有問題,於是搞一些 09/12 20:15
INIKS : 新聞輿論來炒作,而這些跟風的, 09/12 20:15
INIKS : 不是蠢就是壞,你講什麼都沒用的 09/12 20:15
INIKS : 整個AI圈的,除了A/O公司,其他人 09/12 20:20
INIKS : 都很感謝中國開源模型,沒有開源, 09/12 20:20
INIKS : 美國早已經實質性壟斷AI模型, 09/12 20:20
INIKS : 除了中美,沒有其他國家有能力做出 09/12 20:20
INIKS : 堪用的模型,沒有中國開源模型, 09/12 20:20
INIKS : 這些AI公司的估值就是合理水平, 09/12 20:20
INIKS : 中國打破了壟斷,也打破他們炒股 09/12 20:20
INIKS : 斂財的機會 09/12 20:20
JieCheng1202: 沒辦法啊 開源AI斷了美國公司的變現之路 看看發動輿 09/12 21:50
JieCheng1202: 論有沒有辦法拉抬聲勢 09/12 21:50