推 tank44444: 抽掉Claude，其他模型重新驗證要太久 122.116.39.42 03/02 00:17
→ xixixxiixxii: 美能你不能111.242.218.169 03/02 00:21
※ 引述《tank44444 (tank)》之銘言：
: 紐約時報國安評論員漢尼根（W.J. Hennigan）指出，Anthropic在2024年底成為首家參與
: 美國機密軍事網路計畫的大型AI實驗室。儘管軍方合約占Anthropic業務的比例很小，但
: Claude卻是美國國安體系中應用最廣泛的模型。該技術使世界各地的美軍與情報人員能夠
: 在瞬間整合並交叉比對海量的機密資訊。 據報今年1月，美軍在抓捕委內瑞拉領導人馬杜
: 洛的行動中就使用這項技術。
2/23 Anthropic公司發表公告，提到中國模型公司透過「蒸餾」方式，
用了兩萬多個假帳號，花了一千六百多萬次竊取Claude的能力，
包括代理推理、工具使用、程式編碼能力。
AI說這三種能力正是能辦到上述技術的核心關鍵能力。
這可能使得美國國防部感到緊張，因為中國模型偷了這些能力，
代表中國官方也可能用這種能力來從事類似的軍事作戰。這牽涉美國的國安問題。
Anthropic 2/23公告內容:
====================================================================
外國實驗室如果能夠提取美國的技術模型，就可以將這些未經保護的能力輸入到軍事、情
報和監控系統中，從而使專制政府能夠利用前沿人工智慧進行網路攻擊、虛假資訊宣傳和
大規模監控。如果提取的模型被開源，這種風險將會倍增，因為這些能力會不受任何單一
政府的控製而自由擴散。
====================================================================
另外，上面那段報導讓我想到一件事，以下純粹是我的猜測(AI有驗證過邏輯合理性)。
上面那段報導寫的「瞬間整合並交叉比對海量的機密資訊」，
所謂的海量機密資訊，也許有用到大規模民眾的個資？
利用AI的這種能力能夠推理出，某月某日目標人物可能會出現在哪裡，
這能幫助軍方精準抓到人，即使是跨國行動。
不過，如果上面那段報導真的有用到大規模個資做監控，
很有可能得分析大規模美國民眾的個資，因為委內瑞拉販毒網是遍及全美的。
假如以上猜測為真，代表在今年一月初委內瑞拉作戰發生前，
美軍就已經使用AI對美國民眾做大規模監控了。
為什麼二月中要放出風聲給媒體說，委內瑞拉作戰是用Claude？
這很不合理，軍方通常不會透露實際上用了哪種技術成功完成作戰，
川普不透露電子戰是怎麼讓委內瑞拉境內雷達失效，
美國國防部卻直接點名，委內瑞拉作戰是靠Claude找到目標在哪。
然後到二月底又正式透過媒體放話說要召見Anthropic家CEO，
還威脅說2/27下午前如果不同意「合法使用」就列入供應商風險名單？
委內瑞拉作戰時明明可以使用的能力，為什麼到了二月得威脅要A公司開放？
我猜可能是被A公司知道，發現查委內瑞拉領導人所在地有動到大規模美國人個資，
導致安全人員封鎖了這項能力，才會使得國防部得要求開啟。
並不是原本沒有得用突然要求要，而是原本可以用被封了？
1/3 委內瑞拉作戰
2/9 安全部門主管Sharma離職(發表的公開信提到: AI輔助的恐怖生物主義、生物武器)
2/16 有媒體報導Claude可能被用於委內瑞拉作戰
2/23 A公司發表被中國模型公司蒸餾的公告
(提到恐怖份子可能利用安全門檻低的中國模型研發生物武器)
2/24 A公司發表新的安全倫理策略RSP ver.3(提到生物武器防禦等級升至ASL-3)
同一天美國國防部召見要求同意合法使用
並要求放棄兩原則(不大規模監控美國人、不自主攻擊)
2/26 A公司CEO發表聲明不改變原則
2/27 美國國防部宣布將A公司列入供應鏈風險
2/28 美國攻擊伊朗
3/2 媒體報導美軍打伊朗有用到Claude
這實在很奇怪，為什麼又要再次透露軍事作戰用了哪種高科技工具？
: Anthropic發言人曾指出，公司未曾與國防部討論將Claude用於特定軍事行動。據報抓捕
: 行動後不久Anthropic便過問此事，讓五角大廈感到不快。赫塞斯當時便直言，不會「採
: 用不允許你打仗的AI模型」。
這段報導很值得思考，看起來A公司不知道Claude被用在軍事作戰上。
本來可能以為幫忙分析防衛情報，沒想到被拿去做目標鎖定與監控？
: 漢尼根則指出，五角大廈終止合作並未讓美國更安全，反而不必要地削弱美國的自衛能力
: 。國防部可能需要6個月的時間才能從內部電腦系統中移除Claude，還得用另一個AI模型
: 填補，而五角大廈尚未找到合適的替代方案。
: 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
: https://udn.com/news/story/6813/9349763
: 6.備註:
: AI的策略一定是核報復吧 ?
: 最新的伊朗行動也用到 Claude，五角大廈真的要割嗎?
我覺得不可能割，因為去年七月就已經跟四家AI公司都簽約，
但卻說只用了Claude於機密系統，代表Claude可能是評估過後被認為最好用的。
不過也有可能因為Claude太強大，如果不願意配合軍事作戰，
繼續放著會被中國模型蒸餾，與其被偷去做危害美國國安的事，乾脆毀掉好了。
那篇蒸餾公告看起來有點恐怖，有興趣的板友可以找來看看
Detecting and preventing distillation attacks
如果蒸餾是中國政府主導的，代表中方將來可以做出比擬Claude聰明程度的模型，
可能拿來對付台灣或其他國家。
就算不拿來打仗也有很大的問題，因為中國模型沒有高標準的對齊，
可能會被全世界一堆怪咖或恐怖份子利用來生成一些害人的東西。
生物武器，總覺得很陌生的詞。問了AI說因為現行AI能幫助一群普通人研發出生物武器。
萬一有哪個蠢蛋亂做弄巧成拙，導致人類大規模受害......
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 45.250.255.20 (日本)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1772381087.A.2CC.html
貼AI文給有興趣的人參考，為什麼Claude能力被蒸餾很嚴重：
==========================================================
完全可以。事實上，你提到的這三項核心能力（代理推理、工具使用、程式編碼），正是
讓 Claude 能夠在軍事情境中**「瞬間整合並交叉比對海量機密資訊」**的底層技術基石
。
我們可以把這段軍事應用，拆解成這三項能力在實務上是如何完美配合的：
1. 工具使用（Tool Use）：打破資料孤島的關鍵
在國安體系中，「海量的機密資訊」通常散落在不同的系統裡：衛星影像資料庫、通訊截
聽紀錄、無人機即時回傳數據、甚至是過往的審訊檔案。
傳統的 AI 模型只能回答訓練過的問題，但具備強大「工具使用」能力的 Claude，可以
被授權去**主動呼叫（API call）**這些外部機密資料庫。當軍方下達「尋找目標（如馬
杜洛）的可能藏身處」時，Claude 可以自動使用搜尋工具、地圖工具、資料庫查詢工具
，瞬間把原本互不相通的情報提取出來。
2. 代理推理（Agentic Reasoning）：AI 化身超級情報分析師
提取資料只是第一步，真正的難點在於如何從一堆混亂、充滿雜訊（也就是我們前一個話
題提到的「高熵狀態」）的情報中找出線索。
「代理推理」讓 Claude 不再只是一問一答的聊天機器人，而是成為一個具備任務規劃能
力的代理人（Agent）。它會自己拆解任務：
步驟一：比對目標近期的通訊定位。
步驟二：交叉比對該區域的衛星影像與交通管制紀錄。
步驟三：排除偽造的誘餌情報，推導出三個最可能的隱藏地點。
這需要極度強大的邏輯推理與抽象思考能力，而這正是那幾家外國實驗室（DeepSeek、
Moonshot 等）不惜動用數百萬次虛假帳號也要「蒸餾」出來的核心技術。
3. 程式編碼與數據分析（Coding & Data Analysis）：即時處理巨量資料
情報戰往往需要處理非結構化的數據。具備頂尖編碼能力的 AI，在遇到無法直接閱讀的
特殊格式檔案，或是需要從幾千萬筆通話紀錄中撈出特定模式時，它可以**「自己寫一段
程式碼」**在後台瞬間跑完分析，然後把視覺化或整理好的結果交給人類指揮官。
把這兩份情報拼湊起來，你會看到一個非常完整的戰略輪廓：
你上一篇提供的文件（Anthropic 遭到大規模蒸餾攻擊）和這一篇紐約時報的報導，兩者
之間有著致命的因果關係。
那些競爭對手與外國實驗室，為什麼對 Claude 的寫詩或聊天能力沒那麼大興趣，卻要瘋
狂針對「代理推理」和「工具使用」進行攻擊？因為他們非常清楚，這正是現代戰爭與情
報分析的「大腦」。一旦他們成功偷走了這套抽象推理與工具協作的邏輯，他們就能把這
些能力放進自己的模型裡，打造出屬於他們自己的自動化情報分析系統。
這也難怪美國國防部會對 Anthropic 的道德紅線感到如此焦慮，甚至引發川普政府的封
殺。因為當一個能夠在瞬間統整海量情報、甚至成功協助抓捕國家元首的超級大腦，卻因
為「不願被用於大規模監控或致命武器」而拒絕完全配合時，在軍方眼裡，這無疑是國家
安全機器的齒輪卡住了一塊巨大的石頭。
※ 編輯: LoveSports (45.250.255.20 日本), 03/02/2026 00:08:15