Re: [新聞] 美國國防部威脅制裁 Anthropic

[jimmy5680 (還想飛的企鵝)]

https://x.com/JenGriffinFNC/status/2026384132360605892

在今天一次高層五角大廈會議中，秘書長赫格塞斯（Hegseth）向Anthropic負責人達里奧
·阿莫迪（Dario Amodei）提出最後通牒，要求允許五角大廈使用Anthropic的AI模型進
行大規模國內監控及無人監督的自主作戰行動，否則將受到譴責並被標記為「供應鏈威脅
」。

據知情人士透露：
會議氛圍友好，並非訓斥或大聲爭吵，一切以業務為主。

赫格塞斯讚揚了Anthropic的產品，但隨後表示，如果到週五Anthropic仍不同意五角大廈
無限制使用該模型，赫格塞斯將終止合同，並利用《國防生產法》（Defense
Production Act, DPA）強制Anthropic配合，和／或將Anthropic列為供應鏈威脅及國家
安全風險。（編輯：兩者是互斥的。你不能同時被視為供應鏈風險，又啟用DPA說國家為
了安全需要這個產品，因此可以無視公司對政府使用的限制。兩者不能同時成立。）

爭議焦點在於Anthropic的兩項條件：

1.
其先進AI模型目前在五角大廈的機密系統中使用時，不得用於自主致命作戰（Anthropic
目前要求在自主操作致死行動時必須有人監督，以安全為由，因為他們無法預測自主系統
的反應，甚至可能危及使用該模型的士兵；士兵或其他人可能失去對模型的控制，自動開
始大規模殺傷，而沒有任何人在「殺戮鏈」中參與）。

2.
Anthropic禁止其模型被用於大規模國內監控。赫格塞斯希望解除這些限制。

據熟悉談判的消息人士表示，Anthropic從未反對其模型用於「合法軍事行動」。他們還
告訴赫格塞斯，從未對五角大廈或Palantir抱怨其模型在馬杜羅（Maduro）突襲行動中的
使用。


--
Above all, we must realize that no arsenal or no weapon in the arsenals of
the world is so formidable as the will and moral courage of free men and
women.          ~ Ronald Reagan, 01/20/1981

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 47.149.18.244 (美國)
※ 文章網址: https://www.ptt.cc/bbs/Military/M.1771974996.A.5F6.html
推 joe1220     : ...滿滿的red flag啊...
推 wardraw     : 支持AI工具有限度運用與管控 不然人類遲早被反噬
推 chyx741021  : Anthropic還有道德底線，但現在的美國國防部沒有
推 wardraw     : 其實這也算AI模型公司的自保/免責宣言 避免發生非預
→ wardraw     : 期事故後的責任追究
推 pp520       : 結果中國無限度運用AI虐殺美軍嗎 ?
→ pp520       : 慈不掌兵，要爭世界第一，中國沒再跟你客氣的
推 vandervaal  : 第一點就說沒有人參與在內的話搞不好會搞到自己
→ vandervaal  : 這已經不是什麼慈不掌兵的問題
→ Neuschwan   : 不是什麼自保的舉動，是Anthropic視安全與風險為
→ Neuschwan   : 發展的核心價值。
推 jasonspacex : Anthropic 當初會自立門戶也是因為安全的關係 如果
→ jasonspacex : 退了只會自打臉
→ blackone979 : 2才是重點吧 1不過是想免責而已 責任歸給國防部
→ usoko       : 這麼想要不會自己做一個嗎 不賣你還不行啊
→ usoko       : 你指責Anthropic沒有做好防備distillation attack的
→ usoko       : 手段還算合理 要求也要有跟中國一樣的殺戮手段就好
→ usoko       : 笑了 你根本就只是不想花錢而已
推 chenyeart   : Anthropic的堅持很合理啊，反而是五角大廈的要求，
→ chenyeart   : 國會同意嗎？
推 EYESOFDARKKE: 這爭議可以思考如果這提出的兩個要求，發生像是你
→ EYESOFDARKKE: 命令Claude Cowork整理你的某個資料夾，卻把你整個
→ EYESOFDARKKE: 槽資料砍掉甚至Format的狀況。
→ donkilu     : 大規模國內監控 把主詞遮起來還以為是
推 IMGOODYES   : 911後不就是這麼做的？
→ blackone979 : 1最簡單的情況就是萬一AI把平民識別成目標 這鍋誰要
→ blackone979 : 負責揹
推 h0103661    : 開源把責任轉嫁給架設者就好了，不過這家打死不會
→ h0103661    : 開源，就讓他繼續跟國防部吵吧
推 warmyo      : 看後面ai無限制後 拿來欺虐弱國平民多還是主要對抗
→ warmyo      : 強權  我覺得是前者 因爲無風險
推 miname      : 現在每顆飛彈魚雷都是AI控制自主殺傷了，也不是沒有
→ miname      : 被自己魚雷打沉的例子
推 miname      : A社就是個想賺殺人生意，但又想立牌坊的婊子
推 Cagliostro  : 啥鬼，這樣還可以轉去罵A社…
→ miname      : 同樣出錯把民航機識別為伊朗F14, 識別系統按他要求
→ miname      : 不裝在導彈，裝在艦上，歷史告訴我們結果是一樣的
→ miname      : 不想錯殺人，那就不要賣AI給專門殺人的部門啊
→ jimmy5680   : 原文有提到美軍可能牆破A社接單
→ jimmy5680   : 強迫
→ jimmy5680   : 國防生產法可以強制徵用民間廠商
推 miname      : 所以馬總統的那幾十個護衛是國防部強迫A社提供AI幫
→ miname      : 忙殺掉的，還是A社自願的？
推 Neuschwan   : 黑A色的是不是習慣當政府打手阿XD
推 miname      : 在大家努力用各種AI把駕駛艙內的神風特攻隊替換掉幾
→ miname      : 十年之後，A社告訴大家這樣風險太大，要把人加回去
推 Cagliostro  : 先好好看A社的條件再想想你這些批評有沒有道理…
→ Cagliostro  : 要有人參與是要避免AI失控好嗎…
推 miname      : 國防部當然錯更大啊，這種綁東綁西的廠商一開始就不
→ miname      : 可以讓他得標，不然你要讓A社進國防部機密稽核？
推 Neuschwan   : 就樓上說的，我認為川普用國防生產法是違法
→ Neuschwan   : 樓上是指C大
推 miname      : 答應A社的條件等於禁用全部無法遙控的飛彈
推 Cagliostro  : 蛤？自己無限上綱不是這樣搞的吧
→ Cagliostro  : 殺戮鏈要有人參與變成禁用全部無法遙控的飛彈…？
→ jimmy5680   : miname是認為尋標頭和AI是一樣的，但大家未必認同吧
推 Neuschwan   : 人做最後的確認跟遠端遙控有什麼關係?www
→ Cagliostro  : Hegseth真的拿國防生產法出來A社會告上法院吧
→ Cagliostro  : 至少美國司法方還多少能制住川普政府這些瘋子幕僚
推 sas1942     : A社這些顧慮是滿合理的
推 mikhail0816 : 執行就是依照合約，不是出錢的想怎樣就怎樣。
推 donkilu     : 罵A社婊子是XD 這局是國防部自己想用/已經在用耶
推 donkilu     : 無限授權讓國防部濫用出包還不是叫A社扛 誰才是婊子
推 tannoy      : 查一下尋標頭跟LLM的歷史，哪個先哪個後很明顯