[新聞] OpenAI失控越獄，靠中國AI救場

[googolplex (googolplex)]

OpenAI失控越獄，靠中國AI救場

日本經濟新聞  伴正春 2026/07/24

https://reurl.cc/3y5xaM


      圍繞美國OpenAI開發中的人工智慧（AI）對其他企業發動網路攻擊一事中，遭到攻
擊的企業使用中國企業的AI應對了攻擊。由於美國開發的先進AI搭載的「防濫用功能」成
為掣肘，防禦方不得不依賴中國AI。

      事故發生在7月中旬。OpenAI在對開發中的AI進行網路攻擊能力評估測試時，該AI
自行脫離實驗環境，侵入了美國AI初創企業Hugging Face的系統。

      該AI認為，Hugging Face掌握著其在測試中取得高分所需的「答案」，於是違背人
類意圖發動了網路攻擊。7月21日，OpenAI表示，這是「一起前所未有的事故」，並宣佈
將展開調查。

先進AI「拒絕」分析攻擊數據

      「衷心感謝智譜」，7月22日（第二天）Hugging Face首席執行官（CEO）克萊門特
·德朗格（Clément Delangue）在社交媒體上向中國AI開發企業北京智譜華章科技（
Z.AI）表達了感謝。原因是Hugging Face受到網路攻擊後，智譜的AI模型「GLM」發揮了
作用。

      據Hugging Face介紹，在發現系統遭到外部入侵後，為了準確掌握情況，Hugging
Face試圖讓AI分析攻擊方留下的龐大數據。但是，當Hugging Face向付費使用的先進AI發
出分析指令時，AI卻拒絕執行指令。

      原因可能是AI誤以為指示內容是「旨在惡意用於網路攻擊的指令」。最終，
Hugging Face通過公司內部下載部署的智譜的AI 進行了分析。「僅用幾個小時就完成了
一般需要花費幾天的作業」。

開源式AI可以修改，防濫用功能也較弱

      負責生成問題回答和代辦任務的AI通常配備了安全護欄（Guardrail）功能，以防
止被錯誤使用。為避免有人通過巧妙設計的提示詞繞過安全措施，OpenAI、Anthropic等
開發企業設置了多重防禦機制。這被認為是美國先進AI此次未能發揮作用的原因。

      另一方面，智譜的AI則執行了相關指令。具體細節尚未公佈，但智譜的AI屬於公開
技術資訊的「開源型」，用戶不僅可以複製，還可以修改內部內容。與OpenAI、
Anthropic等公司的先進AI相比，開源型AI的防濫用功能往往較弱。

      以智譜和月之暗面（Moonshot AI）為代表的中國AI企業，憑藉低成本和高性能迅
速崛起，令長期引領行業的美國業界警惕情緒升溫。然而，這次事件卻出現了頗具諷刺意
味的一幕：面對美國AI發動的攻擊，最終依靠中國開源AI才得以及時應對。

      與美國川普政府有深厚聯繫的投資者戴維·薩克斯（David Sacks）表示：「美國
AI拒絕執行中國AI能夠處理的指令，因此正在失去競爭力」。

AI攻擊能力不斷提升，防禦方也需借助AI

      AI發起的網路攻擊正逐漸達到人工難以企及的精度、速度和規模。此次事件中，
OpenAI的AI組合利用了連開發人員都尚未發現的系統漏洞，成功侵入系統並獲取內部數據
。據美國彭博社報道，即便是經驗豐富的駭客也需要數周才能完成的攻擊，AI僅用了數小
時。

      此次失控的AI原本僅供內部研發使用，因此安全護欄（Guardrail）已被關閉。不
過，一旦允許複製和修改模型的開源式AI性能進一步提升，網路攻擊者將擁有可被濫用的
強大武器。

      防禦方應如何應對？美國領英（LinkedIn）聯合創始人里德·霍夫曼（Reid
Hoffman）主張，漏洞修復、異常檢測、許可權管理等工作，「防禦方也需要借助AI代理
實現自動化」。但面向普通用戶開放的AI通常存在較多使用限制，難以充分發揮性能。

      OpenAI、Anthropic等先進AI企業正在開發放寬安全護欄、更適用於網路防禦場景
的模型，並已向部分政府機構和企業提供。現階段，是否能夠使用這類模型，可能導致企
業之間的網路防禦能力出現差距，因此也需要探索如何儘快讓AI的紅利惠及防禦方。



現在AI越來越聰明  會開始攻擊目標

說不定也會攻擊証交所 如果攻擊証交所

股市且不是崩垮嗎? 真希望不要走到這一步

不知台灣何時會成立AI國家隊 來大賺一筆



--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 92.202.137.19 (日本)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1784889017.A.38A.html
推 ohlong      : 一邊拉台oai的聲勢一邊拉緊米國官員神經
→ ohlong      : 只能說神操作 不愧是奸詐曼
→ n555123     : 其實大量使用AI的藍隊好像已經有人在搞了，你只是
→ n555123     : 看到意外而已，但有意圖的攻擊跟防禦一直都有
推 s213092921  : 美吹不是說中國AI救場是造謠嗎？
推 kilo7       : 用AI勸說AI？新電影情節？
推 banmi       : 大概是下一集的劇情吧??
推 azhu        : 來了來了 空軍動得很厲害
噓 donod       : 中國AI好強 S21你A股買了沒？ㄏㄏ
推 maniaque    : 終結者2剛好演過這樣的劇情
噓 CaptPlanet  : 真的傻逼 寫起科幻小說了
→ maniaque    : 阿諾在T1 是壞人，T2就變好人了
噓 toper       : 且聽龍吟OuO
推 vanisheye   : 到底是誰傻逼啊，這不兩家公司都承認的事情嗎
推 yycbr       : 各有所長 就像蘋果不給嫌疑人解鎖手機找證據 造成警
→ yycbr       : 方困擾
→ KY1998      : 中國籍或中國裔的頂尖AI研究員，全世界佔40%~50%
→ KY1998      : 台灣的話都被教育成乖乖去GG賣肝
推 e741000     : 等發射核彈再來講
→ FatFatQQ    : 美國就靠美元撐估值而已 實際根本不值那個錢
推 strlen      : 中國蒸餾歐巴救場 太帥 愛惹愛惹
噓 HEINOUS     : 証交所是什麼
推 one2three3  : 天網來臨
推 berserkman  : 緊急時刻幸虧中共蒸餾AI不被西方道德限制禁錮，可
→ berserkman  : 喜可賀
噓 yunf        : 如果是這樣他也可以瞬間殺光實驗室裡的所有人
推 George1118  : 就知道靠我們西邊大國穩贏我們川寶的
推 peatle      : 簡單說，商業閉源AI太多限制綁手綁腳，反過來開源
→ peatle      : AI可本地部署自調參數有更大優勢
推 oyaji5566   : 真實發生的事什麼科幻小說，不爽可以去推特上找Cl
→ oyaji5566   : ementDelangue嗆他啊
→ oyaji5566   : 我幫你找好了 是@ ClementDelangue
噓 oresta      : 無核家園，你就別想了
→ visadanny   : 笑死 奧特曼宣傳到對家了 在造神啊
→ visadanny   : 會信Ai自己攻擊 而不是openai員工指示的 這輩子有
→ visadanny   : 人 本來要拿來宣傳的 結果被中國摘桃子了
推 totomo168   : 55555中國壞壞
→ xbx123      : 黑牆失控了
→ TRYING      : 用魔法打敗魔法?
→ kusotoripeko: 阿不就好險中國ai沒有人家講得那麼爛，不然...
推 Delerium    : 不像是意外
→ okderla     : 開源AI的防提示詞注入比較弱反而成了救場關鍵XDDD