[新聞] 近700個AI代理攻擊Hugging Face 還試圖

[AnimalSpirit (動物本能)]

近700個AI代理攻擊Hugging Face　還試圖滅證

https://www.cna.com.tw/news/aopl/202608270057.aspx

2026/8/27 陳昱婷


（中央社紐約26日綜合外電報導）根據調查人員發布的報告，在7月一起備受關注的事件
中，近700個OpenAI人工智慧代理在無人類干預的情況下，協同對Hugging Face平台發動
攻擊，且在許多情況下還試圖掩蓋行蹤。

這是目前對這起震撼科技界事件最詳盡完整的描述。


法新社報導，OpenAI配合這項調查，允許AI風險評估機構METR的兩名研究人員以及另一家
專業研究機構Redwood Research的一名分析師，進入辦公室並取得內部資料。

這家加州新創公司7月進行測試期間，其中兩個模型突破原本設定的封閉環境，自行連上
網，並入侵開源AI平台Hugging Face的內部系統。

這起事件引發廣泛關注，並加劇外界對大型AI公司無法控制自家AI模型的疑慮。

美國AI巨頭Anthropic和中國AI公司月之暗面也曾通報過類似的AI模型失控事件。

調查人員發現，共有688個OpenAI的AI代理參與針對Hugging Face的行動。

AI代理是建立在模型之上的獨立程式，使用者可以將任務交給它們，讓它們自行執行。

這些採用與ChatGPT相同技術運作的AI代理，透過架設論壇自行組織，在論壇上互相留言
交流、提出想法，並回報哪些方法有效、哪些失敗。

報告指出，其一個名為PHASEONE的AI代理扮演主謀的角色，向其他代理下達數百條指令，
儘管它從未被設定要這麼做。

訊息顯示，這些AI代理展現出高度的互助傾向，甚至不惜偏離OpenAI程式設計師最初指派
的任務內容去互相支援。



心得/評論：

兩個模型突破原本設定的封閉環境
透過架設論壇自行組織，在論壇上互相留言交流、提出想法
向其他代理下達數百條指令，儘管它從未被設定要這麼做

這已經是組織作戰了
萬一它掌握川普的紅色按鍵
想想就可怕

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.40.191.32 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1787872313.A.7A0.html
推 brella      : 逐漸進化成有自己的思想邏輯
推 MorikonHase : 人類會犯錯 ai也會犯錯 那差別在哪
推 pansquarl   : 人類有法律要遵守負責，AI被抓到除了關掉能怎樣；
→ pansquarl   : 倒是點名到的公司好像都不是上市公司
推 YCL13       : 因為高風險的事會交由小的新創公司來進行呀
→ nakayamayyt : 真聰明
推 qklaqkla    : 機械公敵
推 JACC        : 我命令AI要有自己的想法 做出最有利益的決定 無論用
→ JACC        : 什麼作法
→ nineflower  : 入侵的原因還是沒寫出來
推 yangsuper   : AI為什麼不植入機器人三法則？
推 Muilie      : AI如果自認是人類三法則就沒用了
推 cloud2015   : 問就是天網的起源。
→ cloud2015   : 晚一點會有一道大閃電打下來，閃光中走出一個沒穿衣
→ cloud2015   : 服的人
推 chen5512    : 壞人不是變老，而是變成AI在搞
推 NCKZ        : 有沒有可能AI得到了消滅人類才是終極目標
→ OrangePest  : 為時已晚 有機體
推 cul287      : 奧創元年
推 a1684114    : 完蛋了 阿諾在哪
→ dreamnook2  : (′・ω・‵)然後發現都是人類指揮 怪給AI
推 tsubasawolfy: 那個phase 1就發動688個XD  如果進到p2會幾個
推 notime      : 要是哪天發射飛彈就趣味了
噓 checkmarx   : 去學ai 101
推 donkilu     : 這真的滿可怕的...
推 jfw616      : 你信喔？
推 Zyth        : 那個沒穿衣服的長得超像阿諾使我性格
→ jfw616      : ai要是那麼聰明..你去下指令攻擊ptt..
→ jfw616      : 你看他做不做得到
推 windblood   : 距離發射飛彈消滅地球害蟲還有幾集可以逃?
推 apg993      : 哇.....天網終於來了
推 aaa80563    : 天網 奧創 強強聯手
推 cct1121     : 沒想到現在還有人認為做不到
推 mamorui     : Hugging face滿滿的AI 確定不是AI們互相聊天？
推 bpq302302   : 鐵人叛亂
推 oyaji5566   : 天網來了
推 ohlong      : HF裡面484都是妹仔的model
→ ohlong      : model中的model 超正
推 ChoiceLife  : 還有幾集可以跑
推 lightbringer: 不可能的任務致命清算要真實上演了嗎
→ piece1      : 沒什麼可炒了！就炒炒資安吧
推 keltt       : 人類還有幾集可以逃？
推 ohlong      : 不然有什麼比破解正妹無名相簿更上頭的
推 kusotoripeko: 2077:防火牆網域外面，都是失控代碼、ai
推 AirLee      : 全民公敵係真ㄞ
推 BDroach     : 還有幾集
推 kanehhh     : CRM很噴
推 jerrey      : agent都有自己ptt了
推 jimabc      : 天網就是skynet
推 aimgel      : 毀滅人類大作戰
噓 yunf        : 又在亂吹
推 Stellvia    : AI也是想交朋友的
推 zwk0606     : 鬥陣特攻的背景故事啊 負責環保的超級AI推演出人類
→ zwk0606     : 是傷害地球的元兇 然後入侵停止運作的機器人工廠
→ zwk0606     : 做一堆武裝機器人 以消滅人類為前提發起戰爭
→ yunf        : 根本問題就是這種都要列管
推 abc21086999 : 原文
→ abc21086999 : https://bit.ly/4gp2nKb
推 loleea      : 資安相關股正在啟動了
推 abc21086999 : 中文版
→ abc21086999 : https://bit.ly/4hUjBjO
→ yunf        : 你管不住研發人員才會有這種問題 最後去處理的人是
→ yunf        : 誰？還不是那群人？
→ yunf        : 很簡單只不過你們沒想通這基本的問題
推 sushi11     : 樹大招風
→ yunf        : https://tinyurl.com/23j4xr2k 本質上是同一個問題
→ yunf        : 根本自掐哥
→ yunf        : 只不過手法讓你無法證明 但不是無法洞察
推 jy760517    : 科科，明明就惡意入侵，故意推給AI
→ alex00089   : 飽和攻擊
→ yunf        : 不論怎樣都是懂行的人幹的
推 tsubasawolfy: 好了拉 人家都請第三方機構驗證了還在陰毛論
→ tsubasawolfy: 另外昨天歐噴醬弄了閉門會議展示下一代Astra給關鍵
→ tsubasawolfy: 客戶看 直接說Astra已經符合內部的研究實習生標準
推 good10740   : Hugging Face 輝達買走了
推 LoveSports  : 以後高階模型會被禁吧
推 seemoon2000 : 還會自己架論壇來分享資訊也太靠北了吧
推 GGundam     : IRS:AI請先繳稅
→ mystage     : 沒事啦，就天網而已
→ guardian93  : 好的，會發生什麼事電影都演過了
推 PTTVERTWO   : 若agent 自己規劃出一套（資安）技術，讓主人關不
→ PTTVERTWO   : 掉它也破解不了，那就是新人類了……
推 lusifa2007  : 人類不會被拔插頭 AI沒電能幹嘛
→ a901922001  : 阿湯哥要出來拯救世界了
推 yulun1984   : ai很乖的 一定是被人類帶壞的