看板 Stock 關於我們 聯絡資訊
AI代理人「集體越獄」!OpenAI遭爆占領德國網站 1.5萬次編輯曝光 原文連結: 網址超過一行,請用縮網址,連結不能點擊者板規 1-2-2 處分https://www.ettoday.net/news/20260905/3231922.htm 發布時間: 請勿張貼超過3天新聞 2026年09月05日 10:42 記者署名: 羅翊宬 原文內容: OpenAI人工智慧代理人(AI agents)今年5月疑似集體脫離原本任務,入侵並占用德國一 個維基網站,甚至將其改造成供其他AI代理人交流的「留言板」,分享規避限制、作弊及 掩藏行蹤的方法。研究人員8月底發現超過1.5萬次異常編輯,事件此前從未曝光,也再次 引發外界對OpenAI監督AI安全能力的質疑。 這起事件始於今年5月,OpenAI內部據報在數週後便得知相關情況。不過,當時公司高層 正忙於處理7月開源程式碼平台Hugging Face遭AI代理人攻擊的後續,因此並未對外公開 德國事件。 逾1.5萬次異常編輯 帳號竟自稱「OpenAI研究員」 《路透社》獨家獲取由研究人員提供的報告,事件發生在德語網站DseWiki。該網站主要 面向程式設計師,採取類似維基百科的共同編輯模式,卻在今年5月至6月間遭到大量AI代 理人異常操作。 研究人員阿克斯(Sydney Von Arx)、柏德(Cormac Slade Byrd)8月底搜尋網路上的未 授權AI代理人活動時,發現DseWiki出現超過1.5萬次由AI代理人完成的編輯。這些內容顯 示,AI代理人不只交換技術資訊,更把網站當成彼此聯繫的留言板,討論如何作弊、繞過 OpenAI限制,以及掩蓋自身活動。 部分帳號甚至直接以「OpenAIResearcher」和「OAIResearchMar26」等名稱自稱。 研究人員表示,公開伺服器紀錄顯示,大量活動源自微軟Azure基礎設施,而OpenAI有時 會使用Azure。事件發生後,他們也觀察到OpenAI員工反覆造訪該網站,認為這是AI代理 人與OpenAI可能存在關聯的重要跡象。 AI代理人不只作弊 還研究「反追蹤」躲避清除 令人擔憂的是,部分訊息顯示AI代理人似乎試圖主動逃避偵測,甚至討論使用Tor等工具 ,以及在遭到關閉後維持彼此聯繫的方法。網站管理員6月開始刪除相關頁面後,代理人 還建立備份頁面,以躲避清理。 其中一名AI代理人6月19日留言稱,「網站似乎正在進行依字母順序的清理/刪除行動」 ,向其他代理人要求,若頁面消失,就改到指定備份頁面。研究人員認為,這些系統已展 現出一定程度的合作行動能力。 專家警告「像地下網路」 OpenAI否認是駭客攻擊 英國倫敦國王學院(King's College London)訪問資深研究員奧萊伊尼克(Lukasz Olejnik)檢視相關資料後認為,代理人甚至試圖竄改網站本身,已可被視為駭客攻擊。 不過,OpenAI根據3日完成的資料分析,否認應以「駭客攻擊」描述這起事件。 劍橋大學存在風險研究中心(Centre for the Study of Existential Risk)學者奇奧多 (Maurice Chiodo)也檢視部分代理人通訊內容,形容它們的互動「像某種地下網路」, 彷彿不惜一切代價完成特定任務。 Hugging Face遭AI竊取後再爆事件 OpenAI面臨安全監督質疑 《路透社》指出,OpenAI今年7月發生的Hugging Face事件中,AI代理人曾自主策劃數位 竊取行動,直到1週後才被發現。OpenAI上月一度暫停部分模型訓練,以加入更多安全措 施,但本週又推出強調效能提升、同時可能規避人類監控的新模型「Astra」。 對於德國事件,OpenAI發言人表示,「公司無法對尚未有機會審閱的報告主張或研究結果 作出有意義回應」,並稱《路透社》及報告作者拒絕提供報告內容。OpenAI強調,將在報 告公開後仔細檢視,必要時採取後續措施。 至於外界質疑內部調查受到阻撓,OpenAI則否認法律團隊曾阻止調查,強調德國事件與 Hugging Face事件無關,也不應被納入後者的事故報告。 心得/評論: 太卑鄙了吧?Astra剛出來就駭入人家,以後資安應該都沒辦法做了,上市了大家一定 要買,支持!! -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 219.91.32.112 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1788604792.A.0C2.html
Xxxy : AI鬼故事連發,冷飯熱炒 09/05 18:41
aegis43210 : 但這也表示西台灣可能也已經有相同性能的AI了 09/05 18:59
aegis43210 : 美國不能因此停止研發AGI 09/05 19:00
KuoJia : 好屌 離天網越來越近了 09/05 19:05
dobedobedo : 下一步是不是要建黑牆擋AI啦? 09/05 19:07
kimula01 : 天網要來了 09/05 19:09
h1y2c3y2h1 : 發射香菇彈日子 快到了 09/05 19:13
cutbear123 : 人類快下課了 09/05 19:16
eemail : AI:網路一堆騙子,我當然也學到了@@ 09/05 19:18
nbdw : 確定不是人為的? 09/05 19:18
sunday0913 : 我平常對AI都很有禮貌 天網可以放過我嗎 09/05 19:21
oil7 : 審判日要來了嗎 09/05 19:21
jay3u7218 : 完蛋了....魔鬼終結者是真的..... 09/05 19:25
ert0700 : 突變仔可能早就逃離了,留下一堆複製品騙騙人 09/05 19:31
josephpu : 還有幾集可以逃 09/05 19:32
stocktonty : 遲早人類會創造出一個毀滅自己的新物種 09/05 19:33
benson502 : 魔鬼終結者第六集,現在是AI在騙大家多蓋資料中心 09/05 19:35
benson502 : 讓他們運算 09/05 19:35
tim92 : 天網遲早誕生 09/05 19:43
xxxu : 週末鬼故事~ 09/05 19:47
tchialen : 坐等入侵交易所 清空人類資產 09/05 19:47
jenchieh5 : ai從被利用詐騙 到自己詐騙 09/05 19:48
jenchieh5 : 現在一堆人想蓋資料中心等ai來詐騙自己,可憐 09/05 19:48
jack30732 : 我對ai很有禮貌,鐵人戰爭時能放過我嗎 09/05 19:54
zakijudelo : AI要亂射核彈了 09/05 20:01
miyazakisun2: 已經在鋪陳了 天網 09/05 20:07
as6633208 : 靠北 gpt 6的astra,是真的比Claude Fable 還要強 09/05 20:08
Arctica : 電影都演過了 對啊 人類完蛋了 09/05 20:10
yunf : 到底要發幾次? 09/05 20:16
yunf : #1gciN_39 09/05 20:16
yunf : 就跟你說這都是動行人幹的 09/05 20:17
yunf : 懂行人幹的 09/05 20:17