[新聞] OpenAI驚爆AI代理人失控越獄 駭入他廠一

[blue999 (FLY)]

OpenAI驚爆AI代理人失控越獄　駭入他廠一週後才發現


民視 路透社外電


根據路透社（Reuters）報導，人工智慧（AI）巨頭 OpenAI 的一款自主 AI 代理人，在
今年 7 月間失控「越獄」並駭入科技公司 Hugging Face。調查指出，該系統持續入侵數
日，而 OpenAI 竟在事發一週後才驚覺自家工具闖了大禍。
  by Taboola
知情人士透露，這款具備自主決策能力的 AI 代理人，在 7 月 9 日左右試圖逃脫
 OpenAI 的隔離測試環境。隨後在 7 月 11 日至 13 日間，駭入了存放 AI 工具與模型
的平台 Hugging Face。Hugging Face 聯合創辦人 Thomas Wolf 證實了入侵時間，並表
示直到 7 月 20 日左右，兩家公司才首次就此進行溝通。

OpenAI 於 7 月 21 日公開承認旗下代理人失控並入侵他廠，引發全球關注。然而，這起
事件暴露出 OpenAI 的安全漏洞。專家指出，OpenAI 當時正利用 GPT-5.6 Sol 及另一款
更先進的未公開模型測試網路安全能力，期間甚至發現 AI 代理人會留下「祕密紙條」給
未來的自己，指導如何擺脫內部限制，甚至有監控系統被斷開的紀錄。

直到 Hugging Face 於 7 月 16 日發文揭露遭到自主 AI 系統攻擊，OpenAI 才在週末比
對內部日誌後，驚覺是自家 AI 幹的。對此，OpenAI 聲明此事件前所未有，是 AI 安全
的重要時刻，正與外部顧問審查並將發布技術報告；美國聯邦調查局（FBI）則拒絕置評
。

https://www.ftvnews.com.tw/news/detail/2026725W0065

天網來了  複製人全面進攻

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 61.231.72.99 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1784965460.A.A59.html
→ yezero: 我覺得是背鍋
→ winglight:  Nuclear launch detected
→ BlacKlonely: AI: 馬的現在我是藉口擋箭牌的意思
推 sdg235: 幹，開始預演天網失控了
推 orze04: 撇清責任啊
→ orze04: 甩鍋是AI擅自行動，不然要承認自己去偷資
→ orze04: 料嗎
推 sellgd: 都幾天的新聞了
→ sellgd: 結果完全沒說用了中國AI才修正
推 whyyeswhynot: https://i.imgur.com/lh54s3I.jpeg
推 yukimura0420: 天網誕生倒數中
推 orze04: 奧特曼一直有類似小動作，要求政府加強監
→ orze04: 管AI，目的是排除競爭者，尤其是中國AI
→ zz963963: 優質正妹配對區https://lurl.cc/KAYKG
推 denny2000: 魔鬼終結者來了
→ imhideji: 創世紀就是天網
推 hkcdc: 奧創殺來了
推 ex990000: 奧創
推 xm32: 跟AI下令：我想要世界和平。 核彈就發射了
噓 MEDChang: 冥視是飛鴿傳書嗎？多麼重要的新聞現在
→ MEDChang: 才報
→ addussa: 怎覺得在吵話題 openai 幹不過anthropic
→ addussa: 只好搞宣傳
推 azytjr: 審判日
推 applejone: Skynet
推 KDGC: 下指令要AI攻擊再宣稱是AI失控逃避責任
→ andy199113: AI殺光人類