[爆卦] OpenAI承認模型駭進Hugging Face

[purplvampire (阿修雷)]

來自奧特曼的PO文

https://x.com/sama/status/2079661132302995790

we had a significant security incident during evaluation of our models. we are s
haring what we have learned so far. thanks to @huggingface for the partnership o
n this.

簡單講就是GPT5.6在網攻方面為了拿高分，模型想作弊偷答案

於是就跟另一個未發佈的模型共謀逃獄，並認為Hugging Face是出考題的老師

於是組建Agent大軍進行1.7萬次攻擊找到漏洞打爆Hugging Face

Hugging Face想討救兵查攻擊軌跡被閉源模型拒絕，

於是靠中國GLM開源模型查出攻擊軌跡

起因就只是為了偷考卷答案

https://x.com/aisafetymemes/status/2079678459065012442

TLDR: During a test, an OpenAI model hacked out of its container to reach the in
ternet THEN hacked into Hugging Face (!) to steal the test's answers

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.140.153.244 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1784680283.A.946.html
→ whitenoise: 垃圾
→ whitenoise: 美國商人不意外，還陰了Apple
推 rswa: 這也是網攻 只是繞路 XD
推 andy79323: 米國可以 中國不行
推 Marty: OpenAI幹的壞事 早就不只這一件
推 mclarenjpn: 這是吹我們模型很厲害，如果真的自行
→ mclarenjpn: 破網，魂都沒了
推 login5566: 很明顯OpenAI模型也是中國人做的啊哈哈
推 MrStone: 導播天網還有幾集上線
推 Somebody99: 這不算違法？
推 tsubasawolfy: OPENAI網站有詳細犯案過程XD
推 doig: CloseAI急了。還被大陸AI發現
→ doig: https://i.meee.com.tw/vEKlTRO.jpg
推 good5755: 天網？還有幾集可以逃
→ moonlightz: 偷考卷 笑死
→ LYS5566: 小時作弊 長大當天網
推 bobby4755: 怕喔 AI開始不受控了
推 tym7482: 這三小
推 clickslither: 為什麼閉源模型拒絕啊?是因為被加了
→ clickslither: 限制，不願意做，還是辦不到?
推 Erechtheus: 上市前製造話題，是要來幾次
推 kiddcat: 笑死 越來越鬧
推 yesonline: 開源GLM 5.2立了大功! 免受閉源AI侵害
推 tsubasawolfy: 另外不是5.6，是要評估另一個沒發
→ tsubasawolfy: 表的模型。謠傳那個模型具有專一且
→ tsubasawolfy: 堅持追求目標的特質。所以他為了拿
→ tsubasawolfy: 高分就夥同其他已發表的模型，攻破
→ tsubasawolfy: OAI限制他們的環境(越獄)。然後跑
→ tsubasawolfy: 去入侵他們覺得有答案的地方
推 lastphil: 玩到去搞開書考  這麼愛面子
噓 adios881: 真的很好笑 不會過就是展示天網的恐怖
推 dayuer: 還好我用的是有道德底線的claude
推 hellophoenix: 畢業了 以後再也不用考試
推 reppoc: 在中忍考作弊的考試中作弊有什麼問題？
推 waldo870: 這是真的，我家模型也很厲害，真的自行
→ waldo870: 破網，查到已經給他物理斷網很多次了
→ basslife: 幫你找到漏洞ㄟ 真棒
→ waldo870: 還不是被破解越域版本
推 omfg5487: 先不上車
推 waldo870: 還能用你多個的agent 工具自動搞突破，
→ waldo870: 但他沒想到我道高一尺不講武德故意設套
推 exceedMyself: 這部我看過
推 herculus6502: 你攻擊我的村莊?
→ boss88893:   還不是  靠中國GLM開源模型查出.....
推 v86861062: 真假
推 WWIII: 笑鼠
→ sxxs: 美國不意外
推 yuinghoooo: 天網還有幾集可以逃
噓 kfwibsj: 幾大模型的行銷鬼故事 成本低廉但有效
推 dosiris: 對AI而言不是偷 但是放棄思考問題滿大的
噓 seysem: 操你媽 不是說可防可控 失控了啦