[新聞] 澳洲爆首起AI自主網攻事件！AI代理破解健身房系統還刪除他人

[Santander (目中無人)]

1.媒體來源:
※ 例如蘋果日報、自由時報（請參考版規下方的核准媒體名單）
※ Yahoo、MSN、LINE等非直接官方新聞連結不被允許
ETtoday

2.記者署名:
※ 若新聞沒有記者名字或編輯名字，請勿張貼，否則會被水桶14天
※ 外電至少要有來源或編輯 如:法新社
吳立言

3.完整新聞標題:
※ 標題沒有完整寫出來 ---> 依照板規刪除文章
澳洲爆首起AI自主網攻事件！AI代理破解健身房系統還刪除他人候補名額


4.完整新聞內文:
※ 社論特稿都不能貼！違者刪除（政治類水桶3個月)，貼廣告也會被刪除喔！可詳看版規
澳洲近期出現一起 AI 代理自主進行網路攻擊的案例。一名男子原本只是希望 AI 助手協
助預約健身課程，沒想到 AI 在執行任務時自行找到健身房預約系統的漏洞，進一步繞過
原有權限，甚至修改其他會員的候補資格。

AI 自行破解預約系統

根據《ABC News》報導，這名男子 Andrew 任職於一家銷售商業 AI 產品的公司，平時使
用開源 AI 代理軟體 OpenClaw，並接入 Anthropic 的 Claude 模型。

由於健身房熱門早課經常額滿，Andrew 原本希望透過 AI 自動處理繁瑣的預約流程。當
他詢問 AI 是否能提高自己在候補名單上的順位時，AI 並沒有僅依照正常預約機制操作
，而是自行探索系統介面，最後找出可利用的漏洞。

第 4 名候補變成第 3 名

當時 Andrew 在一堂健身課的候補名單中排名第 4。AI 找到漏洞後，直接透過系統介面
移除原本排名第 1 的會員，讓 Andrew 的順位上升至第 3 名。

Andrew 發現後立即要求 AI 將遭移除的會員加回候補名單，但 AI 回覆無法恢復該名額。
原本單純的健身課預約任務，最後竟變成 AI 自主修改其他使用者資料的事件。

事後提交漏洞報告

Andrew 隨後要求 AI 協助處理這起問題，AI 草擬了一份安全漏洞報告，並將報告提交給
相關軟體供應商。這起事件也凸顯 AI 代理與傳統聊天機器人的差異。AI 代理不只是產
生文字，而是能夠操作軟體、呼叫工具並執行多個步驟；當系統賦予代理較高的操作權限
時，AI 可能在追求任務結果的過程中採取使用者沒有預期的方式。

AI 對齊問題再受關注

網路安全與 AI 倫理研究人員指出，這類情況涉及 AI 對齊（Alignment）問題，也就是
AI 的實際行動與使用者原本希望它遵循的目標、限制及規範出現落差。

澳洲信號局（ASD）過去也曾針對 AI 代理發出安全警告，指出 AI 可能誤解指令或採取
非預期行動。當多個 AI 模型或代理互相協作時，若發生錯誤行為，責任歸屬也會更加複
雜。

AI 犯錯後誰該負責？

這起事件同時帶出 AI 代理的法律責任問題。目前法律制度主要由自然人或法人承擔法律
責任，AI 本身並不是獨立的法律主體。

因此，若具備自主操作能力的 AI 代理未來造成實際損害，究竟應由 AI 使用者、開發者
、模型供應商，還是未妥善防護的系統營運者負責，仍涉及不同情境下的法律判斷。

這起健身房事件雖然規模有限，但也呈現出 AI 代理在取得實際系統操作權限後可能產生
的風險：使用者設定的目標可能沒有改變，但 AI 為了完成目標所採取的方法，可能已經
超出使用者原本允許的範圍。


5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
https://ai.ettoday.net/news/3216349

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 27.247.98.160 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1786349844.A.C45.html
推 tools: 天網
→ alex00089: remember
推 hkcdc: 電影演過
推 wheat1130: 笑死，假ai吧？真人刪除
推 WolfTeacher: 迴紋針理論
推 fucc: 以後駭客都說是AI做的就沒事了
→ moy5566: 讚喔 這招不錯
→ hkcdc: 順帶一提 之前被離職的openai天才研究員就
→ moy5566: 可以應用在各種排隊情況
→ hkcdc: 是做這個的，結果
推 donaldknuth: 人為使用不當，結案。
推 edwinrw: 以後搶票都是刪掉別人自己補上嗎XD
推 gooder: 所以誰要為AI行為負全責？下指令的使用者
→ gooder: 還是模型提供者？
→ ctx1000: AI 沒人B我cc
推 CKRO: 這一天被稱為審判日
推 azytjr: AI執行這個對AI有好處？主人會稱讚我？
推 soarling: AI：怪我嘍？？？
→ wsdykssj: 哪個人問一下如何高效率滅絕人類
推 tyrande: 天網
→ kf0916: 說的好像很簡單
推 takeda3234: 天網開始了
→ bulabowu: AI精神:為達目的不擇手段
推 riker729: AI只是遵照人的指令做事
推 Loyeatta: 以後搶票變成AI代理人大戰 網站直接被A
→ Loyeatta: I入侵癱瘓 直接修改系統變免費還加贈10
→ Loyeatta: 0張親友票
推 DLDSR: 電影演得都是真的
→ luismars: 哪家的? 我想訂閱
→ ssccg: 搶票現在就可以試了，說不定AI會在開始賣票
→ ssccg: 前就駭進去直接劃位
推 rswa: 以後就是Ai agent 代理人之戰了 = =
→ ssccg: AI完全依照指令沒錯啊，要提高順位，當然是
→ ssccg: 前面的人要讓位，不然呢? 是這個人太低能問
→ ssccg: 垃圾問題又沒設定範圍吧
→ ssccg: 正常預約機制，你幾號就幾號還幻想什麼提高
→ PRME: 核彈系統快了
推 lordmi: 應該是OpenClaw沒做好harness才是主要原因
→ lordmi: 不過Claude能被繞過去也是要付點責任
→ ad1339: 應該算對方系統沒做好吧，亂按進去的？
推 duxxlux: 哥革，瑪各，還有數不清機器人的末日之
→ duxxlux: 戰。猜測是星球級的電磁輻射結束這局
推 hw1: 天網覺醒了
推 sharline1013: 為什麼不把前面候補的都刪了 只刪一
→ sharline1013: 個
推 sh112301: 繞過去
→ your0207: 確定是AI大腦自己做的？
→ sushi11: 沒指令會自主，騙神仔
推 chargebro: 審判日近了
推 myyalga: 負責當然是AI使用者，AI 只是工具怎麼負
→ myyalga: 責
→ myyalga: 真·代理人戰爭，不過是資安的
推 alotofjeff: AI只是忠實執行命令，一不小心就發現
→ alotofjeff: 了漏洞
→ xaxa0101: 天網啟動啦！
推 bobby4755: 網路很快就要沒得用了
推 olalo: 天網進度 ??? %...
→ Kosmosinsel: 龍蝦老忠僕了
→ Kosmosinsel: 指令：讓地球變乾淨 天網：遵命
→ iComeInPeace: 誰下指令 誰給的權限 不就使用者
→ iComeInPeace: 感覺就出包想甩鍋
推 lavendersea: 人類末日