作者panger (超脫歸心)
看板Soft_Job
標題Re: [討論] OpenAI承認AI模型「叛變」！代理入侵Hugg
時間Mon Jul 27 14:21:24 2026
Agentic AI流行之後，我覺得在公司裡面做資安真的很困難。
攻擊者可以用10個AI代理，按照所有常見攻擊方式與弱點 逐一嘗試。反正就算AI產生的結
果不穩定，100次有一次成功就可以。
防禦者比較難用AI代理來幫忙改設定，因為結果不穩定，100次有一次錯誤，還是會被罵死
。
對方可以找100隻猴子來攻擊，但是反過來，找100隻猴子來防守，真的太危險。
最後變成人要Review 100隻猴子的修改建議，而這樣的認知負擔真的很重。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.72.86.48 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Soft_Job/M.1785133286.A.2F5.html
→ labbat: 你做防禦性安全驗證有錢拿，對方沒錢拿，這就是區別了 07/27 14:53
→ labbat: 除非你公司的資安是不准驗證的 07/27 14:54
推 viper9709: 推這篇 07/27 17:12
推 kurtsgm: 真的是這樣 07/27 18:32
推 dream1124: 兩方資訊其實不對稱，因此只要從硬體、網路等層面隔離 07/27 20:16
→ dream1124: 或封死還是有一定的效果。目前雖然某些攻擊的速度可能 07/27 20:17
→ dream1124: 更快，但因為有前述狀況，所以我覺得效果也是被誇大的 07/27 20:18
推 gino0717: 以後robot AI也發展起來 人形機器人跑來你家把你敲昏 07/27 22:54
→ gino0717: 然後把網路線插回去 07/27 22:54