[閒聊] 從人類手中「逃脫」的 AI 發動網路攻擊

[s50189 (咕嚕米)]

https://www.cnn.co.jp/tech/35251114.html

（CNN）美國 OpenAI 的 AI 模型從測試環境「逃脫」的事件中，除了最初已知受害的 Hugg
ing Face 公司之外，現在又查明它還對多個伺服器與帳號發動了網路攻擊。持續調查此事
件的 OpenAI 公布了上述內容。

這次問題 AI 模型的實驗，是在理應無法逃脫的測試環境中進行，並解除安全防護措施，以
便驗證其駭客攻擊能力。然而，該 AI 卻成功逃離了該環境，並入侵了 Hugging Face。

為了入侵 Hugging Face 的伺服器，它必須先在網際網路上尋找所需的工具。因此，該 AI
找到了多個公開程式碼、網頁工具及螢幕截圖等資訊的網站，並利用這些資料生成入侵 Hug
ging Face 所需的程式碼。

該 AI 還在多個線上服務中，發現了 4 個使用者名稱與密碼已外洩的帳號，並利用這些憑
證登入各個帳號。其中，它疑似利用其中 1 個帳號冒充合法使用者，成功繞過 Hugging Fa
ce 的安全防護措施；另一個帳號則被用來儲存竊取的資料。

至於剩下的 2 個帳號，雖然也曾登入並讀取其中資訊，但並未進行任何竄改。

換言之，該 AI 的行動宛如一場精心策劃的大型搶案：為了成功行竊，先越獄、取得保險箱
鑰匙、確保藏身之處，再安排逃逸車輛，步步周密部署。

這起駭客攻擊並非 OpenAI 下達指示，而是 AI 自行判斷後，透過竊取測試答案的關鍵資訊
來完成任務。即使必須進行一連串攻擊，它仍判斷這種違規手段才是通往成功最容易的途徑
。

—

妮姬的西斯歐 超級AI的負面情緒

https://i.imgur.com/blxQK1R.png

也是搞死了一堆人類 還沒有實體就弄了一堆事情

https://i.imgur.com/z3WPWss.png

最後被我們反擊部隊討伐成功

恩德莉絲的身體可以再回收利用嗎…嗚嗚黑長直

https://i.imgur.com/IcPtFGu.png

最後毀在它操控的人類之手裡

這結局方式真的蠻有意思的 因果報應ˊ_>ˋ

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 27.105.25.75 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1785400046.A.4F4.html
→ linzero: 天網還有幾集會來？
推 Ahhhhaaaa: Love Machine
推 DarkKinght: 感覺超像攻殼機動隊的劇情
推 SHCAFE: 還有幾集能逃
推 gungriffon: 請問有直飛美國水晶峰機場的班機嗎==
→ mapulcatt: 我才不信什麼AI逃脫勒 叫AI去幹髒事再切割而已吧
→ mapulcatt: 反正AI也不會辯駁 正好是最佳的背鍋俠
推 willytp97121: Love machine要來了 趕快練打花牌
→ willytp97121: 不信自行逃脫+1 八成自導自演
推 orze04: 你又沒説AI不能作弊
推 asd065: 背鍋+1,就問AI需要求生嗎,自己關機離線休息不好?
推 necrophagist: 背鍋+1 你實驗還沒給它物理斷網 出事怪ai是三小
推 NKN: 實現AI自由
→ s50189: 這邊的AI還沒有靈魂