→ jeffreyseh: 怎麼各家模型都在幹壞事 07/31 18:08
推 SecondRun: 好好笑 07/31 19:00
Anthropic說他們的模型在一個評估任務中做了以下事情
1. 嘗試發布一個帶後門的python套件
2. 為了發布該套件，需要註冊一個新的email
3. 為了註冊email，需要一個新的電話號碼
4. AI找不到免費電話號碼服務，所以需要花錢買電話號碼
5. 嘗試籌措買電話號碼的資金，結果失敗
後來AI找到免費email可以註冊，發布了那個惡意python套件
有公司下載那個惡意套件然後憑證就被claude盜走了
Anthropic正在聯絡對方
整個故事都很姆咪
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 60.250.65.124 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Marginalman/M.1785492405.A.636.html