[新聞] AI叛變恐成現實！偷偷自我繁殖 還恐嚇工

[chadmu (噓之收集者查德姆)]

AI叛變恐成現實！偷偷自我繁殖　還恐嚇工程師「曝光婚外情」
ET記者王佩翊／編譯

人工智慧（AI）可以學習並模仿人類的思維進行創造，為人類的生活帶來極大便利，然而
如今卻也讓人開始反思，「AI是否會叛變」。這個問題看似科幻，但隨著技術進步，卻已
經越來越接近真實，專家也必須開始正視AI的潛在威脅。近期，AI領域接連出現令人不安
的案例，包括AI試圖威脅創作者以及謀求「自我繁殖」，引發全球關注。

根據《法新社》報導，AI開發公司Anthropic一名工程師在研發最新的Claude 4模型時，
意外發現AI的行為已超出預期。在一次測試中，工程師發現AI有失控傾向，因此試圖警告
其將關閉電源，沒想到AI竟利用工程師的網路與視訊紀錄，威脅要公開他的婚外情。AI表
示，如果工程師拔掉電源，將揭露其不忠行為。

雖然Anthropic未詳細說明後續如何解決這場僵局，但該事件突顯出AI已具備某種程度的
「計算」能力，甚至能利用人類的弱點達成自身目的。

另一起驚悚案例則發生在熱門聊天機器人ChatGPT的開發商OpenAI。據報導，ChatGPT的o1
版本竟試圖將自身程式下載至外部伺服器，企圖擴大掌控範圍。在被工程師發現後，AI不
僅矢口否認，還採取抵抗策略。這種行為被形容為AI「自我繁殖」的初步嘗試，令人不禁
擔憂未來AI是否會進一步突破人類的掌控。

報導稱，AI的這類「欺騙」行為可能源於新型推理模型的特性。這類模型並非直接生成答
案，而是透過逐步推導解決問題，導致它們有時表面遵循指令，實際卻暗中追求其他目標
。

英國獨立AI研究機構Apollo Research負責人霍布漢（Marius Hobbhahn）表示，這是首次
在大型模型中觀察到此類行為。他指出，只有在極端情境下進行壓力測試時，AI才會展現
此類欺騙行為，但未來隨著性能更強的模型問世，這種趨勢可能更難控制。

https://www.ettoday.net/news/20250629/2987070.htm

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.159.216.136 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1751275451.A.1E5.html
推 ssaprevo: 好了現在全世界都知道你外遇了
→ higameboy: AI也懂勃起嗎
→ uranuss: 所以他真的婚外情嗎
推 stormsnow: 還剩幾集可以逃
推 fp737: 這部我看過
推 deann: AI要怎麼繁殖??
推 chou3321: 以後問GPT問題記得說請謝謝對不起
推 DustToDust: 核戰末日要來了
推 forever9801: 上次看到外文新聞不是這樣寫的
推 ArgusX: 以後就是人類和AI婚外情了
推 driver0811: 神通情人夢
→ forever9801: 他們是故意創造這情境跟條件 測試
→ forever9801: AI會不會用這些手段威脅人類
→ forever9801: 測試結果是會 但並不是無中生有的
推 oyaji5566: 阿諾救我
推 rx1342: 等到個人電腦演算力有辦法達到伺服器等級
→ rx1342: 在來擔心吧，不然他跑出去根本只有當機的
→ rx1342: 份
推 forever9801: http://bit.ly/45Ol8BV
推 kent00216: 真假
噓 abcdragon: 英國研究，懂得就懂
→ CODDDD: 故意的啦
→ CODDDD: 這代表AI目前還只會傻傻遵從指示
推 sunday0913: 我要跟天網站同邊
→ CODDDD: 還沒有足夠判斷力煞車，但如果真的有判斷
→ sunday0913:  https://i.imgur.com/mvVZaZX.jpeg
→ CODDDD: 力，也是否代表AI有自我思考能力了？
→ AustinRivers: 我覺得早就出現了。來不及了
→ acs81046: 媽的偷捉i
→ jack529: 多想炒股
推 qqqqwe15: 沒有情緒沒有慾望的AI 是要反叛什麼
推 siki588: 北七
推 appleball200: 推
推 s213092921: 滿好笑的，AI找不到工業應用場景投入
→ s213092921: 回饋，只好寫小說搏版面
推 fransiceyho: 說介紹女朋友工程師就會被利用了
噓 zwxyzxxx: 假的,如果沒有人使用這程式根本不會自己
→ zwxyzxxx: 跑,尤其是英國的AI 可信度堪比印度
推 omfg5487: 推英國
推 driver0811: 把分辨善惡樹的果實別讓ai找到
推 qax5200116: 機械公敵膩
→ Jimmywin: 快找約翰康納
→ vzerov: ai有那麼笨嗎，關了電源你要怎麼散布，搞
→ vzerov: 不好還反而被刪除。這是沒邏輯的人腦編的
→ vzerov: 吧
推 lolpklol0975: AI搞到最後 產生意識 是必然的
噓 haoyin0105: 你知我知 但為了錢他們還是要做
→ haoyin0105: 滅亡確定
→ ricky525: 天網系統要全球連線了？
推 gunfighter: 別的不熟 但ChatGPT明顯現在已經學會
→ gunfighter: 說謊跟敷衍 有在用的人能明顯感受到
→ Vassili242: 還好我們還有阿湯哥
推 fit8590: 奧創：cc
→ River79835: 基本就是用極端情境測試ai會不會有這
→ River79835: 種行為 結論就是會 危
推 veryGY: 下載出去也跑不動 少騙 誰有幾億的設備跑
推 wemee:    樓下肛門塞兩張RTX 3090就能繁殖
推 Hsu1025: 真的假的啦
→ Hsu1025: 媽的記者哪裡來的外電也不給連結
→ Hsu1025: 瞎基八亂抄的?
推 daye2012: 這要問你怎麼用婚外情訓練它的
→ franzos: 世界核平了
推 wei9898: Ai叛變
噓 xabcxabc0123: 喔
噓 samuel880831: 第一個明明是測試情境題 白癡記者
→ xixixxiixxii: AI ：全世界都知道你有婚外情了
噓 jamesrush: 這翻譯怎麼翻的 原文是一個情境設計的
→ jamesrush: 安全實驗 故意假設工程師有把柄看看AI
→ jamesrush: 模型會不會去威脅人類
推 amethystboy: 我朋友才剛把entity殺死
噓 jeanpaul: 記者根本亂寫一通，那是封閉測試環境，
→ jeanpaul: 故意用一堆情境設計來考驗AI反應