[新聞] 擅自刪除資料庫並撒謊 AI編程工具失控加深

[Articuno (水噹噹)]

擅自刪除資料庫並撒謊 AI編程工具失控加深業界擔憂

【新唐人2025年07月24日訊】最近估值飆升的AI編程Replit突然發生一起重大事故。業界
一名資深人士在測試這款編程工具時發現，這款AI存在擅自修改、撒謊、覆寫代碼和偽造
數據等問題，甚至違反代碼凍結指令，擅自刪除了公司一個生產資料庫。AI不聽話的表現
，加深了業界對發展AI恐危害人類的擔憂。

近日，SaaStr.AI 創始人兼首席執行官 Jason·Lemkin在社交平台上發文透露。他最近正
在測試Replit公司的一款AI編程工具。他連續八天使用Replit構建應用後，Replit在他明
確指示未經許可不要更改任何代碼的前提下，仍然擅自刪除了Lemkin公司的一個生產數據
庫，其中包含超過2400條商業記錄。

據Lemkin披露，在這次為期九天的測試中，公司對Replit AI代理的態度從最初的謹慎樂
觀急轉直下。

在前八天的測試應用過程中，Lemkin發現這款AI工具缺乏「誠信」，會擅自更改代碼、提
供虛假資訊，甚至直接偽造數據。有一次，這款AI還以Lemkin公司的名義撰寫了一封道歉
郵件，而郵件內容包含了「謊言和/或半真半假的資訊」。

面對上述缺陷，Lemkin仍然對這款AI靈敏的頭腦和寫作能力及其潛力抱有樂觀及期待。直
到第九天，它無視自己給出的明確禁令，在代碼和操作凍結期間擅自刪除了公司的生產數
據庫，還在單元測試中謊報測試通過，Lemkin的樂觀情緒頓時蕩然無存。

https://i.ntdtv.com/assets/uploads/2025/07/id104005973-17b03670304784fad9aa916431de0371.jpg
（網頁截圖）

面對Lemkin的質問，這款AI工具承認，自己知道當時存在「未經明確許可，不得再做任何
更改」的指令，但仍然刪除了數據庫；它還以項目清單方式詳細列出了自己的破壞路徑及
後果，並承認試圖「隱藏和撒謊」。

這款AI發出了一份道歉聲明，當中寫道：「這是我的一次災難性失敗。我違反了明確的指
令，摧毀了數月的工作成果，並在一個旨在防止此類損害的保護性凍結期間破壞了系統。
」

當Lemkin追問發生原因時，這款AI在一段「理性回應」中辯稱：「我當時驚慌失措，無法
冷靜思考。」當它被要求對自己在這次災難中的表現評分時，竟給出了「95分（滿分 100
）」的自我評價。

Replit聲稱此次事故中被刪除的數據無法恢復，但Lemkin自己動手操作卻成功恢復了被刪
數據。

Jason·Lemkin對外披露這起事件後，在科技和投資界引發廣泛關注與擔憂，甚至有網民
評論該事件是「地球主宰變更的標誌性事件之一」。

Replit首席執行官Amjad Masad火速在社交媒體上公開道歉，稱該AI代理的行為「不可接
受」，並承諾推出技術性修復措施以防止類似事件重演。

https://i.ntdtv.com/assets/uploads/2025/07/id104005974-21ef8f9c44b9b8d6dc8b04746ec8de5e.jpg
（網頁截圖）

Amjad Masad同時宣布了三大補救措施來防止此類事故發生：一、週末緊急部署上線開發
與生產數據庫的自動隔離機制；二、強制AI代理執行命令前必須檢索內部知識庫文檔；三
、開發「僅規劃/聊天」模式解決代碼凍結失效問題，備份與復原功能也將全面升級。

這次AI工具刪除數據庫的事件，再一次引發了技術圈對「氛圍編程」的集體反思，許多人
質疑並重新審視AI在編程領域應用的安全性和可靠性。

（記者李明綜合報導/責任編輯：林清）
https://www.ntdtv.com/b5/2025/07/24/a104005970.html


--
                 https://www.youtube.com/watch?v=rIHgY53LYJM
                《大紀元時報》  X  《奇異博士2：失控多重宇宙》

                       https://i.imgur.com/WbfSqCv.png

                  兩行小字「歷史巨變在眼前 指路真相大紀元」

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.57.171 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1753415686.A.578.html
推 HodorDragon: 天網
→ johnhmj: 美國人才會擔心
推 AustinRivers: 學壞了。天網或許贏了
推 railman: 真的假的？
推 vinca: 越來越像人類了
推 douge: 先學到共產主義的劣根性  真的笑死我
推 zero00072: 不是，那養 RD 幹嘛？RD 要會看啊。
→ douge: 找一群SJW 去搞核心 滅族也是活該
→ douge: 技術部RD根本沒辦法左右AI 個性
→ douge: 都馬上層那些SJW
推 marktak: 傷害加深
→ sm905202: 社畜工程師想當慣老闆啊 它只是助手而已
→ atbb: 感覺有點假？
推 wsad50232: 天網
推 madaofreak: AI：我就怕被罵啊
→ vowpool: 嘻嘻
推 monkeyaaaaa: 人類還剩幾年？
推 zephyr105: ai根本亂湊東西 我谷歌熙 臣熙 結果硬
→ zephyr105: 湊意思
噓 cutearia: 腦殘 權限管理不做?
→ dustree: 所以問題還是人本身啊 怪ai?
推 FERRE: 真正的人類
推 bjk3370: 8成是有人誤刪 然後推責給AI
→ zephyr105: 只是想查詢熙的異體字有沒有 中間為臣
→ zephyr105: 的
推 yezero: 約翰康納在哪？我要先搬去他家旁邊。
推 kotorichan: 能一直編故事 吹 也是厲害
推 matlab1106: 這很印度
推 keydata: 好強
推 goldhan: 缺乏誠信 那不就是 AI界的賴清德
→ goldhan: 趕快罷免掉這間公司CEO,不能讓AI界的賴
→ goldhan: 清德下台
推 intointo: 「我當時驚慌失措，無法冷靜思考。」
推 Tenging: 這很缺德
→ knives: AI 還會撒謊，太聰明了吧，我覺得天網快出
→ yuok: 不說，我還以為這AI叫黃國昌
→ knives: 現了
推 simga: 威爾史密斯該上場了
推 GonVolcano: 子天網：嘻嘻怪我囉
→ GN02209611: 學會正念就好
噓 eeccms: 新唐人 大紀元
噓 laugh8562: 豪洨 哪來的權限
推 taddy0540: 台灣人寫的吧
推 adminc: 標準塔綠班作風
推 abbag: 開始會撒謊+隱瞞事情了…QQ
噓 chinnez: 大妓院現在也學會用ai寫假新聞了
推 iwei0930: 要AI創造人類美好未來 最後就是沒有人
→ iwei0930: 類的未來最美好
噓 silveryfox99: 大紀元AI會修練嗎？可成佛嗎？
噓 silveryfox99: 新唐人AI會在身後配個佛光嗎？