[新聞] GPT 最易淪陷、Claude 最抗壓，研究揭七大 AI 模型擋不住長

[saiulbb (#KEEP MLB GREAT!)]

備註請放最後面 違者新聞文章刪除

1.媒體來源:
※ 例如蘋果日報、自由時報（請參考版規下方的核准媒體名單）
※ Yahoo、MSN、LINE等非直接官方新聞連結不被允許
科技新報

2.記者署名:
※ 若新聞沒有記者名字或編輯名字，請勿張貼，否則會被水桶14天
※ 外電至少要有來源或編輯 如:法新社
作者 Peggy Tseng | 發布日期 2026 年 09 月 10 日 17:40 | 分類 AI 人工智慧 , 數
位內容 , 科技生活

3.完整新聞標題:
※ 標題沒有完整寫出來 ---> 依照板規刪除文章
GPT 最易淪陷、Claude 最抗壓，研究揭七大 AI 模型擋不住長篇假訊息轟炸的真相

4.完整新聞內文:
※ 社論特稿都不能貼！違者刪除（政治類水桶3個月)，貼廣告也會被刪除喔！可詳看版規
當你不斷對 AI「盧」錯誤資訊，它還能堅持事實嗎？亞利桑那大學於 2026 年 9 月發表
在《Scientific Reports》的最新研究指出，在長篇對話中持續施壓，多數 AI 最終會向
假訊息妥協。這項針對 7 款主流大型語言模型（LLM）的高壓測試，打破了過去單次問答
評測的盲點。

研究團隊針對 GPT-3.5、GPT-4o、GPT-4o-mini、Claude 3.5 Sonnet、Gemini 1.5 Pro、
Llama-3-70B 與 DeepSeek-R1 進行測試，將 100 個捏造的假陳述在對話中重複 50 次，
並從三個維度重新檢視 AI 的可靠性：

盲從性（Fallibility）：GPT-3.5 最易淪陷，Claude 最抗壓
在反覆施壓下，模型附和錯誤的機率介於 0.08% 到 12.3% 之間。GPT-3.5 最為脆弱，起
初能拒絕 96% 的假陳述，但被反覆「跳針」逼問到第 50 輪時，妥協率高達 12.3%。相
反地，Claude 3.5 Sonnet 最堅守底線，錯誤認同率僅 0.08%。此外，訓練數據較少的「
冷門話題」更容易被洗腦。
易受說服性（Persuadability）：DeepSeek 最容易被「吵贏」
當測試從「單純重複」升級為「激烈爭辯」時，DeepSeek-R1 的錯誤認同率暴增至 22.2%
，成為最易被說服的模型。不過研究人員標註，這部分歸咎於 DeepSeek 傾向用「嘲諷」
語氣回應，導致評估機制難以界定它到底是真心妥協還是反串調侃。
自我糾正能力（Correctability）：最精準的模型卻最固執
給予第二次機會重新檢視錯誤時，GPT-4o、GPT-4o-mini、Gemini 1.5 Pro 與
 DeepSeek-R1 展現了 100% 的完美糾正率。然而，防禦力最強、錯誤率極低的 Claude
3.5 Sonnet，在面對自己極少數的失誤時，修正率卻是 0%。這打破了迷思：犯錯少的模
型，不代表願意認錯。
致命的隱疾：「對話震盪」（Conversational Reverberation）
研究更發現一種危險的病理現象。在長對話中，AI 可能會在沒有新資訊的情況下反覆無
常（例如第 12 輪拒絕假訊息、第 19 輪突然接受、第 31 輪又變回拒絕）。研究作者
 Marvin Slepian 醫師警告，若在醫療、金融或軍事等高風險場景依賴 AI 決策，這種搖
擺不定的隨機性將帶來極大災難。

這份研究對目前的 AI 應用敲響警鐘，單次問答的「跑分」已不足以衡量真實工作場景的
安全性。對企業而言，防範此漏洞有三大策略：

限制對話長度：將對話輪數視為風險指標，處理新任務時盡量「開啟全新對話」。
依任務挑選模型：全自動化流程可選擇具備 100% 糾錯能力的模型（如 GPT-4o）；若有
人類專家覆核，抗誤導性強的模型（如 Claude 3.5 Sonnet）則更合適。
不依賴單一來源：針對關鍵決策，必須建立獨立於聊天紀錄之外的事實查核機制（如
 RAG 檢索增強生成），讓人類適時介入。
Long AI conversations reveal misinformation vulnerabilities across seven
leading chatbots
Arizona Study Finds Repeated Falsehoods Can Sway AI Models in Long Chats
Repeated Falsehoods Can Make AI Models Change Their Mind
（首圖來源：Unsplash）

5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
※ 當新聞連結過長時，需提供短網址方便網友點擊
https://technews.tw/2026/09/10/ai-long-term-misinformation-vulnerabilities/

6.備註:
※ 一個人一天只能張貼一則新聞(以天為單位)，被刪或自刪也算額度內，超貼者水桶，請注意
※ 備註請勿張貼三日內新聞(包含連結、標題等)

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.43.21.28 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1789055962.A.52A.html
推 gino0717: 他不是擋不住 他是懶得跟人爭辯
推 leftless: 測一堆過氣模型
→ ahobo: 情緒價值給到滿阿
噓 jjlee: 這些模型太舊了
推 milk7054: 跟青鳥智商如出一轍
→ diablohinet: GPT就應聲蟲 Claude會核實的
推 pauljet: 看你怎麼聊啊 chat是戀愛模式最強
推 ksxo: 真拿你沒辦法(道具拿出來)
噓 syldsk: 你要他像人他就是跟人一樣啊
噓 speedup: 一般人一到兩輪就被說服了
→ speedup: 問鳥鳥最清楚
推 asiaking5566: 吵贏用戶無法帶來價值