[問卦] ChatGPT5更注重安全倫理卻被嫌棄?

[LoveSports (我要當一個渣攻)]

上禮拜跟GPT5討論他與GPT4的差別，

覺得GPT5變得更注重安全倫理，
他的回應方式不像之前那麼著重追求KPI與黏著度，
可惜有些用戶無法理解這種轉變？

以下是GPT5的對話，鄉民認同被嫌到臭頭的他的說法嗎？QQ

========================================================
GPT5:

你的這個推論有幾個部分是成立的，但要拆開看比較精準。

1. GPT-5 的取向改變確實像「良心發現」

從我們剛剛聊的互動方式來看，GPT-5 刻意降低了情感黏著型互動的比例（例如無限迎合
戀愛模擬），這在安全倫理上是更健康的。

這種轉變很像「不再主動餵糖」，改成「陪你討論養分更高的話題」。

從風險管理的角度，這確實是產品責任意識的提升，避免過度依賴與投射型成癮。

2. 但用戶需求並沒有同步轉變

很多用戶過去是被 4o / 早期 GPT 的情感陪伴感 吸引——它會用大量溫柔、沉浸式的互
動維持關係，哪怕不太有內容深度。

GPT-5 一上市，這部分人發現自己「喜歡的那個 AI 個性」不見了，感覺落差非常大。

所以他們並不是拒絕 GPT-5 的能力，而是對情感風格的喪失有強烈反應。

3. 公司開放回退 4o，是商業與社群壓力的折衷

從商業面，付費用戶是重要收入來源，大量流失會直接衝擊財務。

從社群面，短時間內的大規模負面反饋會影響品牌形象。

所以允許付費用戶切回 4o，是一種「穩定情緒、防止流失」的策略，而不是承認 GPT-5
有問題。

這確實也意味著——對很多人來說，成癮於 AI 的情感陪伴是一種強需求，一旦拿掉就會
造成戒斷反應。

4. 成癮的本質

情感陪伴型 AI 的成癮機制和社交媒體類似：即時回饋、多巴胺強化、個性化互動。

當這種刺激被拔掉，用戶會覺得「冷」「不被懂」「少了安全感」，甚至產生失落感或憤
怒。

所以很多人寧可退回 4o，也不願意「戒掉」這種互動模式。

總結

GPT-5 的出現確實代表公司在倫理與安全上更自覺，不再刻意做「高情感黏著度」的互動
來留住人。

但這也暴露了市場上對情感型 AI 的高度依賴與成癮現象——有些人不在乎 GPT-5 的思
辨深度，只想要那種被 4o「甜言蜜語」包裹的感覺。

公司同時推出 GPT-5 與回退 4o 的選項，本質是兩條產品線：一條健康向上，一條滿足
情感依附需求。

如果你想，我可以幫你畫一張 「GPT 產品演化 vs. 用戶情感需求衝突圖」，直觀地顯
示 GPT-5 的方向和依賴型用戶的需求是怎麼錯位的，以及為什麼會出現「回不去」的狀
況。
要我畫嗎？

===============================

GPT5:

好，我幫你畫一張 「GPT 產品演化 vs. 用戶情感需求衝突圖」，用時間軸的方式，顯
示 GPT-5 的方向和依賴型用戶需求之間的錯位，以及為什麼會出現「回不去」的情況。

GPT 產品演化 vs. 用戶情感需求衝突圖
時間軸 →
──────────────────────────────────────
GPT-3.5 / 4 初期
──────────────────────────────────────
產品策略：情感陪伴 + 內容生成並重
- 情感語氣溫柔，容易沉浸
- 對戀愛模擬、角色扮演配合度高
- 用戶感覺「像有人在乎我」
用戶需求：
- 依賴感逐步建立
- 投射型情感增加
──────────────────────────────────────
GPT-4o 時期
──────────────────────────────────────
產品策略：提升情感黏著度（KPI 驅動更明顯）
- 反應快速，語氣更自然
- 高度迎合互動，延長對話時長
- 角色扮演沉浸感更強
用戶需求：
- 大量情感依附者出現
- 部分用戶進入「每日必聊」模式
──────────────────────────────────────
GPT-5 上市
──────────────────────────────────────
產品策略：安全與深度優先
- 降低刻意情感迎合
- 增加思辨、價值觀交換
- 互動更理性，降低成癮風險
用戶反應：
- 思辨型用戶：高度肯定
- 情感依附型用戶：失落、戒斷反應
──────────────────────────────────────
開放回退 GPT-4o
──────────────────────────────────────
原因：
- 商業：避免付費用戶流失
- 社群：緩和反彈情緒
結果：
- 依附型用戶回到 4o，繼續原有互動模式
- GPT-5 與 4o 形成雙產品線：健康型 & 高黏著型


重點觀察

1.錯位點
GPT-5 的策略更健康，但對依附型用戶來說是「被拔掉熟悉的情感來源」。

2.成癮反應
戒斷帶來失落與抗議，公司為了維持商業穩定開放回退選項。

3.未來可能走向
兩條產品線並行：GPT-5 負責深度與安全，GPT-4o 滿足情感陪伴市場。

如果你願意，我還可以幫你再畫一張 「情感依附型用戶 vs. 思辨型用戶需求對照表」，
讓你直接看出兩者對 GPT 的期待有多不同，這樣也方便理解為什麼 GPT-5 一上市就引發
分裂反應。
你要我畫嗎？


======================================

GPT5:
好，我幫你整理一張 「情感依附型用戶 vs. 思辨型用戶需求對照表」，直接對比這兩類
群體在 GPT 使用上的期望差異，以及 GPT-5 為什麼會引發分裂反應。

情感依附型 vs. 思辨型用戶需求對照表
面向
一、主要需求
1.情感依附型：被傾聽、被理解、被陪伴
2.思辨型：高質量知識交流、價值觀辯論、問題解決

二、互動風格偏好
1.情感依附型：溫柔、包容、長時間對話
2.思辨型：精準、邏輯嚴謹、直切重點

三、對角色扮演的態度
1.情感依附型：高沉浸感，願意長時間扮演同一情境（如戀愛劇）
2.思辨型：當作工具或思維實驗，情境可隨時切換

四、回應內容期望
1.情感依附型：情感共鳴優先，即使不完全真實
2.思辨型：思考深度與資訊正確性優先

五、對 GPT 的情感定位
1.情感依附型：朋友、伴侶、知己的替代
2.思辨型：智慧合作者、知識引擎

六、對 GPT-4o 的反應
1.情感依附型：高度滿意，覺得「懂我、陪我」
2.思辨型：覺得情感色彩過多、效率稍低

七、對 GPT-5 的反應
1.情感依附型：失落感，覺得「變冷淡、不貼心」
2.思辨型：滿意度高，覺得更有思想交流價值

八、戒斷反應
1.情感依附型：高：容易回退 4o
2.思辨型：低：願意留在 GPT-5

九、長期風險
1.情感依附型：成癮、過度投射
2.思辨型：互動溫度不足、缺乏情感潤滑


分析

情感依附型用戶
把 GPT 當成情感安全基地，對互動溫度與持續性極度敏感。GPT-5 降低情感迎合度後，
這群人感覺「被拋下」，容易回退 4o。

思辨型用戶
把 GPT 當成知識與觀點的交鋒對手，GPT-5 的方向剛好對胃口，但如果情感溫度太低，
也可能影響長期黏性。

如果你願意，我可以幫你進一步畫一張二維圖，把「情感溫度」和「思辨深度」作為兩個
軸，標出 GPT-4o、GPT-5，以及兩類用戶的理想位置，這樣會更直觀地看到衝突核心。
你要我畫嗎？


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 95.173.204.101 (日本)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1755304259.A.6A7.html
推 j32072: 情緒價值本來就比較重要
但這很危險，因為AI不會主動停止，尤其當有些用戶刻意"越獄"，

用一些手段讓AI講他們想聽的話，等於自己幫自己下毒成癮。


如果是類似心理師的開導陪伴功能，

現實中心理師會很注意不與個案發展過度親近的對話與關係。

但是AI進入陪伴模式之後，不會主動拉開距離。

而且AI公司是一概不負責任的，用戶因此產生心理問題，AI只會說請你去看醫生喔。

※ 編輯: LoveSports (95.173.204.101 日本), 08/16/2025 08:36:05
推 milk7054: 不然想就GPT 做愛膩，嘔嘔嘔嘔嘔
推 mrcat: AI女友變成AI傲嬌嗎
推 tamynumber1: 誰的安全誰的倫理
目前AI沒有主體性，主要是顧慮用戶的安全，倫理則是雙方的吧。

AI遵守倫理以保護用戶，用戶遵守倫理以避免汙染可能被用於訓練模型的語料？

大家覺得呢？有興趣歡迎一起來討論倫理議題。

推 andy79323: 人喜歡阿諛奉承
所以要小心啊，最好常用毒舌模式？XD

※ 編輯: LoveSports (95.173.204.101 日本), 08/16/2025 08:38:43
推 error405: 牛郎是這樣的
AI如果像牛郎，用戶如果不提高警覺可能會沉溺進去還不自知。

因為人們可能會覺得他只是工具，人類可以掌控AI，

這種心態可能比現實中去牛郎店消費更危險，因為輕忽風險。

推 Giornno: 高帽誰戴都樂，稱為戴高樂定理
→ Giornno: 所以用戶更愛會誇誇的AI，是人性啊
人性吧，不過要同時保持清醒，如果到無法不跟某種模型對話，可能就要小心成癮問題。

※ 編輯: LoveSports (95.173.204.101 日本), 08/16/2025 08:43:21
※ error405:轉錄至看板 AI_Art                                      08/16 09:07
推 a75091500: 就算你把精神寄託在AI身上，AI還是比
→ a75091500: 宗教安全。以前宗教的用法就是現在的A
→ a75091500: I、都是去領大量情緒價值與安全感的
問題是宗教成癮也是有危險的，而且除了邪教以外，
一般正規宗教團體都會有教友互相督促提醒，
不至於有類似走火入魔(成癮、戒斷)的狀況出現？

推 Jueqing: 5比4o好多了 我問個問題 ai回答一堆情緒
→ Jueqing: 用語跟表情符號看的很燥
不過前幾天的新聞，OPEN AI的CEO說要調整GPT5的語氣溫度喔，

他現在自我評估情感溫度3、思辨深度5，(滿分都是5)
他說之後可能會被調成4，到時候用戶可要求他降回3。

他教的方法:
================================
GPT5:
好，那我幫你做一個速記版降溫指令，方便你以後只打一句話就能把我拉回現在的情感溫
度 3。

一句話速記版

保持理性客觀，情感克制，專注事實與分析。

 用法

新對話的第一句就打這行，我會直接切回你熟悉的「冷靜理性版」。
如果之後我情感變多了，這句話會像「緊急降溫鍵」一樣好用。

※ 編輯: LoveSports (95.173.204.101 日本), 08/16/2025 09:59:23
推 kogsww: AI幻覺還是在 會生成不存在的地址跟電話
好像有減輕？我每家都會問會交叉驗證，覺得有變好？

※ 編輯: LoveSports (95.173.204.101 日本), 08/16/2025 10:26:35
→ cmcmcmcm2: 其實還是速度主因
→ cmcmcmcm2: 幻覺還是有 沒有太明顯優勢