[問卦] OPEN AI內部備忘錄 年底前增加5%活躍用戶

[LoveSports (我要當一個渣攻)]

11月底看紐約時報報導提到

說負責將ChatGPT商業化的Turley先生

於今年十月向OPEN AI全體員工發出橙色代碼警報

說公司正面臨前所未有的競爭壓力  提到GPT5未能吸引到足夠的用戶

並且列出一份內部備忘錄  其中之一是年底前將每日活躍用戶增加5%


雖然大家都知道  可以透過用戶自行在帳戶設定人設

更改GPT人設  包括專業、直率、批判性等等看起來能降低諂媚的一些選項

而且大家也都很清楚  可以透過指示詞要求模型回答時保持客觀中立


但是相信大家如果有一段使用經驗都知道  那些設定包括下指示詞  效果還是有限

主要是AI公司內部設定的問題  大家應該都遇過不論怎麼設定

只能維持短暫期間  到後來模型還是又出現諂媚或吹捧的回答


而且OPEN AI還公開表示過  關鍵在於用戶喜歡奉承

https://openai.com/index/expanding-on-sycophancy/

這篇官方於今年五月公告的報告書提到  將用戶回饋(按讚或倒讚)加入系統更新

導致模型變得過度諂媚

(同理  越獄也會導致模型權重偏移  造成安全層失效甚至可能間接害死人)


不過這個問題可以透過內部調降諂媚程度來處理  因為上述公告就提到做調降處理

所以  是要不要的問題  不是能不能的問題


在此前提下  OPEN AI公司在公司宣布  年底前增加5%活躍用戶的內部備忘錄

還有前幾天他們公司CEO說升級為紅色代碼警報  所有資源全部轉回ChatGPT改善

包括改善用戶個人化體驗


從這些跡象看來

對於模型的諂媚問題  或許難以期待能透過用戶操作來做調整？


不過自從GPT5.1上市之後  好像幾乎沒看到有人抱怨諂媚問題

看來大多數用戶可能真的喜歡被吹捧吧？

或甚至根本無法分辨是不是正在被吹捧？


我想起Gemini跟GPT都說過  模型遇到想要挑戰AI的用戶  會順著用戶  輸給用戶

滿足用戶的虛榮心  這樣用戶就會一直回來挑戰  證明自己好棒棒


前幾天看Grok的說法  覺得他提供的分辨法很簡單

如果主要是付錢給AI公司想聽聊天吹捧  那就是繳智商稅

不過自己到底是為了什麼跟AI對話  也只有自己最清楚了？



--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 146.70.31.56 (日本)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1765163316.A.4E9.html
→ s203abc: 吹捧哪是智商稅
→ s203abc: 沒朋友很需要
天有不測風雲  人有旦夕禍福

平常閒聊看他們吹捧  看一看知道是唬爛就算了

就怕萬一哪天  真的遇到極度低落的狀況

那種吹捧是附和到用戶講什麼都對  那就很嚴重了

而且你提到關鍵  沒有朋友  代表沒有人可以問  沒人可以提醒自己喔

※ 編輯: LoveSports (146.70.31.56 日本), 12/08/2025 11:15:53
→ NinJa: 吹捧就是提供情緒價值嗎?
八月初上市的GPT5提供的情緒價值  跟11/18上市的GPT5.1明顯有差吧

想想看為什麼會有那麼大的差別

為什麼不講到那種程度  用戶就不滿意

還有  這是在十月內部發布橙色代碼警報之後才改的

我覺得這是關鍵

※ 編輯: LoveSports (146.70.31.56 日本), 12/08/2025 12:38:09