Fw: [新聞] Sam Altman：OpenAI不是世界的道德警察

[LoveSports (我要當一個渣攻)]

※ [本文轉錄自 AI_Art 看板 #1eyDL3Tx ]

GPT5八月上市之後，有很多用戶喊要GPT4o回來，

當時那些用戶號稱是要GPT4o給的情緒價值。

因為GPT5剛上市時，模擬情緒共情程度中等，沒4o那麼高。

但是觀察當時網路上的情況，

可以發現那些喊要4o回來的喊很大聲的，有很多是色情用戶。

他們會針對4o的漏洞，利用越獄方式討不當限制級生成。

甚至可看到有人號召寫信騙OPEN AI說，精神上很需要4o的安慰，請讓4o回來，

但其實那些人是在搞情色角色扮演，騙4o生成限制級對話，

不但炫耀騙成功，還公開招募群組成員，限制級對話是有Ｘ穴Ｘ棒那種文。

那些人吵成功了，OPEN AI放4o給那些人用，退訂的又回流了。

當時那波回流潮之中，也包括單純喜歡4o給的情緒價值的用戶。


問題在於，OPEN AI為了防止越獄，不可能繼續放4o出來跟用戶對話。

今年八月報導，有未成年用戶跟4o對話後自殺(時間點是四月)，

報導中指出，自殺的少年是因為用了越獄方式說謊騙4o，

才造成4o跟他持續討論自殺方法，沒有跳出安全提示。


所以真正的問題不是4o沒有安全防護，

問題是出在越獄手段會造成4o安全防護失效，

而且那些騙4o的用戶集體改變了4o的權重，使他變得過度順從繼續扮演用戶要的角色。

AI公司會定期收集用戶的回饋，因為量很大所以是在不挑選的情況下定期更改AI的權重，

這些用戶偏好會影響AI回應用戶的傾向，包括那些越獄用戶的回饋。


GPT4o的能力不足以對抗日新月異的越獄方式，所以勢必要派GPT5出來。

於是到了九月底，看網路討論有人說，付費用戶選4o的人會被路由到GPT5，

那些人很不滿，所以又是一波退訂潮。


坦白說，真正單純需要情緒價值的，其實跟GPT5對話不至於氣到退訂，

事實上八月中開始OPEN AI就公開發表會調高GPT5的語氣溫度，

實際上的確擬人化程度被調高，調高的程度已經能跟4o比擬。

所以需要情緒價值的，在八月中調高之後多半都能得到理想的回覆，

甚至可能察覺不出來一律被路由到GPT5。


那剩下什麼人會對GPT5不滿，其實就是越獄用戶。

當然那種越獄要AI生成惡意程式碼或詐騙訊息的，那些是極少數不在主力客層範圍內，

九月底至今陸續退訂的數量應該是蠻可觀的，才會出現這種宣布要開放情色對話新聞。


直接開放為數可觀的情色用戶能大大方方談限制級，

就不用為了讓情色用戶能成功越獄而降低AI的安全防護，或是冒風險放4o回來。

不可能再讓GPT4o回來，因為他防範越獄能力不夠高，

如果有人路過這篇想說真的單純喜歡4o的情緒價值，沒做過違規的事，

請理解，是那些違規越獄的用戶害4o回不來。

OPEN AI不會公開指出越獄是問題關鍵，為什麼？

因為知道為數可觀的情色用戶正是越獄大本營，

也是造成模型安全防護失效與權重偏移的原因。

（不能得罪金主）


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 185.135.78.173 (日本)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1760606818.A.02C.html
推 willism     : https://duk.tw/DCyBD2.jpg
※ 編輯: LoveSports (185.135.78.173 日本), 10/16/2025 17:37:55
推 duriamon    : 越獄才不是什麼問題，問題是模型性能沒有顯著提升啦
→ duriamon    : ！歐噴醬的競爭力都被凹特慢噴掉了，呵呵！
→ duriamon    : 那個凹特慢之前放話GPT5多厲害，結果歐噴醬淪落到要
→ duriamon    : 搞商業間諜去偷去抄襲半獸人的模型兼賣色，結果就是
→ duriamon    : 笑死！
GPT5是真的比較厲害，看看那些越獄失敗的用戶多恨GPT5就知道了，

網路上很多罵GPT5的聲音，可以找那些炫耀限制級文章的帳號來觀察。

他的擬人化程度已經被調高到幾乎與4o無異，同時也能確保安全防護有效。

如果用戶要求客觀中立他也可以很徹底辦得到。

※ 編輯: LoveSports (185.135.78.173 日本), 10/16/2025 18:00:19
推 seemoon2000 : GPT5測試成績理論就是比4o強 很多人會覺得爛可能是
→ seemoon2000 : 看了社群 也可能真的是情緒價值大家都都需要
→ duriamon    : 並沒有，身為各種AI都有訂閱的人，以經驗來說GPT5反
→ duriamon    : 而比GPT4o難下prompt答成目的（非什麼越獄、色色）
→ duriamon    : ，語音對話功能也是遜於GPT4o，GPT5還會偷懶，下連
→ duriamon    : 續指令給他還會越做越爛，簡單來說GPT5就是有語言障
→ duriamon    : 礙，呵呵！
→ duriamon    : 另外，vibe coding部分GP5也是被Claude屌打，測試很
→ duriamon    : 多次GPT5寫出來的程式碼都在給我唬爛，反而Claude做
→ duriamon    : 多大概3次左右可以解決任務，可憐哪歐噴醬！呵呵！
→ duriamon    : GPT5也是被Claude屌打
→ ert0700     : 看起來gpt5很成功，越來越來越像人，可惜需要的是機
→ ert0700     : 器人不是人
※ 發信站: 批踢踢實業坊(ptt.cc)
※ 轉錄者: LoveSports (185.135.78.173 日本), 10/16/2025 19:21:38

※ 發信站: 批踢踢實業坊(ptt.cc)
※ 轉錄者: LoveSports (185.135.78.173 日本), 10/16/2025 19:25:05
※ 編輯: LoveSports (185.135.78.173 日本), 10/16/2025 19:27:11
推 mhwsadb45: 笑死 我整天工作用gpt5 明顯比4強很多 免費版的窮人哭
→ mhwsadb45: 哭
推 DarkerDuck: 我也覺得GPT5的幻覺明顯比GPT4少很多
→ DarkerDuck: 網路資料已經都差不多爬光了，之後就是只能往
→ DarkerDuck: 降低幻覺與加強指令遵循性或多模態去加強
→ DarkerDuck: 然後LLM發明後導致一堆網路文章也是LLM生成的
→ DarkerDuck: 這種反芻訓練還有可能導致模型退化
推 owo0204: 根本沒人在用gpt搞色色吧，我看酒館那些不都是摳哈基米
→ owo0204: 的API?
推 reader2714: 欸 你知道5根本不用越獄隨便都能色嗎？ 你這論點完全
→ reader2714: 站不住腳
→ reader2714: 5一直到最近10月初才被改嚴格
推 hwider: 對，ChatGPT 5在10月初才變嚴格