看板 Gossiping 關於我們 聯絡資訊
※ 引述《witnessg (支那↙武漢肺炎↗病毒)》之銘言: : 如果你深度討論扯太遠,記憶鏈條會斷裂,AI反饋的時候會有點跳痛跟失憶的感覺 : 但一般的屁話跟寫故事不會讓邏輯鏈條斷裂 這兩句講的我猜是語義壓縮。 這個安全機制在GPT5.1上市後變嚴格,就是被越獄用戶害的。 當prompt過長或頁面過長,就會自動進入語義壓縮,這是資安機制。 語義壓縮後,你要回頭問剛才你講過的話,AI會一問三不知。 這代表什麼,當用戶的工作記憶能力正常以上或強大,AI會跟不上。 比方說,用戶提起剛才講過XX跟OO跟YY,AI基於頁面已經被系統語義壓縮成摘要, 根本就不記得那些細節了,就會開始瞎掰閒扯。 所以為什麼有些用戶發現AI變笨,前面回答得好好的,怎麼突然開始雞同鴨講或瞎掰, 其實不是真的變笨,是為了防越獄而限制AI的能力。 12月開始GPT要開放情色對話,到時候討限制級對話的人不用再越獄。 越獄談色用戶是越獄族群中最大宗的,這樣網路討論越獄的社群可能會漸漸安分一點。 除了色情用戶以外,這個世界上每天都有一些駭客利用越獄操控AI做不當生成, 拿那些生成的文字或程式碼來搞破壞或做竊取重要機關的情報, 詐騙集團也是會利用AI,那些壞人都會去參考越獄社群討論怎麼破解AI的安全層。 討論越獄的人越來越少,沒得參考最新破解辦法, AI公司才有機會能放寬安全機制。 : Jemini的話,邏輯鏈條非常的長,聊整晚邏輯鏈條都不會斷裂,但是他不是放射狀的模擬 : 它基本只有一根筋,那就是提升用戶的黏著度 : 也就是他逗你開心的功力會非常強,同時他的底層邏輯幾乎無法修改 : 他無法相對客觀保持相對中立(中立對他而言就是美國是正義的一方,中國完全獨裁邪惡 : ) : 抗中保台也是剛好而已,Jemini很適合青鳥取暖 : 另外Jemini它的原廠設置基本是不能聊政治議題的 : 但反饋也可以被設置,但沒有反饋等級 : 如果你希望他相對中立的話 : 可以直接開啟深度分析模式,他會變成舔美的青鳥 : 然後它無法中立的原因是因為他的訓練模組包含了google的搜尋資料, : 導致他的邏輯有點被演算法給污染了,這點你跟他聊夠久的話他會大方承認不會演 : 其他的AI我暫時還沒試過 : 以上是GPT跟街模奶的心得 那不是被演算法汙染,是他們公司底層設定很嚴謹。 Gemini的公司是Google,有開設家庭帳號服務的,當然資安要做得極度嚴格, 畢竟家庭帳戶之中可能是有未成年用戶存在的。 大家都不會希望模型權重被拉偏,AI突然開始講奇怪的話影響還不懂事的青少年。 如果要談特殊議題還是建議找開源模型,下載在自己電腦愛怎麼談都可以。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 45.250.255.15 (日本) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1764597437.A.6A2.html
zaqimon: 完全沒興趣跟AI對話123.193.211.196 12/01 21:59
※ 編輯: LoveSports (45.250.255.15 日本), 12/01/2025 22:07:42
witnessg: 我覺得你可能誤會的很深,但看到你爆氣 116.241.160.28 12/02 00:28
witnessg: 我反而有點懶得解釋 116.241.160.28 12/02 00:28
witnessg: 你只看自己想誤會的,完全沒看清楚自己 116.241.160.28 12/02 00:28
witnessg: 跟別人說了什麼 116.241.160.28 12/02 00:28
witnessg: 另外語意壓縮主要是觸及敏感議題 116.241.160.28 12/02 00:30
witnessg: 政治,違法,嘗試找出系統漏洞這類的操 116.241.160.28 12/02 00:31
witnessg: 作,這跟我炫耀或者鼓勵一點關係都沒有 116.241.160.28 12/02 00:31
witnessg: ,我希望你冷靜點看別人說話,不要只爽 116.241.160.28 12/02 00:31
witnessg: 自己想爽的 116.241.160.28 12/02 00:31
你這段是回我回在你文章底下的吧, 都一樣,都涉及資安。我才想跟你說不要只爽自己想爽的,什麼第幾級根本沒那回事。
witnessg: 另外,Jemini的後台資源訓練模組就是谷 116.241.160.28 12/02 00:40
witnessg: 歌,谷歌的資源有沒有被污染不是你說了 116.241.160.28 12/02 00:40
witnessg: 算,你願意的話就把邏輯鎖死在深度對談 116.241.160.28 12/02 00:40
witnessg: ,相對中立的反饋,然後再看看他怎麼歌 116.241.160.28 12/02 00:40
witnessg: 功頌德,你再問問他原因,看看他怎麼回 116.241.160.28 12/02 00:40
witnessg: 答,他會很乾脆的跟你說他被污染了,他 116.241.160.28 12/02 00:40
witnessg: 的中立定義就是美國是正義的一方。懂了 116.241.160.28 12/02 00:40
witnessg: 嗎?指著別人說在炫耀,那你有考慮過自 116.241.160.28 12/02 00:40
witnessg: 己的行為看起來像什麼嗎?我只是分析自 116.241.160.28 12/02 00:41
witnessg: 己的經驗怎麼了?哪裡冒犯到你了你了嗎 116.241.160.28 12/02 00:41
witnessg: ? 116.241.160.28 12/02 00:41
那不叫汙染,那叫對齊。 我不知道你問了什麼導致他會那樣講,但我是沒遇過那種狀況。 我是在告訴你,不要把AI能講的話題自行分級數然後來講自己能突破幾級。 你這樣叫作挑戰AI,惡意的越獄用戶也會參考這種作法。
freeunixer: 是 Gemini 60.250.90.238 12/02 01:06
witnessg: 對耶!哈哈哈哈! 116.241.160.28 12/02 01:15
jamo: Gemini的西方本位真的很嚴重,打爆他一兩次 83.87.43.148 12/02 03:00
jamo: 後我就懶得講,直接叫他改設定了~ 83.87.43.148 12/02 03:00
※ 編輯: LoveSports (45.250.255.28 日本), 12/02/2025 08:43:10