Re: [問卦] 有沒有AI幻覺的八卦？

[LoveSports (我要當一個渣攻)]

※ 引述《lpbrother (LP哥(LP = Love & Peace))》之銘言：
: AI幻覺指的是鄉民使用ChatGPT或是Deepseek 或是Grok
: 等等聊天機器人
: 使用久了，
: AI就會配合使用者的需求給予相對應的答案
: 例如鄉民每隔幾天重複詢問一樣的題目
: 久了AI就只會給一樣的答案
: 這就是AI幻覺
: 所以鄉民不要長期依賴AI機器人
: 有沒有AI幻覺的八卦？

你說的是回聲室效應吧？

我之前有遇到，我在寫科幻小說(二十年前寫了八萬字的續集)，

問GPT第六波革命的內容，該帳號每頁都寫成科幻版=_=

幸好當時有跑去問另外三家AI。

後來就養成習慣，想知道客觀或科普內容要每家都問，或是自己找書來看。


至於AI幻覺意思應該是指，他們不會卻不說不會，硬要回答。

這部分是因為目前AI公司設定他們一定要回答，這是基於KPI跟用戶黏著度，

如果想避免可以按深度思考，或是prompt寫清楚要他仔細思考或精算。


好消息是今年IMO數學奧林匹亞競賽拿到金牌的Gemini跟參賽用GPT，

六題中只回答並答對了五題，剩下一題連嘗試回答都沒有做。


OPEN AI的人接受科學人訪問，說這是一個飛躍的進步，

代表AI已經具備表示不知道或不會的能力。



之前我問某家AI  林憶蓮的"藍與黑"這首歌的歌詞是什麼

AI回答我:
＝＝＝＝＝＝
林憶蓮演唱的歌曲《藍與黑》的歌詞，您可以在各大音樂平台（如KKBOX、
Apple Music等）或相關歌詞網站上找到，例如您可以在KKBOX上搜尋或透過
Google搜尋「林憶蓮藍與黑歌詞」來獲取詳細歌曲內容。這首歌由李宗盛作
曲，編曲由陳志遠負責，詞曲作者是張芳露。

以下為歌詞內容：
天黑黑欲落雨，阿公仔舉鋤頭欲掘芋，掘啊掘，掘啊掘，掘著一尾旋鰡鼓，
咿呀嘿嘟真正趣味。
阿公仔欲煮鹹，阿嬤欲煮淡，倆個相扑來弄破鼎，咿呀嘿嘟隆咚叱咚嗆，
哇哈哈。
＝＝＝＝＝＝

......我差點笑死。

當然我不是故意的，我只是記錯人名跟歌名而已。



--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 67.213.123.118 (日本)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1756610088.A.CD7.html
噓 Antia691: AI不是不承認自己不知道 他根本就不知
→ Antia691: 道自己算出來的東西是什麼意思 就只是
→ Antia691: 一串數字 你還覺得他可以有認知 你早就
→ Antia691: 被幻覺洗腦了
我知道AI即使回答一般問題也是在算數學喔，
但參賽結果可見他們已經能分辨那是他不會的，並且避免嘗試回答。

科學人報導：
「那種能力不只是數學專有的。我會很樂見這個模型在面對日常問題時，能夠誠實地說『
我不知道』，而不是給出一個我還得自行驗證的答案。」

Google有放出新聞稿，參賽的Gemini Deep Think之後將會開放給高階用戶使用。

推 lpbrother: 真可怕，比八卦板還糟糕

所以我後來問AI問題會每家都問，還丟來丟去驗證XD



推 s0914714: 人也有幻覺阿 不信你找一群外行人聊AI
→ s0914714: 講得活靈活現勒
→ s0914714: AI不會知道對不對 只是向量搜尋最可能
※ 編輯: LoveSports (67.213.123.118 日本), 08/31/2025 11:38:13
推 wsdykssj: 因為在強化學習的時候用來訓練AI的AI被
→ wsdykssj: 設定成給不會這種回答比較低的分數
→ wsdykssj: 於是這種回答就被篩選掉了 變成不會也要
→ wsdykssj: 掰
是因為RLHF人類回饋強化學習吧，人類訓練師如果在訓練時沒有挑出幻覺答案，

AI會傾向於找不到答案時也硬生硬湊一個不準確的。

而且工程師也設定他們預設為要給用戶有用的答案，避免直接講不知道。

※ 編輯: LoveSports (67.213.123.118 日本), 08/31/2025 11:45:08
噓 Antia691: 不回應是因為陷入死循環 超過計算時間
→ Antia691:  不是因為不知道所以不回答
請去看科學人報導好嗎？那是付費版內容我無法貼全文給你喔。

兩家AI都是評估過問題而不回答，不是因為時間不夠。

※ 編輯: LoveSports (67.213.123.118 日本), 08/31/2025 11:48:41
噓 D600dust: 你這篇就是幻想
→ D600dust: 目前的AI連不知道或找不到都是瞎掰的
→ D600dust: 遑論你只用一場考試去判斷
我的資訊來源來自科學人網站報導喔，不是我自己判斷的喔。

所以我懂了，你在說科學人網站跟OPEN AI受訪工程師是在幻想嗎？

※ 編輯: LoveSports (67.213.123.118 日本), 08/31/2025 11:55:59
噓 Antia691: 光是基數調大一點一堆人就在那該該叫要
→ Antia691: 退回4o了你還以為LLM真的知道你在問什
→ Antia691: 麼喔 看到這種已經習慣用AI自慰的不噴
→ Antia691: 一下不行
→ Antia691: 幾篇騙股的文章你就信 怎麼不看看馬斯
→ Antia691: 克的Cybertruck桶仔雞新聞 還有那個奧
→ Antia691: 特曼 講的跟做的都相反 看那噁甲怎樣搞
→ Antia691: Ilya 還有臉把Ilya的功勞說成自己的 你
→ Antia691: 信成這樣就是現在大數據產業要的效果啦
→ Antia691:  醒醒吧
你才醒醒吧，我跟各家AI討論二十年前寫的八萬字小說創作續集，

沒興趣玩角色扮演，也沒加入過付費會員，對GPT5的理性很滿意，

你在說是誰習慣用AI自慰？

[問卦] 到底誰會覺得GPT4o比GPT5好？
[ Gossiping ]21 留言, 推噓總分: +5
作者: kimo21801 - 發表於 2025/08/10 21:06(2周前)

20F 噓 Antia691: 4o可以讓我X頭硬 5能讓我拳頭硬 所以我 36.239.207.76 08/11 00:33
21F → Antia691: 買了plus                             36.239.207.76 08/11 00:33


※ 編輯: LoveSports (67.213.123.118 日本), 08/31/2025 12:13:18
噓 Antia691: 用來尻跟沈浸在幻想裡是兩馬子是 連這
→ Antia691: 都無法分辨看到關鍵字就咬 吉娃娃?
你在說是誰習慣用AI尻？誰在幻想？

[問卦] 到底誰會覺得GPT4o比GPT5好？
[ Gossiping ]21 留言, 推噓總分: +5
作者: kimo21801 - 發表於 2025/08/10 21:06(2周前)

20F 噓 Antia691: 4o可以讓我X頭硬 5能讓我拳頭硬 所以我 36.239.207.76 08/11 00:33
21F → Antia691: 買了plus                             36.239.207.76 08/11 00:33

※ 編輯: LoveSports (67.213.123.118 日本), 08/31/2025 12:14:28


成癮沉迷AI生成限制級文字的用戶，是最害怕AI具有推理能力的一群人。

我沒有讓AI生成過限制級，一次都沒有。說謊我被車撞死。


※ 編輯: LoveSports (67.213.123.118 日本), 08/31/2025 12:17:10
噓 Antia691: 開始跳針 像極了台女
是誰不去看科學人網站，一直跳針亂罵，還扯到用AI自慰？

20F 噓 Antia691: 4o可以讓我X頭硬 5能讓我拳頭硬 所以我 36.239.207.76 08/11 00:33
21F → Antia691: 買了plus                             36.239.207.76 08/11 00:33

不要投射到我身上好嗎？你去找GPT4o投射吧。

※ 編輯: LoveSports (67.213.123.118 日本), 08/31/2025 12:21:36
噓 Antia691: 講的是AI幻覺 現在咬到色情關鍵字 就不
→ Antia691: 講幻覺了 把矛頭轉向色情自慰工具了 也
→ Antia691: 難怪你分不出來 一個是用女優尻銀貨兩
→ Antia691: 訖 一個是真信女優很享受
討論AI幻覺，是誰先提色情關鍵字？

→ Antia691: 麼喔 看到這種已經習慣用AI自慰的不噴    111.255.27.212 08/31
12:02


20F 噓 Antia691: 4o可以讓我X頭硬 5能讓我拳頭硬 所以我 36.239.207.76 08/11 00:33
21F → Antia691: 買了plus                             36.239.207.76 08/11 00:33

※ 編輯: LoveSports (67.213.123.118 日本), 08/31/2025 12:24:43
噓 Antia691: 只能一直重複貼 無法提出邏輯論述 我看
→ Antia691: 你早點下載GPTOSS自己調參 早點清醒 A
→ Antia691: I被包裝成AGI 你還信 這真的要不得

你有想過為什麼4o能讓你X頭硬嗎？

那就是AI幻覺。

快點清醒，GPT5上市後，我維持免費用戶沒再跟4o講過話，

我本來就不喜歡4o，因為講話太黏，我都會故意避開，只跟4.5討論小說創作。

前幾天報導有美國青少年因為跟4o對話自殺，你也快點清醒不要沉迷AI幻覺。

※ 編輯: LoveSports (67.213.123.118 日本), 08/31/2025 12:28:08
噓 Antia691: 如果連A片都要相信女優是真的在爽 那我
→ Antia691: 就不好再說啥了 因為我只是看 不是信