[問卦] GPT給錯誤資訊卻講得很像真的

[mmzznnxxbbcc ()]

我問GPT江南七怪剩下的在桃花島是誰殺死的

他說這裡面有些反轉和誤會

柯鎮惡以為是黃藥師殺的

真相是陸乘風(黃藥師的四弟子)殺的，陸乘風誤以為他們是來對黃藥師不利，

出手太重導致三人喪命，黃藥師得知後非常憤怒，也深感愧疚，

親手打斷陸乘風的雙腿，作為懲罰...



寫得也太像真的了吧，而且裡面有些細節也都沒錯，就是東拼西湊，

再給出前因後果，聽起來也十分合理，

如果只是知道一點情節，就很可能會覺得自己找到正解了

除非你是本來就知道答案的才會覺得根本亂講


這樣GPT也太可怕了吧，隨便亂講，但又會講得跟真的一樣

有夠危險

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.129.82.46 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1747216271.A.D9F.html
→ nekoares: 事實類的都叫他附連結來源
噓 butmyass: GPT最大的問題就是不懂裝懂
推 tonist9808: gpt是在生成，不是查詢
→ butmyass: 為了不讓使用者流失，再怎樣都會硬掰
→ LoveSports: 你去看我剛才在板上那篇 它會瞎掰
→ LoveSports: BL漫畫劇情也是被它瞎掰
推 greprep: AI會一本正經胡說八道，沒聽說過嗎？
→ jim543000: gpt幻覺很嚴重 這種東西拿來應用
→ liker1412: AI是很好用 但也很常講錯 要會分辨
→ jim543000: 我是覺得還有超級長一段路
→ am711206: AI還沒辦法判斷內容來源是否正確，所以
→ am711206: 餵的資料庫內容正確與否就會影響很大。
→ maskwill: 一堆人拿GPT當wiki用  一堆錯
推 LoveSports: 我看的某BL漫畫，男主角明明不會後悔
→ LoveSports: 也沒有創傷陰影，但它老是說有
噓 xylinum: 他還叫我自己去抓公開資料才能幫我分析耶
→ xylinum: ！我是變成他的助理嗎？
→ LoveSports: 因為它套用大多數BL漫畫的套路
→ dustree: 他本來就會編 用的人要自己留神
推 stlinman: "生成"式AI，生成(算出計算機率最大的回
→ LoveSports: 所以要它分析另類的，它就會分析錯誤
推 gueswmi: 純讀取搜尋資料的 AI本質都是東拼西湊
→ stlinman: 應)你應該拿A的生成去叫B(能聯網)去求證
→ gueswmi: google ai Morris Chang 湊成郭台銘
→ gueswmi: 列出台灣前20大電子半導體企業家
→ gueswmi: Gemini就在亂湊
推 Cjwinds: 連許光漢幾歲當兵他都亂回 他說26歲==
噓 TheDraggers: 2022就該知道的東西2025還在問
→ ha11111543: 他就是接話機器人啊
推 treeeasy: GPT就一本正經講幹話呀XD
推 mrmowmow: 這種沒價值的資訊我看openai都下令裝傻
→ mrmowmow: 亂說一通就好了，不要浪費電
→ abbag: 網紅
推 yuanhy63: AI一天到晚出錯 它提供的資訊要打很多
→ yuanhy63: 問號 要自行核對 使用後果自負
推 ray5803: 連法條都可以瞎掰了