Re: [討論] 當初想得到ai進化得這麼神速嗎?

[Senkanseiki (戦艦棲姫)]

https://t.co/aHUvcp71Hx
https://pbs.twimg.com/media/Gqu7luybcAAt5I6.jpg
雖然不是圍棋AI而是文字生成AI，但都是AI應該有關就是了

OpenAI前陣子發表了o3 o4mini模型的問題：幻覺比例增加
所謂的幻覺就是把不存在的資訊當成真的在輸出
這個問題在比較以前的o1比較少，但新模型的o3 o4mini幻覺增加
雖然新模型有推論能力強化、提高速度、減少成本等優點
但幻覺是個令人無法忍受的缺陷
畢竟如果是個法律事務所使用你的AI，卻跑出無中生有的法條或證據的話
那對整個營業是很重大的障礙

目前幻覺增加的原因還不是很清楚
專家們的假設是就是因為推理能力變強，變得更勇於回答，才會出現這麼多幻覺
可能是為了強化推理能力而讓幻覺的現象惡化
也就是說這是AI的邏輯能力跟創造力強化之後必然面對的問題

其中一個解決方式是讓AI去探索外在的世界
如果AI可以用網路搜尋功能，回答的精度可以達到非常高的程度
但如果網路世界也被AI生成的文字塞滿的話，這個問題可能反而會讓AI崩潰就是了

你各位最近有在用生成式AI嗎？

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 61.64.25.104 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1747306872.A.6B7.html
→ chordate: 網路搜尋功能不是一直都有？
→ chordate: 事實上就是不開網路搜尋，事實類的東西問AI都很危險
→ chordate: 創作類的東西也是開網路搜尋比不開好
→ chordate: 所以googl股票不知道在跌什麼
→ chordate: 明明搜尋對LLM來說還是很重要
→ BOARAY: 只知道谷歌的圖片搜索不知道怎樣開始有夠難用
推 kaj1983: ai不是早就在用網路資料回答你了嗎？
→ kaj1983: 只是沒辦法完全觸及到而已，畢竟網路上每個資料來源不可
→ kaj1983: 能都搜得到
→ kaj1983: ai未來要做的應該是和現實時間點同步回答
推 johnny3: 我覺得是沒設定不知道就回答不知道的關係 一定要給你掰
→ johnny3: 個答案
→ sunlockfire: 這表示AI懂怎麼唬爛了吧（X
→ linzero: 有的有開網路搜尋功能，幻覺還是蠻嚴重的
噓 iampig951753: 沒什麼，就只是到了中二的年紀罷了
→ iampig951753: 再過一陣子就會社會化了
→ iampig951753: 對於寫論文來說 無中生有的論文也很白爛 找不到出
→ iampig951753: 處
推 Vulpix: 網路搜尋的其中一個問題是……有些資料，假的多過真的。