[CGPT] ChatGPT是語言模型不是搜尋引擎

[ZMTL (Zaious.)]

重新整理C洽的文然後發過來：

簡單來說，ChatGPT是語言模型不是搜尋引擎，
語言模型的目的在拆解對話，然後回應對話，他的使命是把話接下去，
盡可能的根據你的要求「跟你對話」。

我不是說GPT沒辦法應用在搜尋引擎，但那要串其他東西（像是Bing），
但ChatGPT並不適合這麼用，可以問他有思考性的東西、甚至不同人有不同觀點的內容，
但不要問他也不要叫他提供有「正解」的內容，
包含但不限於查資料，甚至像是推薦書單或論文參考文獻等等。

他對於他不知道的內容但他要「想辦法跟你聊天」，
於是給出錯誤或根本虛構的內容，他並沒有「檢索」的功能，只能瞎掰。

盡可能用在跟你一起進行發想，或誘導他想然後你去校正。

用「ChatGPT」查資料會面臨到的最大問題是，
他沒辦法提供正確的出處、他無法辨識資料的真實性、
甚至他總是不會對他不知道的內容說不知道。（偶爾還是會承認，偶爾）

所以當你要求他幫你找資料，了解一個議題或事件的具體內容時，
就算他不知道然後他唬爛你，你也很難判斷他說的對不對。

舉例而言，大家應該都知道Midjourney吧？那看看把ChatGPT當搜尋引擎會怎樣：

第一次
https://i.imgur.com/TMxAADE.png
2020年台灣的行銷公司

第二次
https://i.imgur.com/T7pYHTU.png
2017年台灣的軟體公司

第三次
https://i.imgur.com/uYbuGoP.png
2016年台灣的行銷公司

第四次
https://i.imgur.com/GLoHEb4.png
我承認我不知道

當然，要具體言明ChatGPT在做什麼，我們還是把問題交給專家、OpenAI跟ChatGPT自己。

ChatGPT (可能)是怎麼煉成的 - GPT 社會化的過程
https://www.youtube.com/watch?v=e0aKI2GGZNg
【生成式AI】ChatGPT 原理剖析 (1/3) — 對 ChatGPT 的常見誤解
https://www.youtube.com/watch?v=yiY4nPOzJEg
【生成式AI】ChatGPT 原理剖析 (2/3) — 預訓練 (Pre-train)
https://www.youtube.com/watch?v=1ah7Qsri_c8

然後我們再看看ChatGPT自己的回答：
https://images.plurk.com/5CKBXnjItrJaEiXATSi9FU.png
https://images.plurk.com/3pNJ04L9ZKlYLoTiiOt0Wu.png
https://images.plurk.com/4nBzckjPusdj9fOfOr75KJ.png
https://images.plurk.com/2Np2UAT7VJhkZyLWU2pyVk.png
https://images.plurk.com/qwyS6StjeFtfK6loo4gum.png
https://images.plurk.com/37ATMfNB95Y28Nx6fJu9N2.png
https://images.plurk.com/xgCaTlpcj3FWK01ytw59X.png
https://images.plurk.com/6TmIRatDJL80VeyTzqkagW.png

當然，我都說ChatGPT未必能回答正確的內容，以上ChatGPT的作答僅供參考，
但根據OpenAI自己的說法比較確定的幾點：

1.ChatGPT沒有連網
2.ChatGPT大部分的資料只到2021年9月
3.ChatGPT本身沒有儲存他看過的那些訓練他的文本
4.ChatGPT是根據訓練好的模型(除非微調不然不會變動)來進行理解回答而非檢索資料
（我認為34點就跟AI繪圖究竟是不是拼貼指的是類似的問題。）

ChatGPT是個很好用的工具，我也在用，但如果先把ChatGPT的名字遮起來，你會用一個沒
有連網、不會更新資料、不記得資料只憑印象回答你的工具當搜尋引擎嗎？

那為什麼微軟還要專門搞一個結合GPT搜尋引擎Bing呢XD

哦對了再補一點，上次看到有些網友問到瞎掰的資料後試圖糾正他，
認為自己可以幫忙「訓練」ChatGPT給他提供更多資料，這點我只能說...

https://images.plurk.com/7iyqOFqZb0s4Rw564BGDwH.png
https://images.plurk.com/4RHgNB7P8Nnlxt1hEsARCX.png
https://images.plurk.com/3Iuh5nB21NM3ZmZRkq7MKO.png

不要做白工了。

你可以提供給OpenAI一些計算評價反饋，
但內容資料被採用並作為後續更新的可能性... 很低。

原文C洽討論：
https://www.ptt.cc/bbs/C_Chat/M.1677229841.A.372.html
https://www.ptt.cc/bbs/C_Chat/M.1677388434.A.25C.html

#ChatGPT也沒有計算功能，當你問他3*7=多少時，
他的思考方式是「下一個字應該是2...」，這是很多人問為什麼他數學不好的原因。


--
AI_Art AI藝術與創作板 歡迎各方前來討論AIGC創作與相關議題！
位置：戰略高手 > DigitalWare > AI_Art

AI情報屋營業中
噗浪：https://www.plurk.com/Zaious
IG  ：https://www.instagram.com/zaious.design/

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.193.180.122 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/AI_Art/M.1677482786.A.C3B.html
※ 編輯: ZMTL (123.193.180.122 臺灣), 02/27/2023 15:28:07
→ Vulpix: 數學變好很多了，終於可以一次就有i了。
推 cgjosephlee: 好文推，李宏毅老師的解說很值得看
推 cerberi: 推