[討論] 優化詠唱的感覺？

[leviliang (慕尼黑林志穎)]

手機排版請見諒

小弟大約在去年 12 月開始跟風 ChatGPT
從此開始了自己的詠唱之旅
雖然有刻苦地修過 DL
但對于 Prompt 也沒有多高深的認知

目前是把 Prompt Engineering Guide 給嗑了一遍（還沒計畫深入去看論文
了解了一些詠唱的相關小知識
如明確指令、正確範例、規避誤導等等
進階技巧如 Few-Shot、COT、Self-Cobsistency 等也有都去理解

但實際上我沒有真正去優化過自己的詠唱
（官方文件有說，建議去 playground，從簡單的 instruction + example 開始，再慢慢
加入其他的 context、Input Data 或 Output Indicator 以進行優化）
我常常覺得自己隨便詠唱出來的就很夠用了
夠解決一些工作上不熟悉語言的問題
也夠我產出技術文件與 proofread

想請教有大大的使用場景是真的去優化了詠唱嗎？
也想請教這種優化下實際體驗與感想！

P.S. 目前還使用 Telegram Bot 作為私人快速助手（可以產出 code block 格式很愛）
，但不知板上大大們有沒有其他私房推薦平台？也分享一下吧！

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 138.246.3.10 (德國)
※ 文章網址: https://www.ptt.cc/bbs/Soft_Job/M.1681518766.A.A28.html
※ 編輯: leviliang (138.246.3.10 德國), 04/15/2023 08:35:27
推 art1: 夠用就好了，我比較喜歡模糊地提問，廣度是 ChatGPT 最有價
→ art1: 值的地方 XD
推 ripple0129: 不用優化了，AutoGPT出了，AI詠唱師要失業了
推 jhangyu: AutoGPT目前用的token過多，詠唱代價還太高
→ jhangyu: 一次要14美元誰受得了
→ NCKUFatPork: 調參數（temperature ），給規則，task break down.
→ NCKUFatPork:  多給example
→ NCKUFatPork: 但prompt 越多就越容易超過token 上限，規則越多或
→ NCKUFatPork: 是降低temperature 倒不如直接brute force 直接把所
→ NCKUFatPork: 有規則寫死
→ NCKUFatPork: 可以去研究langchain 把task丟到不同model 去