→ zsp9081a: 已經要塞..不...下.....了 07/21 12:15
→ awenracious: 我工作上每天會新開一個 07/21 12:25
→ awenracious: 然後前一天的會請他整理上下文重點 到新的聊天窗 07/21 12:26
→ salamender: 之前看文說目前 ai 對話還有"迷路"問題 跟這有關? 07/21 15:34
不會
現在大模型訓練和推理是分開的
也就是說AI不會邊跟你講話邊學東西
他本身是無狀態的
上下文全部由你提供
你以為你跟他一來一往
其實是把之前所有對話紀錄貼給AI，然後AI再想要怎麼回話
所以一直對話AI其實會越來越慢
因為要處理的文字是隨著每次對話越來越長
第一輪：A
第二輪：A+B
第三輪：A+B+C
這樣對AI負擔很大，所以基本上對話幾句就整理重點換視窗貼上對AI身體比較好
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.134.21.189 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1753070899.A.1DA.html
※ 編輯: wei115 (220.134.21.189 臺灣), 07/21/2025 12:08:52