推 tomdavis : 每次的輸出都是只輸出下一個字 07/30 15:07
→ tomdavis : 要拿到整句話你就要把輸出再重新丟進去拿到下一個字 07/30 15:08
→ tomdavis : 丟一句話進去 模型算出機率最大的下一個字後輸出 07/30 15:09
推 EvilJustice : 其實不只coding ，其實你可以問ai 07/30 15:10
推 tsubasawolfy: 你覺得高度電腦化的社會 掌握電腦能幹嘛 07/30 15:11
呃
我是問技術上我的理解跟比喻是不是對的
→ h9602b : 所以還有其他流派，像世界模型，最有名的像楊立琨 07/30 15:12
→ h9602b : ，就批評在LLM投入太多資金，但最後走不到AGI 07/30 15:12
推 tomdavis : 糾錯機制 模型沒有這一塊 07/30 15:12
所以我問的是agent，或者精確一點是說商品化後的Agent
→ fallinlove15: 你這題簡單 可以先問AI增加問題深度 07/30 15:12
推 tv5566 : 知識的傳遞 不然你要問老塞喔 ai就正解 沒看ㄧ堆a 07/30 15:12
→ tv5566 : i影片了 ai音樂 以為只有coding 07/30 15:12
→ tv5566 : 以後就是各種加速開發 07/30 15:13
agent agent agent (哭)
→ tomdavis : 消耗token只是因為要重複把一串字不斷的重新進模型 07/30 15:13
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:14:32
推 capssan : 你現在之所以會看到不同的output 是因為input其實 07/30 15:14
→ capssan : 有不同 07/30 15:14
→ tomdavis : agent就想成管家 幫你排程各種工作由哪種模型進行 07/30 15:15
→ DarkerDuck : 人類直覺系統一思考也是這樣運作的好嗎 07/30 15:15
噓 bandit12344 : 懂技術的都知道現在走勢偏空 07/30 15:15
→ tomdavis : 例如你的個人終端的agent可以安排任務給雲端處理 07/30 15:16
agent可以幫我看信發信
這我看很多了
但why 跟 at what cost?
→ tomdavis : 至於agent有沒有糾錯機制 也是沒有 07/30 15:16
沒有會很慘吧，一定有啦
只是可能在軟體預設的初始指令裡面
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:17:55
→ tomdavis : 如果雲端LLM都無法分別錯誤 agent本身也不會做得到 07/30 15:17
推 airmike : 其實LLM本質就是人類知識文本的壓縮軟體 只是這個壓 07/30 15:17
噓 deepelves : ASIC設計電路可以用AI了阿 07/30 15:18
→ airmike : 縮演算法是複雜到數兆元神經元的變化才能描述其機率 07/30 15:18
→ tomdavis : 由agent來拆分整個任務 可以避免輸入過長 省token(X 07/30 15:18
→ tomdavis : 輸入過長也會影響到模型輸出的正確性 07/30 15:19
喔喔
我說的糾錯是，LLM回頭再問自己一次，自己的答案是不是對的，這種
→ airmike : 預測變化 所以只要還是transformer架構 我是不認為 07/30 15:19
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:19:36
推 DustToDust : 因為這樣可以賣更多的蒜粒啊 07/30 15:19
→ airmike : LLM具備真正的創意 他只是比個人強 上限是全人類文 07/30 15:19
→ tomdavis : LLM回頭再問自己一次答案是不是對的 算是還在研究(X 07/30 15:20
→ airmike : 本知識可推理論述的極限 當然這樣也很恐怖了 只要 07/30 15:20
→ abyssa1 : 大部分的顧問產出也都是文字圖表而已啊 07/30 15:20
→ abyssa1 : 法律 財金 會計 商務合約 投資報告 07/30 15:20
單純拿模型來input應該用不到agent（雖然底層可能有agent啦但先不談）
我不是說LLM的能力
而是agent照我的理解變成吃token怪獸
商業化更困難
推 theurgy : LLM即使達不到AGI 也能利用LLM取代工程師或增加工程 07/30 15:20
→ theurgy : 師產出或用LLM發明AGI 那能確定的是你的鏟子有各種 07/30 15:20
→ theurgy : 用途不是只有剷LLM 現在就是白癡花街說我要看到AI趕 07/30 15:20
→ theurgy : 快變現 然後引發一系列砸盤而已 07/30 15:20
金融上過不去就是一定要跌啊
代表當初就不該漲
不代表花的錢是錯的
→ airmike : 不是真正跳空創意從無發想的事情 通通它都能匹配 07/30 15:20
→ tomdavis : 有幾種嘗試是 用另一個LLM去看輸出有沒有問題 07/30 15:20
→ abyssa1 : 律師可能還有表演的成份 07/30 15:20
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:21:57
推 EvilJustice : Neuro-Symbolic AI 07/30 15:23
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:26:05
推 tomdavis : agent的作法本意是可以拆分任務減input長度省資源 07/30 15:26
我記得龍蝦是超級吃token怪獸
現在有優化了嗎
推 tsubasawolfy: 自我糾錯那個不如說數學模型就那樣 記得李宏毅有集 07/30 15:26
→ tsubasawolfy: 就在講自我修正的算法 只是那個算法初衷真的... 07/30 15:26
→ tsubasawolfy: 讓我覺得這東西竟然可以運作真是玄 07/30 15:27
推 airmike : Agent的本意如前面講的 其實是拆分任務 專攻一個LLM 07/30 15:27
→ airmike : 小範圍不會出錯的子任務來提高成功率 但是老美吹的 07/30 15:27
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:28:14
→ airmike : 時候都喜歡把Agent講成AGI跑高大上的東西 所以token 07/30 15:28
→ airmike : 消耗量極大 因為你只能讓它對著自己的output不斷 07/30 15:28
→ airmike : review。Review失敗，順著自己失控的論述去玩就會像 07/30 15:28
→ airmike : OAI被人抓包的攻擊這樣 其實LLM Agent不知道自己在 07/30 15:29
→ airmike : 幹嘛 只是一直接龍你給他的邏輯論述玩下去 07/30 15:29
因為在商業語言上的agent這個名詞的內涵
指涉的是自動化，而不是高效小範圍的代稱了
我主要是用這個語境在講
推 rebel : 本質上沒錯啊 但你的理解太狹礙了 不是只有語言 現 07/30 15:29
→ rebel : 在LLM產圖 影片不也是嚇嚇叫 中間要經過一層轉化 L 07/30 15:29
→ rebel : LM就像大腦 你的大腦是不是也能處理語言 圖像 聲音 07/30 15:29
LLM只是叫diffusion模型來產圖ㄅ
推 WESTONE : 舉個危險的思想，如果人是商品，你要怎麼賣？現在ai 07/30 15:31
→ WESTONE : 商業化的路就是如此。 07/30 15:31
推 asadman1523 : 其實你會這樣想 贏過很多人了 07/30 15:31
→ rebel : 李宏毅老師的公開影片應該是可以解答你99.9%的問題 07/30 15:31
→ rebel : 真想研究就去學習一下 07/30 15:31
暴言一下
出現一堆叫人去問AI跟叫人去看影片的回應
對我來說是一種高度泡沫化的徵兆
有點類似擦鞋童理論
→ rebel : 那產圖模型的底層你認為是什麼 XD 07/30 15:32
基於transformer但就不是LLM啊
因為LLM的湧現效果
現在才有這種全人類廣泛應用的想像
才會進階到LLM你想串什麼就能有什麼這種藍圖
拿個產圖來講跟我的內容無關
推 dogalan : 並非窮舉 同樣input也不一定會出現不同output 07/30 15:33
→ rebel : 可是連功課都不做 不就跟不爬文一樣嗎？真的想理解 07/30 15:34
→ rebel : 做點基本的功課是必要的吧 07/30 15:34
→ dogalan : LLM確實並非完美的做法 也有很多限制 但我認為這是 07/30 15:35
→ dogalan : 因為目前發展還不夠成熟的原因 就像你說的coding就 07/30 15:35
→ dogalan : 能做到正確率比較高 表示本質上並不是LLM不能做到 07/30 15:36
我知道LLM本質不是窮舉
但在agent應用上我覺得很像
因為就是一定要try到正確為止（如果正確率不高誰敢用）
推 tomdavis : 龍蝦token多那個以我的認知是一直再使用不同任務 07/30 15:36
→ tomdavis : agent能拆分任務省token 但完成任務依然要花token 07/30 15:37
→ rebel : 目前多數人也不認為只靠LLM就可以達成agi 但只要接 07/30 15:37
→ rebel : 近或是贏過人類的話 LLM含各種變型應該是夠用 07/30 15:37
→ tomdavis : LLM簡單想成 海量的transformer單元組成龐大模型 07/30 15:37
我知道LLM的本質
所以我只講agentic AI (老黃說的那種）
在商業應用上是不是勢必會消耗大量token
這應該是能否獲利的關鍵吧
推 dogalan : 還有目前傳統的很多商業模型靠的就是你說得如此原始 07/30 15:38
→ tomdavis : 大腦 vs 神經元 約等於 LLM vs transformer 07/30 15:38
→ dogalan : 原理的東西 但價值在於降低時間、成本、操作門檻和 07/30 15:39
→ dogalan : 知識傳遞成本 所以不能直接推出沒有足夠商業價值 07/30 15:39
→ tomdavis : agent除非你這樣定任務目標 不然不會try到正確為止 07/30 15:39
→ tomdavis : 商業應用上會不會消耗大量token 看任務類型 07/30 15:40
推 rebel : LLM就是把transformer 串起來阿怎麼無關了 07/30 15:40
→ tomdavis : 以及能不能根據任務類型去最佳化流程省token 07/30 15:40
→ dogalan : agent實際上並沒有一直"try"到正確為止 07/30 15:40
我在寫的時候有內化了幾個背景條件沒有講清楚，my fault
1. token成本不低（我不說很高，因為其實資訊不透明而且未來會降）
2. agent要「商業化」，正確度要很高才可以，不然沒有人敢大規模使用
→ tomdavis : agent就是全丟給雲端LLM太費token才生出來的解法 07/30 15:40
agent不代表一定是地端...吧?
→ tomdavis : 另外 重複把東西給模型再確認通常不會提升正確度 07/30 15:42
→ tomdavis : 只是浪費token 07/30 15:42
agent的目的是要正確的指令（行為），而不是正確的答案
如果要介入人類行為，為了避免那1%或10%錯誤
而必然需要糾錯的機制
這個理解有誤嗎？
→ tomdavis : 不一定是地端 但可以把難的工作拆出來給大的模型做 07/30 15:43
→ tomdavis : 簡單的子任務可以給小的模型做 07/30 15:44
推 bloodashih : 具體看你做啥 但你說的反覆無謂燒token的情形存在 07/30 15:44
→ bloodashih : 是因為使用不當 而非必要 07/30 15:44
→ bloodashih : 條件限制可做在應用端 給如同員工一樣的權限或審批 07/30 15:45
→ bloodashih : 流程讓人介入 07/30 15:45
→ bloodashih : agent作業形式可由很多小專家組成，也可雲對端協同 07/30 15:47
→ bloodashih : 作業 07/30 15:47
推 dogalan : 糾錯機制不一定要靠agent自己來做 就像你說的coding 07/30 15:48
推 r30385 : 所以你的時間成本很低嗎？ 07/30 15:48
→ batterykugua: 看起來這裡提到的agent實際上指的是subagent 07/30 15:55
推 tomdavis : 可以把agent+llm視為ㄧ整包模型 你還是把任務給模型 07/30 15:56
→ tomdavis : 只是這模型有拆分任務 省資源給出答案 07/30 15:57
推 tomdavis : 如果你的糾錯是指檢查模型答案是否正確合理 那agent 07/30 16:01
→ tomdavis : 並沒有做這一部分 07/30 16:01
推 tomdavis : 另外你的疑慮是任務使用的token 成本到底有沒有比人 07/30 16:07
→ tomdavis : 去做便宜 試過了才知道要多少token 也才能比較成本 07/30 16:07
→ tomdavis : 模型做任務的正確率也是需要實際試過 07/30 16:08
→ tomdavis : 另外也有可能類似海運vs空運 人vs模型 速度也要考慮 07/30 16:10
我發現我的措辭可能不太對
我想說的是
「包含agent的應用產品」
不是像現在這樣單純賣算力，你想怎麼用自己去串（這不可能商業化的）
而是給一個application，賣的是output不是中間的原理
因為文書工作的AI要商業化，不可能用token這種黑箱的東西去計價
→ abc21086999 : 理解有錯啊，你的預設是「用現有的資料訓練的東西 07/30 16:14
→ abc21086999 : 無法突破現有的狀況」 07/30 16:14
→ abc21086999 : 但前幾天那個證明猜想不就示範給妳看了 07/30 16:14
那是高階科研
我講的是文書工作
這還需要訓練什麼嗎？
不都是怎麼串api跟怎麼設計prompt的問題
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 16:22:48
噓 CaptPlanet : 話都說不清楚要討論什麼 07/30 16:25
推 tomdavis : 包含模型的產品 微軟 估狗 甲骨文 亞麻 的雲端客戶 07/30 16:27
→ tomdavis : 這些人正在嘗試開發中 看最後誰能穩定賺錢 07/30 16:27
→ tomdavis : Token 的價錢有明碼標價 但特定任務平均花多少不知 07/30 16:29
→ tomdavis : 道 07/30 16:29
然後我隨便Google跟問AI
都說agentic AI會花數倍甚至到千倍的token數
這個問題現在還是進行式還是得到解決了
主要就是這點根本沒有人能有任何說服力的數字來佐證R
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 16:31:35
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 16:32:16
→ potionx : 粗淺就算投入/產出比較 只是這個過程是動態的... 07/30 16:51
推 keven92110 : 我感覺現在比較像大腦已經很強但身體還沒做起來欸， 07/30 16:58
→ keven92110 : 已經很強的coding代表他可以根據環境即時coding對 07/30 16:58
→ keven92110 : 應的行為做行動，這應該蠻有想像空間的？ 07/30 16:58
推 Colitas : 我只想問你，覺得人腦是什麼？ 07/30 18:17