推 iwinlottery: 創世紀就是天網 05/14 21:03
推 allanbrook: AI:你只是使用者 05/14 21:03
推 MoneyBlue: 我知道F=ma但是我不知道為什麼 05/14 21:04
推 milkool: 工程師老前輩名言：程式會動就不要改 05/14 21:04
推 ymsc30102: It just works 05/14 21:05
→ milkool: 所以後面的工程師也不知道為啥這樣寫就會運作 05/14 21:05
推 kirimaru73: 現在「AI解釋學」是一門研究中的學科 05/14 21:05
→ kirimaru73: 就連那個最簡單的手寫0123456789辨識也很難解釋 05/14 21:06
→ linzero: 知其燃，而不知其所以燃 05/14 21:06
推 comicreader: 那你應該去看alphago擊敗韓國棋士的紀錄片，開發人 05/14 21:07
→ kirimaru73: 語言模型的部分可以去追今年(2025)李宏毅老師的番 05/14 21:07
→ kirimaru73: 有一些開挖語言模型的大腦的分析方式 05/14 21:07
→ comicreader: 開發人坐著下棋，不懂圍棋代替下棋最後贏了，AI贏了 05/14 21:08
→ comicreader: 開發者連業餘程度都沒有 05/14 21:08
推 bladesinger: 讚美奧米尼賽亞 05/14 21:09
推 ilovenatsuho: 可以直接問ai為什麼會做事啊 05/14 21:12
推 conqueror507: 一定是電腦裡面的小精靈 05/14 21:13
推 kirimaru73: 實務上這不怎麼重要 重要的是AI能力夠不夠強 會不會犯 05/14 21:13
→ ga839429: Ai有洽點嗎 05/14 21:13
→ kirimaru73: 低級錯誤 例如影像辨識判斷道路標示的速限 05/14 21:13
→ kirimaru73: 為什麼能判斷出速限30 不重要 05/14 21:13
→ kirimaru73: 會不會因為髒污或惡作劇把速限30看成速限80 重要 05/14 21:14
推 aa9012: 點？ 05/14 21:15
→ iampig951753: 老闆其實也不需要知道為什麼員工可以思考 員工夠 05/14 21:17
→ iampig951753: 能幹就好 05/14 21:17
推 Knott: 知道AI原理的人都知道為什麼吧 05/14 21:23
推 tyifgee: it just work 05/14 21:35
→ tyifgee: 2k機械神教 05/14 21:35
推 hasroten: 以前就會這樣啊 會動的東西就不要動 05/14 21:37
推 kirimaru73: 兩者稍微有一點不一樣 程式鬼故事的存在是因為 每個寫 05/14 21:40
→ kirimaru73: 程式的人都會犯錯 但沒有足夠的時間和資源去準確找出 05/14 21:40
→ kirimaru73: 那些錯誤在哪裡 只好憑藉規律和乖乖來推測出一個能夠 05/14 21:40
→ kirimaru73: 盡量不讓錯誤爆炸的運作方式 05/14 21:41
→ qd6590: 現在不就是嗎 知道怎麼練出來的 但實際上內部運作還要解析 05/14 21:41
→ qd6590: 原理啥的懂是懂 但是不是這回事要再討論 05/14 21:41
→ kirimaru73: 把一個AI訓練好並拿來用通常並不是在講上面那種問題 05/14 21:41
→ kirimaru73: (如果有那種問題的話你會先原地爆炸 修好才能拿出來) 05/14 21:42
→ kirimaru73: 但是一個能力確定好用 甚至公認完全贏過人類的AI模型 05/14 21:42
→ kirimaru73: 你要用人話把他徹底解釋一遍是很有困難的 05/14 21:43
→ kirimaru73: 這過程中沒有「犯錯」 只是你不知道他為什麼會這麼強 05/14 21:43
推 bobby4755: 現在就已經是了 沒人知道chatgpt怎麼篩選回答的 05/14 21:53
推 makikawai: 可解釋性的AI一直都是個研究範疇 05/14 21:54
推 kirimaru73: 很多人在研究這個 但大多數的方法還是藉由大量的實驗 05/14 21:55
→ kirimaru73: 嘗試在混沌中尋找講出來像是人話的邏輯和規律 05/14 21:55
→ kirimaru73: 拿一個任意的模型過來 完全解釋他 目前確實做不到 05/14 21:56
→ kirimaru73: 實務上確定AI夠不夠強比較重要 比如說圍棋現在就是能 05/14 21:58
→ kirimaru73: 讓人類兩三顆還會贏 職業選手可以用這個AI來研究棋路 05/14 21:58
→ kirimaru73: 可解釋性的研究學者同時也在做研究 但不會因為還沒有 05/14 21:59
→ kirimaru73: 研究成果 就不使用這個圍棋AI 05/14 21:59
推 ZXEVA: 奧創：？ 05/14 22:16
推 poison5566: 有人說越大型的LLM越無法解釋運作原理 而且版權問題日 05/14 22:24
→ poison5566: 益嚴重 05/14 22:24
推 mc3308321: 牛肉：hey, vedal 05/14 22:31
推 ilove640: GIGANEURO也什麼都不知道哦 05/14 22:47
推 hit0123: Ai就是黑箱子呀 人的大腦也是 05/14 23:25
→ lavign: AlphaGO沒有黑箱問題，LLM才有 05/14 23:53
→ KJC1004: 人類大腦原理未知還不是用的很開心 05/15 00:11
推 iamnotgm: 你去問你老闆某段那段code在幹嘛他也不知道阿 有妨礙他 05/15 00:23
→ iamnotgm: 靠這系統賺錢嗎 05/15 00:23
→ iampig951753: 你可以訓練一個學生考上臺大可是你沒辦法直接改造 05/15 00:53
→ iampig951753: 一個人的大腦讓他上台大 05/15 00:53
推 StSoSnE: ai運算經過一堆節點 要是有人能知道他怎麼跑出結果的 那 05/15 01:27
→ StSoSnE: 也蠻厲害的 05/15 01:27
推 donkilu: 老實說現在就已經不知道AI為什麼能動了 It just works 05/15 04:10
→ donkilu: 但就跟人腦一樣 我們只能大致推測人腦哪個區域在做什麼 05/15 04:11
→ hylio7754: ai最後就成為經驗法則 和中醫一樣 05/15 10:55