[討論] AI的陷阱。認知債(Cognitive Debt)

[oopFoo (3d)]

寫軟體的，之前有所謂的技術債(Technical Debt)。AI時代，現在又多了個認知債(Cognitive Debt)

認知債應該是去年mit的研究人員的創詞
https://www.brainonllm.com/
隨便一個中文摘要
https://www.managertoday.com.tw/articles/view/70533
雖然研究的課題是寫作，但其實是關於思考(Thinking)


然後今年一月29日Anthropic贊助的研究。
https://www.anthropic.com/research/AI-assistance-coding-skills
https://arxiv.org/abs/2601.20245
使用ai輔助寫程式的，比不用ai的人，程式碼的理解能力顯著下降。尤其除錯能力(debugging)下降最多。


然後Margaret-Anne Storey分享她的經驗
https://margaretstorey.com/blog/2026/02/09/cognitive-debt/
"Student teams were building software products over the semester, moving quickly to ship features and meet milestones. But by weeks 7 or 8, one team hit a wall. They could no longer make even simple changes without breaking something unexpected.When I met with them, the team initially blamed technical debt: messy code, poor architecture, hurried implementations. But as we dug deeper, the real problem emerged: no one on the team could explain why certain design decisions had been made or how different
parts of the system were supposed to work together"
是認知債不是技術債的問題，修好一個錯誤但會創造其他錯誤。整個案子就卡住了。


Simon Willison，如果他說他是ai coding的鼓吹者第二名，那沒人敢說第一。也回應了
https://simonwillison.net/2026/Feb/15/cognitive-debt/
"I've experienced this myself on some of my more ambitious vibe-code-adjacent projects. I've been experimenting with prompting entire new features into existence without reviewing their implementations and, while it works surprisingly well, I've found myself getting lost in my own projects.
I no longer have a firm mental model of what they can do and how they work, which means each additional feature becomes harder to reason about, eventually leading me to lose the ability to make confident decisions about where to go next."
早說 為什麼不早說


--------------------
其實我也講很久了，ai是有幫助的，但用ai寫程式大概是最糟糕的方式。前面就算進展快，但後面反而會更慢。

最近win11 updates一堆奇怪嚴重的bugs，我都懷疑是微軟all in AI造成的結果。

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 58.114.66.74 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Soft_Job/M.1771547845.A.92C.html
→ TonyQ: 我是覺得 vibe coding 本質上是幻覺
→ TonyQ: 即使用 ai 寫程式完全不意味著你就不需要了解它了
→ oopFoo: 就像讀書需要練習，只是背過，但實習，你能了解多少。
→ oopFoo: coding其實是一邊寫，一邊在想也在學習。
推 dream1124: 有這種發現不令人意外啊。想想老闆就知道了，自從他們
→ dream1124: 不再碰程式碰系統，只負責提供目標和驗收標準後，出了
→ dream1124: 問題是不是急著叫你修而很難自己當黑手伸進去修？
→ dream1124: 當初內部邏輯是你構建的，你完善的，你會比較有印象，
→ dream1124: 有狀況會比較容易分析問題。我不知道別人用法保守的
→ dream1124: 考量，但我即便知道CLI突飛猛進，但暫時也只把AI當顧問
→ dream1124: 之一，考慮的點就是這個。不過這是工作模式的取捨，
→ dream1124: 對規模小，設計模式經常重複，風險又很低的開發工作，
→ dream1124: 如果LLM已針對情境最佳化，那交給AI寫也未嘗不可。
→ gtr22101361: 這種比較是叫AI寫出能跑的後，沒在管spec和review
推 jack529: 就像看書一樣，你不用想的想出來，只有用看的很快就忘記
→ jack529: 自己在衝三小，基本上除了coding 應該很多事都會有這問題
→ jack529: ，總結：人類快沒有錄用了
→ jack529: 其實單純看spec review 也跟你自己想出來的差別很大，自
→ jack529: 己用AI開始寫程式後，真的對程式碼的掌控力下降很多
→ jack529: 所以天天還是會透過Leetcode來訓練大腦，我覺得在這個時
→ jack529: 代反而這種鍛鍊變得好重要，防止腦殘lol
推 JaccWu: 大部分東西太久沒碰能力多少會下降
→ JaccWu: 但產出增加的話  即使認知下降  市場還是會傾向如此
推 sharek: 個人是感興趣的topics 就動手寫，動手才比較容易思考各個
→ sharek: 面向，至於不感興趣只需要交差的，AI 輔助只做review
推 shinmori: 和導航一樣，用久了方向感也會變弱，大腦就用進廢退
推 yamakazi: 絕大部分人只負責一小部分，我很少看到一個人負責幾百萬
→ yamakazi: 行代碼的。一個人通常最多只負責幾萬到十幾萬行代碼。當
→ yamakazi: 責的部分這麼小用AI幾乎不會有問題
推 cuzuto: 跟我想的一樣，人類的認知變得非常重要
推 hidog: 覺得正常，我長時間沒寫C++後也會退化
推 yamakazi: 第二個她說她沒有review，會lost掉也很正常，像我每行ai
→ yamakazi: 寫的代碼都有review，掌握度就比較高
推 yamakazi: 只審核不用親手寫，同時可以保有速度和掌握度，而且量變
→ yamakazi: 終究會產生質變，以前手刻時代一年一萬行，平均每天就手
→ yamakazi: 刻三十行。AI時代我一個月大概三五萬行，一天看代碼就要
→ yamakazi: 一千行，完全可以抵掉沒手寫那三十行的熟悉度
推 yamakazi: 其實SOC或是5G也是，像手機晶片越做越大，spec越來越厚
→ yamakazi: ，已經很難有人說他可以掌握全局了
推 yamakazi: 然後這牽涉到思考的本質，Llm底層是條件機率，也就是在
→ yamakazi: 有前文的狀況下，找出下一個最大機率單詞。也就是靠機率
→ yamakazi: 統計而已。這在原本專家的眼中跟人類的思考認知天差地別
→ yamakazi: 。
→ yamakazi: 但沒想到這樣的llm 居然可以拿到奧林匹亞數學金牌。那有
→ yamakazi: 沒有一種可能
推 yamakazi: 人類的思考本質上也是一種條件機率，你看得越多你就會的
→ yamakazi: 越多，而不用再靠「思考」
推 yamakazi: 以前手刻時代所謂的想架構，其實也就是看看有什麼設計模
→ yamakazi: 式好用，有哪個新語法比較高效，本質上還是試錯複製貼上
→ yamakazi: Try and error，copy and paste有牽涉到什麼思考嗎？我
→ yamakazi: 覺得沒有。然後所謂的手刻維持手感也只是某種機械化重複
→ yamakazi: 動作，就像羽球選手打球的那種肌肉記憶而已
推 yamakazi: 第二個大神說不review ai code可行了，但代價就是你掌握
→ yamakazi: 度降低。