作者oopFoo (3d)
看板Soft_Job
標題[討論] AI的陷阱。認知債(Cognitive Debt)
時間Fri Feb 20 08:37:12 2026
寫軟體的，之前有所謂的技術債(Technical Debt)。AI時代，現在又多了個認知債(Cognitive Debt)
認知債應該是去年mit的研究人員的創詞
https://www.brainonllm.com/
隨便一個中文摘要
https://www.managertoday.com.tw/articles/view/70533
雖然研究的課題是寫作，但其實是關於思考(Thinking)
然後今年一月29日Anthropic贊助的研究。
https://www.anthropic.com/research/AI-assistance-coding-skills
https://arxiv.org/abs/2601.20245
使用ai輔助寫程式的，比不用ai的人，程式碼的理解能力顯著下降。尤其除錯能力(debugging)下降最多。
然後Margaret-Anne Storey分享她的經驗
https://margaretstorey.com/blog/2026/02/09/cognitive-debt/
"Student teams were building software products over the semester, moving quickly to ship features and meet milestones. But by weeks 7 or 8, one team hit a wall. They could no longer make even simple changes without breaking something unexpected.When I met with them, the team initially blamed technical debt: messy code, poor architecture, hurried implementations. But as we dug deeper, the real problem emerged: no one on the team could explain why certain design decisions had been made or how different
parts of the system were supposed to work together"
是認知債不是技術債的問題，修好一個錯誤但會創造其他錯誤。整個案子就卡住了。
Simon Willison，如果他說他是ai coding的鼓吹者第二名，那沒人敢說第一。也回應了
https://simonwillison.net/2026/Feb/15/cognitive-debt/
"I've experienced this myself on some of my more ambitious vibe-code-adjacent projects. I've been experimenting with prompting entire new features into existence without reviewing their implementations and, while it works surprisingly well, I've found myself getting lost in my own projects.
I no longer have a firm mental model of what they can do and how they work, which means each additional feature becomes harder to reason about, eventually leading me to lose the ability to make confident decisions about where to go next."
早說 為什麼不早說
--------------------
其實我也講很久了，ai是有幫助的，但用ai寫程式大概是最糟糕的方式。前面就算進展快，但後面反而會更慢。
最近win11 updates一堆奇怪嚴重的bugs，我都懷疑是微軟all in AI造成的結果。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 58.114.66.74 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Soft_Job/M.1771547845.A.92C.html
1F：→ TonyQ: 我是覺得 vibe coding 本質上是幻覺 02/20 08:45
2F：→ TonyQ: 即使用 ai 寫程式完全不意味著你就不需要了解它了 02/20 08:45
3F：→ oopFoo: 就像讀書需要練習，只是背過，但實習，你能了解多少。 02/20 09:10
4F：→ oopFoo: coding其實是一邊寫，一邊在想也在學習。 02/20 09:11
5F：推 dream1124: 有這種發現不令人意外啊。想想老闆就知道了，自從他們 02/20 09:13
6F：→ dream1124: 不再碰程式碰系統，只負責提供目標和驗收標準後，出了 02/20 09:13
7F：→ dream1124: 問題是不是急著叫你修而很難自己當黑手伸進去修？ 02/20 09:13
8F：→ dream1124: 當初內部邏輯是你構建的，你完善的，你會比較有印象， 02/20 09:16
9F：→ dream1124: 有狀況會比較容易分析問題。我不知道別人用法保守的 02/20 09:18
10F：→ dream1124: 考量，但我即便知道CLI突飛猛進，但暫時也只把AI當顧問 02/20 09:19
11F：→ dream1124: 之一，考慮的點就是這個。不過這是工作模式的取捨， 02/20 09:19
12F：→ dream1124: 對規模小，設計模式經常重複，風險又很低的開發工作， 02/20 09:20
13F：→ dream1124: 如果LLM已針對情境最佳化，那交給AI寫也未嘗不可。 02/20 09:22
14F：→ gtr22101361: 這種比較是叫AI寫出能跑的後，沒在管spec和review 02/20 09:35
15F：推 jack529: 就像看書一樣，你不用想的想出來，只有用看的很快就忘記 02/20 09:37
16F：→ jack529: 自己在衝三小，基本上除了coding 應該很多事都會有這問題 02/20 09:37
17F：→ jack529: ，總結：人類快沒有錄用了 02/20 09:37
18F：→ jack529: 其實單純看spec review 也跟你自己想出來的差別很大，自 02/20 09:39
19F：→ jack529: 己用AI開始寫程式後，真的對程式碼的掌控力下降很多 02/20 09:39
20F：→ jack529: 所以天天還是會透過Leetcode來訓練大腦，我覺得在這個時 02/20 09:40
21F：→ jack529: 代反而這種鍛鍊變得好重要，防止腦殘lol 02/20 09:40
22F：推 JaccWu: 大部分東西太久沒碰能力多少會下降 02/20 10:15
23F：→ JaccWu: 但產出增加的話 即使認知下降 市場還是會傾向如此 02/20 10:16
24F：推 sharek: 個人是感興趣的topics 就動手寫，動手才比較容易思考各個 02/20 10:17
25F：→ sharek: 面向，至於不感興趣只需要交差的，AI 輔助只做review 02/20 10:17
26F：推 shinmori: 和導航一樣，用久了方向感也會變弱，大腦就用進廢退 02/20 10:30
27F：推 yamakazi: 絕大部分人只負責一小部分，我很少看到一個人負責幾百萬 02/20 10:44
28F：→ yamakazi: 行代碼的。一個人通常最多只負責幾萬到十幾萬行代碼。當 02/20 10:44
29F：→ yamakazi: 責的部分這麼小用AI幾乎不會有問題 02/20 10:44
30F：推 cuzuto: 跟我想的一樣，人類的認知變得非常重要 02/20 10:54
31F：推 hidog: 覺得正常，我長時間沒寫C++後也會退化 02/20 11:07
32F：推 yamakazi: 第二個她說她沒有review，會lost掉也很正常，像我每行ai 02/20 11:12
33F：→ yamakazi: 寫的代碼都有review，掌握度就比較高 02/20 11:12
34F：推 yamakazi: 只審核不用親手寫，同時可以保有速度和掌握度，而且量變 02/20 11:16
35F：→ yamakazi: 終究會產生質變，以前手刻時代一年一萬行，平均每天就手 02/20 11:16
36F：→ yamakazi: 刻三十行。AI時代我一個月大概三五萬行，一天看代碼就要 02/20 11:16
37F：→ yamakazi: 一千行，完全可以抵掉沒手寫那三十行的熟悉度 02/20 11:16
38F：推 yamakazi: 其實SOC或是5G也是，像手機晶片越做越大，spec越來越厚 02/20 11:20
39F：→ yamakazi: ，已經很難有人說他可以掌握全局了 02/20 11:20
40F：推 yamakazi: 然後這牽涉到思考的本質，Llm底層是條件機率，也就是在 02/20 11:35
41F：→ yamakazi: 有前文的狀況下，找出下一個最大機率單詞。也就是靠機率 02/20 11:35
42F：→ yamakazi: 統計而已。這在原本專家的眼中跟人類的思考認知天差地別 02/20 11:35
43F：→ yamakazi: 。 02/20 11:35
44F：→ yamakazi: 但沒想到這樣的llm 居然可以拿到奧林匹亞數學金牌。那有 02/20 11:35
45F：→ yamakazi: 沒有一種可能 02/20 11:35
46F：推 yamakazi: 人類的思考本質上也是一種條件機率，你看得越多你就會的 02/20 11:37
47F：→ yamakazi: 越多，而不用再靠「思考」 02/20 11:37
48F：推 yamakazi: 以前手刻時代所謂的想架構，其實也就是看看有什麼設計模 02/20 11:42
49F：→ yamakazi: 式好用，有哪個新語法比較高效，本質上還是試錯複製貼上 02/20 11:42
50F：→ yamakazi: Try and error，copy and paste有牽涉到什麼思考嗎？我 02/20 11:44
51F：→ yamakazi: 覺得沒有。然後所謂的手刻維持手感也只是某種機械化重複 02/20 11:44
52F：→ yamakazi: 動作，就像羽球選手打球的那種肌肉記憶而已 02/20 11:44
53F：推 yamakazi: 第二個大神說不review ai code可行了，但代價就是你掌握 02/20 11:49
54F：→ yamakazi: 度降低。 02/20 11:49
55F：推 lturtsamuel: 好奇問一下 什麼公司會讓單一個工程師一個月產生五萬 02/20 11:57
56F：→ lturtsamuel: 行代碼？是真的有這麼高的需求？公司放心讓一個產品 02/20 11:57
57F：→ lturtsamuel: 改變得這麼快 而且都在單一個人手中？ 02/20 11:57
58F：推 yamakazi: 全新實驗性的repo，要來取代某個訂閱軟體的 02/20 12:09
59F：推 yamakazi: 也不是只有我會啦，我們整組人都會，不是只有我單一一個 02/20 12:11
60F：→ yamakazi: 人 02/20 12:11
61F：推 yamakazi: 其實你去看一畝三分地，M7印度人每次都用AI一次推幾千行 02/20 12:13
62F：→ yamakazi: 上去，其他同事都在抱怨審核不完 02/20 12:13
64F：→ yamakazi: 人家M7印度人都一次推個千行PR的 02/20 12:15
65F：推 yamakazi: 大部分人工作的scope就幾萬行了不起吧，幾萬行你光用看 02/20 12:41
66F：→ yamakazi: 的都沒辦法建立掌握度（更何況還有debug mode)，那應該 02/20 12:41
67F：→ yamakazi: 不是AI用太多的問題 02/20 12:41
68F：→ yamakazi: IDE跳轉，debug mode，請AI看完寫md檔，這三個用下去幾 02/20 12:43
69F：→ yamakazi: 十萬行的掌握度應該輕輕鬆鬆 02/20 12:43
70F：推 lturtsamuel: 幾萬行當然是看得懂 幾萬行而且每個月動輒改變五萬行 02/20 12:44
71F：→ lturtsamuel: 我就不覺得我能掌握了 02/20 12:44
72F：推 lturtsamuel: 而且是精讀的扣幾萬行 出問題會找我的扣可能有就三十 02/20 12:47
73F：→ lturtsamuel: 萬 都嘛是大概知道一些在幹嘛 02/20 12:47
74F：→ lturtsamuel: 你也不可能說 呼叫你的人 跟你呼叫的人 一竅不通 跟 02/20 12:51
75F：→ lturtsamuel: 上下游一起debug的時候不想知道都會知道 02/20 12:51
76F：推 yamakazi: 沒關係，不是每個人用AI都會每個月五萬行，我只講我的例 02/20 12:55
77F：→ yamakazi: 子，你也可以每個月寫少一點 02/20 12:55
78F：→ yamakazi: 而且只是初期才五萬行這麼多，後來就沒那麼多了，都修修 02/20 12:56
79F：→ yamakazi: 改改一些而已 02/20 12:56
80F：推 lturtsamuel: 沒別的意思 我就是想知道程式碼變動如此劇烈你要怎麼 02/20 12:58
81F：→ lturtsamuel: 掌握他 是不是有什麼厲害秘訣 如果秘訣是放棄掌握那 02/20 12:58
82F：→ lturtsamuel: 我可能就學不來這套 02/20 12:58
83F：→ lturtsamuel: ㄛ 那就合理了 02/20 12:58
84F：推 lturtsamuel: 不過這樣比不太公平吧 你每天30行的狀況肯定不是這個 02/20 13:00
85F：→ lturtsamuel: 嶄新專案 一定也是修修改改的階段 你現在修修改改的 02/20 13:00
86F：→ lturtsamuel: 話ai有顯著加速嗎？ 02/20 13:00
87F：噓 hidog: 沒發現沒人想理某y嗎 02/20 13:09
88F：推 yamakazi: 修修改改超快的啊，給他一句話就能改好的事不快嗎？甚至 02/20 13:11
89F：→ yamakazi: 修bug 也超快，以前還要除錯模式慢慢step in，現在他直 02/20 13:11
90F：→ yamakazi: 接看一看跑個一兩次就找到bug，最多再一次log重編重跑。 02/20 13:11
91F：→ yamakazi: 不過我覺得ai強不見得你覺得ai強，畢竟我也不知道你怎麼 02/20 13:11
92F：→ yamakazi: 用AI，有興趣找我以前推文，我就不再贅述 02/20 13:11
93F：推 yamakazi: 再一次加log 02/20 13:12
94F：推 yamakazi: 拿個最簡單的例子，用python parsing log檔後畫出特定資 02/20 13:16
95F：→ yamakazi: 料欄位XY散布圖，現在交代一句話一分鐘就做完了 02/20 13:16
96F：推 lturtsamuel: 我的經驗是 如果追到最後發現是某個 底層函式被呼叫 02/20 13:21
97F：→ lturtsamuel: 太多次而慢，叫他幫弄個快取，他可以分析完直接改扣 02/20 13:21
98F：→ lturtsamuel: 就很快，但如果只是跟他說 這個操作很慢 他自己分析 02/20 13:21
99F：→ lturtsamuel: 不太出來 給他權限跑程式也沒辦法 02/20 13:21
100F：→ lturtsamuel: 我記得給他看 callgrind 輸出他可以抓出幾個問題點， 02/20 13:22
101F：→ lturtsamuel: 但沒辦法很精確，他也沒辦法幫我教客戶怎麼在那個環 02/20 13:22
102F：→ lturtsamuel: 境跑callgrind 02/20 13:22
103F：→ lturtsamuel: 而這些做不到的事完全是瓶頸 比寫那個快取層久多了 02/20 13:24
104F：→ lturtsamuel: 而且也無趣多了 我寧願自己去寫那個快取層讓ai處理其 02/20 13:24
105F：→ lturtsamuel: 他事 02/20 13:24
106F：推 yamakazi: 追到底層件事，以前手刻時代我都是用gdb ，AI時代的話他 02/20 13:37
107F：→ yamakazi: 不喜歡用gdb喜歡加log看log，所以我是叫他把整條路徑列 02/20 13:37
108F：→ yamakazi: 出來，log全部加上去重編重跑後看log，畢竟文字處理是他 02/20 13:37
109F：→ yamakazi: 的強項 02/20 13:37
110F：推 yamakazi: Log時間和函數全部打出來，誰最慢一目了然，以前手刻時 02/20 13:39
111F：→ yamakazi: 代加log比較粗活 02/20 13:39
112F：推 yamakazi: 現在加log就幾秒鐘的事，瓶頸都是在重編重跑，看log他很 02/20 13:42
113F：→ yamakazi: 快比人類快多了 02/20 13:42
114F：推 neo5277: 其實一併要求產出註解跟文件就好了... 02/20 14:21
115F：推 CoNsTaR: 因為 AI 思考的本質是 attention，不是機率 02/20 15:15
116F：→ CoNsTaR: 有 attention 就可以思考是因為邏輯一定有頭有尾，你可以 02/20 15:15
117F：→ CoNsTaR: 把整條龍每一步之間的所有關係存進 attention，用到機率 02/20 15:15
118F：→ CoNsTaR: 的地方只有沒邏輯的機率事件 02/20 15:15
119F：推 yamakazi: 確實 attention is all you need 02/20 15:24
120F：推 bensome0624: 所以資深工程師用會得心應手，菜鳥工程師掌握度不高 02/20 15:53
121F：→ bensome0624: 還是容易踩雷，而且認知也越來越難進步 02/20 15:54
122F：推 viper9709: 推老闆的比喻讚的+1 02/20 16:08
123F：推 VScode: 用進廢退囉 有地方退步肯定有地方變強 02/20 16:18
124F：→ VScode: 俗話說換個位子換個腦袋 你現在叫比爾蓋茲寫組語他也寫不 02/20 16:19
125F：→ VScode: 出來 02/20 16:19
126F：推 attacksoil: 除非ai真的到自己能維護系統 那工程師還是得看code 02/20 21:21
127F：推 s78513221: 啊資深工程師也是菜鳥熬出來的 02/20 21:53
128F：推 neo5277: 其實現在ai是可以自己debug啦從issue開單開始 02/20 23:29