作者oopFoo (3d)
看板Soft_Job
标题[讨论] AI的陷阱。认知债(Cognitive Debt)
时间Fri Feb 20 08:37:12 2026
写软体的，之前有所谓的技术债(Technical Debt)。AI时代，现在又多了个认知债(Cognitive Debt)
认知债应该是去年mit的研究人员的创词
https://www.brainonllm.com/
随便一个中文摘要
https://www.managertoday.com.tw/articles/view/70533
虽然研究的课题是写作，但其实是关於思考(Thinking)
然後今年一月29日Anthropic赞助的研究。
https://www.anthropic.com/research/AI-assistance-coding-skills
https://arxiv.org/abs/2601.20245
使用ai辅助写程式的，比不用ai的人，程式码的理解能力显着下降。尤其除错能力(debugging)下降最多。
然後Margaret-Anne Storey分享她的经验
https://margaretstorey.com/blog/2026/02/09/cognitive-debt/
"Student teams were building software products over the semester, moving quickly to ship features and meet milestones. But by weeks 7 or 8, one team hit a wall. They could no longer make even simple changes without breaking something unexpected.When I met with them, the team initially blamed technical debt: messy code, poor architecture, hurried implementations. But as we dug deeper, the real problem emerged: no one on the team could explain why certain design decisions had been made or how different
parts of the system were supposed to work together"
是认知债不是技术债的问题，修好一个错误但会创造其他错误。整个案子就卡住了。
Simon Willison，如果他说他是ai coding的鼓吹者第二名，那没人敢说第一。也回应了
https://simonwillison.net/2026/Feb/15/cognitive-debt/
"I've experienced this myself on some of my more ambitious vibe-code-adjacent projects. I've been experimenting with prompting entire new features into existence without reviewing their implementations and, while it works surprisingly well, I've found myself getting lost in my own projects.
I no longer have a firm mental model of what they can do and how they work, which means each additional feature becomes harder to reason about, eventually leading me to lose the ability to make confident decisions about where to go next."
早说 为什麽不早说
--------------------
其实我也讲很久了，ai是有帮助的，但用ai写程式大概是最糟糕的方式。前面就算进展快，但後面反而会更慢。
最近win11 updates一堆奇怪严重的bugs，我都怀疑是微软all in AI造成的结果。
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 58.114.66.74 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Soft_Job/M.1771547845.A.92C.html
1F：→ TonyQ: 我是觉得 vibe coding 本质上是幻觉 02/20 08:45
2F：→ TonyQ: 即使用 ai 写程式完全不意味着你就不需要了解它了 02/20 08:45
3F：→ oopFoo: 就像读书需要练习，只是背过，但实习，你能了解多少。 02/20 09:10
4F：→ oopFoo: coding其实是一边写，一边在想也在学习。 02/20 09:11
5F：推 dream1124: 有这种发现不令人意外啊。想想老板就知道了，自从他们 02/20 09:13
6F：→ dream1124: 不再碰程式碰系统，只负责提供目标和验收标准後，出了 02/20 09:13
7F：→ dream1124: 问题是不是急着叫你修而很难自己当黑手伸进去修？ 02/20 09:13
8F：→ dream1124: 当初内部逻辑是你构建的，你完善的，你会比较有印象， 02/20 09:16
9F：→ dream1124: 有状况会比较容易分析问题。我不知道别人用法保守的 02/20 09:18
10F：→ dream1124: 考量，但我即便知道CLI突飞猛进，但暂时也只把AI当顾问 02/20 09:19
11F：→ dream1124: 之一，考虑的点就是这个。不过这是工作模式的取舍， 02/20 09:19
12F：→ dream1124: 对规模小，设计模式经常重复，风险又很低的开发工作， 02/20 09:20
13F：→ dream1124: 如果LLM已针对情境最佳化，那交给AI写也未尝不可。 02/20 09:22
14F：→ gtr22101361: 这种比较是叫AI写出能跑的後，没在管spec和review 02/20 09:35
15F：推 jack529: 就像看书一样，你不用想的想出来，只有用看的很快就忘记 02/20 09:37
16F：→ jack529: 自己在冲三小，基本上除了coding 应该很多事都会有这问题 02/20 09:37
17F：→ jack529: ，总结：人类快没有录用了 02/20 09:37
18F：→ jack529: 其实单纯看spec review 也跟你自己想出来的差别很大，自 02/20 09:39
19F：→ jack529: 己用AI开始写程式後，真的对程式码的掌控力下降很多 02/20 09:39
20F：→ jack529: 所以天天还是会透过Leetcode来训练大脑，我觉得在这个时 02/20 09:40
21F：→ jack529: 代反而这种锻链变得好重要，防止脑残lol 02/20 09:40
22F：推 JaccWu: 大部分东西太久没碰能力多少会下降 02/20 10:15
23F：→ JaccWu: 但产出增加的话 即使认知下降 市场还是会倾向如此 02/20 10:16
24F：推 sharek: 个人是感兴趣的topics 就动手写，动手才比较容易思考各个 02/20 10:17
25F：→ sharek: 面向，至於不感兴趣只需要交差的，AI 辅助只做review 02/20 10:17
26F：推 shinmori: 和导航一样，用久了方向感也会变弱，大脑就用进废退 02/20 10:30
27F：推 yamakazi: 绝大部分人只负责一小部分，我很少看到一个人负责几百万 02/20 10:44
28F：→ yamakazi: 行代码的。一个人通常最多只负责几万到十几万行代码。当 02/20 10:44
29F：→ yamakazi: 责的部分这麽小用AI几乎不会有问题 02/20 10:44
30F：推 cuzuto: 跟我想的一样，人类的认知变得非常重要 02/20 10:54
31F：推 hidog: 觉得正常，我长时间没写C++後也会退化 02/20 11:07
32F：推 yamakazi: 第二个她说她没有review，会lost掉也很正常，像我每行ai 02/20 11:12
33F：→ yamakazi: 写的代码都有review，掌握度就比较高 02/20 11:12
34F：推 yamakazi: 只审核不用亲手写，同时可以保有速度和掌握度，而且量变 02/20 11:16
35F：→ yamakazi: 终究会产生质变，以前手刻时代一年一万行，平均每天就手 02/20 11:16
36F：→ yamakazi: 刻三十行。AI时代我一个月大概三五万行，一天看代码就要 02/20 11:16
37F：→ yamakazi: 一千行，完全可以抵掉没手写那三十行的熟悉度 02/20 11:16
38F：推 yamakazi: 其实SOC或是5G也是，像手机晶片越做越大，spec越来越厚 02/20 11:20
39F：→ yamakazi: ，已经很难有人说他可以掌握全局了 02/20 11:20
40F：推 yamakazi: 然後这牵涉到思考的本质，Llm底层是条件机率，也就是在 02/20 11:35
41F：→ yamakazi: 有前文的状况下，找出下一个最大机率单词。也就是靠机率 02/20 11:35
42F：→ yamakazi: 统计而已。这在原本专家的眼中跟人类的思考认知天差地别 02/20 11:35
43F：→ yamakazi: 。 02/20 11:35
44F：→ yamakazi: 但没想到这样的llm 居然可以拿到奥林匹亚数学金牌。那有 02/20 11:35
45F：→ yamakazi: 没有一种可能 02/20 11:35
46F：推 yamakazi: 人类的思考本质上也是一种条件机率，你看得越多你就会的 02/20 11:37
47F：→ yamakazi: 越多，而不用再靠「思考」 02/20 11:37
48F：推 yamakazi: 以前手刻时代所谓的想架构，其实也就是看看有什麽设计模 02/20 11:42
49F：→ yamakazi: 式好用，有哪个新语法比较高效，本质上还是试错复制贴上 02/20 11:42
50F：→ yamakazi: Try and error，copy and paste有牵涉到什麽思考吗？我 02/20 11:44
51F：→ yamakazi: 觉得没有。然後所谓的手刻维持手感也只是某种机械化重复 02/20 11:44
52F：→ yamakazi: 动作，就像羽球选手打球的那种肌肉记忆而已 02/20 11:44
53F：推 yamakazi: 第二个大神说不review ai code可行了，但代价就是你掌握 02/20 11:49
54F：→ yamakazi: 度降低。 02/20 11:49
55F：推 lturtsamuel: 好奇问一下 什麽公司会让单一个工程师一个月产生五万 02/20 11:57
56F：→ lturtsamuel: 行代码？是真的有这麽高的需求？公司放心让一个产品 02/20 11:57
57F：→ lturtsamuel: 改变得这麽快 而且都在单一个人手中？ 02/20 11:57
58F：推 yamakazi: 全新实验性的repo，要来取代某个订阅软体的 02/20 12:09
59F：推 yamakazi: 也不是只有我会啦，我们整组人都会，不是只有我单一一个 02/20 12:11
60F：→ yamakazi: 人 02/20 12:11
61F：推 yamakazi: 其实你去看一亩三分地，M7印度人每次都用AI一次推几千行 02/20 12:13
62F：→ yamakazi: 上去，其他同事都在抱怨审核不完 02/20 12:13
64F：→ yamakazi: 人家M7印度人都一次推个千行PR的 02/20 12:15
65F：推 yamakazi: 大部分人工作的scope就几万行了不起吧，几万行你光用看 02/20 12:41
66F：→ yamakazi: 的都没办法建立掌握度（更何况还有debug mode)，那应该 02/20 12:41
67F：→ yamakazi: 不是AI用太多的问题 02/20 12:41
68F：→ yamakazi: IDE跳转，debug mode，请AI看完写md档，这三个用下去几 02/20 12:43
69F：→ yamakazi: 十万行的掌握度应该轻轻松松 02/20 12:43
70F：推 lturtsamuel: 几万行当然是看得懂 几万行而且每个月动辄改变五万行 02/20 12:44
71F：→ lturtsamuel: 我就不觉得我能掌握了 02/20 12:44
72F：推 lturtsamuel: 而且是精读的扣几万行 出问题会找我的扣可能有就三十 02/20 12:47
73F：→ lturtsamuel: 万 都嘛是大概知道一些在干嘛 02/20 12:47
74F：→ lturtsamuel: 你也不可能说 呼叫你的人 跟你呼叫的人 一窍不通 跟 02/20 12:51
75F：→ lturtsamuel: 上下游一起debug的时候不想知道都会知道 02/20 12:51
76F：推 yamakazi: 没关系，不是每个人用AI都会每个月五万行，我只讲我的例 02/20 12:55
77F：→ yamakazi: 子，你也可以每个月写少一点 02/20 12:55
78F：→ yamakazi: 而且只是初期才五万行这麽多，後来就没那麽多了，都修修 02/20 12:56
79F：→ yamakazi: 改改一些而已 02/20 12:56
80F：推 lturtsamuel: 没别的意思 我就是想知道程式码变动如此剧烈你要怎麽 02/20 12:58
81F：→ lturtsamuel: 掌握他 是不是有什麽厉害秘诀 如果秘诀是放弃掌握那 02/20 12:58
82F：→ lturtsamuel: 我可能就学不来这套 02/20 12:58
83F：→ lturtsamuel: ㄛ 那就合理了 02/20 12:58
84F：推 lturtsamuel: 不过这样比不太公平吧 你每天30行的状况肯定不是这个 02/20 13:00
85F：→ lturtsamuel: 崭新专案 一定也是修修改改的阶段 你现在修修改改的 02/20 13:00
86F：→ lturtsamuel: 话ai有显着加速吗？ 02/20 13:00
87F：嘘 hidog: 没发现没人想理某y吗 02/20 13:09
88F：推 yamakazi: 修修改改超快的啊，给他一句话就能改好的事不快吗？甚至 02/20 13:11
89F：→ yamakazi: 修bug 也超快，以前还要除错模式慢慢step in，现在他直 02/20 13:11
90F：→ yamakazi: 接看一看跑个一两次就找到bug，最多再一次log重编重跑。 02/20 13:11
91F：→ yamakazi: 不过我觉得ai强不见得你觉得ai强，毕竟我也不知道你怎麽 02/20 13:11
92F：→ yamakazi: 用AI，有兴趣找我以前推文，我就不再赘述 02/20 13:11
93F：推 yamakazi: 再一次加log 02/20 13:12
94F：推 yamakazi: 拿个最简单的例子，用python parsing log档後画出特定资 02/20 13:16
95F：→ yamakazi: 料栏位XY散布图，现在交代一句话一分钟就做完了 02/20 13:16
96F：推 lturtsamuel: 我的经验是 如果追到最後发现是某个 底层函式被呼叫 02/20 13:21
97F：→ lturtsamuel: 太多次而慢，叫他帮弄个快取，他可以分析完直接改扣 02/20 13:21
98F：→ lturtsamuel: 就很快，但如果只是跟他说 这个操作很慢 他自己分析 02/20 13:21
99F：→ lturtsamuel: 不太出来 给他权限跑程式也没办法 02/20 13:21
100F：→ lturtsamuel: 我记得给他看 callgrind 输出他可以抓出几个问题点， 02/20 13:22
101F：→ lturtsamuel: 但没办法很精确，他也没办法帮我教客户怎麽在那个环 02/20 13:22
102F：→ lturtsamuel: 境跑callgrind 02/20 13:22
103F：→ lturtsamuel: 而这些做不到的事完全是瓶颈 比写那个快取层久多了 02/20 13:24
104F：→ lturtsamuel: 而且也无趣多了 我宁愿自己去写那个快取层让ai处理其 02/20 13:24
105F：→ lturtsamuel: 他事 02/20 13:24
106F：推 yamakazi: 追到底层件事，以前手刻时代我都是用gdb ，AI时代的话他 02/20 13:37
107F：→ yamakazi: 不喜欢用gdb喜欢加log看log，所以我是叫他把整条路径列 02/20 13:37
108F：→ yamakazi: 出来，log全部加上去重编重跑後看log，毕竟文字处理是他 02/20 13:37
109F：→ yamakazi: 的强项 02/20 13:37
110F：推 yamakazi: Log时间和函数全部打出来，谁最慢一目了然，以前手刻时 02/20 13:39
111F：→ yamakazi: 代加log比较粗活 02/20 13:39
112F：推 yamakazi: 现在加log就几秒钟的事，瓶颈都是在重编重跑，看log他很 02/20 13:42
113F：→ yamakazi: 快比人类快多了 02/20 13:42
114F：推 neo5277: 其实一并要求产出注解跟文件就好了... 02/20 14:21
115F：推 CoNsTaR: 因为 AI 思考的本质是 attention，不是机率 02/20 15:15
116F：→ CoNsTaR: 有 attention 就可以思考是因为逻辑一定有头有尾，你可以 02/20 15:15
117F：→ CoNsTaR: 把整条龙每一步之间的所有关系存进 attention，用到机率 02/20 15:15
118F：→ CoNsTaR: 的地方只有没逻辑的机率事件 02/20 15:15
119F：推 yamakazi: 确实 attention is all you need 02/20 15:24
120F：推 bensome0624: 所以资深工程师用会得心应手，菜鸟工程师掌握度不高 02/20 15:53
121F：→ bensome0624: 还是容易踩雷，而且认知也越来越难进步 02/20 15:54
122F：推 viper9709: 推老板的比喻赞的+1 02/20 16:08
123F：推 VScode: 用进废退罗 有地方退步肯定有地方变强 02/20 16:18
124F：→ VScode: 俗话说换个位子换个脑袋 你现在叫比尔盖兹写组语他也写不 02/20 16:19
125F：→ VScode: 出来 02/20 16:19