AI 带来的大脑的退化

中国医药大学的沈戊忠教授，最近发了一条动态，说自己理解不了 AI 到底是帮助自己提高了效率，还是让自己大脑开始退化。

沈教授讲了他最近使用 AI 的一些体验细节。

最近他再重新编写医学教材，写的每一篇文章都至少要引用 10~20 篇论文，每篇论文起码要两个小时阅读和思考，由此可见工作强度之大。于是他尝试用 Chat GPT 4o plus 来整理和分析文献，在他把这些论文丢过去之后，两分钟之内就能总结好了论文的摘要，还能帮助自己续写下一段内容。

虽然在效率上的得到了极大的提高，但是他发现，对于已经读过的文献，自己还能判断 AI 整理结果的质量，对于没有读过的，他就不愿意再细细去读，失去了以前细读论文的乐趣。

他也提到，通过自己的这次体验再去看学生提交上来的作业，就会发现很多语气、段落和内容非常相似的部分，显然是由 AI 来完成的。他就会花一些时间去跟这些学生交流，有没有真的阅读并深入了这些文献，报告做的再漂亮，不懂里面的含意，就本末倒置了。

AI 可能会帮我们阅读很多文章，获得很多资讯，但是也让我们不好好细读一篇文章，失去品尝作者书写的心血及精华，所以 AI 可能会让你退化。但是最重要的是看你自己，让你进化还是退化，就看自己如何使用 AI 。

一个符号节省了15000台服务器

另一个故事是来自于Facebook的官方Blog。

一位工程师在广告服务系统的热点调用路径中发现了一个数组拷贝，使用了 C++ 中的一个常见的模式：auto 关键字。他在 auto 后面加上一个 & 符号，把值拷贝改成引用传递，提交了代码。

这一个 & 符号的修改，为公司节省了 15,000 台服务器的成本。

看完这个故事，我不禁会去怀疑， AI 也能做到这种程度的优化吗？一个字符的优化，是数十年来经验和能力的积累，不只是这位工程师自己具备精准的判断力，更是隐藏在整个人类知识体系之下训练出来的直觉。

十几年前有个笑话是这样的。

一位富翁的妻子不小心跌了个跟头，断了一根股骨。富翁请城里最好的外科医生为他妻子手术。医生用一根镙丝钉将病人的骨头接好了。手术很成功。医生向富翁收费 5,000 美元。富翁很不高兴，认为医生只不过用了一根镙丝钉就收这么多钱，太不公平。于是他写了一封信给医生，要求列出收费明细账，很快他便收到了医生寄来的账单：1 根镙丝钉：1 美元；知道怎样放进去：4,999 美元；总计：5,000 美元。

当笑话照进现实， AI 究竟会是那个价值 1 美元的螺丝钉，还是价值 4,999 美元的知识，取决于你怎么理解 AI 。

知道与做到是两码事

说到这里，我想到春节前自己用 AI 开发 App 的一些很不好的反馈。

有很多人在读了我用 AI 开发 App 的故事后，会在后面评论一些包含恶意的话，比如说：吹牛吧、广告文、投诉他、骗下载、排行是自己刷的等等，当然在言语上会更加激烈一些。

在我还在为自己的成果高兴的时候，看到这些评论自然会很生气。

但深思之下，其实对于 AI 的认知，已经将人划分为了不理解 AI 的和理解 AI 的两类，不理解和不会用 AI 就已经是完全不同的两个层级的认知。

非常多的人对 AI 仍然停留在简单对话的层面，认为 AI 是做不了什么复杂的工作的，或许他们仍然在细品论文的乐趣，也或许是在自己的世界里面不愿意看看外面发生了什么。

他人的处境让我去思考开发 App 的过程给我带来的意义。

我可以大言不惭地说，是我从头到尾设计了 App ，从理念到需求验证再到推广宣发。不过这种话也从在另一个层面体现出了我对 App 理解上的不足，因为我找不到那个价值 4,999 美元的知识点究竟在哪里，我把那一颗螺丝钉的价值发挥到了极致，带来的也只能是一美元的价值。

在不少朋友找我聊天问题这背后的算法和逻辑时候，我的回答往往很空洞，来掩饰自己内心对于缺乏必要知识的匮乏感，我会说“一行代码都没写，都是把需求拆碎了让 AI 实现的”，实际上内心因为不懂技术而显得很局促。

AI 给我带来了非常多的帮助，我甚至会将一些数据直接交给 AI 分析，只看分析后的结论，包括知网下载的文献，面对几十页的高密度知识，我内心第一反应是拒绝阅读的。学习和思考的价值，竞然不如几秒钟后 AI 给带来的多巴胺效果。

站在人类数千年积累起来的知识之上，非常容易的就可以在具体的领域获得突破，这在百年前也是不可想象的。但 AI 可以在几秒钟内就摧毁掉这一切，让你不再思考、不再学习。 AI 的出现是人类知识的产物，但 AI 的产出却在摧毁人类的知识积累，这也够讽刺的。

量变无法带来质变

在我用 AI 开发中还有一个小细节。

在用 Cursor 帮我改一个小 bug 时，从推理开始到阅读代码库，几秒钟就吞吐了数十个 token，修改完看到修改的文件多到数不过来，这时候看着 AI 一本正经的对话内容，不知道如何是好。当我切换一个新的对话重新修改时，却发现只修改了寥寥几行代码。

我该相信哪个，或者说 AI 为什么会出现奇怪的问题，就非常费解。假如我一开始就点击了“Accept”按钮，会带来哪些隐藏的问题，还不得而知。

AI 的局限性会锁定项目的规模。

当项目规模逐渐变大，AI 的负面效果就会逐渐显现。 AI 只能修改局部的问题，关联的代码越改越错，在高度抽象层面的代码中，会衍生出灾难级的后果。

这是我对当下 AI 编程最深刻的领悟，无论是 AI 的上下文再怎么大，还是无法理解人类的复杂领域，量变永远无法带来质变。

知道在哪里做修改，要比实际去修改难数万倍，而价值更是难以用数字衡量。

你可以外包工具，但你不能外包大脑。

AI 所能做的，也仅仅做到了去修改代码，而知道在哪里修改，是人类价值在根本上无法替代的。

–> END