人类会失去什么？AI时代的认知危机
人类会失去什么？AI时代的认知危机
AI 确实很快，而且不知疲倦。它现在也确实能做很多语言方面的工作，比如写文章、对话、翻译、总结信息、写代码、改代码。
这件事没有必要否认。否认也没用。
我更想问的是另一件事：AI 这么强，到底是建立在什么之上的？它强到什么程度？它哪里是真的强，哪里又只是看起来很强？如果这些问题不想清楚，我们对 AI 的乐观和焦虑，最后都会变得很空。
AI 为什么会先在语言上这么强
目前的 AI 技术，最核心的一条线还是大语言模型。
这不奇怪。因为语言本来就是人类沟通的桥梁，文字又是现代社会最容易被数字化、信息化、标准化的东西。人类的大量知识、规则、经验、方法、争论，最后都会变成文字、图像、代码、表格、文档、网页、论文。
也就是说，AI 最容易接触到的，不是世界本身，而是人类已经写下来、整理过的世界。
这一点很重要。因为它决定了 AI 的强项，也决定了它的边界。
什么是现实
很多人讨论 AI 时喜欢直接说“真相”。我更想用一个朴素一点的词：现实。
人不是一出生就懂世界的。人总是先碰到世界，然后才慢慢长出对世界的理解。
一个幼儿在还没有见过蚂蚁之前，你很难真正教会他什么是蚂蚁。你可以告诉他蚂蚁很小，会爬，会搬东西，经常一群一群地出现。但这些都只是句子。真正让他开始理解“蚂蚁”的，还是某次具体的经历：他蹲在地上，看见一排蚂蚁从砖缝里出来，发现它们会绕开障碍，会去搬食物，和他以前见过的虫子不太一样。
再往上也是一样。一个没有上过学、没有类似知识背景的人，你让他直接理解黑洞、量子力学、概率分布，通常都很难。不是因为他笨，而是因为他的头脑里还没有足够接近的概念，没办法把这些新东西接住。
所以，人对世界的理解，不是凭空发生的。它总是建立在感受、经验、比较、试错和记忆之上。光线进入眼睛，声波进入耳朵，气味被闻到，冷热被感受到，疼痛被记住，行动有反馈，失败有代价。人就是在这些东西的基础上，一点点认识现实。
什么是概念
我觉得“概念”这个词很重要。
概念不是书上的定义先出现，然后人再去理解它。很多时候，概念是人跟现实打交道之后，从很多经验里慢慢提出来的稳定结构。
你小时候见过很多不同的狗，最后才知道“狗”这个词可以把它们归在一起。你摔过很多次、撞过很多次、受过很多次伤，最后才知道“危险”这个词不是空的。你做过事、失败过、返工过、收拾过后果，最后才知道“风险控制”到底是什么意思。
也可以说，概念就是经验被压缩之后留下来的东西。
什么是语言
如果概念是经验被提取出来的结构，那么语言就是这些结构的载体。
语言最大的作用，就是把复杂的经验压缩成可以交流的符号。
比如“蚂蚁”这个词，本身只是两个字，但它能一下子带出很多东西：大小、形状、行动方式、成群出现时那种感觉，甚至你小时候观察它时的记忆。语言很厉害，因为它让人不用把全部经验重新经历一遍，也能快速调动理解。
但语言也有局限。
因为只要是压缩，就一定会丢信息。
你说“疼”，别人不知道那是什么疼。你说“爱”，别人理解到的也可能完全不是你的经验。你说“压力很大”，别人可能只理解成忙，而不是你在长时间失眠、心烦、害怕出错。
所以语言本身不是现实。语言只是对现实的一种抽象和压缩。理解一个词，不只是记住这个词，而是能把这个词重新和经验接起来。
从认知科学的角度看，这个想法也是有依据的。具身认知这条研究路径认为，人类的概念并不只是抽象符号，它和感知、动作、环境有很深的关系。Barsalou 对 grounded cognition 的总结，Noe 对知觉与行动关系的讨论，以及 Hauk、Johnsrude 与 Pulvermuller 2004 年关于动作词和运动皮层激活的研究，都在提醒我们：至少在人类这里，理解不只是纯粹的符号操作。
说得简单一点，人能理解很多词，不是因为人脑里有一本字典，而是因为人的身体和经历里真的存过东西。
什么是 AI
如果顺着上面这条线往下走，AI 的位置就比较清楚了。
人先接触现实。
人在现实里形成经验。
经验被提取成概念。
概念被压缩成语言、图像、代码、文档。
而 AI 学习的，主要就是这些已经被人类处理过的符号材料。
所以我更愿意这样理解今天的 AI：它主要建立在人类语言和符号系统之上，它首先面对的，是人类对现实的描述，而不是现实本身。
这不是在贬低 AI。恰恰相反，这正是在解释它为什么会这么强。
因为现代社会本来就有大量工作是在符号层完成的。写邮件、写合同、写汇报、写代码、查资料、总结信息、做文案、做初步分析，这些事本来就建立在语言和结构关系上。AI 在这些方面表现突出，是很自然的。
AI 的能力边界
问题也在这里。
因为 AI 学习的是描述、记录、抽象，是被压缩过的材料，所以它很擅长发现这些材料之间的关联关系，也很擅长生成像样的回答、表达和结构。
但这不等于它对现实本身有了和人一样的认识。
它可以写出一段关于蚂蚁的准确描述，但它并没有真的看过蚂蚁。它可以总结很多关于爱情、责任、死亡、风险的文本，但它没有以第一人称经历过这些词。
所以我觉得，把 AI 说成“已经理解世界”是过头的。更谨慎一点的说法应该是：AI 对人类关于世界的描述，已经学得非常好了；但这和直接理解世界本身，还是两回事。
这一点说清楚很重要。因为如果语言本来就是对现实的一层抽象，那么 AI 很大程度上就是建立在这层抽象之上的再次抽象、再次拟合。
抽象层数越多，离现实就越远，失真也就越容易发生。
为什么会失真
失真不是 AI 独有的问题。人类自己也一直在失真。
我们看报告，不看现场。 我们看纪要，不听当时的语气。 我们看复盘，不经历当时的混乱。 我们看别人写好的结论，不再走一遍形成结论的过程。
抽象当然有价值。没有抽象，人类几乎不可能协作，也不可能积累知识。
但抽象也一定会丢东西。
先丢掉细节，再丢掉背景，再丢掉代价，最后留下来的是一套很清楚、很干净、很适合传播的说法。
可现实通常不是那样的。现实往往有很多局部条件，有很多说不清的上下文，有很多当时看不出来、事后才知道的代价。
一个人如果长期只处理抽象过的结果，不再接触现实本身，就会慢慢出现一个问题：越来越会谈问题，越来越不会处理问题。
这可能就是 AI 时代的认知危机之一。
AI 需要人类做什么
如果 AI 建立在人类对现实的描述之上，那就意味着一件事：AI 离不开人类继续去连接现实。
这件事不是一句空话。
现实世界不会自己变成训练数据。总得有人去观察、记录、测量、定义、标注、验证。你要让 AI 更好地处理医疗、交通、材料、制造、机器人、农业这些问题，就总得有人继续待在现实世界里，把那些杂乱、具体、很难标准化的东西一点点整理出来。
而且就算模型已经训练好了，也还是要有人不断回到现实里去看：它给出的东西到底靠不靠谱，能不能进入决策，出了问题谁负责，代价由谁承担。
所以我不太认同一种很轻松的说法：AI 越强，人类就越只需要提需求。
我觉得更接近现实的情况可能正好相反。AI 越强，人类越要知道自己面对的现实是什么，自己真正想解决的问题是什么，自己愿意承担什么后果。否则所谓“提需求”，最后很容易变成一种脱离现实的许愿。
AI 会给人带来什么改变
我觉得这里面最值得警惕的，不是“AI 会不会把某些工作抢走”，而是它会不会慢慢改变人的认知方式。
一个很明显的变化是，AI 会让获取答案变得太容易。
这当然有好处。它提高效率，降低门槛，也帮人节省了大量时间。
但问题在于，人可能会越来越少去经历那个自己摸索、自己理解、自己犯错、最后把问题想透的过程。很多真正的理解，偏偏就是在这个过程里长出来的。
一个人学做饭，真正学会的不是看十个菜谱，而是下手之后知道火候什么时候过了、盐什么时候放多了、锅什么时候该关。一个人学管理，真正学会的不是看三十篇带团队文章，而是在一次次沟通失败、判断失误、责任划分不清里，慢慢知道问题出在哪里。一个人写作也是一样，真正让人长能力的，不是最后那一段像样的话，而是从混乱到清晰的那段过程。
如果 AI 越来越多地把这个过程替人处理掉，人当然会变快，但也可能慢慢失去一些东西。
我觉得最先松掉的，可能就是三样东西：探索现实的耐心，亲自形成理解的能力，还有对自己判断负责的意识。
因为当一句话是你自己写出来的，你通常知道哪一句是真懂，哪一句其实只是说得像。可如果那段话是模型生成的，人很容易只是在做挑选，不是在真正做判断。
人类还能做什么
如果上面这些担心成立，那人类在 AI 时代真正重要的，可能就不是去和模型比谁更会输出像样的话。
人类更重要的，可能反而是继续做那些抽象系统做不了、或者暂时还做不稳的事。
比如去接触现实，去做一手观察，去定义真正的问题，去把现实转成模型，再把模型结果接回现实。也包括承担后果，做价值判断，做那些不能只靠“像样回答”就完成的事。
换句话说，AI 可以越来越像一个强大的抽象系统，而人类仍然要负责不让抽象彻底脱离现实。
我现在比较认同的人机关系
我现在更认同一种比较朴素的看法：AI 不是现实本身，也不是人的替代品。它更像一个建立在人类已有表达之上的强大工具。
它能帮人处理大量符号层面的工作，放大效率，也扩展能力。
但它的前提，是人类还在继续接触现实、继续提供经验、继续做建模、继续做校准、继续承担价值判断。
如果这条线断了，AI 就会越来越像一个只会在抽象层里自我循环的系统。它也许还能生成很多漂亮的答案，但这些答案会离现实越来越远。
所以，AI 和人的关系，我不太愿意理解成“谁替代谁”。我更愿意理解成：AI 负责高效处理抽象，人类负责继续把抽象接回现实。
最后
回到最开始的问题：人类会失去什么？
我觉得，人类最可能失去的，不是某一项具体技能，而是那种通过接触现实、经历过程、承担后果，慢慢长出理解的能力。
如果这件事真的发生了，人表面上会更高效、更会表达、更容易得到答案，但里面的判断力可能会慢慢变空。
所以我并不反对 AI。我也在用。
我只是越来越觉得，在 AI 时代，人要有意识地保留一些东西：保留慢一点想问题的能力，保留亲自接触现实的能力，保留自己形成判断的能力。
因为这些东西一旦丢掉，最后失去的可能就不只是某一种工作方式，而是人认识世界的方式。
参考文献
- Barsalou, L. W. (2008). Grounded cognition. Annual Review of Psychology, 59, 617–645.
- Noë, A. (2004). Action in Perception. MIT Press.
- Hauk, O., Johnsrude, I., & Pulvermüller, F. (2004). Somatotopic representation of action words in human motor and premotor cortex. Neuron, 41(2), 301–307. https://doi.org/10.1016/S0896-6273(03)00838-9
- Sparrow, B., Liu, J., & Wegner, D. M. (2011). Google effects on memory: Cognitive consequences of having information at our fingertips. Science, 333(6043), 776–778. https://doi.org/10.1126/science.1207745
- Dahmani, L., & Bohbot, V. D. (2020). Habitual use of GPS negatively impacts spatial memory during self-guided navigation. Scientific Reports, 10, 6310. https://doi.org/10.1038/s41598-020-62877-0
- Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.