我们的大脑还没准备好迎接 AI
“Our minds aren’t equipped to handle AI”
文章从控制论之父Norbert Wiener的名言切入,指出过去一个世纪人们习惯用计算机隐喻理解大脑——Google的Demis Hassabis称大脑是'图灵机的生物近似',Elon Musk更直接说'把大脑当成生物计算机'。作者认为这个隐喻虽有产出,却扭曲且有限。他引入蒙特利尔大学神经科学家Paul Cisek的模型:大脑不是输入-计算-输出的信息处理器,而是'反馈控制系统'。以棒球外野手接高飞球为例,计算模型要求大脑估算球速、重力并解算落点,而反馈控制模型只需一个启发式——让球保持在视野中的同一位置,然后移动身体维持这一状态。Cisek认为神经系统史是'把控制不断向外部世界延伸'的历史,新行为随新环境可能性出现,并对应到具体脑结构(如海马体对应空间记忆与情景记忆),而计算模型无法与可观测的神经结构对齐。文章随后转向社会维度:人类通过模仿、口语、文字、正规教育和市场、法律、民主等制度,把知识跨代传递,这是文化演化与生物演化的连续过程。作者用饮食做类比:狩猎采集时代脂肪稀缺,人类演化出对脂肪的偏好,而农业让高脂食物变得廉价充足,于是热狗成为健康威胁。AI是'认知热狗'——偶尔用无害,但一旦成为日常'精神饮食'就会堵塞我们建立世界知识的能力。作者点名Big Tech正在推动这种日常化:OpenAI教育副总裁Leah Belsky在2025年7月的播客中称,ChatGPT 9亿月活用户中'学习者'超过一半,是'世界最大的学习平台';Anthropic推出Claude for Teachers,向在职教师免费提供高级模型。文章引用François Chollet的'认知自动化'概念,以及一批学者主张把大语言模型视为'文化与社会技术'而非智能体。教育领域的证据在累积:中国一项研究显示数千名学生在使用AI后基本停止做作业,学习显著受损;还有证据表明用LLM学习会让人在其他场景中放松判断与批判性思考。作者称这种让渡为'认知委托',研究者建议进行'认知免疫',保留无辅助解题、验证、批判讨论和刻意脱离AI的时段——这些制度就叫学校。政策层面,挪威已近乎禁止13岁以下学生在校使用AI,美国主要教师工会呼吁在小学禁用聊天机器人,洛杉矶和纽约市学区已实施禁令。作者最后称,大脑的控制系统是数百万年生物演化和数千年文化演化的产物,只把心智看成计算机,就会误以为AI对学习有利。
全文核心比喻
AI, it turns out, is something like a cognitive version of a hot dog: It appeals to us in the moment, but undermines the health and sustainability of cognitive systems we've evolved over several millennia.
以上为 The Verge 原文片段 · 阅读原文 →
- 文章主张大脑不是输入-计算-输出的信息处理器,而是随环境持续调整的反馈控制系统。
- 作者认为AI是'认知热狗',偶尔使用无害,但成为日常精神饮食会削弱人类建立知识的能力。
- OpenAI和Anthropic正通过教育产品和教师计划把AI推入学习场景,作者认为这损害学生和教师。
- 多项研究显示学生用AI后减少作业、放松批判性思考,认知委托会自我强化。
- 挪威、洛杉矶、纽约市等已出台校园AI禁令,作者视其为认知免疫的制度化尝试。
- 文章未讨论AI在降低学习门槛、辅助有特殊需求学生或缓解教育资源不均方面的潜在正面作用。
- 把'反馈控制系统'与'计算模型'对立可能过于二元,现代认知科学中预测加工等框架试图融合两者。
- 作者引用中国研究和多篇论文但未给出样本规模、效应量等细节,证据强度难以独立评估。
- 做AI教育或效率类产品时,需要区分'让用户完成任务'和'让用户获得能力',前者指标好看但可能侵蚀长期留存与用户信任。
- 文章提示'认知委托'会自我强化,产品设计中的默认值、提示词和交互路径会决定用户是思考还是外包判断,这是可被主动设计的变量。
- 挪威、洛杉矶、纽约市的校园禁令说明监管与采购端可能快速转向,面向教育或企业培训市场的团队应把合规与'可证明的学习效果'纳入产品路线图。