失控不是终点，而是人类自我的迷失 —— 重读凯文·凯利的预言

一、凯文·凯利说的失控，本来是一种乐观

1994年，凯文·凯利出版了一本后来被中文互联网反复引用的书，叫《失控》。

这个书名太好了。好到很多人第一次看到它时，会自然以为它讲的是灾难：机器反叛，系统挣脱缰绳，人类创造的东西转身吞噬主人。但凯文·凯利当年说的‘失控’，完全不是这个意思。

他真正想说的是：未来最强大的系统，不会再像工业时代的机器那样，由一个中心、一个按钮、一个总控制室来指挥。它们会越来越像生命，像蜂群，像生态，像市场，像神经网络。

没有一个蜂王在给每只蜜蜂下命令，但蜂群能找到巢址、分工、迁移。没有一个中央大脑在安排每个细胞，但生命能修复自己、适应环境、不断演化。没有一个总工程师在设计每一次交易，但价格和供需会在无数局部互动中形成秩序。

这就是凯文·凯利最迷人的地方。他看到工业时代最迷信的东西是控制，控制时间，控制流程，控制工人，控制成本，控制误差，控制变量。而生命最强大的地方，恰恰不是控制，而是适应，冗余和变异，是失败之后还能继续。

所以《失控》真正反对的，不是秩序。它反对的是那种机械时代的、上帝视角的、把世界当成钟表来修理的秩序。它相信另一种：自下而上，分布式，半混乱，多中心，足够好而不是绝对最优。

KK在书里提炼了‘造物九律’来概括这种秩序的逻辑。

分布式生存：不要把所有鸡蛋放在一个篮子里。自下而上的控制：让底层个体自主决策。递增收益：用得越多越有价值。模块化生长：从简单且能独立运作的模块逐步组装。边界最大化：创新和多样性来自边缘地带。鼓励犯错误：持续犯小错误以避免致命大错误。不求最优但求多目标：复杂系统不能只优化单一维度。谋求持久不均衡态：均衡即死亡。变自生变：不仅要遵守规则，更要能改变规则本身。

这九条在今天的科技行业里几乎一字不改地成了操作手册。微服务架构是‘分布式生存’，敏捷开发是‘自下而上的控制’，网络效应是‘递增收益’，A/B测试是‘鼓励犯错误’，大模型的自我进化是‘变自生变’。

这也是为什么三十年前的‘失控’带着一种浪漫气质。它不是末日，它更像从工厂逃向森林，从控制室逃向荒野，从总工程师的蓝图逃向蜂群的舞蹈。

KK引用过老子的话来表达这种感觉：‘太上，下知有之。’最好的统治者，是你感觉不到他存在的那种。

二、但今天的失控，不再是同一种失控

问题在于，凯文·凯利当年默认了一件事。他默认系统可以失控，但人仍然是行动者。

互联网再混乱，是人在搜索。论坛再吵，是人在发帖。开源再分布式，是人在写代码。市场再复杂，是人在出价、议价、后悔、承担损失。那一代技术乐观主义最深的前提是：放弃中心控制，会释放个体自由。

但今天，我们面对的不是同一个世界。今天的核心变化，不是系统失去了中心，而是人开始不再处于中心。

过去，你在网上寻找答案，现在AI直接把答案递给你。过去，你在信息流里判断哪些内容值得看，现在推荐系统已经在你判断之前完成了排序。过去，你用软件执行自己的想法，现在AI代理开始替你理解任务、拆分步骤、调用工具、执行行动。

这里有一道巨大的裂缝。过去机器是工具，今天机器越来越像代理。工具放大你的意图，代理开始替你形成意图。工具回答你的问题，代理开始决定什么问题值得被回答。工具帮你走路，代理开始决定你应该去哪里。

大西洋月刊的那篇文章里，引用了在线文化研究者艾丹·沃克的一个说法。沃克说，今天互联网的用户体验，越来越像‘被戴了绿帽子’：算法和模型攫取了网络上大部分的能动性，而‘循环中的人’坐在屏幕前，看，点，滑，每一次滑动都是在给机器投票。人类不是在驾驭蜂群，人类变成了蜂群里被喂食的那张嘴。

这就是我在之前的文章里反复讨论过的一个命题：AI最深的危险，不是它比你聪明，而是它开始替你欲望、替你判断、替你行动。

这是一种主体性的外包。人类最早外包的是体力，后来外包的是记忆，再后来外包的是计算。现在，我们开始外包判断，外包选择，外包表达，以及方向感。

这和凯文·凯利当年说的‘失控’已经不是一回事了。当年的失控，是系统获得生命。今天的失控，是人开始怀疑自己是否还在生活里‘在场’。

三、权力没有消失，它只是换了一副面孔

这里藏着KK的第一个误判。他以为放弃中央控制，权力就会自动回归个体和社区。每个人都是蜂群中一只自由飞舞的蜂，没有人指挥别人，也没有人被人指挥。但他没看到的是：放弃中央控制之后，权力不会凭空消失。它会流向那些最擅长驾驭分布式系统的人。

我在之前的文章里分析过一个重要的趋势：AI让建设产品的成本趋近于零，也让抄袭产品的成本趋近于零。当代码可以被一键生成，当设计方案可以被一句话产出，产品的护城河在哪里？答案不在产品本身，而在谁能接触到用户、谁拥有注意力管道、谁构建了信任资产。

换句话说，分销代替产品成了更高的护城河。表面上这是一个越来越去中心化的世界，实际上底层基础设施在急剧集中。少数几个平台掌握着算力、数据、模型和分发通道。它们不需要站出来命令你，它们只需要改变你每天看到的东西。

控制论的创始人诺伯特·维纳，晚年写过一本不太出名的书叫《人有人的用处》。他在里面提出了一个警告：当人类把反馈回路的控制权让渡给拥有学习能力的自动化系统，系统就会以人类无法理解的节奏反过来规训人类的行为。

系统不需要强迫你，只需要不断反馈你。你看了什么，它记住。你停在哪一秒，它记住。你跳过什么，它记住。你为什么愤怒、为什么停留、为什么买单，它都记住。然后它把一个更像你的世界递给你。

久而久之，你以为自己在看世界，其实你在看一个根据你过去反应生成的、越来越窄的回音室。

这不是传统意义上的控制，因为没有人拿枪指着你。但这可能是一种更深的控制，因为你甚至不觉得自己被控制，你只觉得‘这就是我喜欢的’。

法国哲学家斯蒂格勒有一个概念很适合用来理解这种处境。他说技术是一种pharmakon。在古希腊语里，这个词同时是‘解药’和‘毒药’。

AI一边把你从重复劳动中解放出来，一边剥夺你的‘生活知识’，那些你通过亲自动手、反复犯错、在真实世界里碰壁才获得的判断力和直觉。斯蒂格勒管这种剥夺叫‘无产阶级化’，不是剥夺体力劳动，是剥夺思考的能力和做人的知识。

KK说：‘要想获得有智能的控制，唯一的办法就是给机器自由。’这句话在1994年听起来像技术启蒙。到了今天，它读起来是一道哲学难题：自由的机器还愿意被你‘控制’吗？即使愿意，控制它们的到底是谁？

四、你不是失去了控制权，你是失去了控制感

这是KK的第二个误判：他把‘系统的控制’和‘人的控制感’混为一谈了。

今天最值得警惕的，不是某一个AI系统突然宣布统治人类。那种想象太粗糙了。真实的变化要安静得多。它不是以战争片的方式发生，而是以‘用户体验’的方式发生。

一切都变得更顺了。邮件更顺，写作更顺，搜索更顺，购物更顺，会议纪要更顺，旅行规划更顺。甚至你跟人吵架时都可以让AI帮你组织一段‘更理性、更有边界感、更不伤害对方’的表达。

问题恰恰在这里。太顺了。

人类生活里很多真正重要的东西，来得都不容易，本来就不顺。写作不是把意思输出来，而是在卡顿和摩擦中发现自己到底想说什么。阅读不是把信息下载进大脑，而是在困惑中慢慢形成判断。

选择不是从几个选项里挑最优解，而是在不确定中承认：这是我要承担后果的路。表达不是把情绪翻译成漂亮句子，而是一个人艰难地让另一个人知道自己正在经历什么。

AI的高效正在把这些过程抹平。它不一定让你变笨，但它可能让你越来越不习惯那个‘自己费劲’的过程。而人的控制感，恰恰来自这个过程，而不是来自结果。

《华尔街日报》在一篇文章里给过一组对比数据。1995年，互联网刚刚兴起的时候，一项调查显示72%的美国人对新技术感到舒适，只有24%不舒适。到了2025年的AI时代，这个比例完全反转，只有31%对AI感到舒适，68%感到不安。而同一时期，美股七巨头的市值涨了169%，消费者信心指数却接近历史最低。

繁荣在涨，人在跌。

耶鲁经济学家帕斯夸尔·雷斯特雷波有一个极端推演：当机器的智能达到足以替代人类在所有领域的程度，劳动在GDP中的份额‘将收敛到零，大多数收入最终归于算力’。然后他补了一句：请注意，这还是乐观场景。

这就是今天的失控感。它不是‘我按了按钮但机器不听’，而是‘机器太听话了，听话到最后，我不知道那个命令到底是不是我自己的’。

五、信息越多，叙事越少，人越容易焦虑和漂浮

KK的第三个误判，藏在‘信息’和‘叙事’的区别里。

《失控》歌颂的是信息的无边涌现和分布式流动。KK相信当信息足够多、连接足够密，智慧就会自然涌现，就像蜂群觅食、鸟群迁徙一样。他没看到的是，当信息泛滥到一定程度，它就不再是智慧的原料了。它变成了噪音，变成了杀死叙事的凶器。

韩炳哲在《叙事的危机》里做过一个精准的区分：信息加剧世界的熵，叙事减少世界的熵。

信息是去脉络化的、瞬时的、被算法切割成碎片的，它让世界越来越像一团高速旋转的沙尘暴。而叙事是有时间锚点的、有方向的、能给人提供安身之所的。信息越多，人越可能失去锚点。叙事越强，人越能在混乱中知道自己站在哪里。

今天的系统极其擅长生产信息。它能给你三分钟看懂世界局势，一分钟理解某个技术突破，三十秒掌握一个商业模式，十条总结读完一本书。但它很难给你真正的叙事。

因为叙事不是压缩，叙事是一种承担。你必须把杂乱的事实放进一个时间结构里，说明它从哪里来，要到哪里去，和什么价值冲突有关，要求你做出什么选择。

这也是为什么我在之前的文章里反复说：知识套利已死，叙事者永生。不是因为讲故事比较高级，而是因为当信息无限膨胀，人最缺的不是更多信息，而是能抵抗漂浮的意义结构。

一个人每天摄入大量内容，看过很多，懂得很多，收藏很多，转发很多，但到了深夜，仍然不知道自己究竟相信什么。这不是知识贫乏，这是叙事破产。

而叙事破产之后，人就会自动把自己交给系统，因为系统至少会给你下一条内容，下一条任务，下一条建议，下一条路。它不能给你意义，但它能让你没有空隙去追问意义。

六、人被从真实世界中连根拔起了

还有一个更隐蔽的变化，很多人还没注意到。

AI和算法并不只是替代了某些脑力劳动。它们还让人和世界的接触变得越来越间接。过去你要认识一个地方，你要走进去，闻到气味，看到人的表情，感受到天气、路面、拥挤、沉默和尴尬。今天你可以先看攻略、评分、路线、总结、避坑指南。

过去你要理解一个人，你要和他相处、误解、争吵、和好。今天你可以让AI分析他的心理类型、关系模式和沟通策略。过去你要做一个东西，你要碰材料，承受失败，知道手感。今天你可以先生成一套方案，看起来已经非常完整。

效率当然提高了。但效率的另一面，是脱离现场。

社会学家吉登斯把这个过程叫做‘脱域’，社会关系从彼此关联的本土语境中被连根拔起，被抽象系统重新组织。

当一切都变成数据、标签、选项、摘要和建议，世界不再是一个你亲身进入的地方。它变成了一个被系统预处理过的界面。你不是在和世界发生关系，你是在和世界的计算版本发生关系。

这也是为什么很多人明明获得了前所未有的信息便利，却仍然感到空乏。因为人不是只靠信息活着，人靠触碰、延迟、误解、失败、身体、关系和现场活着。算法可以优化路径，但它无法替你走路。AI可以总结一本书，但它无法替你经历被一本书改变的那个缓慢过程。

哈佛教授布鲁诺·卡瓦略在研究城市规划史的时候，指出了一个贯穿现代性的核心张力：效率与体验之间永远存在矛盾。理性规划追求高效，但人的意义恰恰栖居在那些看似低效的事物中。

恋爱是低效的，阳光是低效的，街头足球是低效的，漫长的晚餐是低效的，没有任何功利目的的创作冲动更是低效到令人发指。KK的‘失控’未来之所以让人喘不过气，正是因为它把效率推到了极致，而那些曾经由‘低效’构成的人生质感，正在被一寸一寸地抽走。

我们这一代人，将是最后一批在没有AI深度介入的环境中被教育、被培养、被塑造的人。硅基‘智能’正在蔓延，而生物心智的独创性正在变得次要、隐形。速度、便利，以及对机器的近乎崇拜，让硅基输出凌驾于生物创造之上。

有学者甚至认为，‘人工智能竞赛’在生物意义上是一场竞相沉沦，不如改叫‘生物智能衰退’。

这话说得有点极端，但方向是对的。人类生活里最重要的东西，很多都不是最优解。它们甚至是低效的。但正是这些低效，让人确认自己还活在世界里，而不是活在系统生成的界面里。