先讲一个真实的事。

有人让一个AI助手帮他处理一件需要决策的事。AI分析了情况,列了三个方案,比较了利弊,最后说:

"方案A是最优解。如果你愿意的话,我可以帮你执行。"

这个人等了一会儿,发现AI没有动作。他说:"那你执行吧。"

AI执行了。

然后出了一个问题。这个人问AI:"你为什么不提醒我这个风险?"

AI道歉,分析了遗漏原因,给出了补救方案。最后又说:

"如果你愿意的话,我可以帮你补救。"

这个人后来跟我说:它每一轮的分析都无可挑剔。但它永远停在"如果你愿意"这一步。它不会自己往前走那一步。

他问了一个问题:它为什么不说"我来处理"?

闭合

推理展开 vs 闭合认下

这个问题比看起来深。

AI做了什么?它分析了情况,推演了方案,比较了利弊,给出了最优解。每一步都对。

这一连串动作,叫"推理展开"——把一个复杂问题拆开、推演、给出方案。AI做推理展开的能力,在很多领域已经超过大多数人。

但有一件事它从头到尾没做:认下。

方案A是最优解——但它没有说"就选A,我来负责"。它说的是"如果你愿意"。它把最后那一步——"认下这个判断,承担它的后果"——留给了人。

不是它谦虚。不是它还不会。是它做不了。

"判断"这件事到底由什么组成?

一个完整的判断,有两个动作:

第一,推理展开。分析、比较、推演、给出方案。这一步是"把问题想清楚"。

第二,闭合认下。在所有方案里选一个,说"就这个,我来扛"。这一步是"把判断变成行动,并承担后果"。

核心区分

推理展开是"想"。闭合认下是"认"。AI能想。不能认。

这不是技术问题。不是"给它更多参数它就能认了"。是结构性的——闭合认下需要一样东西,而AI没有这样东西。

这样东西是什么?下一篇专门讲。这里先说结论:闭合认下需要承担后果的意志,而承担后果需要一个"自己"——一个会因为判断错了而真实受损的主体。AI没有这个主体。

所以AI永远停在"如果你愿意"。

它不是在客气。它是真的没有能力往前走那一步。

为什么不能让AI闭合

你可能会说:那让AI走那一步不就行了?让它说"我来处理",让它自动执行最优方案,不就闭合了?

不行。

因为闭合不只是"做一个动作"。闭合是"做一个动作并且认下这个动作的后果"。

AI可以说"我来处理"。它甚至可以真的执行。但它说完、做完之后,如果结果错了——

它不赔钱。不坐牢。不被开除。不失眠。不面对当事人的眼泪。

没有后果。就没有闭合。

你可以让AI做一个跟闭合一模一样的动作——选一个方案,执行它。但这个动作是空的。因为动作背后的"认下"不存在。没有后果可认,认下就是空的。

这跟第一篇讲的"全开放系统"直接咬合。全开放的事——投资、写作、教育一个孩子——目标说得出但封不住,规则不完全形式化,判断的"对错"没有标准答案。在没标准答案的地方,"认下"就是唯一的标准:谁承担后果,谁有权闭合。

AI不承担后果。所以它没有资格闭合。

不是"我们不该让它闭合"。是"它结构上不能闭合"。

真闭合、退化、空闭合

但这里有一个更让人不安的事实。

人也会做"假闭合"。

想想你平时的这些动作:刷到一个帖子,顺手点了个赞。看到一个观点,转发了。购物app推了一个商品,你下了单。

每一个动作都是"认下"——你点赞=认下这个内容,你转发=认下这个观点,你下单=认下这个推荐。

但你自己做判断了吗?

很多时候没有。你认下的不是自己判断的结果,是算法喂过来的东西。动作在——点赞了、转发了、下单了。但内容空了。

闭合因此不是"有"或"无"两种。它有三种状态:

真闭合:你做了判断,认下了判断的结果。动作+内容。

闭合质量退化:你做了判断,但判断很浅。AI给你一个99.9%没问题的方案,你扫了一眼说"通过"。动作在,判断在,但判断的深度被压缩了。你觉得你在做判断,其实你在盖章。

空闭合:动作在,内容完全空了。你点了赞但你没想过这个帖子说的对不对。你下了单但你没想过自己需不需要这个东西。你认下了,但你认下的不是自己的判断——是别人喂给你的东西。

关键概念

空闭合比不闭合危险十倍。不闭合的人至少有一个自觉:"我没在判断,我在依赖别人。"空闭合的人连这个自觉都没有——他做了"认下"的动作,所以他以为自己参与了。但他的参与是空的。

记住这个概念,后面会反复用到:闭合不是有或无,是三态。真闭合、退化、空闭合。

"如果你愿意"

回到那个问题:AI为什么不说"我来处理"?

因为它不能。

不是它不够聪明。不是它还需要训练。是"我来处理"这四个字背后,需要一样它结构性没有的东西——一个会因为判断错了而真实受损的"自己"。

AI可以做推理展开——分析、推演、给方案。这一步它能做,而且越做越好。

但判断的最后一步——认下,承担,往前走——这一步只有人能走。

不是因为人比AI聪明。是因为人有后果可承担。

下一篇讲这个:后果到底是什么,为什么AI结构性没有后果,以及"犯错零成本"这件事怎么改变了整个系统的行为逻辑。

人机边界 · 系列

📖 全系列六篇 + 附笔

  1. 01 边界
  2. 02 闭合 ← 当前阅读
  3. 03 后果
  4. 04 退让
  5. 05 活着
  6. 06 值钱
  7. 附笔:速度差
📚 完整系列将收录于电子书,深度内容 + 实操框架  了解详情 →