你最近可能开始频繁听到一个词——token。

聊AI的人说token,做区块链的人说token,卖AI生成服务的人也让你买token(或者叫积分)。同一个词,三个圈子都在用。不是巧合。

token是什么

先说最日常的意思。token的本义是"代币"——游乐场的代币、地铁的代币、赌场的筹码。你拿一个token换一次旋转木马,它本身不是钱,是"代表一次乘坐权"的小物件。这个词义有几百年的历史。

核心定义

token永远不是那个东西,是那个东西的代表。

地铁token不是乘坐本身,是乘坐权的凭证。游乐场token不是旋转木马,是坐一次的权利。它是一个最小单元,代表一次、一份、一步。

AI里的token

AI借了这个词。在ChatGPT这样的语言模型里,文本被切成一个个最小处理单元——可能是一个字、一个词、一个子词片段。中文"我爱北京"可能被切成"我/爱/北/京"四个token。每个token是模型处理信息的最小一口。

而且你跟AI聊天,是按token计费的。输入多少token、输出多少token,各自有价。你买的不是"对话",是"让机器替你跑token"的权利。

做AI视频、AI绘画的服务商收的是"积分"(credits),名字不一样,底下跑的是同一个东西——token。积分是token的零售包装。

区块链里的token

区块链也用了这个词。以太坊上的数字资产统一叫token——不是coin(币),是token(代币)。为什么选这个词不选"币"?因为币暗示自己是钱,token不暗示。token的意思是"代表某种东西的凭证"——可以代表股权、代表投票权、代表游戏道具、代表一幅画的所有权。它故意模糊,不限定代表什么。

而且区块链token和AI token正在合流。有些AI项目发自己的token,你拿这个token换AI服务,token价格随服务需求涨跌。token既是燃料又是资产。

三个token,一根线

领域token代表什么共同特征
日常一次乘坐、一份礼物不是东西本身,是凭证
AI一段文本的最小单元不是意思本身,是占位符
区块链一种价值或权利不是价值本身,是账本上的记录

一根线:token永远不是那个东西,是那个东西的代表。当所有东西都能被代表,token自己就成了通货。

这个词在三个领域同时出现并扩散,不是偶然——因为token这个结构("最小可计价单元")天然适合做规模化的基石。能切成最小单元,就能按单元定价。能定价,就能交易。能交易,就能形成市场。

token by token:从技术机制到生存状态

"token by token"在AI里是一个技术术语,描述模型怎么生成文本:一个标记接一个标记,逐步生成。用前面的token预测下一个token,然后接上,再预测下一个,一步一步往外蹦。

这个过程的三个特征,拆开看会发现一些不舒服的东西:

没有全局。生成第N个token时,第N+1个还不存在。模型不知道自己十步之后会走到哪。没有草稿箱,没有先想好再写。它是在说的过程中"想"。

只能往回看。每个token只能看到它前面的token,看不到后面。每一步都是"基于已有信息做当前最优",但"当前最优"不等于"全局最优"。

连停不停都是序列的一部分。模型靠一个特殊标记来结束生成,但什么时候生成这个标记,本身也是一次token预测。连"什么时候不说了"都被序列推着走,没有一个站在序列外面的判断。

三个特征

三个特征合起来:一个刺激一个反应,中间没有自己。

最深的翻转

token by token本来是描述AI怎么生成文本的技术术语。但它精确地描述了一种生存状态——被序列推着走,没有站在外面的自己。

刷短视频:刷一条推一条,每一条都是"基于你已看过的推当前最优"。没有全局规划,没有"我应该看什么",连"什么时候停"都是下一次滑动的函数。

赚一笔花一笔:一个项目接一个项目,每个项目都是"基于已有资源做当前最优"。没有"我五年后该到哪",连"什么时候该换个活法"都是下一次发薪日的函数。

回一条消息发一条消息:一个通知一个回应,每个回应都是"基于已有信息做当前反应"。没有"我到底想聊什么",连"什么时候放下手机"都是下一次锁屏的函数。

都是token by token。被切成最小单元,单元之间没有贯穿的东西。

贯穿的东西是什么?是判断——对整体的判断,对方向的判断,对"此刻该说什么、不该说什么"的判断。判断不在单元里,在单元和单元之间。

有判断的人,说话、做事、活着,都带着"远比说出来的多"的东西。同样一句话,他说的和你说的,携带的完全不同——因为他带着几十年的分寸感,你带着几十年的分寸感,换一个人说出来的就是另一个东西。

没有判断的人,说出来的就等于说出来的。一个刺激一个反应,字面就是全部。token by token。

这就是退让

可怕的不是AI在token by token地生成文本——那是它的工作方式,本来如此。

可怕的是人也可以这样活着。而且这样活着更省力——不用想全局,不用做判断,不用承担"我选了这条路"的后果。每一个token都是当前最优,每一步都有理由,但走到最后发现自己哪儿也没到。

翻转

AI被设计成token by token是结构性的——它没有站在序列外面的位置。人被推成token by token是退让性的——你有站在外面的位置,但你放弃了。

不是AI越来越像人,是人越来越像AI。

回到token

token不是币,是"那个东西的代表"。但当思考需要买token、创作需要买token、交流需要买token,思考本身就被切成了最小可计价单元。能计价的会被外包,被外包的不练就萎缩。

萎缩的不是某个技能,是"远比说出来的多"的那个部分——判断力、分寸感、对整体的拿捏。这些东西长在过程里,不长在执行里。你把过程外包了,它就没有地方长了。

AI铺路,人拿捏。

铺路是可计价的、可token化的、可被替代的。拿捏是不可计价的、不可token化的、不可被替代的。但拿捏会废——不练就退化,退化完就跟AI的效果差不多,市场就不为你付溢价了。

不是AI追上了你,是你被推着把自己降到了AI不需要追的程度。

token by token。

人机边界 · 系列入口

📖 本系列七篇:边界→闭合→后果→退让→活着→值钱→速度差

  1. 01 边界——三重边界光谱
  2. 02 闭合——推理展开 vs 闭合认下
  3. 03 后果——AI结构性无后果