从一个字到一句话:AI是怎么读和说的
DeepSeek-V4.1-Flash的推理速度提升得这么快,它到底做了什么优化?我们在一个对话框里输入一句话,大模型是怎么看懂它的?
这篇文章主要讲清楚这件事,分三个方面展开:Token、Transformer架构,以及DeepSeek-V4.1-Flash基于此架构做了什么优化。

一、Token:AI眼里的字和你想的不一样
你输入“我喜欢吃苹果”,AI并不会一个字一个字地看。它会把这句话拆成更小的单位,每个单位叫一个 token。
拆分的规则叫 BPE(字节对编码),思路非常朴素:把经常一起出现的字符合并起来。
比如训练语料里“t”和“h”经常挨着出现,那就把它们合并成“th”。然后“th”又经常和“e”一起出现,就合并成“the”。经过大量这样的合并,常见的词会变成一个完整的 token,而不常见的词会被拆成更小的片段,底层还是分词逻辑。
这带来一个好处:永远不会遇到“不认识的字”。哪怕是一个从没见过的新词,也能被拆成已知的片段来处理,不会出现“未知字符”的尴尬。
所以同样一句话,在不同模型里 token 数量可能不同。英文里“unhappy”可能是一个 token,也可能拆成“un”和“happy”两个。中文里“人工智能”可能是 1 个 token,也可能拆成 2 个甚至更多。

二、Transformer:每个 token 都开一场“小会”
Token 本身只是一个编号,它不知道自己和别的 token 是什么关系。比如“苹果”这个词,单独看它只是一个水果,但在“我喜欢吃苹果”和“苹果发布了新手机”里,它的含义完全不同。要理解一句话,就必须让 token 之间产生联系。
Transformer 的核心思路就是:让每个 token 都和其他 token 交流一次,然后决定自己应该关注谁。
2.1 每个 token 准备三样东西
为了让交流能进行,每个 token 会生成三个向量:
- Query(问题):我想问什么?
- Key(名片):我是什么?我能提供什么?
- Value(内容):如果你关注我,你能拿走什么信息?
拿“小猫追着球跑,因为它很开心”举例。当模型读到“它”时,“它”会生成一个 Query,意思是“我是代词,我需要知道我在指谁”。同时,“小猫”会生成自己的 Key,意思是“我是名词,我是动物,我是前面出现过的主语”。
2.2 匹配:用 Query 去对每个 Key
“它”拿着自己的 Query,去和句子中每个 token 的 Key 做比较,算出一个匹配分数。这个分数本质上就是两个向量的相似度——越相似,分数越高。
在这个例子里,“它”和“小猫”的匹配分数会很高,和“球”的分数一般,和“跑”的分数较低。
2.3 加权汇总:按分数取走 Value
有了分数之后,“它”不会只取一个 token 的信息,而是按分数比例,从所有 token 那里各取一部分 Value,然后加在一起。
匹配分数高的 token,贡献的信息多;分数低的,贡献少。最终,“它”的新表示里就包含了“小猫”的信息,模型于是知道“它”指的是小猫。
这个“生成 Query、匹配 Key、汇总 Value”的完整过程,就叫自注意力。
2.4 多头:同时从不同角度问
如果只做一次注意力,模型只能从一个角度理解关系。但语言里的关系是多样的:谁在动作、谁被影响、谁修饰谁、谁和谁并列……
所以 Transformer 让多个“头”同时工作。每个头有自己的 Q、K、V 投影矩阵,相当于从不同的角度去问同样一批 token。
- 头 1 可能关注“谁在执行动作”
- 头 2 可能关注“动作的对象是谁”
- 头 3 可能关注“两个词的位置远近”
每个头独立算出一套注意力结果,最后把所有头的输出拼在一起,再做一次线性变换。这样模型就能同时捕捉多种关系,理解更全面。
2.5 前馈网络:自己消化一下
注意力做完之后,每个 token 都拿到了来自其他 token 的信息。但这些信息还比较原始,需要进一步加工。
这时就轮到前馈网络出场。它对每个 token 独立做一次非线性变换,相当于“自己消化一下”刚才交流来的内容,把它变成更抽象、更有用的表示。
注意力和前馈网络的分工很明确:注意力负责 token 之间的信息交换,前馈网络负责每个 token 内部的加工。
2.6 重复几十层:逐步深入
一层 Transformer 只能让 token 直接交流一次。但理解一句话往往需要多轮推理:
- 第 1 层:知道“它”和“小猫”有关
- 第 2 层:知道“小猫”和“追”有关
- 第 3 层:知道“追”和“球”有关
- ……
所以 Transformer 会把“注意力 + 前馈网络”这个组合重复几十层。每一层的输出作为下一层的输入,token 之间的理解就这样一层层深入下去。

三、DeepSeek-V4.1-Flash 为什么快?它做了一件反常识的事
理解了 Transformer 的原理,就能看懂 V4.1-Flash 的加速思路了。
传统 Transformer 在生成每个新 token 时,都需要回头查看之前所有 token 的 Key 和 Value。这些 K 和 V 被存起来,叫 KV Cache。句子越长,这个缓存越大,显存越吃紧,速度就越慢。
V4.1-Flash 做了几件“反常规”的事。
第一,输入不“走完全程”。它把 40 层的模型切成两半:前 20 层负责处理你输入的内容(编码器),后 20 层负责生成回答(解码器)。关键设计在于:解码器需要的缓存,直接从前 20 层的输出里“拿过来用”,不需要让每个输入 token 都跑完 40 层。处理长文本时,大部分 token 只走了半程,计算量大幅下降。
第二,缓存“共享着用”。传统模型中每一层都有自己的 KV 缓存。V4.1-Flash 用一种叫 CSA2 的机制,让不同层之间共享同一套缓存和索引。解码器里的很多层直接复用前面层已经算好的结果,不需要每层都重新算一遍。
第三,缓存压到极致。主缓存用 FP4(4 位精度)存储,配合跨层共享,最终每 token 的全局缓存只有 890 字节,约为上一代的四分之一。
用一句话总结:V4.1-Flash 不是把 Transformer 的某个环节改得更快,而是重新设计了“什么需要算、什么可以复用、什么存起来就够了”。

写在最后
Token 是 AI 阅读世界的“原子”,Transformer 是它理解这些原子的“思维方式”,而 V4.1-Flash 的快,来自对这套思维方式的一次精打细算的“瘦身”。三件事串起来看,其实就是一句话:AI 不是在“读字”,而是在一层层地做信息筛选和重组,谁筛选得更聪明、重组得更省力,谁就跑得快。