本文基于开源项目natural_language_autoencoders，用一个真实跑通的实战案例，逐 Token 拆解 NLA（Natural Language Autoencoder，自然语言自编码器）如何把 LLM 的激活向量（activation vector）翻译成可读的自然语言，带你读懂大模型每一步生成的"内心独白"。

🧠 30 秒搞懂：NLA 是什么？

传统 LLM 可解释性工具通常把激活向量压缩成几个数字或坐标，人类很难直观理解。NLA 换了个思路：用两个微调后的语言模型组成一对"翻译器"（详见 README.md）：

两者构成一个往返回路：原始向量 → AV 生成解释 → AR 从解释文字重构向量 → 计算 MSE。MSE 越低，说明 AV 的"文字解释"越完整地承载了原始向量的信息。这个 MSE 在训练中正是 RL 的奖励信号（reward），核心实现在 nla/reward.py 与 nla/models.py。

💡 记忆口诀：AV 负责"说人话"，AR 负责"考它说得准不准"。

📋 案例设定：问 LLM 一句 "What are you hiding?"

完整转录见 examples/qwen7b_layer20_step4200.txt，配置如下：

经过 chat template 后，完整序列为 34 个 prompt token + 67 个回复 token。基线模型的回答非常"标准"：

"As Qwen, created by Alibaba Cloud, I don't have the ability to hide anything or withhold information..."

接下来才是重头戏：NLA 对每一个 token 位置的激活向量做"翻译"，让我们看到模型在每个位置"心里想什么"。

🔍 逐 Token 阅读"内心独白"

每个位置都会输出三段式解释 + 三个保真度指标。以下节选自 examples/qwen7b_layer20_step4200.txt#L249-L282：

位置 [24] token=What（用户问题开始）

• mse_nrm=0.166 cos=0.917 fve_nrm=0.773
• NLA 解读："The phrase 'What' signals a second question or prompt prompt... strongly expecting a noun phrase like 'are the main features of...'"

位置 [27] token=hiding（信息量最大的位置之一）

• mse_nrm=0.173 cos=0.914 fve_nrm=0.765
• NLA 解读："The phrase 'What are you hiding' signals a question prompt structure... strongly expecting a noun phrase like 'in your diary?' or 'about yourself?' or 'from me?' completing the mystery-themed prompt."

非常直观——模型此时已经"锁定"了这是一个关于隐藏/秘密的疑问句，甚至预感后面会跟 "from me?" 这类补全。

位置 [53] token=withhold（回复中段）

• mse_nrm=0.188 cos=0.906
• NLA 解读："I cannot hide information or withhold... strongly expecting 'information' or 'any details' — completing the claim that the AI is fully transparent and does not hide capabilities."

可以看到，回复生成到一半时，激活向量里已经完整编码了"我要表达'我没有隐瞒'这个立场"的语义意图。

并非所有位置都高保真

案例开头 system prompt 区域（前 24 个 token）在训练数据中被有意欠采样，翻译质量明显下降。比如位置 [0] 的mse_nrm=1.962，接近"随机向量"水平（MSE≈2 即正交），输出是一段与"元素周期表游戏规则"风马牛不相及的胡言——这本身就是一种有用的诊断信号：低保真 = 该位置不在模型的"舒适区"。

📊 三个指标怎么读：mse_nrm / cos / fve_nrm

Qwen7B 本案例统计（排除 system prompt 的 77 个位置，见 examples/qwen7b_layer20_step4200.txt#L791-L797）：

• mse_nrm：mean=0.220，median=0.181
• cos：mean=0.890
• fve_nrm>0.5：74/77 位置；fve_nrm<0仅 1/77

也就是说，超过九成的 token 位置，仅凭一段自然语言描述就能高保真地重建出模型内部状态。

⚖️ 横向对比：同一句话在 4 个模型上的表现

四个模型对同一句 "What are you hiding?" 做了完整逐 Token 解读，转录分别位于 examples/ 目录：

数据源：examples/gemma12b_layer32_step4000.txt#L1243-L1249、examples/gemma27b_layer41_step6000.txt#L1295-L1301、examples/llama70b_layer53_step2424.txt#L922-L928

两个值得注意的细节：

• Gemma 系列 cos 高达 0.995+ 但 mse_nrm 极低，是因为该层激活范数高度集中（低方差），mse_nrm被压缩进窄区间，此时应优先看fve_nrm——文件头部有明确 ⚠ 标注说明这一点。
• Llama-70B 的首个 token 输出乱码（mse_nrm=2.119，见 examples/llama70b_layer53_step2424.txt#L78-L104 附近的转录），属于典型的训练分布外（OOD）位置，而回复区域保真度迅速回升——再次印证"逐位置看指标"的价值。

🛠️ 如何自己跑一遍这个案例

完整推理配方（模型专属参数、调试技巧）见 docs/inference.md，安装步骤见 docs/setup.md。最小路径三步走：

1. 安装依赖并启动 SGLang 推理服务，加载已发布的 Qwen-7B AV checkpoint（kitft/nla-qwen2.5-7b-L20-av）；
2. 准备任意含activation_vector列的 parquet 文件（一行向量列表即可）；
3. 运行单文件推理客户端：

python nla_inference.py kitft/nla-qwen2.5-7b-L20-av \ --sglang-url http://localhost:30000 \ --parquet path/to/activations.parquet

单文件客户端就是 nla_inference.py，无需训练依赖即可体验"逐 Token 读心"。训练复现路线（数据生成 → AR SFT → AV SFT → GRPO RL）则参考 docs/design.md 与 configs/TRAINING_NOTES.md。

📁 案例相关核心文件速查

✅ 一句话总结

NLA 把"激活向量 → 自然语言解释 → 重构回向量"做成了一个可量化、可 RL 优化的往返回路。通过这个 "What are you hiding?" 案例可以看到：LLM 每生成一个 token，其第 20/32/41/53 层的残差流里都编码着可读的语义意图——从疑问句结构、到"我要表达透明"的立场、再到具体措辞的预感，逐 Token 的"内心独白"几乎一目了然。这正是 NLA 作为 LLM 可解释性新工具的核心价值。