你是否好奇：当大模型生成一个词时，它“脑子里”在哪个位置、哪个时刻就已决定好了答案？Jacobian Lens（雅可比透镜）正是这样一款前沿的开源解释性工具——它不依赖人工定义特征或复杂训练，而是通过数学上严谨的雅可比矩阵，精准追踪模型内部任一隐藏状态“倾向输出什么词”，从而可视化语言模型的“思维路径”。它不是黑箱探测器，而是一台为残差流（residual stream）量身定制的“语义显微镜”。
核心功能
- 逐层逐位置语义映射：可在任意Transformer层、任意token位置上，实时计算该处激活向量对最终输出词汇的“偏好强度”，生成可排序的Top-k词汇列表
- 无监督式全局工作区验证：基于论文提出的“全局工作区”假说，自动识别哪些中间表征具备跨层、跨位置的语义广播能力（如ASCII人脸中的“^”被识别为“nose”）
- 开箱即用的预拟合透镜：内置针对Qwen等主流开源Decoder模型预拟合的雅可比矩阵，无需从头训练，5分钟即可启动分析
- 全Hugging Face生态兼容：支持任何HF格式的开源Decoder模型（Llama、Phi、Gemma等），只需加载模型权重即可无缝接入
- 交互式可视化探索：提供层×位置二维热力图界面，点击任意坐标即可查看对应激活所“指向”的词汇分布与置信度
- 可复现的数学基础：完整公开雅可比矩阵的估计方法——对海量网页文本采样，按目标位置求和再对源位置平均，确保统计稳健性
适合哪些人用
本工具专为关注模型可解释性的中文技术群体设计：AI研究员可用它验证神经表征理论（如全局工作区假说）；大模型工程师能定位幻觉/偏见源头，辅助微调与安全对齐；高校师生可用于教学演示Transformer内部信息流动；开源模型开发者则可快速诊断自家模型的语义坍缩或注意力失效问题。注意：它面向有一定PyTorch和Transformer基础的用户，不提供图形化安装向导，但API设计简洁直观。
快速上手
只需三步开启模型解剖之旅：
- 克隆仓库：
git clone https://github.com/anthropics/jacobian-lens && cd jacobian-lens - 安装依赖：
pip install -e .（自动安装torch、transformers、datasets等必需库） - 运行示例：
python examples/apply_lens.py --model_name_or_path Qwen/Qwen2-0.5B --prompt "A smiling face: o ^ o"，即可看到各层各位置对“nose”“smile”“face”等词的响应强度热力图
进阶用户可参考jlens.fitting模块自定义语料拟合新透镜，或用jlens.render模块导出交互式HTML报告。
项目信息
Companion code for the global workspace interpretability paper
编程语言：Python｜Star 数：717｜开源协议：Apache-2.0｜GitHub 项目地址：https://github.com/anthropics/jacobian-lens
如果你正试图理解大模型为何“这么说”，而不是仅仅“它说了什么”，Jacobian Lens 就是你打开模型黑箱的第一把数学钥匙——它用可验证的微分几何，让语言模型的思维过程真正变得可读、可测、可对话。
