transformer-debugger
Transformer Debugger是一款由OpenAI超级对齐团队开发的工具，专门用于分析小型语言模型的特定行为。该工具结合了自动化解释技术和稀疏自编码器，无需编写代码即可快速探索模型行为。它能识别影响特定行为的关键组件，自动生成解释，并追踪组件间的连接，从而揭示神经元回路。通过支持对前向传播的干预和观察，Transformer Debugger为研究人员提供了深入分析语言模型内部机制的强大功能。
