Goodfire 的神经网络可解释性观点引发讨论，智能体分析挑战多义性解释

Goodfire 的 Nick Cammarata 提出，智能体进一步分析可以解释许多被视为多义性与叠加现象的案例，大多数神经元可能已具备可读性。他将这一工作假说与其 2023 年在 OpenAI 自动可解释性项目中仅发现约 2% 神经元可读的结果作对比。Neel Nanda 等研究者仍强调叠加表征、弱激活与解释评估方面的问题，材料也指出相关论文尚未发布。