MIT Technology Review · AI· Will Douglas Heaven·· 4 天前AI 评分54
Goodfire 研究员称神经网络或比预想更易理解，可解释性研究者提出质疑
“We were looking at it wrong”: The explosive claim that’s upended the AI world
AI 导读
Goodfire 研究员 Nick Cammarata 提出，神经网络可能比此前认为的更容易理解，但多位可解释性研究者质疑这一判断能否推广至完整的大语言模型。他重新检查 Inception v1，发现同时响应汽车与猫的神经元可能识别的是共同的 V 形特征，而非将无关概念叠加存储。
来源：MIT Technology Review · AI · technologyreview.com